OpenAI 公布2024选举虚假信息打击计划
我要评论据统计 ，公布2024 年预计将有 50 多个国家举行大选 ，选举虚假信息虚假信息的打击威胁成为人们关注的焦点 。
人工智能聊天机器人 ChatGPT 和图像生成器 DALL-E 的计划开发商 OpenAI 近日宣布了一项新的措施，以防止在今年大选之前再次出现虚假信息滥用和误导事件 。公布
本周一(1月15日) ，选举虚假信息该公司宣布正在与美国历史最悠久的打击无党派公职人员专业组织——全美国务卿协会（NASS）合作 ，防止 ChatGPT 在 11 月美国总统大选前向用户输出一些错误信息 。计划
例如 ，公布当被问及有关选举的选举虚假信息问题时 ，如在哪里投票，云计算打击OpenAI 的计划聊天机器人将引导用户访问美国投票信息的权威网站 CanIVote.org。该公司认为 ，公布这项工作的选举虚假信息经验教训将为我们在其他国家和地区的工作提供借鉴 。
为了防止深度伪造 ，打击OpenAI 还表示将对其最新版人工智能图像生成器 DALL-E 3 生成的图像实施内容出处和真实性联盟（Coalition for Content Provenance and Authenticity ，C2PA）的数字证书。
C2PA 是联合发展基金会（Joint Development Foundation）的一个项目，该基金会是服务器租用一家总部位于华盛顿的非营利组织 ，其主要举措是内容真实性倡议（CAI）和起源项目 ，通过实施加密内容出处标准来应对数字时代的虚假信息和操纵行为。
包括 Adobe 、X 和《纽约时报》在内的几家大公司都是该联盟的成员 ，并积极支持该标准的制定 。
OpenAI 表示，它正在试验一种出处分类器 ，这是免费模板一种用于检测由 DALL-E 生成的图像的新工具 。据其内部测试显示 ，即使图像经过常见类型的修改，早期结果也很有希望 。他们计划将其提供给第一批测试者--包括记者 、平台和研究人员--以征求反馈意见 。
谷歌 DeepMind 也开发了类似的工具，利用 SynthID 对人工智能生成的图像和音频进行数字水印处理 。Meta 也在尝试为其图像生成器开发类似的水印工具 ，不过马克-扎克伯格的源码库公司很少分享相关信息。
OpenAI 称在发布新系统之前会对其进行红队测试 ，让用户和外部合作伙伴参与反馈，并建立安全缓解措施 ，以降低潜在的危害 。
打击虚假信息具有挑战性基于人工智能的文本分析平台 Copyleaks 的联合创始人兼首席执行官阿隆-亚明（Alon Yamin）在接受 Infosecurity 采访时表示十分鼓励 OpenAI 致力于打击虚假信息的行为，但实施起来可能具有挑战性。
他表示 ，今年的大选被认为是近代史上最大的选举年之一 ，源码下载不仅是在美国 ，在全世界范围内，人们都非常担心人工智能会被滥用于政治活动等 ，这种担心是完全有道理的 。但正如我们多年来在社交媒体上看到的那样，由于用户群规模庞大 ，这些行动可能难以实施 。
在英国 ，下一次大选应在 2024 年年中至 2025 年 1 月之间举行 ，信息专员办公室（ICO）于 1 月 15 日启动了关于生成式人工智能的系列咨询 。
亿华云相关文章
译者 | 李睿审校 | 重楼本文解释了如何使用HashiCorp的堆栈构建一个安全的平台；许多步骤都有良好的文档记录。我们将详细强调最关键的部分，解释在哪里发现问题以及如何解决问题，并在官方教程中保2025-12-07
网络安全保险是为网络安全风险提供保险保障的新兴险种，已日益成为转移、防范网络安全风险的重要工具，在推进网络安全社会化服务体系建设中发挥着重要作用。为加快推动网络安全和金融服务创新融合发展，大力培育网络2025-12-07
创业是一条充满坎坷的道路。尽管通过为客户创造的产品为自己赢得名声是令人满足的，但幕后发生的事情总是令人筋疲力尽的。因为除了在竞争激烈的行业中不断创新新想法之外，保护企业免受恶意物理的侵害也至关重要。安2025-12-07
一直以来，macOS系统的最大特点之一就是较少受到恶意软件的困扰。研究数据显示：在过去5年中，严重困扰Windows终端用户的勒索软件攻击并未在Mac设备上大量重现，锁定Mac设备或数据并向其所有者勒2025-12-07
数字化转型正在被许多行业采用，包括商业房地产和设施对日常运营至关重要的行业。为了寻找降低运营成本和能源消耗的方法，建筑业主正在将物联网系统和传感器添加到经常老化的建筑管理系统中。然而，联网物联网设备增2025-12-07- 网络安全保险是为网络安全风险提供保险保障的新兴险种，已日益成为转移、防范网络安全风险的重要工具，在推进网络安全社会化服务体系建设中发挥着重要作用。为加快推动网络安全和金融服务创新融合发展，大力培育网络2025-12-07
最新评论