谷歌前CEO埃里克·施密特署名文章：我将用这6个方法打击选举错误信息

未来的一年，我们将看到许多政治上的变化。美国、印度和印度尼西亚等国理论上将有超过 40 亿人参与投票，使 2024 年成为历史上最大的选举年。

竞选活动也在以新颖的方式使用人工智能。2023 年早些时候，美国佛罗里达州州长罗恩·德桑蒂斯（Ron DeSantis）在共和党总统初选发布了唐纳德·特朗普（Donald Trump）的篡改照片；共和党全国委员会发布了一则人工智能创建的竞选广告，描绘了一个反乌托邦的未来，以回应乔·拜登（Joe Biden）宣布的连任竞选；就在上个月，阿根廷总统候选人各自创建了大量人工智能生成的内容，以贬低竞争对手。

深度伪造（deepfakes）的激增预示着一个新的政治竞争环境。根据自由之家（Freedom House）10 月发布的一份报告，在过去的一年里，人工智能在至少 16 个国家被用来制造质疑、抹黑对手或影响公众舆论。

随着 2024 年成为世界多个国家的关键选举年，我们需要做好准备，迎接更多的混乱。

未来一年，社交媒体平台的范式也将发生转变。META 和其他公司的角色让我们将社交媒体理解为一个集中的、全球性的“公共城市广场”，拥有源源不断的内容和畅通无阻的反馈（互动）。

不过，X（原推特）上的混乱和 Z 世代对 Facebook 的兴趣减少，以及 TikTok 和 Discord 等应用的兴起，表明社交媒体的未来可能会大不相同。为了追求增长，平台选择使用提升关注度的算法和推荐流来放大情绪。

但这剥夺了用户的代理权，使我们无法控制我们看到的内容，反而给我们留下了充满仇恨和矛盾的对话，以及青少年群体中越来越多的心理健康问题。

这与 15 年前理想主义者梦想的全球、民主化的“一个世界”愿景相去甚远。随着许多用户对这些平台失去信心，追求利润的最大化显然损害了商业利益。

现在，随着人工智能开始使社交媒体变得更加有毒，平台和监管机构需要迅速采取行动，重新获得用户信任，维护民主。在这里，我提出了六种技术方法，平台应该加倍努力来保护其用户。

法规和法律将在激励或强制实施许多此类行动方面发挥关键作用。虽然这些改革不会解决所有错误和虚假信息的问题，但它们有助于在 2024 年选举前遏制这一趋势。

1.验证人类用户。我们需要区分使用社交媒体的人类和机器人，如果违反法律或政策，我们要追究责任。

这并不意味着泄露身份。想想我们是如何敢坐上陌生人的车的，因为我们看到了用户评论，知道优步已经验证了司机的身份。

同样，社交媒体公司需要对每个账户背后的人进行身份验证，并引入基于名誉的功能，以鼓励账号赢得社区的信任。

2.了解每一个来源。了解内容的来源和发布的时间可以提高信任和安全性。作为第一步，使用时间戳和加密的（不可删除的）IP 地址是确保可识别的起点。

通过监管链可以发现不良行为者，其信息可能会被降低优先级或禁止，而不是被算法放大。

3.识别深度伪造。根据美国总统拜登关于人工智能的全面行政命令，该命令要求商务部为人工智能生成的内容制定水印指南，平台应进一步开发检测和标记工具。

平台可以扫描现有的图像数据库，并告诉用户图像是否存在历史记录（谷歌图像已经开始这样做）。

人工智能系统也可以被训练来检测深度伪造的特征，使用大量真实的图像与标记为假的图像进行对比。

这样的软件可以告诉你什么时候图像很有可能是深度伪造的，类似于当某些号码打来时，你在手机上收到的“骚扰电话”通知。

4.过滤广告商。公司可以在各个平台上共享广告商的“安全名单”，批准那些遵守适用广告法并符合平台广告标准的广告商。

平台还需要加强对政治广告的审查，如果使用了合成内容，则添加突出的免责声明。例如，Meta 本月宣布，将要求政治广告披露其是否使用人工智能。

5.找真人帮忙。当然，人类也会犯错误，一些不可靠的内容会漏洞百出。但维基百科的案例表明，遵循明确且非常详细的内容规则的人可以对错误信息进行监管。

社交媒体公司也应该发布内容的质量规则，并通过进一步发展其信任和安全团队来执行这些规则，可以通过向志愿者提供工具来加强这些团队。

人类如何抵御来自聊天机器人的大量人工智能生成的材料还有待观察，但如果部署经过训练的人工智能系统来检测和过滤这些内容，这项任务就不会那么艰巨了。

6.投资于研究。为了使所有这些方法都能大规模发挥作用，我们需要从现在开始长期参与。我的慈善团体正在努力为许多人工智能信托和安全团体创建免费、开源的测试框架。

研究人员、政府和民间社会也需要扩大对关键平台数据的访问。一项有前途的法案是《平台问责和透明度法案》，例如，该法案将要求平台遵守国家科学基金会批准的项目的数据请求。

在公司、监管机构和国会的共同努力下，我们可以在未来一年及时通过这些提案，从而采取行动。

我担心的是，每个人都在不同程度上从错误或虚假信息中受益：我们的公民觉得这些内容很搞笑，我们的政治领导人可能会用这些内容进行竞选，而媒体则通过报道耸人听闻的例子来获取流量。现有的激励结构将使错误信息难以消除。

社交媒体平台需要从根本上重新思考其在人工智能时代的设计，尤其是在民主国家面临全球历史性考验之际。

我很清楚，未来将充满了许许多多的去中心化网络空间，这些空间迎合了每一种兴趣，反映了真实人类（而不是机器人）的观点，并专注于具体的社区问题。

但在那一天到来之前，设置安全护栏将有助于确保平台保持健康的内容标准，不会让不透明算法驱动的人工智能制造乱七八糟的选举内容。

作者简介：埃里克·施密特于 2001 年至 2011 年担任谷歌 CEO。他目前是 Schmidt Futures 的联合创始人，这是一项慈善倡议，押宝在早期的杰出人才身上，致力于让世界变得更美好，应用科学和技术，将各个领域的人们聚集起来。

支持：Ren

运营/排版：何晨龙

本文 zblog模板 原创，转载保留链接！网址：http://fsxxzx.com/post/386.html