联合国警告人工智能生成的 Deepfakes 助长网上仇恨和错误信息

联合国对人工智能生成的深度造假被用来在社交媒体上传播仇恨和错误信息发出了警告。在周一发布的一份报告“数字平台上的信息完整性”中，该全球组织强调了负责任地使用人工智能的必要性。

联合国报告称：“虽然人工智能在应对全球挑战方面具有几乎难以想象的潜力，但人们对人工智能近期取得的同样强大的潜力——包括图像生成器和视频深度造假——威胁信息完整性存在着严重而紧迫的担忧。”

信息完整性是指信息的准确性、一致性和可靠性，联合国称信息正受到虚假信息、错误信息和仇恨言论的威胁。

联合国秘书长古特雷斯在报告的序言中写道：“由于生成人工智能等技术的快速进步，这些风险进一步加剧。” “很明显，一切照旧不是一种选择。”

生成式 AI 是一种程序，通常以聊天机器人的形式呈现，能够根据提示生成文本、图像或其他媒体。

联合国的报告表达了对深度造假和人工智能在冲突地区产生的错误信息的影响的担忧。

联合国指出，仇恨言论的使用经常被视为种族灭绝等残暴罪行的先兆。报告还强调，1948 年《防止及惩治灭绝种族罪公约》禁止任何可能导致灭绝种族的直接或公开煽动行为。

虽然它没有给出具体例子，但联合国报告提请注意最近的生成人工智能案例，在某些情况下，这些案例被用来创建令人信服的误导性内容和图像。

3 月，Bellingcat 创始人兼创意总监 Eliot Higgins 在 Twitter 上分享了一张由人工智能生成的前总统唐纳德特朗普被捕的照片后迅速走红。同月，同名文本到图像 AI 生成器背后的公司Midjourney由于广泛滥用而终止了其免费试用版。

“所有利益相关者都应立即采取紧急措施，确保安全、可靠、负责任、合乎道德和人权地使用人工智能，并解决该领域最新进展对传播错误和虚假信息以及仇恨言论的影响，”联合国说。

该报告呼吁数字平台的所有者投资于内容审核系统，该系统将人类和人工智能用于其运营国家/地区使用的所有语言，并使内容报告透明。

该国际机构表示，硅谷“快速行动，打破陈规”理念的时代必须结束，用户隐私、安全和透明度至关重要，应从一开始就融入新技术。

古特雷斯指出即将于 2024 年举行的未来峰会是就多边解决方案达成一致的机会。

“我们面临的挑战只能通过加强国际合作来应对，”古特雷斯秘书长说。