深度假资讯与国家安全
文章重点
- 越来越多国家行为者计划利用人工智能算法制作真实的深度假资讯（deepfakes）。
- 这些深度假资讯可能被用于虚假宣传、资讯战和假新闻的传播。
- 研究者呼吁全球对深度假资讯的使用制定规范和协议。
根据，越来越多的国家行为者准备利用人工智能算法来开发真实的深度假资讯，这将对情报和军事行动产生重大影响。这些高级的深度假资讯得益于稳定扩散模型的发展，并可能被用于虚假信息运动、宣传活动及假新闻的散播。来自西北大学和布鲁金斯学会的报告指出，「结果将类似于恶意软件之间的猫鼠游戏：当网络安全公司发现一种新的恶意软件并开发检测其的标记时，恶意软件开发者会进行调整以躲避检测器。」
研究人员强调，深度假资讯的进步应促使全球制定相应的规范。「长远来看，我们需要在防卫和情报机构的使用上达成全球协议。但实现这样的协议将会非常困难，特别是在拥有否决权的国家之间。即便达成协议，某些国家很可能会违反。为了威慑和惩罚违规者，这样的协议必须包括制裁机制。」报告的共同作者V.S.
Subrahmanian如是说。
重要提醒 : 深度假资讯的潜在风险使得全球共同治理变得尤为重要，各国应分享最佳实践，共同抵御这一新型威胁。
深度假资讯的潜在风险
危险类型 | 具体案例 | 可能的后果
—|—|—
假新闻 | 故意散布虚假内容 | 公众误解，有害决策
宣传 | 政府或组织利用宣传 | 社会动荡
资讯战 | 攻击对手的信誉 | 增加国际紧张
相关连结： – –
随著技术的持续发展，国家行为者们的行为将如何影响国际安全和公众信任，将成为未来亟待解决的重要议题。
