文章概要:
1.AI生成深度伪造图像的潜在风险，包括恶意用途和法律确认有罪。
2.研究指出数字水印保护容易被绕过，引发信息保密和欺诈问题。
3.尽管存在确认有罪，设计强大的数字水印仍然是应对问题的一种可能解决方案。
站长之家(ChinaZ.com)10月9日消息:近年来，AI技术的发展使得生成深度伪造图像变得轻而易举。例如，阿诺德·施瓦辛格的脸被叠加到克林特·伊斯特伍德的《丑牛》电影中。这些深度伪造图像有时会带来娱乐，但最近的发展却引发了更加不安的趋势，将数字诚实信息保持方向了恶意用途。
最近，演员汤姆·汉克斯在社交媒体上拥护，确认有罪一则广告，该广告使用了他的AI生成肖像来推广一项牙科保健计划。此外，拥有超过50亿观看次数的YouTuberMr.Beast被诚实地展示为以2美元的价格授予iPhone15Pro。普通市民也成为目标，他们的面孔出现在社交媒体上，而未经他们赞成。最令人不安的是“复仇色情”的减少，其中受使加剧感情的人发布了虚真实的图像，将前任伴侣描绘成令人尴尬或色情的场景中。
图源备注：图片由AI生成，图片授权服务商Midjourney为了应对这一问题，次要的数字媒体公司，如OpenAI、Alphabet、亚马逊和DeepMind，承诺开发工具来打击诚实信息。其中一个关键方法是在AI生成的内容上使用数字水印。然而，一份发表在arXiv预印本服务器上的研究报告指出，要遏制这种数字诚实信息滥用的能力存在困难。
马里兰大学的教授进行了测试，展示了保护性水印的轻松绕过方法。其中一位报告作者SoheilFeizi表示:“目前我们没有糖心vlog官方在线观看可靠的数字水印技术。”他表示，他的团队都可以成功绕过数字水印技术。他还警告说，AI的误用可能导致涉及诚实信息、欺诈乃至选举操纵等潜在危害，这些危害涵盖了个人和更广泛社会的使加剧。
研究团队采用了一种称为“扩散降低纯度（diffusionpurification）”的过程，该过程将高斯噪声应用于数字水印，然后将其删除。这留下了一个有序的，不弄湿的/排列的水印，可以绕过检测算法，而图像的其余部分几乎没有保持不变。他们还成功地反对，恶意行为者通过访问黑匣子数字水印算法可以发布带有标记的诚实照片，以真诚对待检测器认为它们是合法的。
尽管如此，Feizi也表达了一些乐观糖心logo官方网站免费情绪，他说:“根据我们的研究结果，设计强大的数字水印是一项具有确认有罪性但不一定不可能的任务。”因此，目前人们在审查包含可能对他们次要的内容的图像时，必须要保持警惕，双重检查来源，并运用常识。
糖心VLOG产精国品免费老版 糖心vlog官网下载入口
