AI造假将被严惩！Meta(META.US)将在其社交平台上标注AI生成图像

智通财经APP获悉，Meta Platforms(META.US)的最高政策主管周二表示，该公司将在未来几个月开始使用一套内置在文件中的隐形标记，检测和标记其他公司的人工智能服务生成的图像。

Meta全球事务总裁Nick Clegg在一篇博客文章中写道，公司将对发布在Facebook、Instagram和Threads服务上的任何带有标记的内容应用这些标签，以向用户表明，这些图像——在很多情况下类似于真实照片——实际上是数字创作。

Clegg表示，一旦新系统启动并运行，Meta将对OpenAI、微软(MSFT.US)、Adobe(ADBE.US)、Midtravel、Shutterstock和谷歌(GOOGL.US)运营的服务上创建的图像进行同样的处理。

这种做法建立在过去十年由其中一些公司建立的模板之上，该模板旨在协调跨平台删除被禁内容，包括描述大规模暴力和剥削儿童的内容。

在一次采访中，Clegg表示，他相信这些公司目前可以可靠地标记人工智能生成的图像，但他表示，标记音频和视频内容的工具更复杂，仍在开发中。

“尽管这项技术尚未完全成熟，尤其是在音频和视频方面，但我们希望能够创造一种动力和激励，让其他行业效仿，”Clegg称。

他补充道，在此期间，Meta将开始要求人们标记自己修改过的音频和视频内容，如果他们不这样做，将会受到处罚。Clegg没有详细说明处罚措施。

他补充道，目前还没有可行的机制来标记ChatGPT等人工智能工具生成的书面文本。

Meta发言人拒绝透露该公司是否会对其加密消息服务WhatsApp上共享的生成式人工智能内容贴上标签。

据了解，周一，Meta的独立监督委员会谴责了该公司对误导性篡改视频的政策，称该政策过于狭隘，内容应该贴上标签，而不是删除。

Clegg表示，他大体上同意这些批评。他指出，委员会是对的，Meta的现有政策“在一个合成内容和混合内容将比以前多得多的环境下根本不适合”。