AI造假将被严惩!Meta(META.US)将在其社交平台上标注AI生成图像

Meta Platforms的最高政策主管周二表示,该公司将在未来几个月开始使用一套内置在文件中的隐形标记,检测和标记其他公司的人工智能服务生成的图像。

智通财经APP获悉,Meta Platforms(META.US)的最高政策主管周二表示,该公司将在未来几个月开始使用一套内置在文件中的隐形标记,检测和标记其他公司的人工智能服务生成的图像。

Meta全球事务总裁Nick Clegg在一篇博客文章中写道,公司将对发布在Facebook、Instagram和Threads服务上的任何带有标记的内容应用这些标签,以向用户表明,这些图像——在很多情况下类似于真实照片——实际上是数字创作。

Clegg表示,一旦新系统启动并运行,Meta将对OpenAI、微软(MSFT.US)、Adobe(ADBE.US)、Midtravel、Shutterstock和谷歌(GOOGL.US)运营的服务上创建的图像进行同样的处理。

这种做法建立在过去十年由其中一些公司建立的模板之上,该模板旨在协调跨平台删除被禁内容,包括描述大规模暴力和剥削儿童的内容。

在一次采访中,Clegg表示,他相信这些公司目前可以可靠地标记人工智能生成的图像,但他表示,标记音频和视频内容的工具更复杂,仍在开发中。

“尽管这项技术尚未完全成熟,尤其是在音频和视频方面,但我们希望能够创造一种动力和激励,让其他行业效仿,”Clegg称。

他补充道,在此期间,Meta将开始要求人们标记自己修改过的音频和视频内容,如果他们不这样做,将会受到处罚。Clegg没有详细说明处罚措施。

他补充道,目前还没有可行的机制来标记ChatGPT等人工智能工具生成的书面文本。

Meta发言人拒绝透露该公司是否会对其加密消息服务WhatsApp上共享的生成式人工智能内容贴上标签。

据了解,周一,Meta的独立监督委员会谴责了该公司对误导性篡改视频的政策,称该政策过于狭隘,内容应该贴上标签,而不是删除。

Clegg表示,他大体上同意这些批评。他指出,委员会是对的,Meta的现有政策“在一个合成内容和混合内容将比以前多得多的环境下根本不适合”。

智通声明:本内容为作者独立观点,不代表智通财经立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。更多最新最全港美股资讯,请点击下载智通财经App
分享
微信
分享
QQ
分享
微博
收藏