人民网
人民网>>传媒

深度合成内容检测平台AIGC-X发布

2023年04月23日15:07 | 来源:人民网
小字号

人民网南京4月23日电(马晓波)人工智能生成的文字、图片、视频能否被精准识别出来?21日晚,在南京举办的2023中国网络媒体论坛“八点见”项目发布会上,传播内容认知全国重点实验室发布“深度合成内容检测平台AIGC—X”。这一平台面向生成式人工智能的治理需求,能够对AI生成文本、图形、视频内容进行精准识别,防范伪造风险,在保护内容版权、防范虚假信息、学术造假检测等方面有着广阔的应用前景。

不久前,网络热传的“杭州市3月1日取消限行”被确认为假新闻,这是源于AI生成文本的一次误传播。当下,生成式AI技术正在重构信息生产、流通、消费流程,随之而来的伦理规范、内容侵权、信息造假等风险挑战不容忽视。

4月11日,国家网信办发布《生成式人工智能服务管理办法(征求意见稿)》,要求AI生成的图片、视频等内容应当进行显著标识。AIGC-X可以服务于媒体和互联网平台的内容风控需求,提供AI生成内容标识、虚假信息识别等服务,还可以协助教育、科研领域防范学术不端行为,进行内容抄袭、论文造假的智能化检测。

《生成式人工智能服务管理办法(征求意见稿)》还规定,我国生成式AI需要符合五方面要求,包括体现社会主义核心价值观、避免歧视、公平、准确负责、隐私及产权保护,体现了国家对生成式AI在意识形态和法律伦理方面的要求。传播内容认知全国重点实验室负责人介绍,基于AIGC-X的深度合成内容检测能力,实验室建立了一套AI生成内容综合测评体系,构建了高质量的“主流价值语料库”,为人工智能大模型训练提供符合上述五个方面要求的语料数据支撑,以促进我国人工智能科研与应用加快发展。

传播内容认知全国重点实验室是人民日报社主管、依托人民网建设的面向认知智能科研的国家战略科技力量。相关成果均第一时间在人民网进行应用转化。据介绍,AIGC-X于3月1日面向全网开放公测,截至4月20日,平台检测服务调用次数近75万次。专注于内容风控业务的人民网信息技术公司已基于AIGC-X开发了相关服务,通过“人民审校”微信公众号对外发布。公测数据表明,AIGC-X对各类人工智能生成内容平台检测的准确率均超过90%。

(责编:王仁宏、吕骞)

分享让更多人看到

传媒推荐
  • @媒体人,新闻报道别任性
  • 网站运营者 这些"红线"不能踩!
  • 一图纵览中国网络视听行业
返回顶部