网信部门严查违规APP，AI生成合成内容涉嫌违法违规被查处

网信部门近期查处了一批APP，其中包括AI生成合成内容标识违法违规的案例。这些APP因涉嫌违规行为被查处，以保护网络环境和用户权益。此举旨在维护网络秩序，促进健康、和谐的网络环境。

电脑知识网11月26日消息，“网信中国”发文称，网信部门依法集中查处一批存在人工智能生成合成内容标识违法违规问题的移动互联网应用程序。

网信部门依法依规予以约谈、责令限期改正、下架下线等处置处罚。

主要违法违规情形如下：

1、人工智能生成合成服务提供者未对生成合成的内容添加显式标识；提供生成合成内容导出功能时，未在文件中添加显式标识；在生成合成内容的文件元数据中，未添加包含属性信息、服务提供者名称或者编码、内容编号等制作要素信息的隐式标识；隐式标识添加位置不规范等。

2、网络信息内容传播服务提供者未落实隐式标识核验、在发布内容周边添加显著提示标识相关要求；未在生成合成内容传播活动涉及的文件元数据中添加属性信息、传播平台名称或编码、内容编码等传播要素信息；未向用户提供声明生成合成内容的功能等。

国家网信办相关负责人表示，人工智能技术在促进经济社会发展的同时，也产生了生成合成技术滥用、虚假信息传播加剧等问题。

网站平台应严格落实标识相关规定要求，强化标识互识、内容检测能力建设，做好用户提醒提示和账号管理，严守法律底线红线，切实依法合规运营。