今日网
AI生成内容需标识：防范AI造假新举措
责编：陈凯欣
2025-03-21
近日，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），并将于2025年9月1日起正式施行。与此同时，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也将同步实施。
近年来，随着人工智能技术的快速发展，AI生成的文字、图片、音视频等内容在互联网上迅速传播。这些内容虽然丰富了信息资源，但也被一些不法分子利用，成为编造虚假信息、扰乱网络秩序、实施诈骗等行为的工具。例如，有不法分子利用AI撰写假新闻，有人通过AI操控评论区制造舆论误导，还有人使用深度伪造技术制作名人视频进行商业宣传，甚至假冒明星身份骗取老年人钱财。
AI技术使得虚假信息披上了高科技的外衣，导致"耳听为虚、眼见未必为实"的现象更加普遍。由于技术不断升级，其造假行为的迷惑性也越来越强。仅仅依靠网络平台或公众自身的辨别能力来防范AI造假显然已经力不从心。
给AI生成内容添加标识是从源头上治理AI造假的重要手段。如果将AI生成内容比作一种特殊产品，那么提供AI服务的企业就是"生产厂家"，而传播这些内容的网络平台则是"销售渠道"。《标识办法》要求，生产企业在制作完成时必须进行标识，并通过清晰的方式提醒平台注意。平台在传播过程中也需要对相关内容进行标注或提示。这种做法相当于为AI生成内容打上了"身份标签"，使它们更容易被识别和追踪。
在制定《标识办法》时，相关部门充分考虑了技术创新与安全治理的平衡关系。新规并未要求企业采用过于复杂、成本过高的标识技术，而是鼓励使用多种低成本、高效率的标识方法，以避免给企业带来不必要的负担。同时，在制定强制性国家标准时，也广泛征求了AI领域领先企业的意见，体现了科学治理的理念。
当然，在实施过程中仍需解决一些问题：如何检测未按规定标识的内容？怎样提升平台的识别能力？如果因漏检导致不良影响，责任应由谁承担？对于来自境外且不受我国法律法规约束的AI生成内容，又该如何管理？这些都是需要重点关注和解决的问题。
人工智能技术可以为社会发展带来积极影响，但绝不能成为误导公众、损害利益的工具。随着《标识办法》的实施，我们相信将有效遏制"AI造假"乱象，营造一个更加清朗的网络空间，推动人工智能技术健康有序发展。
