针对人工智能生成内容使用不规范的问题，《人工智能生成合成内容标注办法》于2025年9月1日起施行，明确人工智能生成内容必须标注，我国人工智能生成内容进入“凭证就业”的规范时代。新规定实施已经过去100多天了。尽管各大平台相继推出身份识别功能并出台相应管控措施，但记者发现，短视频、图文笔记、直播等仍包含大量不泄露身份的人工智能内容。一些原本明目张胆的违规行为，逐渐变成了暗箱操作。 Deepfake技术越来越多地融入黑色和灰色产品中。识别系统在实施层面仍然面临许多挑战。该标志的推出取得了巨大成功，引起了业界的广泛关注。治理水平迈上新台阶。去年8月，甘肃兰州居民王浩（化名）在社交平台上发布了一段利用AI合成的海蒂迈巴赫的视频。一位多年不见的“老同学”打电话向他表示祝贺，并请他借点钱。王浩坦言，如果这个视频晚一个月发布，就不会发生这样的笑话。 “虽然没有AI标志，但很多人都认真对待。” “这项工作是由人工智能生成的。” “在查看内容时请务必小心，看看它是否包含人工智能成分。”自去年9月《合成及人工智能生成内容展示办法》正式实施以来，人工智能生成的内容已严重进入“认证就业”时代。另一方面，可能引起公众混淆或误解的内容需要明确标识。同时，服务提供商应添加隐式标识将信息添加到生成合成内容的文件的元数据中，以支持内容可追溯性和责任归属。中国互联网络信息中心发布的《生成式人工智能应用发展报告（2025）》显示，到2025年6月，日本生成式人工智能用户数量将达到5.15亿，比2024年12月增加2.66亿，用户数量在六个月内翻了一番。经过广泛调研，记者发现各大网络平台都建立了自己的AI标识的实现机制。抖音、今日头条、快手等内容平台在发布界面增加了“人工智能生成内容声明”选项。用户评论时，作品标题下方会显示统一标识。喜马拉雅等语音平台也采用“标题信息+文字注释”的形式来清晰识别AI合成语音的内容。西方大学AI治理团队2025年第四季度进行的抽样调查显示，实施AI标签政策后，用户对不明来源内容的“质疑”增加了近40%。此外，由于隐式识别可以快速封锁内容生成工具和分发节点，因此通过团队AI追踪跨境假新闻案例，责任周期从历史平均72小时缩短至12小时。甘肃汇联信息技术发展有限公司总经理王雪莲表示，AI标签政策的出台，解决了AI内容产业“难识别、难追踪”的难题。在这一政策的引领下，从平台合规到用户认知、技术研发、行业自律等各个方面都出现了积极的趋势。民间“反标签”风潮黑色、灰色产业逐利加剧。 “然而，人工智能造假并没有根除，技术越来越先进，手段也越来越隐蔽，标签管理面临一条‘真正的路’。”真正的挑战是“魔鬼的脚高一尺”。 ”王雪莲说：“AI造假烂果欺骗‘只有退款’”，明星穿梭于8个直播间取回产品……业内人士表示，AI打假已经从“一看就是假的”逐步提升到高保真的水平，并清晰地认为产生了大生意、大利润。完整的黑色和灰色产品链。记者在各大电商、社交媒体平台搜索“AI去水印”、“可追溯标识去除”等关键词，发现从价值数十元的基础工具到价值数千元的个性化服务，“明码标价”规避“商业”品牌已形成黑幕灰色行业的“隐形”，通过各替代平台检测的“反品牌”技术和服务不断被反复更新。rta社交平台，《AI生成照片变现指南》评论区一条分享“AI去水印神器”的评论获得好评。当您点击用户的主页时，价格会清晰显示。去水印工具有不同价格区间，比如9.9元、19.9元。当记者私信该用户询问如何购买该产品时，该用户表示想更换平台并添加好友下单。他提醒用户：“该产品有特殊功能，发货后我们不支持退款，如果您不想使用，就只能自己处理或者送给朋友了。”该产品的卖家表示，“记者在电商平台上搜索相关产品”，该产品可以“远程删除”。ve 水印。“任何东西。”该工具可以顺利处理98%的AI生成痕迹，尤其是AI视频处理。除了让不法分子受益于低成本外，一些不法分子还利用不同平台标签规则的差异来逃避平台间的“零成本”监控。 “各个平台的标注要求不同，在A平台需要标注的内容在B平台上格式化发布后很可能会逃避检测。”甘肃省计算中心副主任沉玉林说。记者使用AI软件生成了受损矿泉水瓶的照片，保存到手机相册中，裁剪了AI标志并发布到社交平台上，但没有检测到AI元素。沈玉林相信“逆转”。 “识别”技术从单一手段走向“多元”手段，升级为技术路径和商业模式进行的全产业链与此同时，还制造出元数据“深度清洗”、多格式转码、标识“显而不见”等“升级版”的AI造假乱象。甘肃政法大学民商学院经济系副教授盛玉华表示，AI标签政策实施100多天以来，各大AI服务普遍添加了显式标签，强化了溯源功能。然而，制裁规则模糊和技术证据不足继续限制其有效性。 “一方面，《人工智能生成合成内容标注办法》第十三条仅规定了“按照现行规定处理”，对于未标注内容、恶意标签欺骗等行为没有具体处罚措施。另一方面，部分平台缺乏隐式标签验证工具，难以有效识别非法内容。盛玉华表示，解决人工智能治理问题正在构筑多维联合防线。专家和业界呼吁人工智能治理继续构建基于“看得见的识别”的“可识别、可追溯、可问责”的综合防线，从创新、责任共担、协同治理等多个维度应对技术演进带来的监管挑战；也就是说，提高“全溯源、防篡改”是技术上的难关。北京师范大学教育与发展研究院认为，目前的监测技术还存在薄弱环节，未来需要加快人工智能标记技术的标准化，针对不同平台、不同类型的内容细化标记技术规范，避免出现监管漏洞。是由技术差异造成的。此外，我们还将进一步提高隐式识别防篡改技术的成熟度，即使在文件格式转换或二次编辑后也能有效识别识别信息。需要通过整合痕迹来提高各种规避方法的识别准确率。 ——明确“产生、分配、使用”的权利和责任界限。盛玉华等.提出《人工智能合成内容标注办法》进一步细化关键责任，强化服务提供者、传播平台、分发平台等各主体的具体义务。对违法产品处罚严厉，对恶意去除标识、假冒标识、提供规避工具、集体污损标识等行为将予以严厉处罚。建立的可能性可以考虑建立违规者“黑名单”制度，包括将多次规避标志的人员和企业列入黑名单，将黑灰产品排除在利润来源之外。“政府、公众、平台”的闭环治理兰州大学信息科学与工程学院杨毅教授提出，需要进一步完善监测和举报机制，鼓励公众参与人工智能内容治理，建立健全跨平台举报和投诉协调机制，实现账号信息非法共享，防范侵权行为者来自“平台切换”。此外，还要不断强化人们的人工智能素养。推动科普，普及人工智能内容识别方法、常见欺诈方法和维权方法，引导公众使用人工智能养成“看真伪”的习惯。t鉴定。”姜炎霜说道。
（编辑：何欣）
作者
