随着AI的广泛应用，一些“真人创作者”的作品也被平台误判为AI生成，甚至因此被限流、下架。

9月1日起，《人工智能生成合成内容标识办法》将施行。该办法明确，用户发布AI生成合成内容时应主动声明并进行标识，网络平台也有责任对AI生成内容进行标识，提醒用户注意识别。此举旨在防范利用AI实施诈骗、侵权等各类不法行为。那么对于被“误伤”的作品又该如何判定？

真人创作却被误判为AI

画师“月饼”在某社交平台上传了一张原创绘画作品，谁知发布3小时后突然收到网友询问：“为什么这幅画显示是AI画的？”

“月饼”这才发现，自己这幅画作被平台标注为“疑似包含AI创作信息，请谨慎甄别”。“月饼”无奈开始通过人工渠道申诉，并将自己的绘图过程、图层以视频方式整理出来。

“原创被误判为AI，是对作者努力的否定。”“月饼”希望平台能建立明确、透明的AI标识撤销渠道，并向网络用户公开相应判断标准。

“月饼”的遭遇并不是个例。不少网络用户都表示，自己的画作、文案、视频也被标注过“疑似AI合成”，包括手绘的线稿、自拍照、风景照等。

AI识别难度越来越大

今年初，一家大型互联网企业负责人在公开场合披露，在AI低质内容治理方面，目前普遍采用的策略是“用AI对抗AI”。约九成以上的审核工作由机器完成。

而对文字内容的检测难度又高于图片、视频。“AI生成的图片、视频中不拟人、不拟合世界物理规律的地方比较多，鉴别相对简单一些。”一款AI检测工具的开发者告诉记者。在多位受访者看来，随着AI模型的逐步发展，未来检测内容是否由AI生成的难度会越来越大。

按照《人工智能生成合成内容标识办法》，上游AI模型需要对生成内容、元数据文件添加标识；平台在检测内容时，应首先核验文件元数据中是否含有隐式标识，再看用户是否主动声明内容为生成合成内容，最后检测显式标识或其他生成合成痕迹，并根据不同情形打上相应标识。

一句评论引发首例AI误判案

北京互联网法院近期审结了全国首例平台运用算法工具进行AI生成合成内容检测识别引发的案件。

在某网络平台一条有关“高考后应该是学车还是打工”的提问下，网友李先生评论道：“打工并不能让你真的赚到多少钱，但可以开启你的新视角……”

然而，这条两三百字的内容被平台判定因为“包含AI生成内容但未标识”而违规，李先生的账号也被禁言一天。李先生选择起诉平台，要求法院判令平台撤销隐藏的内容和账号禁言一天的违规处理，并在后台系统中删除违规处理记录。

北京互联网法院最终认为，在没有事实依据的情况下对用户进行了处理，应承担违约责任，因此判决平台删除对李先生评论的违规处理记录，撤销隐藏内容。

北京互联网法院综合审判一庭副庭长袁建华表示，在遇到此类问题时，一般情况下，用户具有初步的举证责任，来证明自己并非使用AI创作。袁建华建议，平台应完善复核机制，建立便捷、有效的申诉渠道。

据《北京晚报》