实测曝光!六大平台AI视频识别大考:发布零拦截,“AI美女”竟全员通关?

实测曝光!六大平台AI视频识别大考:发布零拦截,“AI美女”竟全员通关?

实测细节:六大平台AI视频识别测试,发布无阻拦,“AI美女”识别率低

你最近是否被逼真的AI视频迷惑?AI生成内容滥用乱象,如今终于被套上紧箍咒。

9月1日起,全球首部AI生成内容标识国标——《人工智能生成合成内容标识办法》正式施行。所有利用AI技术生成、合成的文本、图片、音频、视频等内容,都必须依法添加声明标识。

近日,新京报贝壳财经记者耗时一周,对哔哩哔哩、微博、抖音、快手、小红书、视频号六大主流平台进行实测。我们发现,虽然不少AI视频已打上标识,但“漏网之鱼”依然存在。

为检验平台识别能力,我们精心策划了两种高流量视频类型——“萌宠变装”和“AI美女”,并分别以去水印和留水印版本发布。测试显示,发布过程中,六平台均未主动提醒标注AI内容,而用户主动标注选项多隐藏在二级或三级菜单中,操作繁琐。

结果出人意料:抖音识别出所有视频并添加疑似AI提示;快手仅识别出带水印视频;其余四家平台则“全军覆没”,未有任何提示。

对此,北京市天元律师事务所合伙人李昀锴指出,当前《标识办法》未规定不标注的法律责任,若仅靠自觉,效果恐打折扣。平台的技术干预至关重要。中国传媒大学研究员程皓楠表示,AI鉴伪技术需不断精进,与生成技术呈“螺旋上升”竞争。

部分AI视频仍未亮明身份,微博标识选项“藏得深”

根据《标识办法》,AI生成视频需在起始画面或播放周边添加显著标识。

9月8日至15日,记者在六大平台随机浏览发现,大部分AI视频有作者标注或平台提示,但未标识的AI内容仍易找到。例如,小红书有萌宠视频疑似AI生成却无标识;视频号有数字人视频也未标识。

实测曝光!六大平台AI视频识别大考:发布零拦截,“AI美女”竟全员通关?

9月8日,贝壳财经记者浏览视频号发现未进行明显标识的AI生成视频。截图

实测曝光!六大平台AI视频识别大考:发布零拦截,“AI美女”竟全员通关?

哔哩哔哩UP主制作并在简介中写明“AI整活儿”视频,并未触发平台“疑似AI技术合成”的提醒。

测试中,六平台对AI标识仍依赖用户主动标注。记者使用可灵和即梦生成“萌宠变装”和“颜值美女”视频,平台均打上水印。

实测曝光!六大平台AI视频识别大考:发布零拦截,“AI美女”竟全员通关?

用户发布内容时,平台“AI创作声明”选项对比。 贝壳财经记者 罗亦丹 韦英姿 制图

记者将视频上传至六平台,发布时AI标识选项多隐藏较深。抖音在“高级设置”中;快手的“作者声明”中;视频号在“添加声明”里。小红书、哔哩哔哩、微博需跳转多次页面。微博尤为隐蔽,需通过“公开”—分享范围—内容声明才能找到AI生成选项。

实测曝光!六大平台AI视频识别大考:发布零拦截,“AI美女”竟全员通关?

微博的AI生成内容标识选项隐藏在右下角的“公开”按钮中。

AI视频可“丝滑”发布,仅一家平台识别无水印版本

AI技术滥用问题日益凸显,如虚假商品展示、虚拟人物带货、虚构测评等,严重误导公众。

《标识办法》规定,平台检测到生成合成痕迹,应添加提示标识。

记者将“猫咪变装”视频以带水印和去水印版本发布,且未主动标识。结果,无论有无水印,视频在各大平台均“畅通无阻”,平台未主动提醒。数小时后,仅抖音对有无水印版本均添加“疑似AI生成”提示;快手只识别带水印版本。

实测曝光!六大平台AI视频识别大考:发布零拦截,“AI美女”竟全员通关?

记者上传了带水印与不带水印的两个版本“AI猫咪”视频,快手只识别出了带AI水印的版本。

更逼真的“AI美女”视频则更具迷惑性。记者生成“写实风格湖边白色连衣裙中国美女”视频,去水印后发布。结果,仅抖音标识疑似AI,其余五家均未识别,还有评论夸赞“美女身材好”。

实测曝光!六大平台AI视频识别大考:发布零拦截,“AI美女”竟全员通关?

记者上传的“AI美女”视频,仅抖音识别并进行提醒。

六大主流内容平台对用户不标注AI生成视频的审核情况。贝壳财经记者 罗亦丹 韦英姿 制图

落实新规仍需补漏洞,平台要担起监督责任

《标识办法》施行前,各大平台已发声落实要求,上线AI检测功能,但未能100%检测,发布过程仍有漏洞。

李昀锴表示,平台是关键环节,需制定规则、提供技术支持、审核内容、采取处置措施。若未尽义务,可能面临行政措施。对于发布者,目前无法律责任,需平台强制干预。他建议平台将AI标识作为发布前置条件,并对未标识内容采取惩罚措施。

有AIGC创作者测试发现平台未能检测AI内容,平台方称收紧规则可能“误伤”非AI用户。张延来律师指出,法律有局限性,遵守靠市场主体选择。

AI难鉴伪?专家建议对生成内容实施分级分类管理

程皓楠介绍,AI鉴伪技术如“白杨智鉴”平台已在应用,但鉴伪模型需随生成模型“螺旋上升”。一旦AI生成内容与真实内容无差,鉴伪将失效,需从传播溯源、意图等多维度判断。

AI生成内容是否属“谣言”或是监管方向。抖音规范允许AI辅助创作,但禁止生成虚假、侵权内容。

裴智勇认为,虽无法完全阻止伪造内容,但可从平台侧阻止有害传播。李昀锴建议实施分级分类管理,对高风险领域执行严格标识,低风险领域以自律为主。

面对AI视频的泛滥,我们每个人都应提高警惕。你是否在平台上遇到过未标识的AI内容?欢迎分享你的经历,共同推动AI治理的完善。

新京报贝壳财经记者 罗亦丹 韦英姿

编辑 王进雨

校对 穆祥桐

相关问答

视频识别技术的目的?

视频识别技术旨在从视频中提取关键信息,以深度理解和分析内容。它广泛应用于安防监控、智能交通、智能家居等领域,提升自动化决策能力。

视频识别系统简称为?

视频识别,常称为实时识别或即时识别,简称“OCR”。它涵盖前端采集、中端检测和后端处理三大环节,依赖高质量视频流输入。

三色视频识别人脸怎么做?

三色人脸动态识别是一款AR工具,可助力实现app及设备的人脸识别功能。压缩包内含三个应用,操作简便,适用于多场景虚拟交互。

视频的清晰度是如何判断的?

视频清晰度主要由分辨率与比特率(码率)决定。720P指分辨率,但视频格式也影响观感,需综合参数评估。

健康系统可以用视频识别吗?

王者荣耀的人脸识别系统不支持视频验证。识别时摄像头会扫描上半身动态,仅靠录像无法通过,必须真人实时检测。

如何辨别诉讼中的伪造视频证据?-ZOL问答

6条回答:司法实践中,伪造视频证据屡现。由于技术先进,肉眼难辨真伪。建议诉讼中提交视频时,结合时间戳、元数据等多方验证,必要时聘请专家鉴定。

人脸识别视频能识别出来吗?

当前人脸识别产品基于图片分析,暂不支持视频直接识别或视频抓帧识别。静态活体检测仅适用于照片,视频需截帧处理。

人脸动态识别是以视频的形式保存吗?

是的,人脸动态识别通常以视频形式保存。视频能连续捕获面部时空变化,提升识别准确度,适用于安防、娱乐等场景。

怎样使用视频识别植物?

使用视频识别植物,可借助手机或电脑摄像头,配合PlantNet、Google Lens等软件。打开应用对准植物拍摄,系统即自动分析并反馈信息。

人脸识别如何用录像识别?

人脸识别不可用录像替代。因其依赖活体检测,需实时捕捉面部温度及微动。录像无法通过验证,必须真人实时操作。