专家（jiā）：细（xì）化技术标准让（ràng）“AI数字人”透明化合规化

　　□ 本报记者 　赵 丽

　　□ 本（běn）报实习生 宋昕怡（yí）

　　“生西红柿和生黄瓜不能一起吃了！黄瓜中的（de）分解酶会破坏维生素C，一起吃轻则影响西红柿中维生素（sù）C的吸（xī）收，重（chóng）则可能（néng）导致腹泻、肠（cháng）胃不（bú）适甚（shèn）至食物中（zhōng）毒。”电话那（nà）头，母亲说得头头是道，电话这头的赵女士却听得一头雾水。

　　随即，母亲发（fā）来一则视频（pín）。赵女士回（huí）忆说：“一位（wèi）满头花（huā）白头发、身着白大（dà）褂的‘医生（shēng）’在（zài）视频里侃侃（kǎn）而谈‘养（yǎng）生（shēng）秘籍（jí）’，甚至宣（xuān）称‘清淡饮食就是只（zhī）吃素（sù）食，完全（quán）不吃（chī）肉’。我（wǒ）妈（mā）把这（zhè）个‘医生’的话奉为（wéi）圭臬。”但赵女士仔细查看后，在视频右（yòu）下（xià）角发现一（yī）串（chuàn）几（jǐ）乎透明的标（biāo）注——“此视频由AI辅助（zhù）生成”。

　　“后来，我妈戴着老花镜，在我的指点下找了一会儿才（cái）看见那行字。”赵女士无奈地（dì）说，“这（zhè）也不能怪老人，现在（zài）AI生成的（de）‘数（shù）字人’泛（fàn）滥，还难辨真假，实在让人防不（bú）胜防。”

　　有此困扰（rǎo）的并非只有（yǒu）赵女士一家。《法治日（rì）报》记（jì）者近日随机采（cǎi）访了数十名路（lù）人，至少有七（qī）成受访者称（chēng）曾刷到过“AI数字（zì）人”视频，并且“难以分清到底是真人还是（shì）‘数字人’”，而原因主要在于（yú）“找不（bú）到有效提示”。

　　很（hěn）多人担忧：真人“数字人”傻傻分（fèn）不清楚，背后是肖（xiāo）像权侵（qīn）权乃（nǎi）至敲（qiāo）诈、诈骗等违法犯罪的风险隐患（huàn）。

　　是否数字人难（nán）辨别

　　在重庆读大学的郑媛浏览某社交平台时，刷到一则帖子——照片里的女生外形温婉（wǎn）可人，穿搭清（qīng）爽时尚，很夺人眼球。郑媛点赞并关注了该（gāi）账号。

　　但不多时，郑媛（yuán）却刷到另一名（míng）博主揭露用“AI生成人”起号的（de）内容，被（bèi）打（dǎ）假（jiǎ）的恰（qià）恰是她（tā）先前所关注的这个账（zhàng）号。“我仔细翻（fān）阅（yuè）了那个（gè）女生的账（zhàng）号主（zhǔ）页，她并未（wèi）标（biāo）明（míng）使用AI技术（shù），还在评论（lùn）区亲切（qiē）地与其他用户互（hù）动（dòng）。”面对这样的局面，郑媛说（shuō）自己也（yě）“糊（hú）涂了”。她（tā）后（hòu）来（lái）观察了一个多星期，找（zhǎo）到了该账号图片确（què）为AI生成的（de）证据（jù）——有网友在其他（tā）账号上（shàng）发（fā）现了妆容（róng）和衣（yī）着几乎一样的“数（shù）字（zì）人”，而人物介绍却完全不（bú）同。

　　习惯在直播间购物（wù）的北（běi）京市民李菲说（shuō），自己经常误入（rù）“数（shù）字人（rén）”直播（bō）间，“数字人”主（zhǔ）播侃侃而谈介绍商（shāng）品，手部动作还能随（suí）着（zhe）她说话的（de）节奏不断变动（dòng），声音流畅而自然（rán）。

　　“要仔细看才能看（kàn）到直播间左侧（cè）一行‘现直播（bō）内容为（wéi）数（shù）字人直（zhí）播，非真人直播’的小字提醒。”李菲说，自（zì）己现在习惯了进直播间“先找（zhǎo）小（xiǎo）字”，确（què）认主播是否为真人，“但真的‘费眼睛’，不是（shì）在犄角旮旯，就是字体几乎透明，不注意根本看不到”。

　　袁（yuán）伟(化名)是某985高校计算机系研（yán）究生（shēng）。他告（gào）诉（sù）记者：“现（xiàn）在一些AI大（dà）模型生（shēng）成（chéng）的图，别说中老（lǎo）年人会（huì）误以（yǐ）为真，很多没怎么接触过AI技术的（de）年轻（qīng）人都不见得（dé）能（néng）分辨真假。”

　　他随即为记者（zhě）演示（shì），向（xiàng）某AI软件输（shū）入指令（lìng）“帮我生成图片：一个容貌姣好的女（nǚ）性，精细（xì）的皮肤纹理（lǐ），室外自然光”，随即生（shēng）成（chéng）的（de）图片与（yǔ）真人照片相差无几，如果不（bú）是右下角自带的水印（yìn），只让人觉得是一张普（pǔ）通（tōng）的美（měi）女照片。“如果说（shuō）早期的AI软件大多（duō）不能生成自然（rán）的手（shǒu）指和人体比例，现在技术进步得很快，生成的手（shǒu）指（zhǐ）和人体比例已经比较像（xiàng）样了，更加大了分辨（biàn）的难度（dù）。”

　　“这样的AI生（shēng）成（chéng）图片或视（shì）频，如果不作标识（shí）提示，会让很（hěn）多人信以（yǐ）为真。”袁伟（wěi）说。

　　大量账号未作标识

　　记（jì）者在某社交平台（tái）上注意到一名（míng）为“××AI打（dǎ）假人（rén）”的账户（hù），其发（fā）帖称自己将致力（lì）于“揪出纯AI生成（chéng）的（de）内容博（bó）主（zhǔ），帮小（xiǎo）白（bái）识别（bié）真伪（wěi）”，还（hái）表示“关注了很多（duō）AI生（shēng）成非真实的帅哥美女”。

　　在其关注列表里（lǐ）有（yǒu）300多（duō）个账号，记者（zhě）随机选取了其（qí）中20个账号浏（liú）览发现，若（ruò）没有看到评论区“这是AI吧，手指的细（xì）节很诡（guǐ）异”“背景（jǐng）里的文字都（dōu）是乱码”等留言，记者第一反（fǎn）应只以为他们是普通（tōng）的颜值时尚类博主。

　　这20个粉丝量几百到几万不等（děng）的（de）账号，仅有3个账号（hào）在简（jiǎn）介中（zhōng）写明“虚拟男友”“AI”“友情提示视频由虚拟现实技术制作”，两个账号主（zhǔ）页的内容经平台（tái）审核后被打上了（le）“疑似（sì）包（bāo）含AI创作（zuò）信息，请谨慎甄别”的标（biāo）签。其余账号在简介、内（nèi）容中（zhōng）并未提及（jí）“AI”字眼，平台的监测机制也并未（wèi）识别（bié）到，这些账号甚至还在评论区熟稔地与（yǔ）其他用户互（hù）动，让自己看上去更有“真人感（gǎn）”。

　　在调查过程中（zhōng），有（yǒu）超过一半的受访者向记者（zhě）表示（shì）AI生成的“数（shù）字人”和（hé）真人难以分辨，相关的提示（shì）也（yě）并不显眼。

　　此外（wài），记者发现，有人还会特意教人如何绕过平台（tái）的“AI打标”。据了解（jiě），目前（qián），各平台已普（pǔ）遍升级AI内（nèi）容识别系统，要求对（duì）AI生成（chéng）作品进行显著（zhe）标注。但在（zài）调查中，有分享经验（yàn）的博主（zhǔ）表示花费（fèi）不到千元就可（kě）以购买所谓的AI工具中预配置的（de）镜像文件，称（chēng）用这些镜（jìng）像参数一键生成的虚拟人形象可以以（yǐ）假乱真，最大限度规避平（píng）台的AI内容强制标注机制。

　　细化标准加大惩处

　　记者梳理（lǐ）公开信息发现，实践（jiàn）中，一些有心人士利用（yòng）“数字人”形象行不（bú）法之事。

　　据报（bào）道，张文宏、雷军等公（gōng）众（zhòng）人物形象曾（céng）被（bèi）利用生成“AI数字人（rén）”，用来带货、恶搞。一些直播间内（nèi），“AI数字人”向中老年人（rén）群体虚假（jiǎ）宣传（chuán）保（bǎo）健品，诱（yòu）导购买。更（gèng）有甚（shèn）者，一些不法分子利（lì）用“AI数（shù）字人”进行敲诈、诈（zhà）骗等犯罪（zuì）。例如，山西（xī）忻州公安机（jī）关工作发现，犯罪嫌疑人王（wáng）某某利（lì）用AI技术（shù），制作合成“数字人”新闻视频引流，进而进行有偿（cháng）发帖、有偿删（shān）帖（tiē）等敲诈勒索活动。2024年，江西一名（míng）65岁老人到（dào）银行办（bàn）理业务，声称要贷款200万元（yuán）给男朋友（yǒu）“靳东”拍戏，后经调查，老人手（shǒu）机里的“靳东”视频是AI合成的（de）。

　　重庆大学（xué）网络与大数据研究（jiū）院副院长罗勇（yǒng）认（rèn）为，就（jiù）价值取向而言，AI产业发展不能凌驾于网络安全之上。对于利用AI技术生成的（de）短视频，网络用户特别是未（wèi）成年人和老年人由于缺乏必（bì）要的鉴别（bié）能力，往往会（huì）信（xìn）以为真，由此可（kě）能产生负（fù）面网（wǎng）络舆情，甚至对（duì）网络安全造成（chéng）负面影响。

　　据受（shòu）访专家（jiā）介绍，当前我国已经出台了《生成式人工智能服务管理暂（zàn）行办法》《互联网信（xìn）息服务深度合成管理规定》等法规，对“AI数字人”和AI生（shēng）成内容（róng）的标识、数据来（lái）源等（děng）提（tí）出了具体要求。

　　今年3月，国家（jiā）网信办等四部门联合（hé）发布（bù）《人工智（zhì）能生（shēng）成（chéng）合成内（nèi）容标识办法（fǎ）》(以下简称标识办法)，通过标识提醒用户辨别虚假信息，规（guī）范内容制作、传播各环节（jiē）标识行为（wéi），为规范AI生成（chéng）内（nèi）容划定红线。该（gāi）办法（fǎ）将于9月1日起施行（háng）。

　　中国政法大学（xué）教（jiāo）授郑飞指出，相关（guān）规定（dìng）一（yī）定程度存在（zài）落地难的（de）问题。一是监管和技（jì）术手段有限，难以彻底发现并纠正（zhèng）违规（guī）行为（wéi）。例如，一些“AI起号”从业者通过预置（zhì）“镜像参（cān）数”生成极为逼真的虚拟（nǐ）人像（xiàng），从而逃避平台的强制标注要求。而监管部门特（tè）别是基层（céng）执法部门（mén），通常面临职责不清、执（zhí）法（fǎ）手（shǒu）段和执法力（lì）量（liàng）不（bú）足的问题；二是部分平台（tái）在一定程度上（shàng）“管（guǎn）不了”也“不想管”。“管不了”在于平台管理（lǐ）能力与（yǔ）技术手段欠缺，尤其是一些小（xiǎo）型平台，缺乏足够的审核（hé）人力和技术支（zhī）持（chí）。“不想（xiǎng）管”则是背后利益驱动。未明显标识“AI数字人”或合成（chéng）内容，会让受众误以（yǐ）为是真人或真实事件，从而更容易引起人们的兴趣和好奇心，吸（xī）引更多（duō）的（de）流量和关注（zhù），进而带来更（gèng）多的商（shāng）业利益。

　　“以网络社交平台（tái）为（wéi）代表（biǎo）的网络（luò）服务提（tí）供者在AI生成内（nèi）容的应（yīng）用（yòng）场景中，应当进一（yī）步完善（shàn）用（yòng）户（hù）使（shǐ）用AI协（xié）议规定（dìng），并强化对AI生成（chéng）内容的审核（hé）。”罗勇说。

　　郑飞建议，应从明确标识要求和加大责任（rèn）追究两方面（miàn）发力。标（biāo）识办法（fǎ）明确要（yào）求（qiú），一旦检（jiǎn）测到（dào）AI生成内容，传（chuán）播平台应在（zài）发（fā）布内容周边添加显（xiǎn）著提示标识，并在文件元数据中加隐式标识，确保全流程可溯源（yuán）。在未来落实过程中，可进一步细化技术标准（zhǔn），比如规定标识文字的（de）最小高度、对比度、展示时（shí）长等，让（ràng）标（biāo）识一目了然。另外（wài），对于不（bú）按规定（dìng）标注的（de）行为，需要严厉处罚：除加大行政罚款、暂停业（yè）务（wù）或（huò）纳入不良信用（yòng）记录（lù）等（děng）行（háng）政措施（shī）外，还要利（lì）用法（fǎ）律手段加大威慑。通过明确（què）、显著的标识标（biāo）准和更严厉的（de）责任追究，才能从根本上（shàng）震慑违规不标注行为，实（shí）现“AI数字人”应用的透明化、合规化（huà）。