封图 |来源：第三方直播监测平台
近日，演员温峥嵘在抖音直播间自曝被AI换脸盗播，多个直播间出现其带货形象，在直播间提问“你是温峥嵘我是谁”后反而被对方拉黑。
该案例引发多方重视。11月6日晚间，抖音集团副总裁李亮发文称，这两天，温峥嵘被AI盗播带货的新闻关注度很高。经核查后发现，被曝光的“三个直播间同时开播”案例并非发生在抖音平台。经过与相关方联系，并根据投诉线索核查，发现平台上确实存在一些利用AI仿冒名人带货的短视频内容。
李亮同时强调，AI内容侵权识别是行业性技术难题，恶意仿冒账号也在不断与平台进行技术对抗，平台会持续加大投入应对挑战，维护创作者、商家和消费者的合法权益。第一财经据此梳理AI换脸与伪造黑灰产链条，多位网络安全专家强调，AI攻防战役是一场需要长期投入的“猫鼠游戏”，涉及法律法规、技术手段与平台治理等多方面。
“我该怎么证明我是我？”
11月5日，温峥嵘抖音账号进行三次以“我是真的温峥嵘”为主题的直播，讲述近期被AI伪造、AI换脸直播带货的情况，并强调除了经过平台黄V认证演员身份的主账号，以及个别几个经过主账号授权的小号外，其他均为盗用、冒用账号。
事件引发热议起因于有网友发现演员“温峥嵘”同时现身三个不同直播间进行直播带货，且身穿不同服装、推广着不同产品，画面中的“温峥嵘”动作、神态与本人高度相似，该情况很快在网络端引发热议，甚至有网友质疑温峥嵘是否通过录播视频假冒直播进行直播销售。
温峥嵘团队工作人员接受央视采访时表示，发现该现象后团队便持续进行举报，一天时间内曾举报50个假冒账号，有的造假账号被平台下架处理，有的账号刚被下架很快又换了个形式重新出现，令人防不胜防。
该工作人员称，商家只需要截取一段影像，通过简易工具便能生成虚假内容，但取证动作却需要花费很大精力。且造假团队喜欢在凌晨三四点钟打时间差发布虚假视频。虽然团队已送达相关律师函，但目前调查的仅仅是一部分造假商家。
温峥嵘接受采访时表示，今年4月左右的时候，因为拍戏到很晚，两三点回家卸了妆就会玩手机，居然看到自己在直播。她进入直播间质问“你是温峥嵘，我是谁？”随即被对方拉黑。温峥嵘观察发现，假造商家的视频内容有的不是假的，是通过录屏截取不同的视频内容，然后拼接在一起。画面是真的，只是在讲不同的事情；声音也是真的。“我该怎么证明我是我？”温峥嵘表示，团队法务部每天都在状告，AI的发展理应便于老百姓更好地生活，而不是被不良商家钻了空子。
据抖音官方披露，“发**鱼”、“小**妈”等达人未经授权，利用AI仿冒温峥嵘肖像、声音信息，进行带货宣传。平台依据《创作者【仿冒名人宣传】细则》，已对相关账号进行中断直播、下架违规商品及视频、冻结成交金额等处罚。接到反馈后，平台通过专项治理，共处置下架温峥嵘相关仿冒侵权的视频1万余条，其中带货类视频6900余条，并对37个违规账号予以处罚。
来源：二手电商平台商品介绍页
AI伪造门槛降低
温峥嵘遭遇此番AI造假，一方面因AI技术拉低造假门槛，一方面因温峥嵘本身便从事直播带货，持续的直播动作给造假商家提供了丰富的“素材”。
第三方直播监测平台数据显示，温峥嵘抖音账号粉丝数384.1万，近三个月增长29.6%。今年以来共直播248场，场均观看人次达96.3万人，上架商品共783件，场均销售额达100万-250万。所售商品品类中，美妆护肤类占比54.19%。
除了直播视频截取，目前各电商平台也提供相关业务服务。记者在某二手交易电商平台上发现，进行人脸识别、代做视频、人脸（信息）提取的业务售价仅30元。同时卖家强调用户需确保所提供素材不侵犯第三方版权或其他权益，小铺不对因使用非法素材或违法行为导致的任何法律责任负责。
而在技术的应用方面，AI的逐渐成熟也在一定程度上降低了犯罪技术门槛。瑞莱科技联合创始人萧子豪对第一财经表示，近一年来利用AI换声、换脸进行诈骗、造谣等违法犯罪行为屡禁不止、愈演愈烈，呈显著上升趋势。犯罪行为变得更具迷惑性，也更加隐蔽。近年来生成式AI技术能力突飞猛进并持续开源开放，大量工具、产品问世，极大降低了不法分子利用AI的门槛和成本。
今年9月，据公安部网安局披露，浙江杭州警方侦破一起利用“AI换脸”突破相关互联网平台人脸识别认证机制侵犯公民个人信息案件，抓获犯罪嫌疑人4名，查获一批被非法强制登录的网络账号。涉案人员利用生成式人工智能深度合成技术伪造“AI人脸”，突破平台人脸识别认证机制，非法窃取公民个人隐私数据。
该案中，犯罪团伙利用某即时通讯平台招揽生意，宣称可以承接互联网平台特定用户数据的“查细”业务。接单后，团伙成员伪造受害者人脸验证视频，突破相关头部平台登录认证，强制登录受害者账号窃取信息。
来源：第一财经记者制表
攻防博弈持续
整个AI治理行业内，监管侧与平台侧的治理举措，与黑灰产案例长期博弈。
从黑灰产产业链角度来看，记者梳理多项公开执法文书、部委通报与头部安全厂商报告，梳理目前全链条主要包括上游数据、中游产能、下游场景以及最终的洗钱变现四个环节。
其中上游包括通过爬虫抓取、二手设备回收提取相册、短视频平台音频提取等获取受害者生活照、声纹切片与3D头模，中游包括通过多项技术手段实现人脸替换、驱动与重播、对抗检测清洗等，下游直接通过AI换脸进行诈骗、诱导转账、色情勒索、直播带货或打赏等违法犯罪行为。
以抖音平台为例，据抖音电商安全与信息中心披露，近期平台发现部分商家和达人在未取得授权情况下，剪辑视频、拼贴文字信息，或利用AI、特效仿冒名人进行带货营销，误导消费者。自10月专项启动以来，已严厉处置涉及侵权仿冒违规的达人账号1.1万个，处置仿冒名人带货的商品6700余个。
其中已处置视频和账号的违规行为包括但不限于未经授权，利用AI仿冒名人肖像、声音信息带货；未经授权，内容画面、声音、文案信息虚假宣称为本人，或暗示名人与商品有直接关联带货；未经授权，使用名人姓名/艺名，或使用变体等形式，从昵称到视频刻意仿冒名人带货；未经授权，头像直接使用名人肖像照片，利用特效制作卡通形象或高度相似图片仿冒名人带货。
萧子豪表示，AI技术衍生安全风险的治理问题是个非常复杂的社会问题，涉及很多方面。既要在法律法规层面事前规范引导、事后监管惩戒，也需要有技术手段令AI更加安全、可控。在技术层面，生成和鉴伪的对抗性非常强，需要持续长期投入，就像是“猫鼠游戏”，此消彼长，相互博弈。与互联网产品或者其他AI产品不同，AI鉴伪产品并非开发完就结束，而是要随着生成技术的进展不断研究、更新、迭代，没有终点。
国汇策略提示：文章来自网络，不代表本站观点。
