南都讯 记者樊文扬 11月14日，据“网信中国”消息，近期宏源证券有网络账号利用AI技术仿冒公众人物形象，在直播、短视频等环节发布营销信息，误导网民，涉嫌虚假宣传和网络侵权。网信部门严厉处置“百货超市小店”“娜娜好物联盟”“环球护肤美妆甄选”等一批违法违规网络账号。同时，督促网站平台发布治理公告，举一反三宏源证券，开展集中清理整治，目前已累计清理相关违规信息8700余条，处置仿冒公众人物账号1.1万余个。
该消息称，下一步，网信部门将继续压实网站平台主体责任，对利用AI仿冒公众人物开展直播营销问题保持高压严管态势，对恶意营销账号，发现一批、处置一批、曝光一批，维护良好网络生态。
近期，演员温峥嵘自曝被AI换脸盗播一事引发广泛关注。据报道，当前有多个直播间同时出现“温峥嵘”的带货形象，视频内容要么是AI合成的虚假直播，要么是盗播、录播的过往片段。温峥嵘提问“你是温峥嵘我是谁”后，反而被对方拉黑。
11月6日，南都N视频记者从抖音电商方面获悉，不少商家和达人在未取得授权情况下，利用AI、特效仿冒名人等方式进行带货营销，误导消费者。平台已启动专项治理，处置涉及侵权仿冒违规的达人账号1.1万个，其中涉及仿冒温峥嵘、李玫瑾、罗永浩、董宇辉等多位名人的账号。
随着近年来AI飞速发展，利用该技术为名人换脸换声进行虚假宣传等事件屡见不鲜。今年5月，演员邓超和孙俪旗下工作室相继发文称，发现有部分网络用户通过技术合成的方式，利用邓超、孙俪的形象和声音制作虚假广告宣传视频为某些商家的产品进行推荐宏源证券，部分视频播放量超百万次。
今年6月，北京海淀区市场监管局查处了某公司利用AI技术冒用央视主持人李梓萌名义和形象的虚假广告案，并对其进行了行政处罚。该案中的涉事直播间，凭借高度仿真的合成影像吸引了88万关注者，开播后销量迅速突破万单，让不少消费者误以为是本尊推荐。
据央视新闻8月报道，某社交平台上，有博主利用AI仿冒奥运冠军全红婵的声音卖土鸡蛋；孙颖莎、王楚钦的声音也被“克隆”，用来给“婵宝家土鸡蛋”高调带货……评论区显示，不少网友误以为这就是奥运冠军本人，纷纷下单购买。此外，还有博主“克隆”演员靳东等的声音，进行24小时语音直播。
今年9月起，《人工智能生成合成内容标识办法》正式施行，其中明确提出强制添加显式和隐式标识等规范要求，为治理乱象提供了政策依据。然而现实情况中，这一规定的落实仍存在难点。据了解，有部分造假者将标识藏在视频、直播简介的角落，用极小的字体显示；有的商家利用技术手段对AI生成内容进行去标识化处理，或让AI造假内容混迹在正常信息流中，难以被精准识别。
针对频现的AI换脸造假事件宏源证券，北京乾成律师事务所律师王琮玮给出了维权建议。当用户发现遭到他人侵权等非法利用时，应当第一时间固定证据，并要求平台下架侵权内容；通过行政投诉举报，向公安机关报案等寻求救济措施。
传金所提示：文章来自网络，不代表本站观点。
