AI技术衍生安全风险的治理问题是非常复杂的社会问题。
10月18日，演员吴越在社交平台发文，称有人利用AI仿冒自己带货，并要求相关账号退还骗取的钱款。
吴越发布的截图显示，名为“花姐美肤日记”的账号以“明星同款、吴越推荐”为宣传话术，声称吴越联合厂家向粉丝赠送护肤品，视频中的声音也被伪装成吴越本人。
截至发稿，记者搜索发现，视频号上该账号已更名为“小刘打工日记”。除吴越外，账号还出现了涉及邓亚萍的带货视频。
吴越遭遇的并非个例。此前，演员温峥嵘也曾公开表示，自己被AI换脸盗播带货。她发现多个直播间同时出现与本人形象高度相似的画面，进入直播间质问后反被拉黑。
温峥嵘团队称，曾在一天内举报50个假冒账号，但部分账号被下架后又换形式重新出现。温峥嵘因此感叹：“我很难证明我是我。”
AI换脸、拟声工具日趋成熟，正在降低仿冒名人的技术门槛。此前，第一财经记者调查发现，电商平台上存在提供人脸替换、声音克隆和视频制作服务的商家，部分换脸视频报价仅数十元至数百元。造假者可截取公开影视剧、直播或短视频素材，再通过AI工具生成看似真实的带货内容，误导消费者相信名人本人参与推荐。
风险也已从明星扩展至普通用户。社交平台上，有用户发现自己的照片被AI换脸后用于发布内容；针对老年群体的“AI霸总”账号则通过合成形象和情感话术建立信任，进而引流、带货甚至诱导转账。随着合成内容越来越逼真，普通用户仅凭画面和声音辨别真伪的难度随之增加。
从法律层面来看，未经授权使用AI生成或传播他人的肖像、声音用于商业宣传，可能侵害肖像权、声音权益等民事权利；若涉及诈骗等行为，还可能承担相应法律责任。北京互联网法院此前审理过利用人工智能合成近似他人声音进行图书带货的案件，判令侵权方道歉并赔偿12万元。
但同时，北京市京都律师事务所合伙人常莎认为，现有的法律运行存在侵权成本过低、平台责任虚化、维权链条过长的困境。权利人需要经历取证、公证、诉讼等漫长流程，因此治理AI换脸乱象的关键在于对现有法律进行针对性修补。例如引入惩罚性赔偿机制，让侵权成本高于收益；同时将平台责任从“事后删除”前移至“事前审核”，对涉及知名公众人物的AI合成内容主动筛查。
瑞莱科技联合创始人萧子豪对第一财经表示，AI技术衍生安全风险的治理问题是个非常复杂的社会问题，涉及很多方面。既要在法律法规层面事前规范引导、事后监管惩戒，也需要有技术手段令AI更加安全、可控。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：江钰涵
创同配资提示：文章来自网络，不代表本站观点。
