近日，有网友发现演员温峥嵘同时“出现”在多个直播间。虽然他穿着不同的服装推销不同的产品，但他的动作和举止却与她非常相似。毫无戒心的观众很容易相信她所说的话。但实际上，这是无良公司利用录屏提取照片、抄袭以往直播素材或利用人工智能制造的虚假内容。随着人工智能技术逐渐成熟，AI换脸的门槛变得更低。这项技术原本应用于影视等领域，如今却成为不法企业制造AI“李鬼”谋取私利的工具。此前，主持人李子萌的AI形象宣传“深海多烯鱼油”，但该产品原来只是一颗普通糖果。包括奥运冠军在内的各界名人放大器、专家和大学教授，都被人工智能反复操纵。产品视频中出现的大部分产品都是假冒产品，与广告宣传的相差甚远。此类行为不仅侵犯了明星的形象权和表达权，也侵犯了消费者的权利，并可能误导公众。今年9月1日，《人工智能生成的合成内容标注办法》正式生效，要求所有人工智能生成的文字、照片、视频等均需标注标注，以明确其来源和真实性。新法规的出台将为控制人工智能领域的欺诈和破坏提供制度保障，有利于推动人工智能规范化发展。但现实中，不少山寨企业将自己的Logo隐藏在直播视频、横幅广告的角落里，或者以很小的字体显示，让消费者难以识别。注意。一些营销人员利用技术手段对人工智能生成的内容进行匿名化处理，或者将人工智能生成的内容拆分并零碎发布到多个账户，使得虚假的人工智能内容与正常信息流混杂在一起，难以准确识别。有的平台在内容审核上也存在不足，有的平台没有“预防为主、发生后跟进”全流程的治理体系。更值得警惕的是，一些平台的推荐算法也可能在未识别的情况下助长此类侵权内容的传播，因为人工智能假明星直播具有独特的“明星效应”，可以诱导消费者立即点击购买，提高产品转化率。即使发现涉嫌侵权内容，纠正证据并证明该内容是由人工智能生成的过程对于侵权人来说也是复杂且技术要求较高的克党。提起诉讼往往需要几个月的时间，在此期间侵权内容可能已被广泛传播。违法成本低、维权成本高，助长了不法企业、助长了嚣张气焰。人工智能技术应该更好地为人们服务，而不是成为犯罪和造假的工具。破解人工智能造假困境，监管部门应进一步规范人工智能技术应用标准，加大对违法经营者和废弃平台的制裁力度，加强制度建设，构筑坚强的监管防线。平台还应承担关键责任，加大技术投入，优化人工智能内容识别系统，带头完善审核机制和责任追究制度。只有以技术培育创新、以规则保障发展，人工智能才能真正成为社会进步的力量。
Leave a Reply