IT之家 1 月 10 日消息,据《纽约时报》当地时间周二报道,最近几周在 Facebook 等平台陆续出现了美国著名歌手泰勒・斯威夫特的“代言广告”:她在这则广告中“宣布”将会为粉丝免费送出 Le Creuset 品牌的厨具套装,人们只需要点击一个按钮并回答几个问题。
不过,这则广告的“当事方”Le Creuset 却表示,公司并没有参与任何消费者赠品活动,尽管她平时爱用这个品牌的厨具。在这则案例中,AI 技术用来合成了泰勒・斯威夫特的声音,并将声音与 Le Creuset 广告片段拼凑在一起。
骗子还利用合成的声音称呼泰勒・斯威夫特的粉丝为“Swifties”。当受害者被引导至虚假网站后,会被要求支付 9.96 美元的运费。当然,号称免费送的厨具也并不可能真的送出去。
报道称,在过去一年内,AI 技术的重大进步使未经名人本人授权的“数字替身”制作门槛愈发降低。美国布法罗大学“媒体取证实验室”的计算机科学教授 Siwei Lyu 表示,这起“深度伪造”活动很可能是利用文字转语音服务制作的。这类工具可将脚本转译成声音,并用唇语同步程序将其合成至视频片段。
据IT之家此前报道,美国著名演员汤姆・汉克斯(Tom Hanks)去年也声称自己肖像的 AI 版本被用于牙科计划的在线广告中,而且没有经过他本人的同意。
“明天我可能会被公共汽车撞到,仅此而已,但表演可以继续下去,”他说。“除了对 AI 和深度造假的自身鉴别,没有什么可以告诉你这不是我。这当然是一种艺术挑战,也是一种法律挑战。”