英国人工智慧(AI)公司Eleven Labs的音讯工具被人用来仿制名人的声音、让他们说一些种族歧视和恐同字眼后,公司今天表示,正在检讨自身“防护措施”。
法新社报导,Eleven Labs推文称,公司度过一个“疯狂周末”,并坦承在公布这款工具的试用版几天后,就发现“愈来愈多仿制声音的滥用案例”。
Eleven Labs未提供这些案例的细节,但它表示,网路论坛4chan涌入假借名人声音来骂种族、性别歧视和恐同字眼的深度伪造(deepfake)之作。
许多贴文都提到Eleven Labs,一些用户宣称已被这家公司禁绝,另一些人则提供这款工具的试用版连结。
4chan论坛充斥冒犯他人的笑话而恶名昭彰。被论坛用户盗用声音的名人包括“哈利波特”(HarryPotter) 电影的影星们,以及电影导演昆汀塔伦提诺(Quentin Tarantino)、乔治卢卡斯(George Lucas)等人。
Eleven labs号称自家声音仿制技术具备潜力,“可革新多种产业的内容制造、表达和互动方式”。
Eleven labs曾制作一段宣传影片,内容仿制其他名人的声音来替影星李奥纳多狄卡皮欧(LeonardoDiCaprio)配音。
Eleven labs今天推文称自家技术“绝大多数被用于正向用途”,但仍需要“额外防护措施”,考量中的选项包括手动核对每个仿制要求,或是让帐户认证措施变得更严格。