围绕人工智能（AI）的法律和道德问题的严重性一直是公众关注的重点，业内专业人士也认识到了问题的严重性。
ChatGPT 的创建者 OpenAI 最近因未经好莱坞著名女演员斯嘉丽·约翰逊 (Scarlett Johansson) 同意而使用了她的声音而引发轩然大波。约翰逊强烈表示反对，并表示“当我发现 ChatGPT 的声音与我自己的声音惊人地相似时，我大吃一惊。”
尽管斯嘉丽约翰逊通过律师作出了强烈反应，但 OpenAI 最终还是选择暂停语音服务以应对该问题。
随后，OpenAI 推出了五款 ChatGPT 语音服务之一 Sky。由于 Sky 的声音与斯嘉丽·约翰逊的声音惊人地相似，这家人工智能公司再次引发争议，有人指责他们再次窃取了这位女演员的声音。
该女演员表示，“去年 9 月，OpenAI 的首席执行官找到我，希望我为他们即将推出的 GPT-4o 提供配音。但是，我因个人原因拒绝了。”她接着说，“当我听到发布的视频中的声音时，我感到非常惊讶和沮丧，因为它听起来几乎与我自己的声音一模一样。”外国媒体报道了此事，猜测 OpenAI 可能会面临法律后果。
近期，OpenAI 宣布解散其超级对齐团队，这是一支负责确保 AI 安全和控制的技术开发团队。这一决定引发了许多人担忧，认为该团队的解散和关键成员的离职可能影响了 OpenAI 的安全意识，并导致了近期的事件发生。
随着人工智能技术的进步，YouTube 上多位歌手演唱同一首歌曲的视频制作也日渐增多。最近，一段由人工智能生成的 IU 演唱 BIBI 热门歌曲《Bam Yang Gang》的视频在韩国引发争议。尽管两位明星都没有在视频中表演，但 IU 和朴明洙演唱的歌曲都积累了数十万的点击量。相反，人工智能被用来模仿他们的声音并制作这些热门视频。
随着明星们纷纷表示不满，这一问题的严重性也随之凸显。歌手张允贞在听完一首AI歌曲后表示：“这很严重，听得我浑身起鸡皮疙瘩”，并表示：“我以前一直认为AI不会唱歌，但如果AI真的能唱歌，歌手还有什么理由再努力录歌呢？”
朴明洙对人工智能演唱的《百变风》表示惊讶，评论道：“我不敢相信它的声音与我的声音如此相似。”他还承认：“我以前从未唱过这首歌，所以我没想到会如此相似。我很担心我们的明星同事，在这种情况下他们该怎么办？”
随着AI语音发展越来越接近人类声音，人们对安全性的担忧也日益增加，包括法律和社会问题。
发表回复