AI音声危機について声を上げる著名人が増えている：これは深刻だ

人工知能（AI）をめぐる法的および倫理的懸念の深刻さは一般の人々にとって大きな懸念となっており、業界の専門家も事態の重大さを認識しています。

ChatGPTの開発元であるOpenAIが、ハリウッドの人気女優スカーレット・ヨハンソンの音声を本人の同意なく利用したとして、最近騒動になっている。ヨハンソンは「ChatGPTの音声が自分の声と驚くほど似ていることに気づいて驚いた」と強く反対している。

スカーレット・ヨハンソンが弁護士を通じて強く反発したにもかかわらず、OpenAIは最終的にこの問題への対応として音声サービスを停止することを選択した。

その後、OpenAIはChatGPTの5つの音声サービスのうちの1つであるSkyを立ち上げた。Skyの声がスカーレット・ヨハンソンの声に驚くほど似ていることから、このAI企業をめぐって再び論争が巻き起こり、再び女優の声を盗用したと非難する者もいた。

女優は「昨年9月、OpenAIのCEOが、同社の近日発売予定のGPT-4oの声を担当しないかと私にオファーしてきました。しかし、個人的な理由で断りました」と述べている。さらに「公開された動画の声を聞いたとき、自分の声とほとんど同じだったので、とても驚き、イライラしました」と続けた。海外メディアはこの件について報道し、OpenAIが法的措置に直面する可能性があると推測している。

最近のニュースでは、OpenAI が AI の安全性と制御を確保する技術開発チームである Super Alignment チームの解散を発表しました。この決定により、チームの解散と主要メンバーの退職が OpenAI の安全性意識に影響を与え、最近の事件の一因となったのではないかと多くの人々が懸念しています。

AI技術の進歩により、YouTubeでは様々な歌手が同じ曲を歌う動画の制作が増えている。最近では、BIBIの人気曲「バムヤンガン」を歌うIUのAI生成映像が韓国で物議を醸した。IUとパク・ミョンスのバージョンはどちらも数十万回の再生回数を記録したが、どちらの有名人も動画で実際に歌ってはいなかった。代わりにAIが彼らの声を真似て、これらのバイラル動画を作成したのだ。

芸能人たちが不快感を表明し始めたことで、この問題の深刻さはさらに増した。AIの歌を聞いた歌手のチャン・ユンジョンは「これはかなり深刻だ。鳥肌が立つ」と述べ、「AIは絶対に歌えないと思っていたが、ここまでできるのなら歌手が苦労して歌を録音する意味があるのか」と続けた。

パク・ミョンスはAIによる「バムヤンガン」の歌唱に驚きを表明し、「自分の声にこんなに似ているなんて信じられない」とコメントした。さらに、「この曲を歌ったことがなかったので、こんなに似ているとは思っていませんでした。私たちの芸能人の同僚たちが心配です。このような状況で彼らはどうしたらいいのでしょうか？」と認めた。

AI音声が人間の声に近づきつつある現在、法律的・社会的問題を含め、安全性への懸念が高まっています。