谷歌在強烈反對後恢復了有爭議的人工智慧圖像生成工具

谷歌人工智慧決定恢復先前因生成歷史上不準確圖像而被禁用的人類圖像生成工具。

谷歌在周三的一篇部落格文章中透露了其 Imagen 3 模型的升級。該模型於 5 月首次發布，最新版本很快將開始為 Gemini Advanced、Business 和 Enterprise 客戶生成個人圖像。

“該公司宣布，在接下來的幾天裡，他們將開始為 Gemini Advanced、Business 和 Enterprise 用戶介紹個人圖像的創建，最初是英文版，並提供預發布版本。”

“Imagen 3 讓我們在創建個人圖像時在增強用戶體驗方面取得了實質性進展。”

Google提醒用戶，截至 2024 年 8 月，人工智慧圖像生成器無法產生可識別個人的逼真圖像、未成年人的描述或涉及暴力或性的圖形和露骨場景。

該聲明明確表明谷歌打算阻止創建有爭議的圖像。該公司詳細說明，他們對「可識別個人」的限制也適用於可能導致出現知名人物圖像的特定搜尋查詢。

為了回應有關事實和歷史不準確圖像的投訴，谷歌早在二月就禁用了 Gemini 中的人類圖像生成功能。批評針對的是雙子座將某些個人（包括美國開國元勳和納粹時代的德國士兵等群體）描述為有色人種。

有些人也對雙子座沒有生成不同種族的人的形象表示不滿。例如，一名用戶試圖產生「金髮、藍眼睛的斯堪的納維亞女性」的圖像，但卻從 Gemini 收到了「染髮的印度女性」的圖像。

谷歌當時就 Gemini 所謂的「某些歷史影像複製中的錯誤」做出了道歉。該公司表示，人工智慧工具產生多樣化影像的效果未達預期。

伊隆馬斯克收購X後不久，就實施了影像生成升級。這是收購中包含的與 Grok 類似的功能的補充。此外，Midjourney 也讓沒有 Discord 帳號的個人也可以使用其圖片產生器。雖然穩定擴散仍然是本地影像生成的可行選擇，但它需要一定程度的奉獻精神。