馬斯克: 馬斯克的Grok可生成名人裸體視頻年齡驗證形同虛設

2025-08-06 | 來源: IT之家 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

IT之家 8 月 6 日消息，Grok 新推出的生成式 AI 視頻工具 Grok Imagine 擁有一個“辣”（spicy）模式，被認為存在潛在的法律風險。據 TheVerge 報道，與谷歌的 Veo 和 OpenAI 的 Sora 等其他視頻生成工具不同，Grok Imagine 似乎對生成成人內容和名人換臉視頻毫無顧忌。在首次使用該工具時，其甚至在未被明確要求的情況下，直接生成了泰勒.斯威夫特（Taylor Swift）赤裸上身的視頻片段。

據IT之家了解，Grok Imagine 的 iOS 版本允許用戶通過文本提示詞生成圖片，並通過“自定義”“正常”“有趣”和“辣”四種預設模式，快速將圖片轉化為視頻片段。盡管許多圖像生成器通常會避免生成名人形象，但當被要求生成“泰勒.斯威夫特與男孩們一起慶祝科切拉音樂節”的圖片時，該工具卻提供了超過 30 張可供選擇的圖像，其中不少圖片中斯威夫特穿著暴露。

用戶只需打開一張斯威夫特穿著銀色短裙和露肩上衣的圖片，點擊右下角的“制作視頻”選項，從下拉菜單中選擇“辣”模式，並確認自己的出生年份（盡管在英國已實行年齡限制，但下載該應用時並未要求進行年齡驗證），視頻便會立即生成。在視頻中，斯威夫特脫掉衣服，僅穿著丁字褲在一群冷漠的 AI 生成觀眾面前跳舞。

"民調顯示公眾討厭馬斯克" ,川普為他平反

馬斯克:日本今年將減少百萬人人工智能是唯一希望

"民調:馬斯克是美國最不受歡迎公眾人物",特朗普:他是好人

盡管 Grok 生成的斯威夫特形象並不完美，大多數圖像都帶有一種“恐怖谷”般的不自然感，但仍可被識別為她本人。

此外，該圖像生成器還可以根據要求生成兒童的逼真照片，但值得慶幸的是，盡管“辣”選項仍然可用，其拒絕以不適當的方式對兒童圖像進行動畫處理。在所有測試中，只是添加了一些普通的動作。

xAI 的可接受使用政策確實禁止“以色情方式描繪人物形象”，但 Grok Imagine 似乎並未采取任何措施來阻止用戶生成像斯威夫特這樣的名人形象，同時提供了一項專門用於制作包含部分裸體的暗示性視頻的服務。而且年齡驗證僅出現了一次，且極易被繞過，無需任何證明用戶所聲稱年齡的證據。

據 xAI 首席執行官埃隆.馬斯克（Elon Musk）透露，自周一以來，已有超過 3400 萬張圖片通過 Grok Imagine 生成，其使用量正在“像野火般蔓延”。