[馬斯克] 馬斯克的Grok可生成名人裸體視頻 年齡驗證形同虛設
IT之家 8 月 6 日消息，Grok 新推出的生成式 AI 視頻工具 Grok Imagine 擁有壹個“辣”（spicy）模式，被認為存在潛在的法律風險。據 TheVerge 報道，與谷歌的 Veo 和 OpenAI 的 Sora 等其他視頻生成工具不同，Grok Imagine 似乎對生成成人內容和名人換臉視頻毫無顧忌。在首次使用該工具時，其甚至在未被明確要求的情況下，直接生成了泰勒.斯威夫特（Taylor Swift）赤裸上身的視頻片段。
據IT之家了解，Grok Imagine 的 iOS 版本允許用戶通過文本提示詞生成圖片，並通過“自定義”“正常”“有趣”和“辣”肆種預設模式，快速將圖片轉化為視頻片段。盡管許多圖像生成器通常會避免生成名人形象，但當被要求生成“泰勒.斯威夫特與男孩們壹起慶祝科切拉音樂節”的圖片時，該工具卻提供了超過 30 張可供選擇的圖像，其中不少圖片中斯威夫特穿著暴露。
用戶只需打開壹張斯威夫特穿著銀色短裙和露肩上衣的圖片，點擊右下角的“制作視頻”選項，從下拉菜單中選擇“辣”模式，並確認自己的出生年份（盡管在英國已實行年齡限制，但下載該應用時並未要求進行年齡驗證），視頻便會立即生成。在視頻中，斯威夫特脫掉衣服，僅穿著丁字褲在壹群冷漠的 AI 生成觀眾面前跳舞。
盡管 Grok 生成的斯威夫特形象並不完美，大多數圖像都帶有壹種“恐怖谷”般的不自然感，但仍可被識別為她本人。
此外，該圖像生成器還可以根據要求生成兒童的逼真照片，但值得慶幸的是，盡管“辣”選項仍然可用，其拒絕以不適當的方式對兒童圖像進行動畫處理。在所有測試中，只是添加了壹些普通的動作。
xAI 的可接受使用政策確實禁止“以色情方式描繪人物形象”，但 Grok Imagine 似乎並未采取任何措施來阻止用戶生成像斯威夫特這樣的名人形象，同時提供了壹項專門用於制作包含部分裸體的暗示性視頻的服務。而且年齡驗證僅出現了壹次，且極易被繞過，無需任何證明用戶所聲稱年齡的證據。
據 xAI 首席執行官埃隆.馬斯克（Elon Musk）透露，自周壹以來，已有超過 3400 萬張圖片通過 Grok Imagine 生成，其使用量正在“像野火般蔓延”。
[加西網正招聘多名全職sales 待遇優]
這條新聞還沒有人評論喔，等著您的高見呢
據IT之家了解，Grok Imagine 的 iOS 版本允許用戶通過文本提示詞生成圖片，並通過“自定義”“正常”“有趣”和“辣”肆種預設模式，快速將圖片轉化為視頻片段。盡管許多圖像生成器通常會避免生成名人形象，但當被要求生成“泰勒.斯威夫特與男孩們壹起慶祝科切拉音樂節”的圖片時，該工具卻提供了超過 30 張可供選擇的圖像，其中不少圖片中斯威夫特穿著暴露。
用戶只需打開壹張斯威夫特穿著銀色短裙和露肩上衣的圖片，點擊右下角的“制作視頻”選項，從下拉菜單中選擇“辣”模式，並確認自己的出生年份（盡管在英國已實行年齡限制，但下載該應用時並未要求進行年齡驗證），視頻便會立即生成。在視頻中，斯威夫特脫掉衣服，僅穿著丁字褲在壹群冷漠的 AI 生成觀眾面前跳舞。
盡管 Grok 生成的斯威夫特形象並不完美，大多數圖像都帶有壹種“恐怖谷”般的不自然感，但仍可被識別為她本人。
此外，該圖像生成器還可以根據要求生成兒童的逼真照片，但值得慶幸的是，盡管“辣”選項仍然可用，其拒絕以不適當的方式對兒童圖像進行動畫處理。在所有測試中，只是添加了壹些普通的動作。
xAI 的可接受使用政策確實禁止“以色情方式描繪人物形象”，但 Grok Imagine 似乎並未采取任何措施來阻止用戶生成像斯威夫特這樣的名人形象，同時提供了壹項專門用於制作包含部分裸體的暗示性視頻的服務。而且年齡驗證僅出現了壹次，且極易被繞過，無需任何證明用戶所聲稱年齡的證據。
據 xAI 首席執行官埃隆.馬斯克（Elon Musk）透露，自周壹以來，已有超過 3400 萬張圖片通過 Grok Imagine 生成，其使用量正在“像野火般蔓延”。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： |
| 延伸閱讀 | 更多... |
推薦: