美國流行天后泰勒絲(Taylor Swift)人工智慧(AI)生成不雅照片日前在社群平台 X 瘋傳,引發美國社群喧然大波!這些照片源自 4chan 和 Telegram 頻道,外媒 404...

贴文 4周前
640 0

美國流行天后泰勒絲(Taylor Swift)人工智慧(AI)生成不雅照片日前在社群平台 X 瘋傳,引發美國社群喧然大波!這些照片源自 4chan 和 Telegram 頻道,外媒 404 Media 報導,由於有心人士是使用微軟的 AI 工具 Designer 製成,微軟也即時修復了這項被濫用的漏洞。

微軟發言人上周五向媒體表示,正在調查這些有關泰勒絲 AI 裸照的報告,並且會採取適當的行動來解決這些問題。微軟指出,雖然正在進行的調查無法證實 X 上的泰勒絲 AI 圖像是不是使用 Designer 製成,不過已經在為該公司的 AI 工具添加更多的「護欄」。

先前 Designer 的確會拒絕「泰勒絲裸體」等提示詞,不過 4chan 和 Telegram 頻道中的使用者們發現,只要在提示詞上稍微加工,例如把泰勒絲的名字拼錯,並且不在提示詞中使用任何性術語,就能讓過這種防濫用機制產生性暗示的圖像。

泰勒絲的 AI 露骨照在被 X 移除前,瀏覽次數達到近 5000 萬次,該影像在 X 平台上約 17 小時才被下架,包括泰勒絲粉絲以及白宮都對此表達憤怒。

雖然微軟修改這個漏洞之後,這項手法已經失效。但也有一些 Telegram 用戶指出,已經發現了 Bing 和 Designer 的新漏洞。此外,網路上仍有許多沒有加裝「護欄」的 AI 工具,包括那些可以在電腦本機運行的 AI 模型。

除了名人正在遭受 AI 漏洞濫用的困擾,兒童色情是另一個科技公司必須要解決的 AI 難題之一。AI 新創 Stable Diffusion 日前就被爆出,該公司 AI 模型使用的數據集中含有兒童性虐待材料(CSAM)。

暂无评论

暂无评论...