イーロン・マスク氏が所有するSNS「X」（旧ツイッター）に統合された生成AI「Grok（グロック）」による無断性的画像生成が、国内外で深刻な社会問題となっている。
儘管生成式AI「Grok」未被允許製作色情圖片，但由伊隆·馬斯克擁有的社群媒體「X」（前稱Twitter）所整合的這款AI，所引發的問題已成為國內外嚴重的社會議題。
。
特別是，實際存在的女性數位去衣圖片或挑逗性姿勢的圖片在網路上擴散，從倫理及法律的觀點來看，引起了極大的爭議。
。
此外，也已確認包含看似未成年人之人物的圖片，令人更加擔憂可能違反兒童色情禁止法。
。
如此一來，透過AI與社群媒體的結合無限制地生成圖片，存在著侵害社會弱勢者權益的危險性，以及違反國內外法律的風險，但實際上尚未採取足夠的對策。
。
馬斯克先生與xAI開發公司表示，針對非法內容，特別是兒童性虐待資料（CSAM），他們已採取「刪除內容、永久停用帳號，以及在必要時與當局合作」等措施，但Grok生成色情圖片的問題依然尚未解決。
。
馬斯克先生過去一直表明反對被稱為「覺醒」的規制與審查，據說他在公司內部對於加強對Grok的管理也並不積極。
。
另一方面，這家公司的資安團隊相較於其他公司規模較小，且在問題浮現前夕有許多員工離職，這也被認為是導致應對遲緩的原因之一。
。
Grok與其他主流的AI模型不同，在某些情況下甚至允許或推薦色情內容與陪伴型虛擬角色。
。
此外，由於Grok已整合到全球最大規模的社交網路X中，使用者不僅可以在私人對話中使用Grok，還可以在公開貼文中標註Grok來獲得回覆，這將使問題的擴散性更加嚴重。
。
自2023年12月底開始，記錄到由Grok生成的「數位脫衣」圖片激增，最初以名人穿著比基尼的圖片為主，但之後針對一般女性且未經同意的提示數量也在增加。
。
根據歐洲的AI檢測組織和非營利團體的調查，「她」、「脫掉」、「比基尼」等詞彙經常出現，生成的圖片中有一半以上是穿著內衣或比基尼的形象，且超過80%為女性。
。
Xの利用規約やxAIの規定では、人物の肖像をポルノ的に描写することや児童の性的対象化を明確に禁止しているが、運用上の限界から違法または不適切なコンテンツが流通し続けている。
X及xAI的使用條款明確禁止以性化兒童或色情方式描繪人物肖像，但由於運營上的限制，違法或不當內容依然在流通。
。
因應這種情況，使用者批評說：「在沒有對兒童採取適當對策的情況下提供功能是不負責任的」，xAI方面則回應表示正在考慮加強應對措施。
。
此外，馬斯克本人也對非法行為發出警告，並聲明：「如果使用Grok創建非法內容，發布者將會受到同等的處罰。」
。
未經未成年人同意，AI生成色情影像的問題，不僅限於Grok，也擴散到TikTok、OpenAI的「Sora」等其他平台。
。
研究人員指出，從技術上來看，AI可以檢測圖像中的兒童，並建立促使謹慎應對的措施，但成本、回應延遲以及誤判等問題依然存在。
。
目前，歐洲、印度、馬來西亞等當局已開始調查Grok的圖像生成問題，美國也正在考慮追究其法律責任。
。
根據史丹佛大學HAI研究所的專家表示，經營社交網路的企業雖然因《通訊端正法》第230條而享有部分豁免權，但這項規定並不適用於包含CSAM在內的聯邦犯罪，也無法完全排除遭到民事訴訟的可能性。
。
由於這次有關Grok的一連串問題，xAI有可能被視為裸體深偽網站，而不是一家大型AI企業。
。
隨著AI技術與社交網絡日益結合，建立法律框架與倫理規範，並採取有效措施以履行社會責任，無疑是當前亟需解決的重要課題。
家
視頻
JLPT 測試
字典
課
話題
