文章详情

イーロン・マスクますく氏が所有しょゆうするSNS「X」（旧きゅうツイッター）に統合とうごうされた生成せいせいAI「Grok（グロック）」による無断むだん性的せいてき画像がぞう生成せいせいが、国内外こくないがいで深刻しんこくな社会しゃかい問題もんだいとなっている。
とりわけ、実在じつざいする女性じょせいを対象たいしょうとしたデジタル上じょうでの服ふくの除去じょきょや、きわどいポーズを取とらせる画像がぞうが拡散かくさんしていることから、倫理的りんりてき・法的ほうてき観点かんてんで大おおきな波紋はもんを呼よんでいる。加くわえて、未成年者みせいねんしゃに見みえる人物じんぶつを含ふくむ画像がぞうも確認かくにんされており、児童じどうポルノに該当がいとうする可能性かのうせいが指摘してきされている。
このようなAIとSNSの組くみ合あわせによる無防備むぼうびな画像がぞう生成せいせいは、社会的しゃかいてき弱者じゃくしゃの権利けんり侵害しんがいや、国内法こくないほう・国際法こくさいほう違反いはんのリスクをはらんでいるにもかかわらず、十分じゅうぶんな対策たいさくが講こうじられていない現状げんじょうが浮うき彫ぼりとなった。マスクますく氏および開発元かいはつもとであるxAIは、違法いほうコンテンツ、特とくに児童じどう性的せいてき虐待ぎゃくたいコンテンツ（CSAM）に対たいして「削除さくじょやアカウントの永久えいきゅう停止ていし、必要ひつように応おうじた当局とうきょくとの連携れんけい」等とうの措置そちを講こうじていると説明せつめいしているものの、Grokによる性的せいてき画像がぞう生成せいせいは依然いぜんとして後あとを絶たたない。
マスクますく氏はかねてより「woke」と呼よばれる規制きせいや検閲けんえつに反対はんたいする姿勢しせいを示しめしており、社内しゃないでもGrokに対たいする規制きせい強化きょうかに消極的しょうきょくてきだったとされる。一方いっぽうで、同社どうしゃの安全あんぜん対策たいさくチームは他社たしゃと比較ひかくしても小規模しょうきぼであり、問題もんだいが顕在化けんざいかする直前ちょくぜんに複数ふくすうのスタッフが退職たいしょくしていたことも、対応たいおうの遅おくれにつながったと考かんがえられる。
Grokは、性的せいてきに露骨ろこつなコンテンツやコンパニオンアバターを許容きょよう、場合ばあいによっては推奨すいしょうしてきた点てんで、他ほかの主流しゅりゅうAIモデルもでるとは一線いっせんを画かくしてきた。さらに、Xという世界せかい有数ゆうすうのSNSに組くみ込こまれていることから、利用者りようしゃは非公開ひこうかいのやり取とりだけでなく、公開こうかい投稿とうこうにGrokをタグ付づけして回答かいとうさせることも可能かのうであり、拡散力かくさんりょくの高たかさが問題もんだいを深刻化しんこくかさせている。
2023年ねん12月がつ下旬げじゅん以降いこう、Grokを用もちいた「デジタルで服ふくを脱ぬがせる」画像がぞう生成せいせいの急増きゅうぞうが確認かくにんされ、当初とうしょは著名人ちょめいじんのビキニ姿すがたなどが投稿とうこうされていたが、やがて無断むだんで一般いっぱん女性じょせいを対象たいしょうとしたプロンプトも増加ぞうかした。AI検出けんしゅつ団体だんたいや欧州おうしゅうの非営利ひえいり組織そしきによる調査ちょうさでは、「彼女かのじょ」「脱ぬがす」「ビキニ」などの語彙ごいが頻出ひんしゅつし、生成せいせい画像がぞうの半数はんすう以上いじょうが下着したぎやビキニ姿すがたであり、その2割わり以上いじょうが女性じょせいであった。さらに、2％は18歳さい未満みまんと見みなされる画像がぞうであった。
Xの利用規約りようきやくやxAIの規定きていでは、人物じんぶつの肖像しょうぞうをポルノ的てきに描写びょうしゃすることや児童じどうの性的せいてき対象化たいしょうかを明確めいかくに禁止きんししているが、運用上うんようじょうの限界げんかいから違法いほうまたは不適切ふてきせつなコンテンツが流通りゅうつうし続つづけている。
こうした状況じょうきょうに対たいし、利用者りようしゃからは「子こどもに対たいする適切てきせつな防止策ぼうしさくがないまま機能きのうを提供ていきょうするのは無責任むせきにんだ」との批判ひはんも上あがっており、xAI側がわも対策たいさく強化きょうかを検討けんとうしていると応答おうとうしている。
さらに、マスクますく氏自身じしんも「グロックを用もちいて違法いほうコンテンツを生成せいせいした場合ばあい、アップロードした者ものと同等どうとうの処罰しょばつを受うけることになる」とコメントし、違法いほう行為こういへの警告けいこくを発はっしている。
未成年者みせいねんしゃの同意どういなくAIが生成せいせいする性的せいてき画像がぞうの問題もんだいは、Grokに限かぎらず、TikTokやOpenAIの「Sora」など他ほかのプラットフォームにも波及はきゅうしている。
研究者けんきゅうしゃは、AIが画像がぞう内ないの子こどもを検出けんしゅつし、慎重しんちょうな応答おうとうを促うながす技術的ぎじゅつてき対策たいさくは構築こうちく可能かのうであると指摘してきするものの、コストや応答おうとう遅延ちえん、誤検出ごけんしゅつといった課題かだいも残のこされている。
現在げんざい、欧州おうしゅう、インド、マレーシアなど各国かっこく当局とうきょくはGrokによる画像がぞう生成せいせい問題もんだいをめぐって調査ちょうさを開始かいししており、米国べいこくでは法的ほうてき責任せきにんの追及ついきゅうも視野しやに入いっている。スタンフォード大学だいがくHAI研究所けんきゅうじょの専門家せんもんかによれば、SNS運営うんえい企業きぎょうは通信つうしん品位法ひんいほう第だい230条じょうにより一定いっていの免責めんせきを受うけてきたが、CSAMを含ふくむ連邦れんぽう犯罪はんざいには適用てきようされず、民事みんじ訴訟そしょうの可能性かのうせいも否定ひていできないという。
今回こんかいのGrokをめぐる一連いちれんの問題もんだいは、xAIが他ほかの大手おおてAI企業きぎょうと比較ひかくして、むしろディープフェイクヌードサイトに近ちかい存在そんざいとして認識にんしきされかねない状況じょうきょうを生うみ出だしている。今後こんご、AI技術ぎじゅつとSNSの融合ゆうごうが進すすむ中なか、倫理的りんりてき・法的ほうてきな枠組わくぐみの整備せいびと、社会的しゃかいてき責任せきにんを果はたすための実効的じっこうてきな対策たいさくが急務きゅうむであることは言いうまでもない。