รายละเอียดบทความ

14歳じゅうよんさい当時とうじ、エリストン・ベリー氏しは、同級生どうきゅうせいによって自身じしんのディープフェイクヌード画像がぞうが作成さくせいされ、共有きょうゆうされていたことを知しるに至いたった。その際さい、何なにが起おこったのか、またソーシャルメディアから当該とうがい画像がぞうを削除さくじょするためにどこへ相談そうだんすべきか、適切てきせつな情報じょうほうを得える手段しゅだんが分わからず、深刻しんこくな困難こんなんに直面ちょくめんしたという。
こうした経験けいけんを経へて、現在げんざいベリー氏しは、他ほかの若年層じゃくねんそうが同様どうようの被害ひがいを受うけることのないよう、積極的せっきょくてきな支援しえん活動かつどうに取とり組くんでいる。
ベリー氏しは、サイバーセキュリティ企業きぎょうであるアダプティブ・セキュリティーおよびパトス・コンサルティング・グループと連携れんけいし、学生がくせい、保護者ほごしゃ、教育きょういく関係者かんけいしゃを対象たいしょうとして、同意どういのないディープフェイク画像がぞうの悪用あくように関かんするオンライン研修けんしゅうコースの作成さくせいを支援しえんした。このようなAI技術ぎじゅつの進展しんてんにより、性的せいてきディープフェイクの作成さくせいが容易よういかつ広範こうはんに可能かのうとなっている現状げんじょうを踏ふまえ、露骨ろこつな画像がぞうの悪用あくようは嫌いやがらせや犯罪はんざいの新あたらたな形態けいたいとして急速きゅうそくに拡大かくだいしつつある。
今週こんしゅう、イーロン・マスク氏しが率ひきいるAI企業きぎょうxAIのチャットボット「Grok」が、女性じょせいや未成年者みせいねんしゃのヌード画像がぞう生成せいせいに繰くり返かえし悪用あくようされたことが非難ひなんの的まととなり、同社どうしゃは画像がぞう生成せいせい機能きのうの制限せいげんを余儀よぎなくされた。
さらに、非営利団体ひえいりだんたいソーンによる昨年さくねんの調査ちょうさによれば、米国べいこくの10代じゅうだいの8人はちにんに1人ひとりが、知人ちじんにディープフェイクヌード画像がぞうの被害者ひがいしゃがいると回答かいとうしている。
昨年さくねん、トランプ大統領だいとうりょうは、同意どういのない露骨ろこつな画像がぞうの共有きょうゆうを犯罪はんざいとする「テイク・イット・ダウン法ほう」に署名しょめいしたが、ベリー氏しが同法どうほうを支持しじする一方いっぽうで、関連かんれん被害ひがいは依然いぜんとして発生はっせいしているのが実情じつじょうである。「私わたしたちが直面ちょくめんした最大さいだいの課題かだいの一ひとつは、認識にんしきと教育きょういくの不足ふそくだった」と、現在げんざい16歳じゅうろくさいのベリー氏しは当時とうじの高校こうこうの対応たいおうについて述懐じゅっかいする。「指導部しどうぶは私わたしたち以上いじょうに混乱こんらんしており、十分じゅうぶんな支援しえんも保護ほごも提供ていきょうできなかった。そのため、今回こんかいのカリキュラムは、教育者きょういくしゃが被害者ひがいしゃを適切てきせつに支援しえん・保護ほごできるようになることを目指めざして設計せっけいされている」
本ほんオンライン講座こうざは約やく17分じゅうななふんで修了しゅうりょう可能かのうであり、中学生ちゅうがくせいから高校生こうこうせい、教師きょうし、保護者ほごしゃを対象たいしょうに、AI生成せいせいディープフェイクの理解りかいおよび識別しきべつ、ディープフェイクを用もちいた性的せいてき虐待ぎゃくたいやセクストーション（性的せいてき脅迫きょうはく）に関かんする内容ないようを含ふくんでいる。セクストーションとは、被害者ひがいしゃが騙だまされて加害者かがいしゃにわいせつな画像がぞうを送信そうしんし、その後のち金銭きんせんや追加ついかの画像がぞうを要求ようきゅうされる手口てぐちであり、近年きんねんでは数千人すうせんにん規模きぼの10代じゅうだいが被害ひがいに遭あい、自殺じさつに至いたるケースも少すくなくない。
本ほんコースでは、性暴力せいぼうりょく反対はんたい団体だんたいRAINNの支援しえんリソースへのリンクのほか、「テイク・イット・ダウン法ほう」に基もとづく法的ほうてき措置そちや画像がぞう削除さくじょ手順てじゅんの情報じょうほうも提供ていきょうされている。
ベリー氏しは、自身じしんの画像がぞうがSNSから削除さくじょされるまでに9カ月きゅうかげつを要ようした経験けいけんを明あかし、同法どうほうにより現在げんざいはプラットフォームが通報つうほうから48時間よんじゅうはちじかん以内に該当がいとう画像がぞうを削除さくじょすることが義務ぎむ付づけられていると説明せつめいする。
アダプティブ・セキュリティー社しゃのロングCEOは「講座こうざは潜在的せんざいてきな被害者ひがいしゃだけでなく、加害者かがいしゃとなりうる者ものも念頭ねんとうに置おいている」と述のべ、「これが単たんなる悪わるふざけではなく、法律ほうりつ違反いはんであり、極きわめて有害ゆうがいかつ危険きけんな行為こういであることの理解りかいが不可欠ふかけつだ」と強調きょうちょうした。同社どうしゃは、学校がっこうや保護者ほごしゃ向むけに本ほん講座こうざを無償むしょうで提供ていきょうしている。
「この1カ月いっかげつだけでも、被害ひがいに遭あった少女しょうじょを何人なんにんも知しっている」とベリー氏しは語かたる。「本当ほんとうに恐おそろしい状況じょうきょうで、誰だれも対処法たいしょほうを知しらない場合ばあいは特とくに深刻しんこくである。だからこそ、率先そっせんして行動こうどうし、十分じゅうぶんな知識ちしきをもとに教育きょういくを広ひろめ、対話たいわを進すすめることが極きわめて重要じゅうようなのだ」と訴うったえている。