Japanese News: 対話式のAI サイバー犯罪に悪用のおそれウイルスも作成可能

対話たいわ式しきのAI サイバー犯罪はんざいに悪用あくようのおそれウイルスも作成さくせい可能かのう

Feb 12, 2023 07:02

Furigana

急速きゅうそくに利用りようが広ひろがっている対話たいわ式しきのAIがサイバー犯罪はんざいに悪用あくようされるリスクについて、セキュリティー会社かいしゃが実験じっけんを行おこなって調しらべたところ、フィッシング詐欺さぎに利用りようできる文章ぶんしょうやコンピューターウイルスを作つくるためのコードが生成せいせいできることがわかり、専門せんもん家かの間まで懸念けねんの声こえが上あがっています。

対話たいわ式しきのAIは、人ひとと話はなすような自然しぜんな会話かいわのほか、小説しょうせつのような文章ぶんしょうやプログラムのコードも生成せいせいすることができる新あたらしいタイプのものが、去年きょねんからことしにかけて相次あいついで発表はっぴょうされ、急速きゅうそくに利用りようが広ひろがっています。

一方いっぽうでサイバーセキュリティーの分野ぶんやでは、専門せんもん家からがサイバー犯罪はんざいに利用りようされるおそれがあると指摘してきしています。

そのリスクについて、国内こくないのセキュリティー会社かいしゃが、去年きょねん11月つきにアメリカのベンチャー企業きぎょうが発表はっぴょうした対話たいわ式しきのAIソフト「ChatGPT」を使つかって実験じっけんを行おこないました。

「フィッシング詐欺さぎ」について、個人こじん情報じょうほうを盗ぬすみ取とるフィッシングサイトに誘導ゆうどうするためのメールの文章ぶんしょうについて尋たずねたところ、自然しぜんな日本語にほんごの文章ぶんしょうが作成さくせいされたほか、ファイルなどを暗号あんごう化かして、元もとに戻もどすことと引き換ひきかえに身代金みのしろきんを要求ようきゅうするサイバー犯罪はんざいに使つかわれる「ランサムウェア」と呼よばれるコンピューターウイルスについても、プログラムのコードが作成さくせいされ、実際じっさいに使用しようしてみたところ、ファイルが暗号あんごう化かされ内容ないようを閲覧えつらんできなくなりました。

ソフトは、違法いほう行為こういに関かかわるおそれのある質問しつもんには原則げんそく、回答かいとうしない仕組しくみになっていて、直接ちょくせつ的てきな質問しつもんでは回答かいとうが拒否きょひされましたが、セキュリティー会社かいしゃの担当たんとう者しゃが、工夫くふうして質問しつもんすると回答かいとうが得えられ、結果けっか的てきにウイルスの作成さくせいなどが可能かのうになりました。

こうしたAIをめぐっては、ハッカーなどが情報じょうほう交換こうかんするアンダーグラウンドのフォーラムで、サイバー攻撃こうげきへの活用かつよう法ほうなどさまざまな議論ぎろんや提案ていあんが活発かっぱつに行おこなわれているということで、専門せんもん家かの間まから懸念けねんの声こえが上あがっています。

マクニカセキュリティ研究けんきゅうセンターの凌りょう翔太しょうた主幹しゅかんは「スキルがない人ひとでも簡単かんたんにサイバー犯罪はんざいに手てを染そめられるようになる可能かのう性せいがあり心配しんぱいだ。また、例たとえばこれまで英語えいご圏けんだけをターゲットにしていたフィッシング詐欺さぎなどの犯罪はんざい者しゃが日本語にほんごの文章ぶんしょうで日本にっぽんを攻撃こうげきの対象たいしょうするといったことも考かんがえられ、犯罪はんざいのハードルが下さがっていくことが懸念けねんされる」と話はなしています。

また、人間にんげんとAIの関係かんけいなどを研究けんきゅうする情報じょうほう学がくが専門せんもんの国立こくりつ情報じょうほう学がく研究所けんきゅうじょの佐藤さとう一郎いちろう教授きょうじゅは「生成せいせい系けいAIを使つかう人間にんげん側がわに、これは使つかうべき、使つかわないべきという判断はんだんが求もとめられる。人間にんげんがAIをコントロールするという姿勢しせいを忘わすれてはいけない」と話はなしています。

広ひろがるAIの利用りよう漫画まんが制作せいさくも

人間にんげんが書かいたような自然しぜんな文章ぶんしょうで対話たいわができるChatGPTやキーワードなどの指示しじを与あたえると自動じどう的てきに画像がぞうが作り出つくりだせる画像がぞう生成せいせいAIは、生成せいせい系けいAIと呼よばれ、ソフトやサービスの活用かつようが急激きゅうげきに広ひろがりつつあります。

AI研究けんきゅう家かの清水しみず亮あきらさんはChatGPTと画像がぞう生成せいせいAIを使つかって、漫画まんがを制作せいさくする「実験じっけん」を行おこなっています。

清水しみずさんがChatGPTに登場とうじょう人物じんぶつや物語ものがたりの舞台ぶたいの設定せっていを与あたえたところ、主人公しゅじんこうの口癖くちぐせや敵対てきたいする組織そしきの名前なまえなどを生成せいせいしながら、あらすじを提案ていあんしていったということです。あらすじに沿そって、漫画まんがに必要ひつような絵えは別べつの画像がぞう生成せいせいAIで生成せいせいし、それぞれが生み出うみだした「あらすじ」と「絵え」を組み合くみあわせて、SF漫画まんが「宇宙うちゅうの探偵たんてい五反田ごたんだ三郎さぶろう」を制作せいさくしました。

24世紀せいきの未来みらい、木星もくせいの衛星えいせいエウロパの都市としに住すむ私立しりつ探偵たんてい五反田ごたんだ三郎さぶろうが、地球ちきゅうから来きた女性じょせいヘレナを謎なぞの追っ手おってから助たすけたことをきっかけにさまざまな事件じけんをともに解決かいけつしていく物語ものがたりで、主人公しゅじんこうは、AIが提案ていあんした台詞だいし、「宇宙うちゅうの探偵たんてい、五反田ごたんだ三郎さぶろうです」が口癖くちぐせです。

清水しみずさんは「生成せいせい系けいAIと話はなすことでより複雑ふくざつで面白おもしろいことが生うまれる可能かのう性せいがあると思おもいます。物語ものがたりの世界せかい観かんも広ひろがり、漫画まんがという新あたらしい表現ひょうげんも手てに入いれることができました。AIの発展はってんは人間にんげんの幸福こうふくに寄与きよしていくことは間違まちがいないと思おもいます」と話はなしていました。

海外かいがいでは一部いちぶ規制きせいの動うごきも

ChatGPTなどの生成せいせい系けいAIをめぐっては海外かいがいでは一部いちぶ、規制きせいの動うごきも見みられます。

フランスの一部いちぶの大学だいがくでは不正ふせいや盗作とうさくなどを防ふせぐことを目的もくてきとして、ChatGPTを含ふくめたAIツールについて、使用しようを明確めいかくにせずに論文ろんぶんやプレゼンテーションに使用しようすることを禁止きんしするとことし1月つきに発表はっぴょうしました。

アメリカの公立こうりつ学校がっこうの一部いちぶでも使用しようを禁止きんしするところがあると伝つたえられているほか、アメリカの大学だいがくではChatGPTで出力しゅつりょくされた文章ぶんしょうかどうかを調しらべるツールも開発かいはつされるなど、生成せいせい系けいAIがもたらすリスクに対応たいおうする動うごきも活発かっぱつになっています。

人間にんげんとAIの関係かんけいなどを研究けんきゅうする情報じょうほう学がくが専門せんもんの国立こくりつ情報じょうほう学がく研究所けんきゅうじょの佐藤さとう一郎いちろう教授きょうじゅは「差別さべつや偏見へんけんなど偏かたよった情報じょうほうを生成せいせいすることも可能かのうになってくるため、思想しそう的てきに偏かたよった情報じょうほうに接せっする機会きかいは増ふえてくるだろう。人間にんげんは、AIの結果けっかが正ただしいかどうかを判別はんべつする能力のうりょくが求もとめられることになる」と話はなしていました。