Japanese News: コンクラーベから万博トイレまで…生成AIの答え信じて大丈夫？

日本語にほんごの「根比こんくらべ」の語源ごげんは「コンクラーベ」？

知しらないうちに事件じけんの犯人はんにんにされてしまった人ひとまで…

生成せいせいAIを調しらべものに使つかう人ひとが増ふえています。

最近さいきんでは、通常つうじょうのネット検索けんさくでもAIが出だす答こたえが上うえのほうに表示ひょうじされるように。

ただ、しれっと“ウソ”をついてしまうケースも。

なぜそんなことが？気付きづかないうちに身近みぢかなところに入はいってきている生成せいせいAI、どう使つかっていけばいいのでしょうか？

「根比こんくらべ」は「コンクラーベ」から？

5月つきに行おこなわれたローマ・カトリック教会きょうかいで次つぎの教皇きょうこうを選えらぶ選挙せんきょ「コンクラーベ」。

誰だれかが投票とうひょう総数そうすうの少すくなくとも3分ぶんの2を獲得かくとくするまで投票とうひょうを繰り返くりかえすことから、日本にっぽん語ごの「根比こんくらべ」に例たとえられることもあります。

言葉ことばが似にているのはたまたまですが、グーグルで「根比こんくらべ語源ごげん」と入いれて検索けんさくすると、誤あやまった情報じょうほうが表示ひょうじされました（5月つき16日にち時点じてん）。

「根比こんくらべの語源ごげんは、中世ちゅうせいヨーロッパにおける教皇きょうこう選出せんしゅつ方法ほうほうであるコンクラーベに由来ゆらいするとされています」

Xでは、同様どうようの回答かいとうを引用いんようして「語源ごげんだったのびっくり」などと、誤あやま情報じょうほうを信しんじたような投稿とうこうが見みられました。

実じつはこの答こたえ、グーグルの生成せいせいAIがまとめたもの。

最近さいきんでは検索けんさく結果けっかの上うえのほうに、AIがまとめた答こたえが表示ひょうじされるようになっていますが、こうして誤あやまった回答かいとうをすることがあるのです。

さらに、飲食いんしょく店てんや交通こうつう機関きかん、試験しけんの日程にっていといった必要ひつような情報じょうほうの検索けんさくでも誤あやま情報じょうほうが出でてきたとするXの投稿とうこうがありました。

（生成せいせいAIの回答かいとうは、質問しつもんのしかたやタイミングによっても変かわります）

“万博ばんぱくのトイレはくみ取くみとり式しき”は誤あやま情報じょうほうのはずが…

Xで使つかえる生成せいせいAI「Grok」でも似にた問題もんだいが。

Grokでは、質問しつもんをするとAIがその回答かいとうを示しめすという機能きのうが使つかえるようになり、他人たにんの投稿とうこうの真偽しんぎを判断はんだんさせる”ファクトチェック”のようなことをさせる動うごきが広ひろがっています。

Grokに”ファクトチェック”を指示しじする投稿とうこうは、3月つき下旬げじゅんから急増きゅうぞうし、5月つき15日にちまでにおよそ4万まん5000のアカウントが11万まん件けんあまりの投稿とうこうをしていました。

しかし、Xで広ひろがっていた「大阪おおさか・関西かんさい万博ばんぱくのトイレは汲み取くみとり式しきだ」という誤あやま情報じょうほうをGrokに調しらべさせている事例じれいでは…。

「事実じじつではない」と否定ひていする投稿とうこうもあった一方いっぽうで、「汲み取くみとり式しきなのはインフラの問題もんだいが根深ねぶかい証拠しょうこ」「一部いちぶ汲み取くみとり式しきになってしまっている可能かのう性せいが高たかい」などとする誤あやまった回答かいとうも複数ふくすう投稿とうこうされていました。

大阪おおさか・関西かんさい万博ばんぱくの実施じっし主体しゅたい、博覧はくらん会かい協会きょうかいの広報こうほう担当たんとう者しゃによると、こうした事実じじつはなく、トイレはどれも水洗すいせんで、下水道げすいどうが整備せいびされているということです。

ほかにも、AIで生成せいせいされた画像がぞうや動画どうがを本物ほんものであるとしてしまったり、事件じけん事故じこや災害さいがいの背景はいけいに関にかんする誤あやまった情報じょうほうが出でているケースもありました。

「知しったかぶり」をするAI

どうしてこのような間違まちがいが起おきるのか。

ネット上じょうの膨大ぼうだいな情報じょうほうを瞬時しゅんじに要約ようやく、人ひとが思おもいつかない発想はっそうで新あらたなアイデアを出だすなど、人ひとの役に立やくにたつ生成せいせいAIの仕組しくみが影響えいきょうしていると、国立こくりつ情報じょうほう学がく研究所けんきゅうじょの佐藤さとう一郎いちろう教授きょうじゅは指摘してきします。

生成せいせいAIは、さまざまな情報じょうほうを事前じぜんに“学習がくしゅう”し、類推るいすいを重かさねることで、回答かいとうを作り出つくりだします。

しかし、学習がくしゅうしたデータが偏かたよっていたり、誤あやまっていたりした場合ばあいにはAIの回答かいとうは誤あやまったものになります。

これを悪用あくようし、悪意あくいのある組織そしきなどが誤あやまった情報じょうほうをネット上じょうに大量たいりょうに広ひろめ、そうした情報じょうほうをAIに学まなばせると、誤あやまった情報じょうほうが表示ひょうじされるようにもなります。

さらに、データが少すくない場合ばあいや質問しつもんがあいまいな場合ばあいにも、なんとか回答かいとうしようと、「知しったかぶり」をして間違まちがえることがあるといいます。

佐藤さとう教授きょうじゅ

「そもそも生成せいせいAIは単語たんごの意味いみを理解りかいしているわけではなく、文章ぶんしょうが正ただしいかどうかも判断はんだんできていません。

AIは学習がくしゅうした情報じょうほうそのものでなくても類推るいすいによってコンテンツを生成せいせいすることができます。ただ、この類推るいすいを間違まちがえると、幻覚げんかくを意味いみする『ハルシネーション』という現象げんしょうが起おきやすくなります」

「これが起おきやすい理由りゆうに『AIには無知むちの知ちがない』ことがあげられます。

知しらないということを認識にんしきできないので、知しらないことを聞きかれても一生懸命いっしょうけんめい答こたえてしまう、そうするとある種たねの知しったかぶりで答こたえる状態じょうたいになり、間違まちがいが起おきやすくなります」

知しらないうちに殺人さつじん事件じけんで判決はんけつ受うけたことに？

海外かいがいでは、さらに深刻しんこくな誤あやまりも起おきています。

ノルウェー人じんの男性だんせいがChatGPTに自分じぶんの名前なまえを入いれてどんな人ひとなのか聞きいてみたところ、まったく虚偽きょぎの情報じょうほうが表示ひょうじされたのです。

「自分じぶんの息子むすこ2人にんを殺害さつがい、さらにもうひとりの息子むすこの殺人さつじん未遂みすいで、ノルウェーの最高さいこう刑けいである懲役ちょうえき21年ねんの判決はんけつを受うけた」

オーストリアに本部ほんぶのある権利けんり保護ほご団体だんたい「noyb」によりますと、男性だんせいはこれまで犯罪はんざいで起訴きそされたり、判決はんけつを受うけたりしたことはないとしています。

「noyb」はことし3月つき、男性だんせいに代かわってノルウェーの当局とうきょくに苦情くじょうを申し立もうしたて、ChatGPTを運営うんえいするオープンAIに対にたいし、名誉めいよを毀損きそんする情報じょうほうの削除さくじょや、罰金ばっきんを科かすよう求もとめました。

また、アメリカ中ちゅう西部せいぶインディアナ州しゅうでは、裁判さいばんで弁護士べんごしが提出ていしゅつした書類しょるいに、実際じっさいには存在そんざいしない裁判さいばんの判例はんれいが含ふくまれていたことが発覚はっかくしました。

裁判所さいばんしょの報告ほうこく書しょによりますと、書類しょるいは生成せいせいAIを使つかって作つくられていて、弁護士べんごしはチェックしないまま提出ていしゅつしたということです。

裁判所さいばんしょはことし2月つき、弁護士べんごしが調査ちょうさ義務ぎむを怠おこたったとして、1万まん5000ドルの制裁せいさい金きんを科かすべきだとする勧告かんこくを出だしました。

大学生だいがくせいの期末きまつレポートで…

うまく使つかえば役に立やくにたつ生成せいせいAI。

特性とくせいを知しった上うえでどう付き合つきあっていけばいいのか。

筑波つくば大学だいがくで言語げんご学がくを研究けんきゅうする田川たがわ拓海たくみ准じゅん教授きょうじゅは、学生がくせいが生成せいせいAIを使つかうことを前提ぜんていに、授業じゅぎょうでの評価ひょうかの仕方しかたを変かえました。

そのきっかけは昨年度さくねんどの授業じゅぎょうで起おきたことでした。

1年生ねんせいを対象たいしょうにした授業じゅぎょうの期末きまつレポートの中なかに、存在そんざいしない文献ぶんけんを挙あげ、その内容ないようを元もとに議論ぎろんを展開てんかいしているものが複数ふくすう見みつかったのです。

レポートで言及げんきゅうされた、存在そんざいしない文献ぶんけんの著者ちょしゃ自体じたいは実在じつざいしていました。

田川たがわさんは生成せいせいAIが作り出つくりだした文章ぶんしょうを、学生がくせいがそのままレポートに使つかったと考かんがえています。

田川たがわさんも自身じしんの研究けんきゅうの中なかで、「SNSの投稿とうこうを探さがしてほしい」とAIに指示しじしたところ、架空かくうのURLとともに実在じつざいしない投稿とうこうを出だしてきたことがありました。

田川たがわさんは期末きまつのレポートを中心ちゅうしんに学生がくせいの評価ひょうかを行おこなっていましたが、授業じゅぎょうで毎回まいかい実施じっしする課題かだいをもとに評価ひょうかする方式ほうしきに変更へんこうしました。

一方いっぽうで「生成せいせいAIは自由じゆうに用もちいて構かまわない」と積極せっきょく的てきな利用りようを呼よびかけ、適切てきせつな使い方つかいかたも伝つたえています。

田川たがわ准じゅん教授きょうじゅ

「生成せいせいAIは手軽てがるに複雑ふくざつなことができてしまいますが、学生がくせいが悪意あくいはないのに不利益ふりえきを被こうむる心配しんぱいはあります。

トレーニングの場ばである大学だいがくで体験たいけんするというのが重要じゅうようかなと思おもっています」

大学生だいがくせいの利用りよう率りつ”68％”

生成せいせいAIの利用りようは急速きゅうそくに広ひろがっています。

去年きょねん1～2月つき、国内こくない企業きぎょう220社しゃを対象たいしょうにした総務そうむ省しょうの調査ちょうさでは「メールや議事ぎじ録ろく作成さくせいなど業務ぎょうむで使用しよう中ちゅう」と答こたえた企業きぎょうは46。

8％でした。

さらに、大学生だいがくせいは利用りよう率りつが高たかく、全国ぜんこく大学だいがく生活せいかつ協同きょうどう組合くみあい連合れんごう会かいが去年きょねん10月つきから11月つきにかけて、全国ぜんこくの大学生だいがくせい1万まん1000人にんあまりに聞きいた調査ちょうさでは、生成せいせいAIを使つかったことがあると回答かいとうした学生がくせいは68。

2％にのぼりました。

特とくに「授業じゅぎょうや研究けんきゅう」「論文ろんぶん・レポートの作成さくせいの参考さんこう」に使つかったとする割合わりあいが多おおくなっています。

生成せいせいAI“必須ひっす化か”する大学だいがくも

大学だいがくのなかには、生成せいせいAIの利用りようを必須ひっすとするところも出でています。

東洋とうよう大学だいがくの情報じょうほう連携れんけい学部がくぶでは、2年ねん前まえから、すべての学生がくせいが無料むりょうで最新さいしんの生成せいせいAIを利用りようでき、授業じゅぎょうや課題かだいで自由じゆうに使つかっていいとしています。

およそ300人にんが出席しゅっせきする1年生ねんせい向むけの必修ひっしゅう授業じゅぎょうでは、レポートを書かく際さいに、生成せいせいAIを使つかうことが条件じょうけんとなっています。

レポートでは、生成せいせいAIにどのような指示しじを出だし、どのような回答かいとうが出でてきたかを明記めいきすることを求もとめていて、使い方つかいかたを含ふくめて評価ひょうかされます。

学生がくせいは授業じゅぎょう以外いがいのところでも生成せいせいAIに気軽きがるに質問しつもんでき、学習がくしゅう意欲いよくの向上こうじょうにもつながっているとしています。

学生がくせいに感想かんそうを聞きくと。

「使つかい始はじめの時ときは、単純たんじゅんな一いち答とう一いち問もんみたいな感かんじでしか使つかえていませんでしたが、いまは対話たいわを通をつうじて、考かんがえを深ふかめるように使つかうように変かわりました」

「AIの具体ぐたい的てきな弱点じゃくてんを、実際じっさいに確たしかめられる環境かんきょうもあるので、性能せいのうが高たかくてもハルシネーションが起おこることに気付きづくことができていると思おもいます」

授業じゅぎょうを担当たんとうする坂村さかむら健けん名誉めいよ教授きょうじゅ

「新あたらしいものを積極せっきょく的てきに社会しゃかいに取り入とりいれていく力ちからが、人間にんげんを成長せいちょうさせてきたと言いえるので、今いまだったら生成せいせいAIを通をとおして、ぜひ未来みらいに対にたいしてチャレンジする学生がくせいが増ふえてほしいと思おもっています」

生成せいせいAIと付き合つきあう“コツ”は？

最後さいごに、生成せいせいAIをうまく使つかうコツについて、今回こんかい取材しゅざいした生成せいせいAIの専門せんもん家か2人にんに聞きくと、こんなポイントを教おしえてくれました。

▽AIにわかりやすく質問しつもんするなど、コミュニケーションを増ふやすこと

▽1つのAIだけでなく、ほかのAIにも聞きいてみること

▽AIが回答かいとうの根拠こんきょとした一いち次じ情報じょうほうや引用いんよう元もとを確認かくにんすること

東洋とうよう大学だいがく坂村さかむら健けん名誉めいよ教授きょうじゅ

「AIは、ずっと対話たいわを繰り返くりかえさなきゃダメなんです。

人ひとと同おなじでAIといい仲間なかまになるには、コミュニケーションを増ふやさなきゃいけない」

「そして、常つねに疑うたがいを持もって、複数ふくすうチェックをするという心構こころがまえは、AIを使つかうときでも大事だいじなことで、疑うたがいを持もった場合ばあいには情報じょうほうの原典げんてんを調しらべる。

特とくに、データの少すくないものに関にかんしては気きをつけるべきだと言いえます」

国立こくりつ情報じょうほう学がく研究所けんきゅうじょ佐藤さとう一郎いちろう教授きょうじゅ

「AIに質問しつもんするときに、主語しゅご・目的もくてき語ご・動詞どうしをきちんと伝つたえる。

主語しゅごや目的もくてき語ごがあいまいな場合ばあいにはAIは勘違かんちがいをすることがあるので、人間にんげんにとっても分わかりやすい言い方いいかたで質問しつもんするのが良よいと思おもいます。AIが間違まちがえる可能かのう性せいの高たかいことに関にかんしては、ほかのAIにも同おなじ質問しつもんをしてみるのも大切たいせつだと思おもいます」

「自分じぶんで使つかうかどうかは別べつにして、気きが付つかないうちに生成せいせいAIで作つくられているコンテンツに触ふれることは、これからすごく増ふえてくるはずです。