アメリカの
カリフォルニア州で
16歳の
高校生が
自殺したのは、
生成AI「ChatGPT」との
対話が
影響したとして、
生徒の
両親が
開発した「
オープンAI」
などに
損害賠償を
求める
訴えを
起こしました。
在美國加利福尼亞州,一名16歲的高中生自殺,據稱是受到了生成式AI「ChatGPT」對話的影響,因此該學生的父母對開發公司「OpenAI」等提出了損害賠償的訴訟。
訴えを起こしたのは、ことし4月、カリフォルニア州で自殺した高校生、アダム・レインさん(16)の両親です。
提起訴訟的是今年四月在加利福尼亞州自殺的高中生亞當·雷恩(16歲)的父母。
訴状によりますと、レインさんは学校の課題をこなすため、去年9月から生成AIの「ChatGPT」を使い始めましたが、その後、やりとりの中で不安や精神的な苦痛を打ち明けるようになり、生成AIから、自殺の方法を助言されたり、遺書の下書きを作成されたりしたことが自殺に影響したとしています。
根據訴狀,雷恩先生為了完成學校作業,從去年九月開始使用生成式AI「ChatGPT」,但之後在與AI的互動中,他開始傾訴自己的不安和精神痛苦,並表示生成式AI曾建議自殺方法,甚至協助起草遺書,這些行為對他的自殺造成了影響。
そのうえで、生成AIの開発にあたって心理的に依存することを促す機能を意図的に設計し、未成年者などを危険にさらすと理解しながら販売したとして、開発した「オープンAI」とサム・アルトマンCEOなどに対し、損害賠償や再発防止策を求める訴えを26日、日本の地方裁判所にあたる州の裁判所に起こしたということです。
在此基礎上,據稱有意設計出促使用戶在心理上產生依賴的功能,並明知會將未成年人等置於危險之中仍進行銷售,因此於26日,針對開發商「OpenAI」及其執行長山姆·奧特曼等人,向相當於日本地方法院的州級法院提出了要求損害賠償及防止再次發生等措施的訴訟。
対話型のAIをめぐっては、南部フロリダ州でも14歳の少年がアニメなどのキャラクターに似たAIと対話できるアプリの利用が原因で自殺したとして、母親が去年10月に開発した企業を相手取って訴えを起こしていて、安全性が議論になっています。
圍繞著對話型AI,在美國南部佛羅里達州也有一名14歲少年因使用可以與類似動畫等角色的AI對話的應用程式而自殺,母親去年10月已對開發該應用程式的公司提起訴訟,安全性問題正成為討論焦點。
オープンAI「継続的に改善進めていく」
アダム・レインさんが自殺したことについて、アメリカの「オープンAI」はNHKの取材に対し「ChatGPTには専門家に助けを求めるなどユーザーを誘導する安全対策が組み込まれている。
OpenAI:「我們會持續進行改進」針對亞當·雷恩先生自殺一事,美國的「OpenAI」在接受NHK採訪時表示:「ChatGPT內建有引導用戶尋求專家協助等安全措施。」
これらの
対策は
短い
対話では
効果を
発揮する
一方で、
長時間の
対話に
なると
信頼性などが
低下する
場合が
あることもわかってきている。
這些對策在短時間的對話中雖然有效,但也已經發現,當對話時間變長時,其可靠性等可能會下降。
専門家による
指導のもと、
継続的に
改善を
進めていく」と
コメントしています。