アメリカの
カリフォルニア州で
16歳の
高校生が
自殺したのは、
生成AI「ChatGPT」との
対話が
影響したとして、
生徒の
両親が
開発した「
オープンAI」
などに
損害賠償を
求める
訴えを
起こしました。
在美国加利福尼亚州,一名16岁的高中生自杀,其父母认为与生成式人工智能“ChatGPT”的对话对其产生了影响,因而对开发该AI的“OpenAI”等公司提起了损害赔偿诉讼。
訴えを起こしたのは、ことし4月、カリフォルニア州で自殺した高校生、アダム・レインさん(16)の両親です。
提出诉讼的是今年4月在加利福尼亚州自杀的高中生亚当·雷恩(16岁)的父母。
訴状によりますと、レインさんは学校の課題をこなすため、去年9月から生成AIの「ChatGPT」を使い始めましたが、その後、やりとりの中で不安や精神的な苦痛を打ち明けるようになり、生成AIから、自殺の方法を助言されたり、遺書の下書きを作成されたりしたことが自殺に影響したとしています。
根据起诉状,雷因先生为了完成学校的作业,从去年9月开始使用生成式AI“ChatGPT”,但之后在交流过程中,他开始倾诉自己的不安和精神上的痛苦,生成式AI向他建议了自杀的方法,还帮他起草了遗书草稿,这些都对他的自杀产生了影响。
そのうえで、生成AIの開発にあたって心理的に依存することを促す機能を意図的に設計し、未成年者などを危険にさらすと理解しながら販売したとして、開発した「オープンAI」とサム・アルトマンCEOなどに対し、損害賠償や再発防止策を求める訴えを26日、日本の地方裁判所にあたる州の裁判所に起こしたということです。
在此基础上,据称他们在开发生成式AI时,有意设计了促使用户在心理上产生依赖的功能,并明知会使未成年人等处于危险之中仍进行销售,因此于26日向相当于日本地方法院的州法院,对开发公司“OpenAI”及其首席执行官萨姆·奥特曼等提起了要求赔偿损失及防止再次发生的诉讼。
対話型のAIをめぐっては、南部フロリダ州でも14歳の少年がアニメなどのキャラクターに似たAIと対話できるアプリの利用が原因で自殺したとして、母親が去年10月に開発した企業を相手取って訴えを起こしていて、安全性が議論になっています。
关于对话型AI,在南部佛罗里达州,一名14岁的少年因使用可以与类似动画角色的AI对话的应用程序而自杀,母亲于去年10月起诉了开发该应用的公司,目前安全性问题正在成为讨论的焦点。
オープンAI「継続的に改善進めていく」
アダム・レインさんが自殺したことについて、アメリカの「オープンAI」はNHKの取材に対し「ChatGPTには専門家に助けを求めるなどユーザーを誘導する安全対策が組み込まれている。
OpenAI表示“将持续改进”,针对亚当·莱因(Adam Lane)自杀一事,美国的OpenAI在接受NHK采访时表示:“ChatGPT内置了引导用户寻求专家帮助等安全措施。”
これらの
対策は
短い
対話では
効果を
発揮する
一方で、
長時間の
対話に
なると
信頼性などが
低下する
場合が
あることもわかってきている。
这些对策在短时间的对话中虽然有效,但也已经发现,在长时间的对话中,其可靠性等可能会下降。
専門家による
指導のもと、
継続的に
改善を
進めていく」と
コメントしています。