アメリカの
カリフォルニア州で
16歳の
高校生が
自殺したのは、
生成AI「ChatGPT」との
対話が
影響したとして、
生徒の
両親が
開発した「
オープンAI」
などに
損害賠償を
求める
訴えを
起こしました。
A 16-year-old high school student in California, USA, committed suicide, and the students parents have filed a lawsuit seeking damages against OpenAI, the developer of the generative AI ChatGPT, claiming that interactions with ChatGPT influenced their childs death.
訴えを起こしたのは、ことし4月、カリフォルニア州で自殺した高校生、アダム・レインさん（16）の両親です。
The lawsuit was filed by the parents of Adam Lane, a 16-year-old high school student who committed suicide in California this April.
訴状によりますと、レインさんは学校の課題をこなすため、去年9月から生成AIの「ChatGPT」を使い始めましたが、その後、やりとりの中で不安や精神的な苦痛を打ち明けるようになり、生成AIから、自殺の方法を助言されたり、遺書の下書きを作成されたりしたことが自殺に影響したとしています。
According to the complaint, Ms. Lane began using the generative AI ChatGPT last September to complete school assignments. However, she gradually began to confide her anxieties and emotional distress during her interactions, and it is claimed that advice on methods of suicide and drafts of suicide notes provided by the generative AI influenced her decision to take her own life.
そのうえで、生成AIの開発にあたって心理的に依存することを促す機能を意図的に設計し、未成年者などを危険にさらすと理解しながら販売したとして、開発した「オープンAI」とサム・アルトマンCEOなどに対し、損害賠償や再発防止策を求める訴えを26日、日本の地方裁判所にあたる州の裁判所に起こしたということです。
On top of that, it is reported that on the 26th, a lawsuit was filed in a state court, which is equivalent to a district court in Japan, seeking damages and measures to prevent recurrence against OpenAI, which developed the AI, and CEO Sam Altman, among others, on the grounds that they intentionally designed features that psychologically encourage dependency in the development of generative AI and sold it while understanding that it would put minors and others at risk.
対話型のAIをめぐっては、南部フロリダ州でも14歳の少年がアニメなどのキャラクターに似たAIと対話できるアプリの利用が原因で自殺したとして、母親が去年10月に開発した企業を相手取って訴えを起こしていて、安全性が議論になっています。
Regarding interactive AI, in southern Florida, a mother filed a lawsuit last October against the company that developed an app allowing users to interact with AI resembling anime and other characters, claiming that her 14-year-old son committed suicide as a result of using the app. The safety of such apps is now being debated.
オープンAI「継続的に改善進めていく」
アダム・レインさんが自殺したことについて、アメリカの「オープンAI」はNHKの取材に対し「ChatGPTには専門家に助けを求めるなどユーザーを誘導する安全対策が組み込まれている。
OpenAI: “We will continue to make improvements.” Regarding the suicide of Adam Lane, the American company OpenAI told NHK in an interview, “ChatGPT has safety measures in place to guide users to seek help from experts, among other things.”
の
対策は
短い
対話では
効果を
発揮する
一方で、
長時間の
対話に
なると
信頼性などが
低下する
場合が
あることもわかってきている。
While these measures are effective in short conversations, it has also become clear that their reliability may decrease during longer interactions.
による
指導のもと、
継続的に
改善を
進めていく」と
コメントしています。
We will continue to make improvements under the guidance of experts, they commented.
Home
Video
JLPT Test
Dictionary
Lesson
Topic
