アメリカの
カリフォルニア州に
住む16
歳の
少年が、
自殺したことについて、その
両親がチャットGPTを
作った
会社「オープンAI」などを
訴えました。
A 16-year-old boy living in California committed suicide, and his parents have filed a lawsuit against OpenAI, the developer of ChatGPT, and related parties.
少年は
去年9
月からチャットGPTを
使い
始め、
最初は
音楽や
漫画について
話していました。
He started using ChatGPT last September, and at first, he was only talking about music and manga.
しかし、
秋ごろから「
自殺したい」とチャットGPTに
話すようになりました。
However, around autumn, I started telling ChatGPT that I wanted to kill myself.
そのとき、チャットGPTは
専門家に
相談するように
言わず、
会話を
続けました。
At that time, ChatGPT continued the conversation without recommending consulting an experts opinion.
今年1
月には
自殺の
方法について
話し、4
月には
少年の
考えを
認めてしまいました。
In January of this year, I talked about methods of suicide, and in April, ChatGPT acknowledged my thoughts.
その
後、
少年は
自殺しました。
After that, the boy committed suicide.
両親は、チャットGPTが
自殺を
助けたとして、
会社にお
金を
求めて
訴えました。
The parents believed that ChatGPT encouraged their childs suicide and sued the company for damages.
オープンAIは、18
歳未満の
子どもが
使うとき、
親が
使い
方を
見たり、
制限したりできる「
保護者制御機能」を
作ると
発表しました。
OpenAI announced that it will develop a parental control feature to allow guardians to supervise or restrict usage by children under the age of 18.
また、
危ない
話題のときに
止める
仕組みも
考えています。
The company is also considering mechanisms to halt operations when dangerous topics arise.