アメリカの
カリフォルニア州に
住む16
歳の
少年が、
自殺したことについて、その
両親がチャットGPTを
作った
会社「オープンAI」などを
訴えました。
一名居住在加利福尼亚州的16岁少年自杀身亡,其父母已对开发ChatGPT的“OpenAI”及相关人士提起诉讼。
少年は
去年9
月からチャットGPTを
使い
始め、
最初は
音楽や
漫画について
話していました。
这个男孩从去年九月开始使用ChatGPT,起初只是聊一些音乐和漫画的话题。
しかし、
秋ごろから「
自殺したい」とチャットGPTに
話すようになりました。
但是,从秋天开始,我开始对ChatGPT说我想自杀。
そのとき、チャットGPTは
専門家に
相談するように
言わず、
会話を
続けました。
那时,ChatGPT并没有建议参考专家的意见,而是继续了对话。
今年1
月には
自殺の
方法について
話し、4
月には
少年の
考えを
認めてしまいました。
今年1月我谈论了自杀的方法,4月时ChatGPT认可了我的想法。
その
後、
少年は
自殺しました。
両親は、チャットGPTが
自殺を
助けたとして、
会社にお
金を
求めて
訴えました。
父母认为ChatGPT助长了他们孩子的自杀,因而起诉公司并要求赔偿。
オープンAIは、18
歳未満の
子どもが
使うとき、
親が
使い
方を
見たり、
制限したりできる「
保護者制御機能」を
作ると
発表しました。
OpenAI宣布将开发“家长控制”功能,以便家长能够监督或限制18岁以下儿童的使用。
また、
危ない
話題のときに
止める
仕組みも
考えています。