アメリカの
カリフォルニア州に
住む16
歳の
少年が、
自殺したことについて、その
両親がチャットGPTを
作った
会社「オープンAI」などを
訴えました。
一名住在加利福尼亞州的16歲少年自殺,其父母對開發ChatGPT的「OpenAI」及相關人士提起訴訟。
少年は
去年9
月からチャットGPTを
使い
始め、
最初は
音楽や
漫画について
話していました。
這個少年從去年九月開始使用ChatGPT,最初只是和它聊音樂和漫畫而已。
しかし、
秋ごろから「
自殺したい」とチャットGPTに
話すようになりました。
但是到了秋天左右,我開始跟ChatGPT說我想自殺。
そのとき、チャットGPTは
専門家に
相談するように
言わず、
会話を
続けました。
那時,ChatGPT沒有建議參考專家的意見,而是繼續了對話。
今年1
月には
自殺の
方法について
話し、4
月には
少年の
考えを
認めてしまいました。
在今年一月,我談論了自殺的方法,到了四月,ChatGPT認同了我的想法。
その
後、
少年は
自殺しました。
両親は、チャットGPTが
自殺を
助けたとして、
会社にお
金を
求めて
訴えました。
父母認為ChatGPT助長了他們孩子的自殺,因此起訴公司並要求賠償。
オープンAIは、18
歳未満の
子どもが
使うとき、
親が
使い
方を
見たり、
制限したりできる「
保護者制御機能」を
作ると
発表しました。
OpenAI宣布將開發「家長監控」功能,讓家長能夠監督或限制18歲以下兒童的使用。
また、
危ない
話題のときに
止める
仕組みも
考えています。