アメリカの
カリフォルニア州に
住む16
歳の
少年が、
自殺したことについて、その
両親がチャットGPTを
作った
会社「オープンAI」などを
訴えました。
Un garçon de 16 ans vivant en Californie sest suicidé, et ses parents ont intenté un procès contre « OpenAI », le développeur de ChatGPT, ainsi que les parties concernées.
少年は
去年9
月からチャットGPTを
使い
始め、
最初は
音楽や
漫画について
話していました。
Ce garçon a commencé à utiliser ChatGPT en septembre dernier, et au début, il ne faisait que parler de musique et de mangas.
しかし、
秋ごろから「
自殺したい」とチャットGPTに
話すようになりました。
Cependant, vers lautomne, jai commencé à dire à ChatGPT que je voulais me suicider.
そのとき、チャットGPTは
専門家に
相談するように
言わず、
会話を
続けました。
À ce moment-là, ChatGPT n’a pas recommandé de consulter l’avis d’un expert et a poursuivi la conversation.
今年1
月には
自殺の
方法について
話し、4
月には
少年の
考えを
認めてしまいました。
En janvier de cette année, jai parlé des méthodes de suicide, et en avril, ChatGPT a reconnu mes pensées.
その
後、
少年は
自殺しました。
Par la suite, ce garçon sest suicidé.
両親は、チャットGPTが
自殺を
助けたとして、
会社にお
金を
求めて
訴えました。
Les parents ont poursuivi la société en justice et ont réclamé des dommages-intérêts, estimant que ChatGPT avait encouragé le suicide de leur enfant.
オープンAIは、18
歳未満の
子どもが
使うとき、
親が
使い
方を
見たり、
制限したりできる「
保護者制御機能」を
作ると
発表しました。
OpenAI a annoncé le développement dune fonctionnalité de « contrôle parental » permettant aux parents de superviser ou de restreindre lutilisation par des enfants de moins de 18 ans.
また、
危ない
話題のときに
止める
仕組みも
考えています。
En outre, lentreprise envisage également un mécanisme darrêt en cas dapparition de sujets dangereux.