アメリカの
カリフォルニア州に
住む16
歳の
少年が、
自殺したことについて、その
両親がチャットGPTを
作った
会社「オープンAI」などを
訴えました。
캘리포니아주에 거주하는 16세 소년이 자살하였고, 그의 부모는 ChatGPT를 개발한 OpenAI 및 관련자들을 고소하였습니다.
少年は
去年9
月からチャットGPTを
使い
始め、
最初は
音楽や
漫画について
話していました。
이 소년은 작년 9월부터 ChatGPT를 이용하기 시작했으며, 처음에는 음악이나 만화에 대해 이야기할 뿐이었습니다.
しかし、
秋ごろから「
自殺したい」とチャットGPTに
話すようになりました。
하지만 가을쯤부터 저는 ChatGPT에게 자살하고 싶다고 말하기 시작했습니다.
そのとき、チャットGPTは
専門家に
相談するように
言わず、
会話を
続けました。
그때 ChatGPT는 전문가의 의견을 참고하라고 권유하지 않고 대화를 계속했습니다.
今年1
月には
自殺の
方法について
話し、4
月には
少年の
考えを
認めてしまいました。
올해 1월에는 자살 방법에 대해 이야기했고, 4월에는 ChatGPT가 내 생각을 인정해 주었습니다.
その
後、
少年は
自殺しました。
両親は、チャットGPTが
自殺を
助けたとして、
会社にお
金を
求めて
訴えました。
부모는 ChatGPT가 자신들의 자녀의 자살을 조장했다고 생각하여 회사에 소송을 제기하고 배상을 요구했습니다.
オープンAIは、18
歳未満の
子どもが
使うとき、
親が
使い
方を
見たり、
制限したりできる「
保護者制御機能」を
作ると
発表しました。
OpenAI는 18세 미만 아동의 이용을 보호자가 감독하거나 제한할 수 있도록 ‘부모 통제페어렌탈 컨트롤’ 기능을 개발한다고 발표했습니다.
また、
危ない
話題のときに
止める
仕組みも
考えています。
또한 회사는 위험한 주제가 등장했을 때 중단할 수 있는 메커니즘에 대해서도 검토하고 있습니다.