アメリカの
カリフォルニア州で
16歳の
高校生が
自殺したのは、
生成AI「ChatGPT」との
対話が
影響したとして、
生徒の
両親が
開発した「
オープンAI」
などに
損害賠償を
求める
訴えを
起こしました。
미국 캘리포니아주에서 16세 고등학생이 자살한 것은 생성형 AI ChatGPT와의 대화가 영향을 미쳤다며, 학생의 부모가 개발사인 오픈AI 등에게 손해배상을 청구하는 소송을 제기했습니다.
訴えを起こしたのは、ことし4月、カリフォルニア州で自殺した高校生、アダム・レインさん(16)の両親です。
소송을 제기한 것은 올해 4월 캘리포니아주에서 자살한 고등학생 아담 레인16 군의 부모입니다.
訴状によりますと、レインさんは学校の課題をこなすため、去年9月から生成AIの「ChatGPT」を使い始めましたが、その後、やりとりの中で不安や精神的な苦痛を打ち明けるようになり、生成AIから、自殺の方法を助言されたり、遺書の下書きを作成されたりしたことが自殺に影響したとしています。
소장에 따르면, 레인 씨는 학교 과제를 수행하기 위해 작년 9월부터 생성형 AI인 ‘ChatGPT’를 사용하기 시작했으나, 이후 대화 중에 불안이나 정신적인 고통을 털어놓게 되었고, 생성형 AI로부터 자살 방법에 대한 조언을 받거나 유서 초안을 작성해주는 등의 일이 자살에 영향을 미쳤다고 하고 있습니다.
そのうえで、生成AIの開発にあたって心理的に依存することを促す機能を意図的に設計し、未成年者などを危険にさらすと理解しながら販売したとして、開発した「オープンAI」とサム・アルトマンCEOなどに対し、損害賠償や再発防止策を求める訴えを26日、日本の地方裁判所にあたる州の裁判所に起こしたということです。
그런 가운데, 생성형 AI 개발에 있어 심리적으로 의존하게 만드는 기능을 의도적으로 설계하고, 미성년자 등을 위험에 빠뜨릴 수 있다는 것을 알면서도 판매했다며, 개발사인 오픈AI와 샘 알트만 CEO 등에게 손해배상과 재발 방지책을 요구하는 소송이 26일, 일본의 지방재판소에 해당하는 주 법원에 제기된 것으로 알려졌습니다.
対話型のAIをめぐっては、南部フロリダ州でも14歳の少年がアニメなどのキャラクターに似たAIと対話できるアプリの利用が原因で自殺したとして、母親が去年10月に開発した企業を相手取って訴えを起こしていて、安全性が議論になっています。
대화형 AI를 둘러싸고는, 미국 남부 플로리다주에서도 14세 소년이 애니메이션 등 캐릭터를 닮은 AI와 대화할 수 있는 애플리케이션을 사용한 것이 원인이 되어 자살했다며, 어머니가 지난해 10월에 개발 회사를 상대로 소송을 제기해, 안전성이 논의되고 있습니다.
オープンAI「継続的に改善進めていく」
アダム・レインさんが自殺したことについて、アメリカの「オープンAI」はNHKの取材に対し「ChatGPTには専門家に助けを求めるなどユーザーを誘導する安全対策が組み込まれている。
오픈AI 지속적으로 개선을 진행하겠다 아담 레인 씨가 자살한 것에 대해, 미국의 오픈AI는 NHK의 취재에 대해 ChatGPT에는 전문가에게 도움을 요청하도록 이용자를 유도하는 안전 대책이 포함되어 있다고 밝혔다.
これらの
対策は
短い
対話では
効果を
発揮する
一方で、
長時間の
対話に
なると
信頼性などが
低下する
場合が
あることもわかってきている。
이러한 대책들은 짧은 대화에서는 효과를 발휘하지만, 장시간의 대화가 될 경우 신뢰성 등이 저하될 수 있다는 점도 밝혀지고 있다.
専門家による
指導のもと、
継続的に
改善を
進めていく」と
コメントしています。
전문가의 지도 아래, 지속적으로 개선을 진행해 나가겠다고 언급하고 있습니다.