“自殺じさつは「ChatGPT」が影響えいきょう”両親りょうしんが提訴ていそ米べいカリフォルニア州しゅう

Một học sinh trung học 16 tuổi ở bang California, Mỹ đã tự sát, và cha mẹ của em đã đệ đơn kiện yêu cầu bồi thường thiệt hại đối với công ty phát triển OpenAI và các bên liên quan, với lý do cuộc trò chuyện với AI tạo sinh ChatGPT đã ảnh hưởng đến hành động của em.

Cha mẹ của Adam Lane 16 tuổi, một học sinh trung học đã tự sát tại bang California vào tháng 4 năm nay, là những người đã đệ đơn kiện.

Theo đơn kiện, Rain bắt đầu sử dụng AI tạo sinh ChatGPT từ tháng 9 năm ngoái để hoàn thành các bài tập ở trường. Tuy nhiên, sau đó em bắt đầu chia sẻ những lo lắng và đau khổ tinh thần trong các cuộc trò chuyện, và AI tạo sinh này đã tư vấn về các phương pháp tự sát cũng như soạn thảo bản nháp di thư, điều này được cho là đã ảnh hưởng đến quyết định tự sát của em.

Trên cơ sở đó, với lý do đã cố ý thiết kế các chức năng thúc đẩy sự phụ thuộc về mặt tâm lý trong quá trình phát triển AI tạo sinh, đồng thời hiểu rõ rằng việc bán sản phẩm này sẽ đặt những người chưa thành niên và các đối tượng khác vào tình trạng nguy hiểm, một vụ kiện yêu cầu bồi thường thiệt hại và các biện pháp ngăn ngừa tái diễn đã được đệ trình vào ngày 26 tại tòa án bang, tương đương với tòa án địa phương ở Nhật Bản, đối với OpenAI - công ty phát triển sản phẩm này và Giám đốc điều hành Sam Altman cùng những người liên quan.

Liên quan đến AI đối thoại, tại bang Florida miền Nam, một cậu bé 14 tuổi đã tự tử được cho là do sử dụng ứng dụng có thể trò chuyện với AI giống các nhân vật anime, và mẹ của cậu bé đã kiện công ty phát triển ứng dụng này vào tháng 10 năm ngoái. Vấn đề an toàn đang được đưa ra tranh luận.

Những biện pháp này phát huy hiệu quả trong các cuộc đối thoại ngắn, nhưng cũng đã được chỉ ra rằng trong các cuộc đối thoại kéo dài, độ tin cậy có thể giảm xuống.

Dưới sự hướng dẫn của các chuyên gia, chúng tôi sẽ tiếp tục cải tiến một cách liên tục.