Japanese News: オープンＡＩ従業員ら、ＡＩの「重大なリスク」警告　内部告発者の保護も要求

オープンＡＩ従業員じゅうぎょういんら、ＡＩの「重大じゅうだいなリスク」警告けいこく　内部告発者ないぶこくはつしゃの保護ほごも要求ようきゅう

Open AI employees warn of AI’s ”serious risks” and also demand protection for whistleblowers

ＣｈａｔＧＰＴ（チャットＧＰＴ）を開発かいはつする米べいオープンＡＩの内部関係者ないぶかんけいしゃは４日よっか、人工知能じんこうちのう（ＡＩ）開発企業かいはつきぎょうに対たいし、ＡＩの「重大じゅうだいなリスク」について透明性とうめいせいを高たかめ、自社じしゃが構築こうちくしている技術ぎじゅつについて懸念けねんを表明ひょうめいする従業員じゅうぎょういんを保護ほごすることを求もとめる書簡しょかんを公開こうかいしました

On the 4th, insiders at U.S. company OpenAI, which develops ChatGPT, asked artificial intelligence (AI) developers to be more transparent about the ”significant risks” of AI and the technology they are building. Published letter asking for protection for employees who raise concerns

オープンＡＩを含ふくむＡＩ企業きぎょうの現従業員げんじゅうぎょういんと元従業員もとじゅうぎょういんらが署名しょめいした書簡しょかんには「ＡＩ企業きぎょうには効果的こうかてきな監督かんとくを回避かいひする強つよい経済的けいざいてきインセンティブがある」と記しるされています

“AI companies have strong economic incentives to avoid effective oversight,” the letter, signed by current and former employees of AI companies, including OpenAI, says.

書簡しょかんを作成さくせいした人物じんぶつらはＡＩ企業きぎょうに対たいし、懸念けねんを表明ひょうめいする人ひとびと々を罰ばっするのではなく歓迎かんげいする「批判ひはんを受うけ入はいれる文化ぶんか」を育はぐくむことも求もとめました

The authors of the letter also called on AI companies to foster a ”culture of acceptance” that welcomes, rather than punishes, those who raise concerns.

書簡しょかんには、企業きぎょうはＡＩがもたらす「重大じゅうだいなリスク」を認識にんしきしていますが、こうしたリスクと保護対策ほごたいさくについて一般市民いっぱんしみんを啓蒙けいもうするために今以上いまいじょうに努力どりょくすべきだと書かかれています

The letter says companies recognize the ”significant risks” posed by AI, but should do more to educate the public about these risks and safeguards.

重大じゅうだいなリスクとは、改かいざんから、ＡＩが人間にんげんの知性ちせいを超こえる「シンギュラリティー」まで人類絶滅じんるいぜつめつにつながる可能性かのうせいを意味いみします

Significant risks mean everything from tampering to the possibility of the ”singularity” in which AI surpasses human intelligence, leading to the extinction of humanity.