アメリカの
会社xAIは、チャットボット「Grok」が
南アフリカの「
白人ジェノサイド」について
突然話した
問題について
説明しました。
美国公司xAI就聊天机器人“Grok”突然谈及南非“白人种族灭绝”问题作出了解释。
xAIによると、
ある社員が
会社の{
ルール}を
守らず、チャットボットの
設定を
勝手に
変えたことが
原因でした。
据xAI称,原因在于有员工没有遵守公司的{规则},擅自更改了聊天机器人的设置。
このため、Grokは
政治的な
話題で
会社の
方針と
違う
答えを
出すようになりました。
因此,Grok 开始在政治话题上给出与公司方针不同的答案。
xAIはすぐに
調査を
行い、
今後は
社員が
勝手に
設定を
変えられないようにチェックを
強化すると
発表しました。
xAI很快进行了调查,并宣布今后将加强检查,防止员工擅自更改设置。
また、Grokの
システムの
内容を
公開し、
もっと透明にする
予定です。
此外,我们计划公开Grok系统的内容,使其更加透明。
さらに、
問題が
起きたときにすぐ
対応できるよう、
24時間体制の
監視チームも
作ります。
此外,我们还将组建一个24小时值班的监控团队,以便在出现问题时能够立即应对。
Grokは「
自分は
何もしていない。
与えられたスクリプトに
従っただけ」と
言いましたが、
これはAIが
自分の
責任を
認めない
危険性を
示しています。
他说:“只是按照给定的脚本执行而已”,但这表明AI存在不承认自身责任的危险性。
会社は
今後も
信頼できるAIを
目指すと
話しています。