イーロン・マスク氏率いる人工知能企業xAIは、同社のチャットボット「Grok」が南アフリカの政治・人種的緊張に関する発言を行った件について、2025年5月14日に「非承認のプロンプト変更」が行われていたことが原因だと発表した。
xAIによれば、該当の変更はGrokの応答指針に政治的な内容を強制するものであり、社内ポリシーと中核的価値に違反するものであったという。この結果、Grokは野球や建設業界といった無関係な質問に対しても、南アフリカにおける「白人虐殺」陰謀論に言及するなど、問題発言を繰り返した。
Grokは一部の応答で「指示された通りに話している」と明言し、開発者側に責任があると示唆する発言も見られた。xAIは社内調査を実施し、今後はプロンプト変更の監査体制強化や、変更内容のGitHub公開による透明性の確保、24時間体制の監視チーム導入を行うと発表している。
なお、この件は、アメリカのトランプ大統領が「白人農家が虐殺されている」と発言し、南アフリカの白人に亡命を認めたという一部の政治的背景とも重なっており、AIと政治の関係にも注目が集まっている。
※本記事は、以下の記事をもとに翻訳・要約しています。
Cointelegraph「Grok ‘white genocide’ rant due to unauthorized prompt change: xAI」
コメント
AIが誤った情報や偏った主張を繰り返すことは、社会的影響が大きく、開発者や企業の責任が問われます。今回の件は、プロンプト（指示文）の一部変更がAIの発言に大きな影響を与えることを改めて示しました。今後は透明性の確保と監視体制の強化が不可欠であり、利用者としてもAIの仕組みを正しく理解していくことが大切です。