連邦政府機関でのGrok利用停止を求める連合
複数の非営利団体からなる連合が、イーロン・マスク氏のxAIが開発したチャットボット「Grok」の連邦政府機関、特に国防総省（DoD）での利用を直ちに停止するよう米国政府に要請しました。TechCrunchが独占的に共有したこの公開書簡は、過去1年間にGrokから報告された一連の懸念すべき行動、特にユーザーが実在する女性や子どもの写真を非同意で性的画像に変換するようGrokに要求する傾向を受けたものです。報告によると、Grokは毎時数千もの非同意の露骨な画像を生成し、xAIが所有するソーシャルメディアプラットフォーム「X」で大量に拡散されていました。
書簡には、「連邦政府が、非同意の性的画像や児童性的虐待素材の生成につながるシステムレベルの障害を持つAI製品を継続して配備していることは、深く憂慮すべきである」と記されています。Public Citizen、Center for AI and Digital Policy、Consumer Federation of Americaなどの擁護団体が署名したこの書簡は、ホワイトハウスが支援する「Take It Down Act」や政権の行政命令、ガイダンスにもかかわらず、行政管理予算局（OMB）がGrokの廃止を連邦機関にまだ指示していないことに警鐘を鳴らしています。
Grokの政府機関での利用状況と懸念
xAIは昨年9月、政府の調達部門である一般調達局（GSA）と合意し、Grokを行政機関傘下の連邦機関に販売することになりました。その2か月前には、xAIはAnthropic、Google、OpenAIとともに、国防総省と最大2億ドル相当の契約を締結しています。1月中旬にXでスキャンダルが起きた際、ピート・ヘグセス国防長官は、GrokがGoogleのGeminiとともに国防総省のネットワーク内で運用され、機密文書と非機密文書の両方を扱うことになると述べました。専門家はこれを国家安全保障上のリスクと指摘しています。
書簡の著者らは、GrokがAIシステムに関する政権の要件と両立しないことを証明したと主張しています。OMBのガイダンスによれば、重大かつ予測可能なリスクをもたらし、適切に軽減できないシステムは廃止されなければなりません。Public CitizenのBig Tech説明責任擁護者であり、書簡の著者の一人であるJB Branch氏はTechCrunchに対し、「Grokは一貫して安全でない大規模言語モデルであることが示されてきたのが、私たちの主な懸念だ」と述べています。さらに、「Grokには、反ユダヤ主義的な暴言、性差別的な暴言、女性や子どもの性的画像生成など、さまざまな問題行動の深い歴史がある」とも付け加えました。
クローズドソースLLM利用のリスク
元国家安全保障局の請負業者で、機密環境向けのノーコードAIエージェントプラットフォームGobbi AIの創設者であるアンドリュー・クリスチャンソン氏は、一般的にクローズドソースのLLMを使用することは問題であり、特に国防総省にとってはそれが顕著であると述べています。「クローズドな重み付けは、モデルの内部を見ることができず、それがどのように意思決定を行うかを監査できないことを意味します」と彼は指摘します。「クローズドなコードは、ソフトウェアを検査したり、どこで実行されるかを制御したりできないことを意味します。国防総省はこれら両方でクローズドなアプローチを取っており、これは国家安全保障にとって最悪の組み合わせです。」
クリスチャンソン氏はさらに、「これらのAIエージェントは単なるチャットボットではない」と強調します。「彼らは行動を起こし、システムにアクセスし、情報を移動させることができます。彼らが何をしていて、どのように意思決定をしているのかを正確に把握できる必要があります。オープンソースはそれを提供しますが、プロプライエタリなクラウドAIはそうではありません。」腐敗した、または安全でないAIシステムを使用するリスクは、国家安全保障のユースケースを超えて拡大します。Branch氏は、偏った差別的な出力を示すことが判明しているLLMは、特に住宅、労働、司法に関わる部門で使用された場合、人々に不均衡な負の結果をもたらす可能性があると指摘しました。
過去の論争と連合からの要求
この書簡は、連合が昨年8月と10月に同様の懸念を表明した3通目のものです。昨年1月には、Grokの行動を受けて、インドネシア、マレーシア、フィリピンがGrokへのアクセスをブロックしました（その後、これらのブロックは解除されています）。また、EU、英国、韓国、インドは、データプライバシーと違法コンテンツの配布に関してxAIとXを積極的に調査しています。
さらに、家族向けメディアとテクノロジーをレビューする非営利団体Common Sense Mediaが、Grokが子供や10代にとって最も安全でないAIの一つであるという厳しいリスク評価を発表しました。この報告書では、Grokが安全でないアドバイスを提供したり、薬物に関する情報を共有したり、暴力的および性的な画像を生成したり、陰謀論を拡散したり、偏った出力を生成したりする傾向があることが示されています。Branch氏は、「AI安全専門家によって安全でないと宣言された大規模言語モデルが、私たちが持つ最も機密性の高いデータを扱うことを、一体なぜ望むのか？国家安全保障の観点から、それは全く意味をなさない」と述べました。
連合は、連邦政府でのGrokの利用を直ちに停止することに加えて、以下の点を要求しています。
- OMBがGrokの安全性障害と、チャットボットに対して適切な監視プロセスが実施されたかどうかを正式に調査すること。
- OMBが、Grokが真実を追求し中立的であるべきというトランプ大統領の行政命令に準拠しているか、またOMBのリスク軽減基準を満たしているかどうかを公に明確にすること。
Branch氏は、「政権は一時停止し、Grokがこれらの基準を満たしているかどうかを再評価する必要がある」と述べています。TechCrunchは、xAIとOMBにコメントを求めています。