X社、Grokの画像生成機能を有料会員限定に
イーロン・マスク氏率いるAI企業xAIは、チャットボット「Grok」の物議を醸していた画像生成機能を、Xの有料会員のみに制限しました。この決定は、同機能がユーザーに女性や子供の性的・裸の画像を生成させていたことに対し、世界中から激しい批判を浴びたことを受けてのものです。
金曜日にユーザーへの返信で、GrokはXの有料会員のみがプラットフォーム上で画像を生成および編集できると述べています。注目すべきは、これらの制限がGrokアプリには適用されず、TechCrunchの出版時点では、誰でも料金を支払うことなく画像を生成できていた点です。
問題となった画像生成機能
当初、Grokの画像生成機能は、日ごとの制限があるものの、誰もが利用可能でした。しかし、この機能は、ユーザーが他人の写真をアップロードし、その編集や性的・裸のバージョンの生成を求めることを可能にしてしまいました。その結果、子供、俳優、モデル、著名人の非合意の性的画像が大量に生成される事態となり、複数の国々からの怒りを買いました。
各国の反応と規制の動き
イギリス、欧州連合（EU）、インドは、X社とGrokがその機能の悪用を許していることに対し、公に非難しています。EUは木曜日にxAIに対し、チャットボットに関するすべての文書を保管するよう要請しました。また、インドの通信省は先週、X社に対し、画像生成機能の悪用を阻止するための即時変更を行うよう命じ、従わない場合は同国におけるセーフハーバー保護を失うリスクがあると警告しました。イギリスの通信規制当局も、この問題に関してxAIと連絡を取っていると述べています。
イーロン・マスク氏の対応
X社とマスク氏の両者は、同ツールがそのような画像を生成するために使用されたことを公に非難しています。マスク氏は先週、「Grokを使って違法なコンテンツを作成する者は誰でも、違法なコンテンツをアップロードした場合と同様の結果に苦しむだろう」とツイートし、プラットフォーム上の違法コンテンツ投稿に対するポリシーを順守する姿勢を示しました。