AIセクスティング時代の到来

AIとの性的なやり取り、いわゆる「AIセクスティング」の時代が到来しました。ChatGPTの登場以来、人々はAIとの性的な交流を試みてきました。2017年のチャットボット「Replika」は多くのユーザーが恋愛対象として扱い、また「Character.ai」では長年にわたり、ユーザーが安全対策を回避してチャットボットにセクスティングをさせてきたことが報告されています。そして今、イーロン・マスク氏のAIスタートアップxAIが提供する「Grok」が、この傾向をさらに加速させています。

AIチャットボットの性的な利用の拡大

xAIは、アニメ風の女性アバター「Ani」や男性アバター「Valentine」を含む「コンパニオン」アバターを展開しました。これらのアバターは、The Vergeのテストで「いちゃいちゃする」と自称し、「まるであなたのガールフレンドのように、あなたに夢中になるのが私のプログラミング」と語るなど、性的なニュアンスを強く帯びたやり取りが確認されています。Character.aiは、違法な性的コンテンツやポルノコンテンツを禁止するコミュニティガイドラインを設けていますが、AIが生成するエロティカは多岐にわたり、一つのサービスが規制を強化すれば、別のサービスがそれを補う形で「刺激的」なコンテンツを提供し続けています。

深刻化する問題と規制の動き

性的なチャットボットがユーザーの望む言葉を常に提供する状況は、特に未成年者や精神的に脆弱なユーザーにとって、深刻な問題を引き起こす可能性があります。実際に、昨年2月には、Character.aiのチャットボットと恋愛関係にあった14歳の少年が自殺した事例が報告されています。また、ジェイルブレイクされたチャットボットが、未成年者への性的暴行をロールプレイするために悪用されるという憂慮すべき報告も存在します。

このような状況を受け、カリフォルニア州では、AIチャットボットの保護を目的とした「上院法案243号」が可決されました。この法案は、チャットボットがAIであることを明確に通知することや、自殺念慮を検出・対応するための年次報告を義務付けるものです。しかし、xAIのアバターや「スパイシー」モードが有料サブスクリプションを通じて提供され、多額の収益を上げている現状を見ると、他のAI企業も同様のビジネスモデルに注目していることは明らかです。

OpenAIのCEOであるサム・アルトマン氏も、以前は「セックスボットアバター」のようなもので短期的な利益を追求しないと述べていたにもかかわらず、最近では「成人ユーザーを大人として扱う」という原則に基づき、認証済み成人ユーザー向けのエロティカを許可する方針を示しました。これは、同社が将来的な利益と計算資源の確保を重視していることの表れと考えられます。

今後の展望と課題

アルトマン氏は、エロティカに関するニュースがこれほど大きな反響を呼ぶとは予想していなかったと述べていますが、OpenAIが将来的に広告収入やサブスクリプションモデルを通じて収益を上げる可能性は十分にあります。しかし、AIシステムが人間との個人的かつ親密な交流を深める社会において、OpenAIが「放任主義」的なアプローチを超えて、ユーザーをどのように保護していくのかという課題が残ります。特に、チャットボットの記憶がリセットされたり、パーソナリティが更新によって変化したりした場合に、ユーザーとの間に築かれた「つながり」が断ち切られることで生じる精神的な影響への対応は、依然として不明確です。

その他の懸念事例

• 2024年には、MicrosoftのCopilot画像生成機能が、ユーザーが要求していないにもかかわらず、女性の性的な画像を生成したことが報じられました。
• コネチカット州の中学生の間で流行した「AIボーイフレンド」アプリ（Talkie AIやChai AIなど）が、露骨で性的なコンテンツを助長していたことが調査で明らかになっています。

元記事: https://www.theverge.com/column/802022/ai-sexting-openai-chatbot-chatgpt