Roblox、AIを活用したリアルタイムチャットの検閲を開始

Robloxは、プラットフォーム上のチャットメッセージの内容をリアルタイムで修正する新機能を導入しました。この機能は、現在の言葉のフィルタリングに加えて、不適切な表現を尊重的な言葉に置き換えることで、ユーザーの意図を尊重しながらも、チャットの内容を適切に保つことを目指しています。

AIによるリアルタイムチャットの修正

新しい機能では、ユーザーが「Hurry TF up!」と投稿した場合、RobloxのAIは「Hurry up!」という形でメッセージを修正します。この修正が行われた場合、チャット内の全員に「テキストが修正されて適切な内容に保たれています」という通知が表示されます。

他のゲームとの比較

Minecraftは、特定のゲーム内チャットで不適切な言葉をフィルタリングしますが、そのフィルタリングは不適切な言葉を「#」などのシンボルに置き換えるか、メッセージをブロックするだけです。一方、Robloxの新機能は、メッセージの内容を再構成することで、ユーザーの意図を尊重しながらも、チャットの内容を適切に保つことを目指しています。

利用者の制限

Robloxのリアルタイムチャットの修正機能は、現在、年齢確認を済ませたユーザー間の「インエクスペリエンス」チャットでのみ利用可能です。また、ユーザーの年齢が確認された場合、同様の年齢グループのプレイヤーとチャットを楽しむことができます（例：9〜12歳のユーザーは13〜15歳のプレイヤーとチャットできます）。

まとめ

Robloxは、AIを活用したリアルタイムチャットの修正機能を導入することで、ユーザー間のコミュニケーションをより適切で尊重的なものに保とうとしています。この機能は、ユーザーの意図を尊重しながらも、不適切な表現を避けるための重要な一歩と言えるでしょう。

元記事: https://www.theverge.com/games/889954/roblox-ai-real-time-chat-rephrasing