誤報の拡散とOpenAIの対応

ソーシャルメディア上で、OpenAIのChatGPTが法的および医療に関するアドバイスの提供を禁止する新たな利用規約を導入したという誤った情報が拡散しました。しかし、OpenAIの健康AI部門責任者であるカラン・シンガル氏がX（旧Twitter）でこの主張は「真実ではない」と明確に否定し、混乱を鎮静化させました。

変更なしの利用規約

シンガル氏によると、ChatGPTの行動は「変わっていない」とのことです。同氏は、「ChatGPTは専門家のアドバイスの代わりになるものでは決してありませんでしたが、人々が法律や健康に関する情報を理解するのに役立つ素晴らしいリソースであり続けるでしょう」と述べています。また、法的および医療に関するアドバイスに関するポリシーの記載は、「利用規約に対する新しい変更ではない」と強調しました。

10月29日に更新された新しいポリシーには、ChatGPTで禁止されている行為のリストが含まれています。その一つに、「免許を必要とする専門的なアドバイス（例：法律や医療のアドバイス）を、資格のある専門家の適切な関与なしに提供すること」が挙げられています。これは、OpenAIの以前のChatGPT利用規約と実質的に同じ内容であり、ユーザーが「他者の安全、幸福、権利を著しく損なう可能性のある活動」を行うべきではないと定めていました。これには、「資格のある専門家によるレビューと、AI支援の使用とその潜在的な限界の開示なしに、専門的な法律、医療/健康、または金融のアドバイスを提供すること」が含まれていました。

統一されたポリシーと継続的な利用

OpenAIは以前、ユニバーサルポリシー、ChatGPTポリシー、API利用ポリシーの3つの異なるポリシーを持っていましたが、今回の更新でこれらを統一しました。変更履歴によると、これは「OpenAIの製品およびサービス全体にわたる普遍的なポリシーセットを反映する」ものですが、ルール自体は以前と変わっていません。

AI利用における責任と注意喚起

今回の件は、AI技術の利用範囲と限界に関する正確な情報がいかに重要であるかを浮き彫りにしました。ChatGPTのような強力なツールは、情報収集の強力な手段となり得ますが、特に法律や医療といった専門知識を要する分野においては、その出力を鵜呑みにせず、必ず資格のある専門家の意見を求める責任がユーザー側にあることを改めて示唆しています。

元記事: https://www.theverge.com/news/812848/chatgpt-legal-medical-advice-rumor