生成AIで課題となるハルシネーション。
ハルシネーションとは、生成AI（人工知能）が、学習したデータに基づいて事実とは異なる情報や存在しない情報を、もっともらしく生成してしまう現象を指します。人間の「幻覚」に例えられるため、この名称で呼ばれており、学習データの不足や誤り、あるいは曖昧な指示などが原因で発生するとされています。

生成AI導入に躊躇される企業様はハルシネーションがとても重大な事だとおっしゃいます。どのくらい重大な事で、生成AI[導入の障壁になるのかを漫画にしてみました。

人と比べた場合と言う事ですね。生成AIは人とは比べ物にならないほど広範囲な情報収集を行い、人とは比べ物にならないスピードで考えをまとめます。その精度がどの程度かという事ですが、ネットに広がる情報がすべて正しいもので無かったり、最新情報は学習機会が少ないわけですので、物知りを自負する生成AIの威厳にかけて、あたかも知ったかぶりをすることが知られています。それがハルシネーションを生む要因にもなっています。

そこで、RAGなどの技術でカバーしたりして、精度を上げて行く工夫をしています。曖昧な回答はさせないように設定し、分からないものはわからないと言わせ、人がカバーする運用で分担します。現状AIで100％カバーは出来ません。