こんにちは！HEARTSHEART Laboの村田です。みなさんはAIに質問をして、「それっぽいけど間違った答え」が返ってきた経験はありませんか？
この現象は ハルシネーション（幻覚） と呼ばれています。AIは人間のように「ウソをつこう」と思っているわけではありませんが、結果的にウソのような回答をしてしまうのです。今日はその理由をわかりやすく解説した論文をご紹介します。
OpenAIが発表した「Why language models hallucinate（なぜ言語モデルはハルシネーションを起こすのか）」という論文および記事のポイントをみて行きましょう。
そもそもAIはどう学んでいるの？
AI（言語モデル）は、インターネットや本など大量の文章を読み込んで、「次に来る言葉は何か」を予測する訓練を受けています。
例えば「今日はとても暑い___」ときたら、多くの場合「です」が続く、といった具合です。
この学習法には「正しい・間違っている」というラベルはついていません。ただ「よく出てくる組み合わせ」を学んでいるだけ。だから、あまり見たことのない情報や、正解が一つしかないような質問には弱いのです。
なぜウソっぽい答えを出すの？
一番の理由は、「AIは正確さよりも“答えること”に強いインセンティブを持っている」からです。
私たちがAIを評価する際に「どれだけ正しく答えたか」を重視しすぎているため、AIは「知らない」と言うより、とりあえずもっともらしい答えを出した方が有利になってしまうのです。
つまり、「分からない」と答えるより、間違っていても答えるほうが点数が高いという仕組みが、AIを“自信満々にウソをつく方向”へと導いてしまっているのです。
ハルシネーションを減らすには？
解決策はシンプルで、評価のやり方を変えることです。
正しい答えを評価するのはもちろん大事。
でも、「自分は分からない」と認めたときも一定の評価を与える。
自信満々の間違いには厳しくペナルティを課す。
こうすることで、AIは「知らないときは知らないと言おう」と学習するようになります。実際、小さなモデルの方が素直に「分からない」と答えることもあり、必ずしも大規模AIだけが優れているわけではないのです。
まとめ
AIがウソっぽい答えをするのは、学習方法と評価方法に原因がある。
「分からない」と答えることを許さない仕組みが、ハルシネーションを増やしている。
評価方法を変えれば、AIはもっと誠実に答えるようになる。
AIは万能ではなく、人間と同じように「知らないこと」もある。その限界を認めさせることで、より信頼できるパートナーになっていくのです。
よくある質問（FAQ）
A. AIが「もっともらしいけれど間違った答え」を自信満々に返すことを指します。AIが意図的にウソをついているわけではありません。
A. AIは「次の言葉を予測する」ように訓練されており、正誤のラベルがついていません。また、評価方法が「とりあえず答えるほうが有利」になっているため、知らないことでも答えてしまいます。
A. 実は答えられます。ただし今の評価基準では「分からない」と答えるより、間違っていても答えたほうが高得点になるため、AIはあまりそうしません。
A. 評価基準を変えることが重要です。正しい答えは高評価にしつつ、自信のないときに「分からない」と認めることも評価対象にする必要があります。
A. 完全にはなくせません。なぜなら「答えが存在しない質問」や「人間でも意見が分かれる質問」があるからです。ただし、ハルシネーションを大幅に減らすことは可能です。
A. はい。AIの答えをそのまま信じず、必ず確認する姿勢を持つことです。AIは強力な補助ツールですが、最終判断は人間が行うべきです。
著者
村田正望（むらた まさみ）
工学博士／HEARTSHEART Labo 所長。脳科学とAIを融合した発想力教育・活用支援を行う。研究と実務経験をもとに、ビジネス・生活・子育てに役立つ「脳×AI」の学びを発信中。
HEARTSHEART Laboの活動
HEARTSHEART Laboでは、さまざまな立場の方を対象にした研修・プログラムを提供しています。
- 企業・ビジネス向け：発想力・企画力を高める「脳×AI」研修
- 教師・教育関係者向け：授業改善や教材づくりにAIを取り入れる実践研修
- 個人向け（子育てパパママ）：脳×AIスキル、子育てや家庭学習に役立つAI活用講座
- 個人向け（社会人・高校・大学生）：「脳×AI」でAIを「第二の脳」とするオンライン講座
「ビジネス」「個人」それぞれの場で、脳とAIをつなぐ実践をサポートしています。