ハルシネーションとは何か？｜ChatGPTが語る架空の事実を生み出す原理とは？

近年、AI（人工知能）という言葉は、我々の生活のあらゆる部分に浸透しています。AIによる画像認識、音声認識、自動翻訳など、これらの便利なツールが、我々の生活を豊かにし、効率的にしてくれていることは間違いありません。しかし、皆さんはAIが「架空の事実を自信満々に語る」ことをご存知ですか？

「ハルシネーション」と聞くと、多くの人が人間が見たり聞いたりする幻覚を思い浮かべるでしょう。しかし、AIの文脈では、「ハルシネーション」は全く異なる意味を持ちます。ここでは、ハルシネーションとはAIが存在しない情報や事実を「想像」したり、一部の情報を基に全く新しい内容を「創り出す」現象を指します。

なぜAIはハルシネーションを起こすのでしょうか？それは問題なのでしょうか？そして、私たちはどうすればこの現象を理解し、管理することができるのでしょうか？この記事では、これらの問いに答えるために、AIのハルシネーションについて掘り下げていきます。

AIとハルシネーション｜ハルシネーションとは何か

AIがハルシネーションを起こすとはどういうことなのでしょうか。まず、AIが情報を処理する基本的な方法を理解することが重要です。AIは、人間が情報を理解し、反応するのとは違い、大量のデータを分析し、パターンを認識します。そのため、AIの「理解」は、その学習データと強く結びついています。

しかし、AIが「ハルシネーション」を起こすと、訓練データには存在しない情報やパターンを生成します。これはAIが「見たことのないものを見る」かのように働きます。ハルシネーションは、AIが訓練データに基づかない無関係な情報を出力することとして捉えることができます。

ChatGPTの場合、ハルシネーションは、質問やプロンプトに対する応答の形で現れることがよくあります。例えば、

この答えはあっています。では、もう少しマイナーな質問をしてみましょう。

これは間違っています。ちなみに4番目に高い山は間ノ岳です。この例は非常に単純ですが、ハルシネーションの一例です。その情報は訓練データに基づかず、また現実とは異なるからです。ハルシネーションは、ChatGPTに知識を訪ねる際によく起こります。

ハルシネーションはAIのパフォーマンスや判断に影響を与えます。具体的には、AIの出力の信頼性や正確性が低下し、ユーザーがAIの結果を信頼することが難しくなる可能性があります。また、重大な意思決定の際にAIを使用する場合、ハルシネーションは誤った判断や不適切な行動を引き起こす可能性があります。

このような問題を解決するためには、AIのハルシネーションを理解し、それを防ぐための手段を見つけることが必要です。

ハルシネーションの課題と対策

AIがハルシネーションを起こすと、それは多くの場合、誤解や混乱を招く結果をもたらします。具体的には、AIが提供する情報の信頼性が低下し、AIを頼りにする人々が誤った情報に基づいて行動をとる可能性があります。また、AIが重要な意思決定を補助する場合、ハルシネーションは直接的に間違った選択を引き起こす可能性があります。例えば、医療AIが誤った診断を提供したり、金融AIが誤った投資アドバイスを提供したりすることがあります。

このような問題に対処するための一つの手法は、AIの「解釈可能性」を向上させることです。解釈可能性とは、AIがどのように判断を下すのか、そのプロセスが人間にとって理解しやすい形で説明できる能力を指します。解釈可能なAIは、ハルシネーションを防ぐための強力なツールとなり得ます。

解釈可能性を高めるアプローチはいくつかあります。その一つは、AIの学習アルゴリズムやモデルを改善することで、AIがどのように特定の結論に達したのかを明確にすることです。これにより、ハルシネーションが発生した場合でも、その原因を追跡し、理解することが可能になります。

解釈可能性の重要性については、Finale Doshi-VelezとBeen Kimによる”Towards A Rigorous Science of Interpretable Machine Learning”という文献で詳しく説明されています。著者らは解釈可能性が機械学習の信頼性を向上させ、誤解や誤用を防ぐための重要な要素であると強調しています。

しかし、解釈可能性の追求は非常に困難です。AIのモデルは、その複雑性と精度のために、しばしば「ブラックボックス」と形容されます。つまり、ChatGPT3.5でさえ5000億トークン（1トークン＝１単語、日本語で1兆文字＝文庫本５百万冊くらい）の膨大なデータから構成されている、データすべてを調査するのは人間には不可能であり、そのシステムを外部から見て理解することが困難です。解釈可能性を高めることは、このブラックボックスを「開く」試みとも言えますが、それは技術的な難しさを伴います。

AIの解釈可能性とハルシネーション

AIの解釈可能性がハルシネーションとどのように関連しているのでしょうか。解釈可能性の目標は、AIがどのように特定の結論を導き出すのか、その過程を理解しやすい形で説明することです。

解釈可能性を追求する方法の一つは、「透明性」を向上させることです。AIの透明性とは、その動作や決定過程が明確であるということです。透明なAIは、どの情報がどの結論に影響を与えたのか、そしてその結論がどのように導かれたのかを明確に示すことができます。これにより、ハルシネーションが発生した場合でも、その原因となった要素を特定し、修正することが可能になります。

しかし、一般にAIの透明性と精度の間にはトレードオフが存在すると言われています。AIのモデルが複雑になるほど、その精度は向上しますが、透明性は低下します。つまり、最も精度の高いAIモデルは、しばしば最も「ブラックボックス」的なものであり、その内部の動作を理解することは困難です。
（トレードオフ：一方を取るともう一方が失われるという関係。）

しかし、”The Mythos of Model Interpretability”という論文でZachary C. Liptonは、解釈可能性と精度の間に必ずしもトレードオフが存在するわけではないと提唱しています。彼は、適切な手法と工夫により、AIの解釈可能性を高めつつも、そのパフォーマンスを維持または向上させることが可能であると主張しています（実際に、両方の性質をうまく保つために今も多くの論文が書かれている）。

解釈可能性の追求は、AIのハルシネーションを理解し、それに対処するための重要なステップです。しかし、この分野はまだ発展途上であり、新しい手法や理論が引き続き開発されています。この進歩がAIのハルシネーションという問題に対する解決策を生み出し、AIをより信頼性の高いツールにすることが期待されています。

まとめと展望

この記事では、AIのハルシネーションという現象について考察し、それがAIのパフォーマンスと信頼性にどのように影響を及ぼすかを説明しました。また、ハルシネーションの問題に対処するための一つの手段として、AIの「解釈可能性」を追求することの重要性を強調しました。

AIがハルシネーションを起こすと、それはしばしば誤解や混乱を招きます。AIが提供する情報の信頼性が低下し、誤った情報に基づいて行動をとる可能性があります。解釈可能性を高めることで、ハルシネーションがどのように発生し、どのようにそれに対処すべきかを理解することが可能になります。

しかし、解釈可能性の追求は一筋縄ではいきません。AIの内部の動作を理解することは、その複雑さとブラックボックス性のために困難です。

AIの未来を考えるとき、ハルシネーションの問題は避けて通れないものです。しかし、この問題に対処するための研究と取り組みが進行中であり、その結果は希望をもたらしています。解釈可能性の向上、ハルシネーションの理解と対策、そしてAIの全体的な信頼性の強化はAIの進歩には不可欠であり、今後の研究により解決することが期待されています。

参考文献
The Mythos of Model Interpretability” by Zachary C. Lipton
“Towards A Rigorous Science of Interpretable Machine Learning” by Finale Doshi-Velez,　Been Kim