生成AIが示したURLを開いたら、ページが見つからなかったことがあります。
制度名も説明文も自然で、一見すると実在する資料のようでした。文章の調子だけでは、誤りに気づけません。
生成AIが誤った内容を、もっともらしく示す現象は、一般にハルシネーションと呼ばれます。
なぜ自然な文章で間違えるのか
LLMは、入力された文脈に続く語を予測しながら文章を作ります。事実の一覧から正解だけを取り出しているわけではありません。
NISTは、生成AIが誤った内容や虚偽の内容を自信ありげに示す現象を「confabulation」と説明し、一般にはハルシネーションとも呼ばれると整理しています。
回答に出典らしい表記が付いていても、実在する資料とは限りません。
最初に確認する4項目
数字
料金、割合、件数、期限は、元資料と照合します。固有名詞
制度名、会社名、製品名、担当部署名が実在するか確認します。出典
示されたURLを実際に開き、発行元、公開日、本文の該当箇所を読みます。最新情報
料金、提供条件、法律、ガイドラインは、現在の公式ページで確認します。
医療、法律、契約、決済に関わる内容は、この4項目だけで十分とは限りません。各分野の責任者が確認します。
確認しやすい形で回答させる
AIに「正しいですか」と聞き直すだけでは、独立した確認になりません。先に、確認対象を分けて出してもらいます。
この回答から、数字、固有名詞、出典、最新情報に左右される記述を抜き出してください。各項目について、確認に使う一次情報の発行元とURLを示してください。確認できない項目は「未確認」と書いてください。
その後、示されたURLを人が開きます。ページが存在しても、AIの説明と本文が一致しているかまで読みます。
下書きと事実確認を分ける
私は、文章の下書きと事実確認を同じ工程にしません。
生成AIには構成や言い換えを任せ、数字と固有名詞に印を付けます。次に、公式サイト、法令、製品資料などの一次情報を開き、確認日とURLを残します。
この順番にすると、読みやすい文章に引っ張られず、確認対象を一つずつ見られます。
参考情報
確認日：2026年7月31日
NIST「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」
Pharmapiaレターでは、確認に使える短いプロンプトと、一次情報を読む順番を配信しています。