ハルシネーション（幻覚）とは、AIが実在しない情報や誤った内容を、あたかも正しいかのように出力してしまうことです。生成AIの仕組み上、完全には避けられません。

なぜ起きるのか

LLMは「事実を調べて答える」のではなく「もっともらしい続きを予測する」仕組みだからです。もっともらしさと正しさは別物、と理解しておくことが第一歩です。

建設業での対策

  • 数量・寸法・法令・固有名詞は必ず人が確認する
  • 根拠となる資料を一緒に渡す（RAG）
  • 積算・見積・法規まわりは答えを鵜呑みにしない運用ルールを作る