AIのハルシネーション（作り話）

かんたん

AIが本当のように、うそをつくり出してしまうこと。

標準

『ハルシネーション』は、AIが自信たっぷりに、実際には誤った・でっち上げの情報（偽の事実や存在しない出典）を出すこと。大事な答えを必ず確認すべき理由です。

くわしく

生成モデルは検証済みの事実を検索するのではなく、統計的にありそうな文章を作るため、細部・引用・出来事を捏造することがあります。これがハルシネーションです。モデルに真偽の概念はありません。対策として、提示した文書に基づかせる、そして重要な主張は必ず検証する、が有効です。