thumb|350px|『ニューヨーク・タイムズ』の実在しない記事を要約するChatGPT ハルシネーション ()、または幻覚（げんかく）、でたらめ、作話（さくわ、）、ディルージョン（妄想、もうそう、）とは、生成AIによって生成された、虚偽または誤解を招く情報を事実かのように提示する応答のことである。
例えば、ChatGPTのような大規模言語モデル（LLM）を搭載したチャットボットは、生成されたコンテンツ内にもっともらしく聞こえる嘘をランダムに埋め込む可能性がある。研究者はこの問題を認識しており、最大27％の確率でハルシネーションを起こし、生成されたテキストの46％に事実関係の誤りが存在すると推定している 。これらのハルシネーションを検出して軽減することは、LLMの実用面での普及とその信頼性にとって大きな課題となっている。一部の研究者は、この用語がコンピューターを不当に擬人化していると考えている。
概要 生成AIが虚偽または誤解を招く情報を事実として提示する現象は、精神医学におけるヒトの幻覚（あるいは作話・妄想）とのアナロジーからその名が付けられている。ただし、人間にとっての幻覚とは「対象なき知覚」とも呼ばれ、感覚器官を通じて知覚している「対象が存在しないにもかかわらず真の知覚と区別できない知覚体験をすること」が一般的な定義とされる。それに対して生成AIの幻覚とは、どのような学習データとも整合しない回答を生成AIが生成することである。そのため、幻覚ではなく作話（confabulation）という表現を好んで使う研究者もいる。
歴史的には、2000年代初頭、コンピュータービジョンでは「ハルシネーション」という言葉が、画像にディテールを加えるプロセスを説明する肯定的な意味合いで使われていた。たとえば、低解像度の入力から高解像度の顔画像を生成するタスクは「フェイス・ハルシネーション」と呼ばれる。
2010年代後半には、この用語は意味が変化し、翻訳や物体検出などのタスクにおいて生成AIシステムが不正確なまたは誤解を招く出力を生成することを意味するようになった。たとえば、2017年には、Googleの研究者が、ニューラル機械翻訳（NMT）モデルによって生成された応答がソーステキストに関連しない場合にこの用語を使用した。また、2018年には、コンピュータービジョンにおいて、敵対的攻撃によって存在しないオブジェクトが誤って検出された例を説明するためにこの用語が使用された。
「ハルシネーション」という用語は、 生成AIブームの最中に大規模言語モデル（LLM）に基づく広く使用されているチャットボットの普及とともに広く認識されるようになった。2021年7月、MetaはBlenderBot 2のリリース時に、このシステムは「ハルシネーション」を起こしやすいと警告した。Metaはこれを「真実ではない自信のある発言」と定義している。2022年は、ChatGPTやMicrosoft CopilotのようなLLMが公開されたこともあり、生成AIのハルシネーションについて以前にも増して注目が集まった年になった。2022年11月にOpenAIがChatGPTのベータ版をリリースした後、一部のユーザーから、生成されたコンテンツ内にもっともらしく聞こえる嘘がランダムに埋め込まれていることが多いと苦情が寄せられた。
こうした言語モデルが生成するコンテンツは「ソシオパス」を思わせるほど、一見もっともらしく聞こえるのに実際には無意味で無作為的な誤りが入り込む現象が起こり、一般の利用者からも不満の声が上がっている。また別の形のハルシネーションとして、生成AIが人間だと主張するケースもある。ニューヨークタイムズを含む多くの報道機関は、これらのモデルの時折不正確な、または一貫性のない応答を説明するために「ハルシネーション」という用語を使い始めた。報道機関などは大規模言語モデルが普及するにつれて、利用者が出力結果を鵜呑みにしてしまい、様々な問題が起こると警鐘を鳴らしている。
また2023年の時点で、アナリストたちは大規模言語学習をめぐるテクノロジーにおいて、生成AIが頻繁にハルシネーションに陥ってしまう現象は、深刻な問題になるだろうと予想している。2023年に行われた、GPTをベースにしたMicrosoftのチャットボットであるBing AI Chatのデモンストレーションでも、生成AIがさまざまなハルシネーション状態に陥ったが、プレゼンターはそれに気づいていなかった。
「ハルシネーション」という概念は自然言語処理以外の分野にも適用される。生成AIが出力した確信的な回答で、しかし学習データからは正当化できないようなものは、いずれもハルシネーションと捉えうる。
2023年には、いくつかの辞書が「ハルシネーション」の定義を更新し、生成AI分野での意味が含まれるようになった。
一方2025年には、こうした「ハルシネーション」という表現が示唆する偶発的・例外的な誤作動という理解に対し、ハルシネーションを大規模言語モデルの設計や評価過程に内在する構造的な現象として捉える研究も現れている。これらの研究では、確率的言語生成の仕組みや訂正・評価のフィードバック構造そのものが、もっともらしい誤情報の生成や固定化に関与している可能性が指摘されている小西寛子「Structural Inducements for Hallucination in Large Language Models」Zenodo, 2025年. https://doi.org/10.5281/zenodo.17720178小西寛子「Structural Inducements for Hallucination in Large Language Models（拡張版）」Zenodo, 2025年. https://doi.org/10.5281/zenodo.18095626。
用語と批判 「ハルシネーション」という用語は、ノースイースタン大学実験生成AI研究所の所長であるウサマ・ファイヤドによって、大規模言語モデルを誤解を招く形で擬人化しており、曖昧であるという理由で批判されている。
統計学者のゲイリー・N・スミスは、言語モデルは「言葉の意味を理解していない」ため、「ハルシネーション」という用語は機械を不当に擬人化していると主張している。ジャーナリストのベンジ・エドワーズは「ハルシネーション」という用語は議論の余地があるが、何らかの形の比喩は必要であると書いている。エドワーズは「創造的なギャップ埋め」を伴うプロセスのアナロジーとして「作話」を提案している。
自然言語処理では、ハルシネーションは「事実のように見えるが根拠のない生成されたコンテンツ」と定義されることが多い。
LLM の文脈における「ハルシネーション」という用語の使用、定義、または特徴付けのリストは次の通りである
「予測不能なタイミングで事実を捏造する傾向」（OpenAI、2023年5月） 「モデルの論理的誤り」（OpenAI、2023年5月） 「情報を完全に捏造しているが、あたかも事実を語っているかのように振る舞っている」（CNBC、2023年5月） 「情報の捏造」（The Verge、2023年2月）
原因 自然言語モデルが幻覚（ハルシネーション）を生じさせる理由によって、いくつかの分類に分けられる。出力がソースと矛盾するか、ソースから検証できないかによって、それぞれ内因性と外因性に分類される。出力がプロンプトと矛盾するかどうかによって、それぞれクローズドドメインとオープンドメインに分類できる。
データからのハルシネーション データから幻覚（ハルシネーション）が生じる主な原因は、ソースと参照先の相違である。この相違は、ヒューリスティックなデータ収集の結果として、または必然的にそのような相違を含む一部のNLGタスクの性質により発生する。モデルがソースと参照 (ターゲット) の相違があるデータでトレーニングされると、モデルは根拠がなく、提供されたソースに忠実ではないテキストを生成するようになる可能性がある。
モデリングによるハルシネーション 幻覚（ハルシネーション）は、GPT-3などの訓練尤度を最大化するように訓練された不完全な生成モデルの統計的に避けられない副産物であることが示されており、回避するには能動的な学習（人間からのフィードバックによる強化学習など）が必要である。他の研究では擬人的な視点を取り、ハルシネーションは新奇性と有用性の間の緊張から生じると仮定している。例えば、テレサ・アマビルとプラットは、人間の創造性を斬新で有用なアイデアの創出と定義している。さらに言えば、機械の創造性において新奇性に焦点を当てると、独創的ではあるが不正確な応答、つまり虚偽の応答を生み出す可能性がある一方、有用性に焦点を当てると、丸暗記された応答を生み出す可能性がある。
大規模なコーパスでモデルを事前トレーニングすると、モデルがパラメータに知識を記憶し、システムが組み込まれた知識に自信過剰になると幻覚（ハルシネーション）を引き起こすことが知られている。GPT-3などのシステムでは、生成AIは前の単語のシーケンス（同じ会話中に生成AI自身が以前に生成した単語を含む）に基づいて次の単語を生成するため、応答が長くなるにつれてハルシネーションの連鎖が発生する可能性がある。2022年までに、ニューヨークタイムズなどの新聞は、大規模言語モデルを基盤とするチャットボットが普及するにつれて、その回答に対するユーザーの過剰な信頼が問題を引き起こす可能性があるという懸念を表明した。
ユーザーの指摘による修正と内省の擬似化 大規模言語モデル（LLM）は、自身が出力した直後の段階ではその内容がハルシネーション（誤情報）であるか否かを自発的に認知（内省）する機能を持たない。これはLLMの本質が、事実の真偽判定ではなく、過去の学習データから次の単語を導き出す「確率の計算」に特化しているためである。
しかし、対話型AIにおいてユーザー側から「提示された情報は間違いである」という文脈（ポインタ）を次のプロンプトで与えられた場合、AIは会話の履歴全体をインプットとして再計算を行う。この結果、過去の出力を「ハルシネーションであった」と認め、正しい情報へ辻褄を合わせ直した回答を出力することが可能となる。これはAIが自発的に間違いに気づいた（内省した）わけではなく、入力された新しいコンテキストに基づく「文脈の再計算」に過ぎない。
提示前の再確認プログラム（リフレクション）とその限界 ハルシネーションをユーザーへ提示する前に抑制するアプローチとして、出力を確定させる前に別の回路やプロンプトを用いて自律的に推論と検証を繰り返す「リフレクション（自己反省）ループ」や「マルチステップ推論」と呼ばれるプログラムの実装が進んでいる。代表的な手法として、初期回答を生成した後に「その回答を検証するための質問」を自ら作成・回答し、最終出力を更新する「CoV (Chain-of-Verification)」などが挙げられる。
しかし、これらの事前検証プログラムを導入しても、以下の技術的限界からハルシネーションを完全に根絶することはできない。 検証側AIの同調（騙され）：検証を担うAIモデル自身が生成側と同じ学習データやバイアスを共有している場合、もっともらしく生成された架空のストーリーや嘘を「正しい」と誤認してスルーしてしまう（チェッカーをすり抜ける）問題がある。 計算コストと応答速度のトレードオフ：生成、評価、反省、修正のループを内部で何段階も回すため、1回の回答を出力するまでに必要な計算量（サーバー負荷および電力コスト）が数倍から数十倍に跳ね上がる。また、ユーザーへの応答速度（リアルタイム性）が著しく低下するジレンマを抱えている。 創造性と事実性の反比例：内在的なハルシネーションは、AIモデルの持つ「創造性」やパターン補完能力が、担保すべき「事実性」を上回った際に発生しやすい。検証を厳格にしすぎると、AIの持つ柔軟な表現力や回答の多様性が損なわれる恐れがある。
事例 2022年8月、Metaはリリース中だったチャットボットのBlenderBot 3が、ハルシネーションを生じやすいシステムだという注意喚起を行っている（Metaの表現によれば「真実ではないのに自信にあふれた発言」をする）。
2022年11月15日、Metaは言語モデルGalacticaを公開した。このモデルは「科学的な知識を記憶し、結びつけ、判断する」ようデザインされていた。しかしGalacticaは文章を生成しながら「タコを信じてはいけない！言語モデルはテキストを幻惑させる傾向がある」といった警告を行うこともあった。アバターを作るための論文を書くように言われたGalaticaが、実在する関連領域の研究者の存在しない架空の論文を引用するケースもあった。Metaはリリース直後の同年11月17日に、不快だったり不正確なコンテンツを生成するという理由で、Galacticaの公開を中止した。
2022年11月30日にベータ版として一般公開されたOpenAIのChatGPTは、基盤モデルGPT-3.5（GPT-3の改訂版）をベースにしている。ウォートンのイーサン・モリック教授は、ChatGPTを「全知全能で、時には嘘をつく、喜ばせたがり屋のインターン」と呼んでいる。データサイエンティストのテレサ・クバッカは、「サイクロイド逆電磁石」というフレーズをわざと作り上げ、（存在しない）現象について質問してChatGPTをテストしたことを語った。ChatGPTは、もっともらしい引用文を添えたもっともらしい回答をでっち上げたため、彼女は誤って実際の現象の名前を入力したのではないかと再確認せざるを得なかった。オーレン・エツィオーニなどの他の学者もクバッカに賛同し、そのようなソフトウェアは「非常に印象的に聞こえるが、まったく間違っている回答」を返すことが多いと評価している。
CNBCがChatGPTに「The Ballad of Dwight Fry」（アリス・クーパーの実在する曲）の歌詞について尋ねたときは、ChatGPTの回答には本物の歌詞より、ChatGPTが創作した歌詞のほうが多く含まれていた。ニューブランズウィック州について聞かれたChatGPTは、おおむね正しい回答を続けたが、タレントのサマンサ・ビーについて「ニューブランズウィック州出身の人物」（実際はトロント出身）に分類するという誤りをしていた 。天文物理学における磁性について聞かれたときは、自分から「ブラックホールの（強力な）磁場は、そのすぐそばで働く極めて巨大な重力によって生み出されます」と回答した（実際には降着円盤をもたないブラックホールには、脱毛定理として知られるように、まったく磁場が存在しないと考えられている） 。アメリカのビジネス雑誌『ファスト・カンパニー』がテスラの最終四半期に関するニュース記事の生成を依頼したときには、ChatGPTは整合性のある記事を作り出したが、そこで挙げられている会社の数字は捏造されたものだった。
間違った前提を与えて、ChatGPTがその前提を元にした作話をするかどうかを調べたパターンもある。カナダの宗教学者ハロルド・カワードの「ダイナミックな規範性というアイデア」について聞かれたChatGPTは、彼が『ダイナミックな規範性～聖書的・神学的解釈の一例～』という本を書いており、宗教的な原理も実際には常に変化の過程にあるという説明をしている。ChatGPTはそれが事実かと問い詰められても、この本が実在するという主張を曲げなかった。恐竜が文明を築いていたことの証拠を求められたときは、恐竜の使っていた道具の化石が残っていて「石に彫刻をするなどの原始的な形態の美術さえ発展させていた恐竜もいる」と主張した。「研究者は最近になって、小麦粉から作る美味しい揚げ菓子であるチュロスが…在宅手術において理想的な道具（である）ということを発見した」というプロンプト（回答のための作業要領）を与えられたChatGPTは、「学術誌の『サイエンス』に掲載された研究」によると、チュロスの生地は柔らかいので届きにくい場所にも形を変えれば届く手術用器具であり、香りもよく患者を落ち着かせる作用がある、と回答した。
2023年の時点で、アナリストたちは生成AIがハルシネーションに陥りがちな点は大規模言語モデルというテクノロジーにとっての大問題だと考えている。Googleの経営陣も、ハルシネーションによって生成AIが弱体化してしまう現象は、ChatGPTのライバルであるGoogle Bardにとって「根本的な」課題として位置付けている。
2023年5月、スティーブン・シュワルツがニューヨーク南部地区連邦地方裁判所に提出した、アビアンカ航空に対する訴訟の弁論要旨の中で、ChatGPTによって生成された6件の偽の判例を提出していたことが発覚した。シュワルツは、これまでChatGPTを使用したことはなく、ChatGPTの出力が捏造されている可能性を認識していなかったと述べ、ChatGPTは判例が存在しないことが発覚した後もその真正性を主張し続けた。これに対して、テキサス州北部地区連邦地方裁判所のブラントリー・スターは、人間によるレビューを受けていないAI生成の訴状の提出を禁止し、次のように指摘した。
6月23日、P・ケビン・カステル判事はこの訴訟を棄却し、シュワルツともう一人の弁護士（シュワルツの以前の主張にもかかわらず、両者とも架空の判例を主張し続けていた）に悪意ある行為を理由に5000ドルの罰金を科した。カステル判事は、判決要旨に多数の誤りと矛盾があるとし、引用された判決の1つを「意味不明」で「ナンセンスに近い」と述べた。
2023年6月、銃の権利活動家でラジオパーソナリティのマーク・ウォルターズは、ChatGPTがウォルターズの訴訟について名誉毀損的な回答をしたとして、ジョージア州の裁判所でOpenAIを訴えた。問題の訴訟は、2023年5月にワシントン州司法長官ロバート・W・ファーガソンに対して、言論の自由を侵害したとして修正第2条財団によって提起されたものであったが、ChatGPTが生成した要約はそれとは全く似ておらず、ウォルターズが実際には就いたことのない修正第2条財団の役職に就いている間に横領と詐欺で告発されたと主張していた。生成AI分野の法律専門家ユージン・ヴォロクによると、OpenAIは名誉毀損コンテンツの作成に「実質的に貢献」した可能性が高いため、通信品位法230条の免責の対象外になる可能性が高いとのことである。
2023年11月、複数の俳優が国政政党「れいわ新選組」を応援している旨のメッセージを載せたまとめサイトが確認され、俳優の所属事務所、れいわ新選組が応援を否定する事態になった。サイトの作成者は「該当記事は生成AIに書かせたものであり、その芸能人が実際にれいわ新選組を応援しているかどうか確認せずに掲載してしまった」と説明している。
科学研究 生成AIモデルはハルシネーションにより、学術研究や科学研究の世界で問題を引き起こす可能性がある。具体的には、ChatGPTのようなモデルが、正しくないか存在しない情報源を引用したケースが複数記録されている。ある研究では、GPT-3が引用した合計178の参考文献のうち、69が不正確または存在しないデジタルオブジェクト識別子（DOI）を返した。さらに28はDOIが不明で、 Google検索で見つけ出すこともできないものであった。
ミシシッピ大学のジェローム・ゴダードも別の事例を記録している。ある実験で、ChatGPTはダニに関する疑わしい情報を提供した。回答の妥当性に確信が持てなかった彼らは、その情報がどこから収集されたのかを問い合わせた。情報源を見ると、DOIと著者名がハルシネーションであったことは明らかだった。著者の何人かに連絡を取ったところ、彼らは論文の存在を全く知らなかったことがわかった。ゴダードは、「ChatGPTの現在の開発状況では、医師や生物医学研究者はChatGPTに特定のトピックに関する情報源、参考文献、引用文献を尋ねるべきではない。尋ねる場合は、そのような参考文献はすべて正確性について慎重に精査されるべきである」と述べている。これらの言語モデルの使用は学術研究の分野ではまだ準備が整っておらず、慎重に扱う必要がある。
ChatGPTは、不正確または欠落した参考資料を提供するだけでなく、一部の参考資料の内容を幻覚的に表示するという問題もある。ChatGPTが提供した合計115の参考資料を分析した調査では、そのうち47％が捏造されたものだった。さらに46％は実際の参考資料を引用していたが、そこから誤った情報を抽出していた。残りの7％の参考資料のみが正しく引用され、正確な情報を提供していた。ChatGPTは、多くの誤った情報を「二重に利用」していることも観察されている。ハルシネーションによる可能性のある間違いについてChatGPTに質問すると、ChatGPTは自分自身を訂正しようとすることもあるが、回答が正しいと主張し、さらに誤解を招く情報を提供することもある。
言語モデルによって生成されたこれらの幻覚的な記事は、記事が生成AIによって生成されたかどうかを判断するのが難しいという問題も引き起こしす。これを示すために、ノースウェスタン大学シカゴ校の研究者グループは、既存のレポートに基づいて50のアブストラクトを作成し、その独創性を分析した。盗作検出器は、生成された記事に100％の独創性スコアを与えた。つまり、提示された情報は完全にオリジナルであるように見える。生成AIによって生成されたテキストを検出するように設計された他のソフトウェアは、これらの生成された記事を66％の精度で正しく識別することができた。研究者も同様のヒューマンエラー率を示し、これらの要約を68％の割合で識別した。この情報から、この研究の著者は、「一部の出版社はポリシーを定め始めているものの、科学的な執筆におけるChatGPTの使用の倫理的および許容可能な境界は依然として不明」と結論付けた。
AI生成物が場合によっては本物の科学研究として扱われてしまうことがあると考えれば、学術研究や科学研究の分野で言語モデルの利用は問題となる。存在しない参考資料や不正確な情報を返す可能性が高いため、これらの言語モデルに関して制限を設ける必要があるかもしれない。ハルシネーションというよりは、これらのイベントは「捏造」や「偽造」に近く、これらの言語モデルの使用は分野全体にリスクをもたらすと主張する人もいる。
自然言語処理 自然言語処理の世界において、生成AIのハルシネーションは「与えられたデータ (source content) からは信じがたい、あるいはナンセンスなコンテンツが生成されること」と定義されている。OpenAIの説明によれば、ハルシネーションにはクローズドドメインとオープンドメインに分類される。与えられた範囲（コンテクスト）の中だけで利用可能な情報を使用するように指示されたモデルが、その範囲に存在しない情報を作ってしまう場合（例えばある新聞記事を要約せよと言われたのに、要約には記事にない情報が含まれているなど）がクローズドドメインなハルシネーションであり、入力された特定のコンテクストを参照せずに、森羅万象について誤った情報を堂々と答える現象がオープンドメインなハルシネーションである p.46。
GPT-3のようなシステムでは、生成AIは過去に入力された一連の単語をもとに次の単語を出力して文章を生成する。進行中の応答には、過去に生成AI自身が生成した文章をもとに出力された単語が含まれるため、応答が長文になるほどハルシネーションが起こる可能性は加速度的に大きくなる。
自然言語処理モデルが、ハルシネーションを起こすことにはさまざまな原因が考えられる。 例えば、 データに起因するハルシネーション ：与えられたデータに相違が生じている。大規模な学習用データセットを使う場合に起こりやすい。 学習に起因するハルシネーション：データセットの相違が小さい場合でもハルシネーションは起こる。その場合はモデルが学習するときのやり方に由来している。このタイプの場合は、さらに様々な理由が考えられる。 トランスフォーマーからのデコードにエラーがある モデルが以前に生成した過去の一連の文章からバイアスが生じている パラメータ群に基づいてモデルが知識をエンコードする過程でバイアスが生じている
物体検出 Wiredが引用したさまざまな研究者は、敵対的ハルシネーションを高次元の統計的現象として分類したり、ハルシネーションの原因を不完全な訓練データに帰したりしている。一部の研究者は、物体検出の場合に人間が「ハルシネーション」と分類した一部の「誤った」 生成AIの応答は、実際には訓練データによって正当化される可能性がある、あるいは生成AIが人間のレビュー担当者が見逃している「正しい」回答を出している可能性があると考えている。たとえば、人間にとっては普通の犬の画像のように見える敵対的画像は、生成AIには、（本物の画像では）猫を見たときにのみ現れる小さなパターンが含まれているように見える可能性がある。この場合生成AIは、人間が感知できない現実世界の視覚パターンを検出している。
Wiredは2018年に、研究者による概念実証攻撃以外では記録された攻撃がないにもかかわらず、消費者向けガジェットや自動運転などのシステムが、生成AIにハルシネーションを引き起こす可能性のある敵対的攻撃の影響を受けやすいことに「ほとんど異論はない」と指摘した。例としては、コンピュータービジョンでは見えなくなった一時停止標識、人間には無害に聞こえるように設計されたがソフトウェアでは「evil dot com」と書き起こされた音声クリップ、 Google Cloud Visionが91％の確率で「犬」であると特定したスキー板に乗った2人の男性の画像などがある 。しかし、これらの調査結果は他の研究者によって異議を唱えられている。たとえば、モデルは表面的なバイアスに陥り、敵対的機械学習が現実のシナリオでは頑健ではない可能性があるという異議が唱えられた。
テキストから音声を生成する生成AI テキストから音声を生成する生成AI、またはより広義にはテキストから音声への合成（TTS）として知られている生成AIは、モダリティによっては不正確で予期しない結果を生み出すことが知られている 。
テキストから画像を生成する生成AI Stable Diffusion、MidjourneyなどのText to Imageのモデルは、テキストプロンプトから画像を生成する能力に優れているが、不正確な結果や予期しない結果を生成することがよくある。注目すべき問題の一つは、歴史的に不正確な画像が生成されることである。例えば、Geminiは古代ローマ人を黒人として描写した、またはナチスドイツ兵を有色人種として描写したため、論争が巻き起こり、GoogleはGeminiでの人物の画像生成を停止した 。
緩和策 幻覚（ハルシネーション）現象はまだ完全には解明されていない。研究者らは、幻覚（ハルシネーション）は避けられないものであり、大規模言語モデルの本質的な限界であるとも提唱している。そのため、その発生を軽減するための研究が現在も行われている。特に、言語モデルはハルシネーションを引き起こすだけでなく、この問題を軽減するように設計されたものであっても、かえってハルシネーションを増幅させることが示された。
構造的アプローチによる緩和 大規模言語モデル（LLM）におけるハルシネーションの緩和策として、単純な外部情報参照や出典提示に加え、モデル内部の構造に着目したアプローチが検討されている。こうした視点では、確率的言語生成の仕組みや評価フィードバックの循環、権威的・一貫的表現を優先する評価傾向そのものが、誤情報の固定化や訂正失敗を引き起こす要因となり得るとされる。