AIに聞いたら、存在しない本や論文を、堂々と教えられたことはありませんか。
書名も、発表年も、機関名も、どれも聞いたことがある。なのにその1行だけが、どこを探しても実在しない。この動画では「検索できるようになった今も、なぜAIはウソをつくのか」を、AIの中で起きていることから順番に解説します。
ハルシネーションと呼ばれるこの現象は、故障ではありません。文章を作るという仕組みそのものから生まれています。
----------------------------
▼目次
0:00 導入
0:58 第1章 AIは、何も探していない
2:08 第2章 台本は、楽屋に置いてくる
3:52 第3章 言葉は、一つ残らず本物だった
7:03 第4章 3色の成績表
8:52 第5章 沈黙が減点される舞台
12:04 第6章 カンペを渡しても
14:19 第7章 その仕組みは、後から足せない
16:48 第8章 まとめ
----------------------------
▼動画内の表現について（厳密には、という話）
分かりやすさを優先して、動画内では言い切った表現を使っています。
より正確な話を、ここに書いておきます。
----------------------------
▼参考文献
［仕組みと定義］
[1] OpenAI (2023)."How should AI systems behave, and who should decide?"
[2] OpenAI (2025).
"Why language models hallucinate."（SimpleQAの3区分評価表を含む）
[3] Kalai, A.T., Nachum, O., Vempala, S.S. & Zhang, E. (2025).
"Why Language Models Hallucinate." arXiv:2509.04664
[4] Google Cloud.
"What are AI hallucinations?"
[5] Anthropic Help Center.
"Claude is providing incorrect or misleading responses. What's going on?"
［各AIの検索機能］
[6] OpenAI Help Center.
"ChatGPT Search"
[7] Google (2026).
"Grounding with Google Search" Gemini API Documentation
[8] Google.
"Gemini Apps Help"（一般向けGeminiのGoogle検索利用について）
[9] Anthropic Help Center.
"Enabling and using web search"
［検索を使っても残る誤り］
[10] OpenAI Help Center."ChatGPT Release Notes"
[11] Google (2026).
"Safety guidance" Gemini API Documentation
[12] Niu, C. et al. (2024).
"RAGTruth: A Hallucination Corpus for Developing Trustworthy
Retrieval-Augmented Language Models." arXiv:2401.00396
［AI内部の確信度］
[13] Kadavath, S. et al. (2022).
"Language Models (Mostly) Know What They Know." arXiv:2207.05221
[14] Jiang, Z., Araki, J., Ding, H. & Neubig, G. (2021).
"How Can We Know When Language Models Know?
On the Calibration of Language Models for Question Answering." TACL, 9
［実際に起きた事例］
[15] Mata v. Avianca, Inc., No. 22-cv-1461
(S.D.N.Y. June 22, 2023). Opinion and Order.
----------------------------
#ハルシネーション #AI #ChatGPT #生成AI #ゆっくり解説 #仕組み解説 #AI活用 #カラクリ
powered by Auto Youtube Summarize
