なぜAIは"平気で"「嘘」をつくのか【ゆっくり解説】

AIに調べ物を頼んだら、自信満々の答えが返ってきた。確かめたら、嘘だった──。

誰もが体験するアレ、実はAIは「騙そうとして」嘘をついているわけではありません。
もっと不思議で、もっと根深い理由があります。

・実在しない判例6件を「本物です」と言い張り、弁護士が罰金を払った実話
・AIには「知らない」という状態が、そもそも存在しないという事実
・嘘つきに育てた犯人を、OpenAI自身が論文で名指ししていた件
・AIの頭の中で「嘘が生まれる瞬間」が配線レベルで観測された最新研究
・どういう質問だと嘘をつきやすいのか、逆にどう使えば安全なのか
「なぜ堂々と嘘をつくのか」の答えを、仕組みの根っこから解説します。

【目次】

0:00 確かめたら、嘘だった

0:27 世界的に有名になった「偽判例事件」

2:21 嘘の正体 ─ AIに「知らない」という状態が無い

6:21 なぜ自信満々なのか ─ 自信は文体の癖

8:07 AIの嘘に、会社が責任を取らされた日

9:28 犯人の名指し ─ 嘘つきに育てたのは採点方式

11:49 頭の中の発見 ─ 「知ってるランプ」の誤作動

15:12 対策の最前線 ─ 検索・正直さの訓練

16:42 どういう質問だと、嘘をつきやすいのか

18:20 安心して頼れる場面と、賢い使い方

19:52 まとめ ─ 嘘の正体は、悪意ではなく構造

【この動画の主な参考情報】

・OpenAI「Why Language Models Hallucinate」(2025)
　https://openai.com/index/why-language-models-hallucinate/
　https://arxiv.org/abs/2509.04664
・Anthropic「Tracing the thoughts of a large language model」(2025・"知ってるランプ"=既知の実体の回路研究)
　https://www.anthropic.com/research/tracing-thoughts-language-model
　https://transformer-circuits.pub/2025/attribution-graphs/biology.html
・偽判例事件(Mata v. Avianca, 2023)の報道
　https://www.cnbc.com/2023/06/22/judge-sanctions-lawyers-whose-ai-written-filing-contained-fake-citations.html
・エア・カナダのチャットボット返金命令(2024)の報道
　https://thehill.com/business/4476307-air-canada-must-pay-refund-promised-by-ai-chatbot-tribunal-rules/
・Nature「Evaluating large language models for accuracy incentivizes hallucinations」(2026)

「AI深層部」は、AIやITの歴史と仕組みを「なんとなく」から「ちゃんと分かる」に深掘りするチャンネルです。
チャンネル登録していただけると励みになります!

※この動画は東方Projectの二次創作です。
※音声にはAquesTalkライセンスに基づく合成音声を使用しています。

#ゆっくり解説 #AI #ChatGPT #ハルシネーション #人工知能 #生成AI

powered by Auto Youtube Summarize