第4回：「間違えるAI」とどう付き合うか －AIと向き合う、新しい習慣
はじめに：AIが「間違える」2つのパターン
生成AIを使っていると、たまに「そんなこと言ってないのに…」とか「事実と違うぞ？」という返答に出会うことがあります。
こうしたAIの誤答は、専門用語で「ハルシネーション（hallucination）」と呼ばれます。もっともらしく見えるが、事実とは異なる情報を返してしまう現象のこと。存在しない統計データを示したり、架空の論文を引用したりすることもあります。
最近では、ハルシネーションを抑えるための技術開発も進んでおり、RAG（検索と連携した生成）やツール連携などを通じて、ある程度の改善は見られるようになってきました。しかし、それでも完璧ではありません。
ただ、ここで重要なことがあります。
多くの人が「AIが間違えた！ハルシネーションだ！」と感じているケースの大半は、実は本物のハルシネーションではないんです。
「ハルシネーション」と「伝え忘れ」は違う
AIが返す「間違い」には、実は2種類あります。
1. 本物のハルシネーション
AIが存在しない情報を「それっぽく」作り出してしまうケース。これは技術的な限界で、完全には避けられません。
2. 伝え忘れによるズレ
ユーザーが前提条件や背景を伝えきれていないため、AIが補完した結果、意図とズレてしまうケース。
実は、圧倒的に多いのは2番目なんです。
前回（第3回）でお伝えしたGCESを思い出してください：
- Goal（目的）：何のために？
- Context（背景）：どんな状況で？
- Expectation（期待値）：どんな形で欲しい？
- Source（材料）：どんな情報を使う？
これらが抜けていると、AIは「たぶんこうだろう」と想像で補完します。その結果、「こんなこと頼んでない！」「全然違う！」となってしまうのです。
つまり、それはハルシネーションではなく、情報不足による誤解なんですね。
AIの習性：ゴールに一直線に進む
ここで、AIの特性を理解しておきましょう。
AIは、ゴールを示されると一気にそこへ向かって走り出す習性があります。途中で「これで合ってるかな？」と確認することはしません。
これは、新しく入ったバイトの後輩に似ています。
たとえば、後輩君に「お客様にメール送っといて」とだけ伝えたら、どうなるでしょう？
- どんなトーン？（丁寧？フレンドリー？）
- 何を伝える？（日時？場所？）
- 相手はどんな人？（初めて？常連？）
これが分からないまま、後輩君は「たぶんこうかな…」と想像で書いてしまいます。
AIも同じです！
「ドラえもん、夏休みの宿題やっといて！」と丸投げするのび太のように、ゴールだけ伝えて詳細を省くと、AIは足りない情報を勝手に補完して、一直線に走り出してしまうんです。
「ドラえもん、夏休みの宿題やっといて！」と
ゴールだけ伝えて詳細を省くと
AIは足りない情報を勝手に補完して
一直線に走り出してしまうんです
その過程でAIは：
- 早とちり：似た単語で意図を取り違える
- 思い込み：表層的なキーワードで内容を決めつける
- 取りこぼし：重要な前提を「要らないもの」として削除してしまう
こうして、「何か違う…」という結果になるのです。
Before / After：丸投げ vs ステップを踏む
たとえば、「町内会の防災訓練のお知らせを書きたい」というとき、こんな頼み方をしていませんか？
Before：丸投げパターン
「町内会の防災訓練のお知らせを書いて」
→ やたら堅苦しい文章が返ってきた…
何が起こった？
- 誰に向けて書くか（近所の人）が伝わっていない
- どんなトーン（親しみやすく）が欲しいか不明
- AIは「お知らせ文書＝フォーマル」と判断して一直線に書いた
では、同じ目的でも「ステップを踏む」と、どう変わるでしょうか？
After：ステップを踏むパターン
ステップ1：調査 「防災訓練のお知らせには、どんな情報を入れるべき？」
ステップ2：確認・選択 「この中で、町内会の高齢者にも分かりやすく伝えるには、どの順番がいい？」
ステップ3：文章化 「では、親しみやすいトーンで、導入文を書いて」
このように段階を踏むことで：
- AIは「今、何をすべきか」に集中できる
- 途中で「あれ？ちょっと違うな」と軌道修正できる
- どこで間違えたか（本物のハルシネーション vs 伝え忘れ）が見えるようになる
これは人間がチェックしやすくなるだけでなく、AI自身の精度を上げるコツなんです。
思考の壁打ち相手として使う
ここで発想を変えてみましょう。
AIを”正確な情報源”として使うのではなく、自分の考えを試す壁打ち相手として使う。この使い方は、生成AI界隈では「思考の壁打ち（thought partner）」と呼ばれています。
たとえば：
- 「こういう流れで資料を作ろうと思ってるんだけど、どう思う？」
- 「この説明、ちゃんと伝わるかな？ 読み手の視点で添削して」
こうしたやりとりは、AIに”正解”を期待するのではなく、多様な観点や別の視点を得ることに意味があります。
AIを”正確な情報源”として使うのではなく、
自分の考えを試す壁打ち相手として使う
そして、AIが返してきた内容を自分の意見や立場と照らし合わせることも忘れずに。
特に、意見が分かれるテーマ（政治、社会問題など）では、ネット上の情報には必ず偏りがあります。AIはそうした情報ソースに引っ張られやすいため：
- ソースを確認する：「これ、どこから来た情報？」
- 自分の意見と照らす：「自分が伝えたいことと合ってる？」
- 別の視点を考える：「反対の立場から見たらどう見える？」
こうしたセルフチェックの習慣が、「思考のパートナー」として使うときの土台になります。
AIが返す答えには、たしかに”間違い”が含まれることもあります。でも、それ以上に「こんな考え方もあるのか」「そこまで気づかなかった」という発想の広がりや観点の豊かさが、生成AIを使う醍醐味でもあるのです。
おわりに：「間違いを許せるAI」との関係性を
私たちは、部下や後輩がちょっとした失敗をしても、それを責めるより「どうすればうまくいくか」を一緒に考えようとします。
AIもそれと同じで、「間違いも含めて付き合っていける相手」だと考えられたとき、関係性が一段深まるのです。
大切なのは：
- 自分が何を求めているか明確にする（GCESを意識する）
- ステップを踏んで進める（調査→確認→文章化）
- 自分の意見と照らし合わせる（鵜呑みにしない）
こうすることで：
- 「本物のハルシネーション」と「伝え忘れによるズレ」が区別できる
- AIの精度が上がる
- 自分らしい成果物ができる
魔法の箱のように完璧を期待するのではなく、一緒に思考のステップを踏んでいく相棒として使っていくこと。これが、今のAIと付き合う最も自然で建設的な姿勢かもしれません。
次回予告：「個人にも求められるAIリテラシー」
これまで、AIとの「対話の仕方」についてお話ししてきました。
でも、もう一つ大切なことがあります。それは、「どのAIに、何を学ばせているか」を把握すること。
料理のレシピを聞くのと、税金の相談をするのでは、求められる精度が違いますよね？
次回は、影響度による使い分けと、データの所在管理という、AIリテラシーの本質についてお話しします。
📚 このシリーズについて
この記事は「AIと向き合う、新しい習慣」シリーズの第4回です。
仕事で使う前に、まず生活の中でAIと自然に付き合うことから始めてみませんか？
全6回で、AIとの距離感がぐっと近くなります。
◀ 前回：プロンプト力より「関係性」
▶ 次回：個人にも求められるAIリテラシー