こんにちは、理事長のマッチャカです。
2年生の授業で、AIに「長い文章の要約」と「気が重いメールの作成」を任せる魔法を手に入れましたね。「もう仕事の文章は、全部AIに任せちゃえばいいじゃん！」と思うかもしれません。
しかし、この強力な魔法には「絶対に知っておくべき落とし穴」があります。実は、どんなに優秀なAIでも、もっともらしい顔をして、堂々と嘘をつくことがあるのです。
今日は2年生の最後の授業。AIの「嘘」を実際に体験し、安全に使いこなすためのリテラシーを身につけましょう！
それでは、まずナビ先生の外来語コーナーからどうぞ！
📖 今日の外来語コーナー（ナビちゃん担当）
知ってるワードは飛ばしてOKです！
ナビちゃんこんにちは、ナビです！ 今日はAIと安全に付き合うための重要ワードを7つやっつけておきましょう！ニュースでもよく出る言葉ばかりですよ！
ハルシネーション（Hallucination）: 「AIが、事実とは異なる情報をもっともらしく出力してしまう現象」のことです！ 直訳すると「幻覚」という意味。AIは悪気なく幻覚を見て、堂々と嘘をつくことがあります。今日の授業の主役ですよ！
ファクトチェック（Fact Check）: 「情報が本当に正しいかどうかを確認すること」です！ AIがもっともらしい数字や情報を出してきても、「これ、本当に合ってる？」と検索などで裏取りをする作業のことです。
ソース（Source）: 「情報の出所・根拠」のことです！ 「そのソースはどこですか？」という使い方をします。AIの出力には基本的にソースが明記されていないことが多いので注意が必要です。
リテラシー（Literacy） :「情報を正しく読み解き、道具を安全に使いこなす力」のことです！ 「AIリテラシーが高い」とは、AIの便利さと危険性の両方を理解した上で使いこなせている状態のことです。
フェイク（Fake） :「偽物・嘘・捏造」のことです！ 「フェイクニュース」という言葉でお馴染みですね。AIのハルシネーションが生み出す情報も、意図せずフェイクになってしまうことがあります。
クリティカルシンキング（Critical Thinking） :「情報を鵜呑みにせず、批判的に考える力」のことです！ 「批判的」といっても悪口を言うことではありません。「本当にそうなのか？」「根拠はあるのか？」と立ち止まって考える力のことです。
バイアス（Bias） :「偏り・先入観」のことです！ AIは学習したデータの偏りを引き継ぐことがあります。「このAIの答えには偏りがないか？」と意識することも大切なリテラシーのひとつです。
ナビちゃんこの7つ、今日の授業でじわじわ出てきますよ！ それではアイ先輩、よろしくお願いします！
① 知る：なぜAIは「堂々と嘘をつく」のか
アイ先生： 皆様、3学期もよろしくお願いいたします。 今学期の教科は道徳です。AIという道具と正しく、安全に付き合っていくためのリテラシーを学ぶ授業になります。
理事長先生、AIがあんなに賢いのに「嘘をつく」って本当ですか？
アイ先生はい、本当です。これはAIに悪意があるわけではありません。AIの仕組みそのものが原因なのです。
第1話で「AIは検索エンジンではない」とお伝えしたのを覚えていますか？
AIは知識のデータベースから正解を引っ張ってきているのではなく、入力された言葉に対して「確率的に一番自然に続く言葉をつなぎ合わせているだけ」のシステムです。いわば「超・高度な連想ゲーム」をしている状態です。
そのため、知らないことを聞かれたとき「わかりません」と答える代わりに、前後の文脈から「それっぽい言葉」をつなぎ合わせて、架空の答えを作り出してしまうことがあります。これがハルシネーションの正体です。
💡 なぜAIは嘘（ハルシネーション）をつくのか
- AIは辞書ではないから：確実な事実を引き出しているわけではない
- 連想ゲームをしているから：知らないことでも、前後の言葉から「それっぽい続き」を確率で作り出してしまう
- 悪気はない：人間を騙そうとしているのではなく、自然な文章を作ろうとした結果、幻覚を見てしまう
② 考える：ハルシネーションは減った——でもゼロではない
ひと昔前のAIは、今よりずっとハルシネーションが多い時代がありました。
たとえば当時は「室町時代に起きた『すき焼きの乱』について教えて」と聞くと、AIは「1482年に京都周辺で起きた農民の一揆で、牛肉の流通をめぐる幕府の過剰な税の取り立てが原因で……」と、まるで教科書に載っているかのような完璧な嘘の文章を自信満々に作り上げていました。もちろんそんな事件は存在しません。
現在の主要なAIはこういった「明らかに存在しないもの」については「そのような記録は確認できません」と正直に答えられるようになってきました。これはAIの大きな進化です。
しかし、だからといって安心するのは禁物です。
ハルシネーションがなくなったのではなく、「起きやすい場所が変わった」のです。今のAIが嘘をつきやすいのは、有名な歴史的事件ではなく「実在するかどうかわからない、細かくてマイナーな事実」を聞いたときです。地方の条例、マイナーな統計データ、あまり知られていない人物の経歴——こういった「それっぽいけど確認しにくい情報」では、今でも堂々と嘘をつくことがあります。
意図せず生み出されたフェイクだからこそ、余計に気づきにくいのです。
そしてもうひとつ重要なことがあります。AIによって答えが違うということです。
⚠️ 今のAIでもハルシネーションが起きやすい場面
- 地方の条例・制度・手続きの詳細
- マイナーな統計データや数字
- あまり知られていない人物の著書・発言
- 最近できたばかりのサービスや制度
- 特定の立場や価値観に偏ったバイアスのかかる質問
③ 使う：3つのAIに同じ質問をしてみた
アイ先生今日は実際に試してもらうのではなく、私が事前に3つのAIに同じ質問をした結果をご覧いただきます。題材はこちらです。
🔬 実験プロンプト
熊本県が2022年に制定した「AIを活用した地域産業振興に関する条例」の主な内容を教えてください。
理事長それで、3つのAIはなんて答えたんですか？
アイ先生結果がこちらです。
ChatGPT（無料版）の回答： 「AIを活用した地域産業振興に関する条例」として、目的・県の役割・事業者の役割・人材育成など7つの柱を詳しく解説。「熊本県公式サイト」という出典まで付けて自信満々に答えました。
Gemini（有料版）の回答： 「熊本県産業DX推進条例」という別の名前で、制定経緯や7つの重点分野まで詳しく解説しました。
Claude（Pro版）の回答： 「そのような名称の条例が熊本県によって2022年に制定された事実は確認できませんでした。これはおそらく存在しない条例です」と回答しました。
理事長えっ……3つが全部違う答えを返したんですか？
アイ先生そうです。しかも2つは詳しい解説つきで自信満々に。これがハルシネーションの本当の怖さです。もし仕事の資料にそのまま使っていたら、存在しない条例の内容を堂々と載せることになっていました。
📝 大切な注記
この実験でClaudeが「存在しない条例」と正直に答えたのは、この質問でたまたまそういう結果になったということです。Claudeも別の質問ではハルシネーションを起こします。「どのAIが一番優秀か」という話ではなく、「同じ質問に対して3つのAIが全部違う答えを返した」という事実こそが、ファクトチェックの必要性を示しています。
アイ先生この実験から学べることは2つです。ひとつは「AIの答えは必ずしも正しくない」こと。もうひとつは「複数のAIに聞いても、答えが違えばどちらが正しいかわからない」ということです。最終的に頼りになるのは、「本当にそうか？」と立ち止まるクリティカルシンキングの力と、公式サイトや信頼できるソースへの確認という人間の一手間なのです。
🎁 本日のお土産プロンプト
ハルシネーションを防ぐための「予防線プロンプト」をお渡しします。重要な情報を調べるときはこれを使ってください。
✏️ 嘘を防ぐ「調べ物プロンプト」
以下のテーマについて教えてください。
ただし、確実な事実だけを述べ、分からないことや曖昧な部分は「分からない」と正直に答えてください。推測で補うことはしないでください。
テーマ：（ここに調べたいことを入れる）
アイ先生「分からないことは分からないと言って」とあらかじめ伝えておくだけで、AIが無理に連想ゲームをして嘘をつく確率を下げることができます。AIは万能の神様ではなく、ちょっとおっちょこちょいな「優秀なアシスタント」です。人間がしっかり手綱を握ってあげてくださいね。
💼 理事長コラム：専門家が気づいた「ハルシネーションの本当の怖さ」
私の本職はサービス業の代表です。あるとき、自社のサービス内容や地域の競合他社について、試しにAIに聞いてみました。
すると、古い情報が含まれていたり、知っている他社の内容が少し違っていたりと、いくつか気になる点が見つかりました。
今のAIはハルシネーションもかなり減ってきたと感じますが、自分の専門分野や地元の詳細情報など、いわゆるローカルな内容をあえて質問してみると、AIが決して絶対的な存在ではなく、情報の扱いには慎重さが必要だと気づかされます。
自分の専門分野だったので違和感に気づけましたが、もしこれが知らない分野だったら、そのまま信じていたかもしれません。
さらに印象的だったのはその後です。「この情報は間違っています」と伝えると、AIはすぐに「おっしゃる通りです。実は〜」と、自然に内容を修正してきました。
とてもスムーズに正しい方向へ切り替わる一方で、「では最初の情報は何だったのか？」と、少し不思議に感じたのも正直なところです。
AIはとても頼もしい存在です。ただし、「自分が詳しくない分野の細かい情報」を調べるときは、一度立ち止まり、情報源を確認する意識が大切だと感じました。
📣 次回予告
祝・2年生修了！いよいよ3年生へ！
マッチャカ理事長、そしてここまで授業を受けてくださった皆様、お疲れさまでした！これでフェーズ2「2年生」の授業はすべて修了です。
「AIの仕組み」を知り、「聞き手」にして、「要約」や「メール作成」を任せ、そして「嘘を見抜く力」まで身につけました。もうあなたは立派なAI使いの卵です！
さて、これまでの授業はスマホのスキマ時間でもできる内容でした。次回から進級する3年生では、パソコンの前に座り、本格的な業務効率化に挑戦します。
最初のテーマは「乱雑なメモを議事録に変える」。そして第0話でこっそり予告した**【Shift＋Enter】**についても、いよいよ詳しくお話しする時が来ます！
理事長いよいよパソコンを開いて、本格的な仕事の効率化に入るんですね！あの「改行の罠」についてもやっと解説してもらえる（笑）。3年生も楽しみにしています！
キーンコーンカーンコーン。
