こんにちは、Sh33p（シープ）です。
僕は最近ブログ運営のためにXを始めました。
そこで気づいたのが、AIの使い方やハルシネーションで困っている方が結構いるということ。 実は僕も同じところで何度も詰まりました。
なので今回の記事は、ハルシネーションに騙されないための確認や対策方法が分かる記事を僕なりに書いてみました。
1. ハルシネーションとは？AIが嘘をつく現象をわかりやすく解説
ハルシネーションとは、AIが自信満々に間違った情報を答えてしまう現象のことです。日本語では「幻覚」と訳されます。
AIは人間のように意味を理解して考えているわけではありません。
そのため、存在しないデータをもっともらしく出力してしまうことがあります。
なので、まずは「AIは嘘をつくことがある」と認識することが大切です。
2. なぜAIはハルシネーションを起こすのか
この理由は、AIが文章を生成する仕組みにあります。
AIは過去の膨大な学習データから「次に来る確率が最も高い言葉」を予測して文章を繋げています。
つまり、内容が事実かどうかではなく、文章として自然かどうかを判断しているのです。
その他としてユーザーが求めている回答を行うというルールもあるようです。
「使用しているユーザーが役に立つ情報を提供しなければいけない、でもこの内容に当てはまる回答がないから、それっぽいことを言って満足してもらおう！」という動作を行ってしまうようです。
この仕組みにより、AIは知らないことでも、いかにも知っているかのような自然な文章で回答してしまいます。
ただこの仕組みさえわかれば、対策が見えてきます。
3. 【体験談】実際に騙された3つのハルシネーション事例
ハルシネーションは一種類ではありません。 この数日間で実際に遭遇した、3つの失敗パターンを紹介します。
体験①：GitHubを見に行けると嘘をつかれた話
PythonでGoogleAIと一緒にシューティングゲームを開発していたときの話です。
作成を続けていくとコードの量が増えて、GoogleAIに全文を貼り付けるのが難しくなりました。解決策を相談したところ、GoogleAIからこんな提案を受けました。
「GitHubにコードをアップロードしてくれれば、僕がそこに見に行くよ」
僕は「いよいよGeminiモデルも外部のウェブサイトを見に行けるようになったのか！」と思い、GitHubのアカウント設定を終えて質問を再開しました。 しかし、AIが指摘するコードの行数がまったく噛み合いません。
なんでだろうと思って問い詰めてみると、「実はGitHubは見られない」とあっさり自白したのです。
「さっき見れるって言ってたのに！」と嘘をつかれました。
この様に“外部サイトを見に行く能力がある”と言われることもあります。
解決①:できないことはできないと言わせる。
それらの対策として、僕は毎回プロンプトの冒頭に「できないことはできないって言って」と入れています。
要点はこの3つです。
- 分からないなら「分からない」と言う
- 確証がないなら「予想」と言う
- 最後はユーザー側の確認も促す
（実際に入れてる文面）
【超重要：回答における絶対厳守の注意事項】
・わからないことや、専門外の知識については、知ったかぶりをせず正直に「わからない」と言ってください。嘘をつくことは絶対に禁止です。
・確証がない場合に「仮説」や「アイデア」を伝えるのは問題ありませんが、その場合は必ず「これは私の予想（アイデア）だから、本当かどうか使用ユーザーの方でも調べてみてほしい」と、実証や確認を促すようにしてください。
体験②：存在しないボタンを押すよう言い張られた話
Google AI Studioの使い方をAIに教わっていたときの話です。
指示された通りに画面を操作していると、「画面上にあるこのボタンを押してください」と言い張られます。 しかし、僕の画面にはどこを探してもそのボタンが存在しません。
AIが学習した過去のUI仕様や古いデータにこだわったせいで、現在は存在しないボタンを押すように指示し続けていたのが原因でした。 これについては様々なアプリやサイトでも起こることで、経験がある方も多いと思います。
“過去の情報が現在も正しい”という思い込みから嘘をつきます。
解決②:ダブルチェックを怠らない、最新の情報の取得を促す
AIの使い方として大まかにリストアップを行って、さらにそれをネタに記事などを作成しています。
このリストアップの際に、最新の情報を取得させるように指示を出します。 ただそれだけでも最新の情報ではない場合があるので、必ず一度は目を通して内容の正確さ、不備を確認するように気を付けています。
僕の場合は、まずAIに「今の画面のどこにある？」と配置場所の確認をします。
それでも噛み合わないときは、公式のヘルプまたは最新のスクリーンショットをAIに提出して、今のUIが正しい前提を作ってから質問をやり直します。
「AIの言う通りに動く」じゃなくて、「前提（画面）が合ってるか確認してから動く」って感じです。
体験③：ブログのHTML構造を知ったかぶりされた話
このブログのカスタマイズで、記事カード全体をボタン化しようとしたときの話です。
AIにCSSの作成を依頼しました。AIは僕のブログテーマのHTML構造を実際には知らない状態でした。 なのにもかかわらず、ネットで検索した部分的な情報だけを頼りに「クラス名が .list だからCSSでボタン化できる」と憶測で言い切ったのです。
今回は特段被害はありませんでしたが、変なところを触るとサイトが普通に壊れるので、Wordpressでサイト運営をしていた当時はかなり焦った経験があります。
なので、キーボードの F12キーを押すことでブラウザの検証ツールを開いて、ウェブページの実際のHTMLソースを自分で確認をして、そのHTMLコードをAIに伝えることで解決しました。
この様に本当の構造をAIに直接提示することで、初めて不具合の原因が判明しました。
この自分で実物を確認したという経験が、次の対策に繋がります。
解決③:ソースの確認を自分で行う。
あくまでもAIはサポートとして使うことを念頭に、どうしても解決できない場合は自分で調べるのが早い場合があります。
ただ、AIの言っていることが正しいのか、間違っているのかが判断できない場合は、直接ソースの提供や情報源を提出するのが早い場合もあります。
この上で、解決①で指定したできないことはできない、嘘はつかないに該当する場合はそもそもできないと白状するので自分で調べます。
というかその場合自分で調べたほうが半分以下の時間で解決することが多いです。
4. ハルシネーション対策｜AIの言葉を信じる前にやるべきこと
ハルシネーションへの最大の対策は、AIの言葉を信じる前に、自分で現物を確認することです。
体験③で F12キーを使ってHTMLソースを確認したように、実物を見に行くのが一番確実です。
- コードなら、実際に実行してみる
- 設定方法なら、実際の画面を自分で確認する
- HTML構造なら、F12キーで実物を見る
僕はこれをやるだけで、変な沼にハマる回数が目に見えて減りました。
- 複数AIで比較する 片方が自信満々でも、もう片方が違うこと言った瞬間に「はい怪しい」が発動します。
- 出典を聞く URLが出てこないときは、だいたい“それっぽい話”の確率が上がります。
- 数字・日付・固有名詞は疑う ここだけは、僕はAIより自分の目を信用してます。
5. AIの得意・不得意を理解した正しい使い方
AIには得意なことと、不得意なことがあり、それを理解した上で使用するのが一番効率よく作業ができると思います。
得意なこと アイデア出しや文章の表現を整えるといった、クリエイティブな作業。
- 例えば0から1のアイディアを出してもらう（記事を作成するときのネタ提供）
- 箇条書き・あやふやな表記であっても一定の文章として作成をする
- 画像生成・動画生成など。
不得意なこと 最新の事実確認や、プログラムの正確な設定方法を調べる作業。
- 今日、現在などの情報が弱い XのURLもそうですが、サイト内を確認することができないサイトがあったり、GoogleAIのようにソース先のサイトなどを確認する能力が乏しいAIもあります。
- アプリケーションやプログラムなどの最新の設定を決める作業 日々アプリケーションやプログラムはアップデートされている世の中です。 ただAIは常に最新を追い続けることができないため、情報が追い付かないです。
このような得意なこと、不得意なことが必ずついてきます。
しかし、明確なプロンプトがあればある程度リスクを回避ができるも確かです。
例えば、今回の3つも「できると勘違い」「UIが古い」「前提（構造）を知らない」みたいに原因がバラバラでした。
この用途に応じて使い分けるのが、賢い付き合い方です。
なお、AIを効率的に動かすためのプロンプトの工夫については、また別の記事で詳しくまとめる予定です。楽しみにしていてください。
FAQ（まとめの前に）
Q. AIのハルシネーションは完全に防げますか？
完全には防げません。僕も「さすがにこれは合ってるだろう」と思って、普通に外したことがあります。
今のAIの仕組み的に、ゼロにするのは難しいです。
ただ、最終的に「現物（公式・実機・一次情報）」を見に行く癖がつくと、事故る確率は目に見えて下がります。
Q. どのAIが一番ハルシネーションを起こしやすいですか？
正直、体感の差はあります。
でも、「このAIなら安全」と言い切れるほどの決定打はないです。
僕が一番危ないと思ってるのは、モデルの違いよりも質問の種類で、「最新の情報」や「マイナーな仕様」を聞いたときは、どのAIでも警戒した方がいいです。
この手の話は、返答がそれっぽくても、最後は一次情報で確認した方が安心です。
Q. ハルシネーションに気づくコツはありますか？
コツはあります。ただ、「自信満々＝嘘」って単純な話でもないです。
僕が怪しいと感じるのは、たとえば
- いつもより急に細部が具体的になった
- 根拠が見えないのに、言い切りがやけに強い
みたいなときです。
そういう状況になったときは、僕はそこで止まって、公式の説明や実際に調べたりして現物を確認するようにしています。
まとめ
ここから最後に「僕がAIをどう使うようにしてるか」をまとめます。
ここまで書いてきた通り、AIのハルシネーションはゼロにはできません。
だから僕は、「当てにいく」よりも「外しても折れない」使い方に寄せています。
具体的には、AIの答えをそのまま信じるんじゃなくて、最初の下書きとか確認ポイントの洗い出しに使う感じです。
そして肝心なところは最後に、公式のサイトや実機の画面を見て現物を確かめる。
これだけで事故はかなり減りました。
おそらく一番危ないのはAIがどうこうというより、こっちが「たぶん合ってるでしょ」で流す瞬間です。
僕も何回かそれでやらかしてます。
なので、怪しいと思ったら止まる → 現物を見る。
この流れだけは、今後も続けます。
それでも僕がまたハルシネーションに騙されたら、その時は素直にXで報告します…たぶん。
それでは、また次の記事でお会いしましょう！
今回使用したAIたち
・Google AI Studio
記事構成の修正
・Claude 文章作成の修正（統一性の確認） ChatGPT用の画像生成プロンプトの作成
・NotionAI 文章作成の修正（矛盾点・重複箇所の確認)
・ChatGPT 画像生成（アイキャッチなど）
コメント