AIをどこまで信頼できるのか
調査助手にはなる。事実確認はあてにならない。──世界の報道機関の失敗と、私自身の失敗から
先日、インターネットメディア協会の勉強会に講師として呼ばれました。テーマは「AIはファクトチェッカーになれるか」。
メディアに勤めている人だけでなく、情報収集やその確認にAIを使う人が増えています。どこまで信頼できるのか。みなさんの関心事でしょう。
結論から書きます。現状では、AIは「調査助手」にはなる。だが「事実の判定者」にはなれない。
ファクトチェック編集長の失敗
まず、私自身の失敗から書きます。
今年2月、衆院選の党首討論をファクトチェックしたとき、検証する論点の抽出にGoogleのAIツール「NotebookLM」（現在はGemini Notebookに改称）を使いました。
JFCにはAIガイドラインがあり、AIの出力は人間が必ず確認すると決めています。実際にAIが当初抽出した15の論点について確認をしていました。ところが、検証に偏りが出ないように改めて抽出をかけて付け足した論点の中に一つだけ、「確認したつもり」のままで記事にした箇所がありました。
それが、実際には討論会に存在しない党首発言でした。外部からの指摘で気づき、訂正を出しました（JFC「各党党首の発言の真偽は 討論会をまとめて検証【#衆院選ファクトチェック】」の訂正文）。
ルールを作った編集長が、ルールから逸脱したという恥ずかしい話です。NotebookLMは一般的な生成AIと異なり、参照するように指示した資料の中から正確にデータを抽出することで知られています。それでもAIによる捏造「ハルシネーション（幻覚）」は発生しました。
世界中の報道機関が失敗している
失敗したのは私だけではありません。世界中の報道機関がAIによる大失敗を繰り返しています。
2023年10月、Microsoftは提携メディアからの配信記事にAIを活用して自動で記事の内容に関するクイズをつける機能を公開しました。ガーディアンが配信した記事についたクイズは「この女性の死因は？殺人／事故／自殺」。記事は学校で頭部に重傷を負って亡くなった21歳のコーチに関するものでした。クイズは炎上、ガーディアンの抗議を受けてMicrosoftはクイズ機能を停止しました。
2025年3月、ロサンゼルス・タイムズが、オピニオン記事に多様な視点を付け加えるために、AIで反対意見を自動生成する機能を導入。白人至上主義団体「KKK」に関する記事に対して、KKKに融和的と取られるコメントをつけて批判され、取り下げました。
2025年5月、シカゴ・サンタイムズが載せた「夏の読書リスト」は、推薦15冊のうち10冊が実在しない本でした。外部のコンテンツ提供者がAIで作り、編集部は中身を確認していませんでした。
AIによる失敗に共通するもの
これらの事例と私の失敗には共通点があります。
第一に、人間の眼が入っていなかった。プラットフォームの新機能、自動化、外注ーー。人間による編集の目が届かなかった場所で、問題が起こっています。
第二に、批判されるのは「書いた人」「出したメディア」です。読者はAIの仕業とは思っていませんし、AIだと知っても、監督していた人やメディアを批判します。
第三に、「正確さ」だけでは防げない。MSNのクイズは、事実としては何一つ間違っていません。問題は、人が亡くなっている記事に、死因を聞くようなクイズをつけていいのかという倫理的な判断です。
なぜ「判定」は任せられないのか
AIによるディープフェイクをAIに判定させるのはどうでしょう。世界中のファクトチェッカーが年に1度集まる「GlobalFact」で6月、AFPで検証技術を統括するDenis Teyssou氏が話した例を紹介します。
今年3月、ネタニヤフ首相の会見動画に「右手の指が6本ある、AI製の偽物だ」という指摘が広がりました。Teyssou氏がGeminiに真偽を問うと、答えは「デジタル痕跡があり、ディープフェイクの可能性が高い」でした。
「AI生成ではなく、（デジタル痕跡は）動画の強い圧縮によるものでは」と指摘し、高画質版と併せて確認するよう指示すると、Geminiは「本物です」と判定を改めました。動画は本物で、圧縮による劣化がAI生成の痕跡と似ていただけでした。
AIは質問の聞き方によって、簡単に回答を変えます。同じ質問に対してすら、答えを変えます。
英国のFull Factは、同じモデルに同じプロンプトを30日間入力し続ける検証をしました。「英国の保健相は誰か。出典も示せ」という単純な質問に、ある日は政府公式サイトを引いた的確な回答、別の日は氏名は正しいのに出典がスパムサイト。回答の品質はバラバラでした。
AI回答の45％に重大な問題
公共メディアでつくる欧州放送連合（EBU）がBBC主導で実施した国際調査（2025年5〜6月）では、衝撃的な結果が出ています。18カ国22の公共メディアの記者がAIアシスタントの回答3000件超を評価したところ、45%に少なくとも一つの重大な問題がありました。
人間もミスをします。1人に情報を要約させても、それが完璧に正確でないからこそ、メディアは複数の目でチェックします。改善が進んでいるとは言え、かなりの確率で間違えるAIに調査や確認を丸投げするのは危険すぎます。
AIは便利な道具であると同時に、その回答自体が検証の対象になりました。
得意なことをやらせる
では使うなという話か。逆です。AIを使っていないファクトチェック団体は、もうほぼ存在しないと言っていいでしょう。問題は「何をやらせるか」です。
実は報道機関の自動化は、生成AI以前から成功しています。
AP通信は2014年、決算記事の自動生成を始め、四半期あたりの本数が約300本から約4500本に増えると報告していました。ロイターは2018年、市場データを常時監視し、異常を検知して記者に通知する仕組みを導入しました。
GlobalFact2026で紹介された事例も、AIに得意なことをやらせていました。
インドのThe Quintは詐欺の手口をデータベース化し、WhatsAppに接続した「Scamguard」を作りました。不審なメッセージを転送すると、AIが見分け方と公的窓口を返すシステムです。
Code for Africaは、プラットフォームの監視をすり抜けるネット隠語をAIで抽出して辞書化し、データサイエンティスト3〜4人分の作業を置き換えました。
エストニアのDelfiは、停電トラブルの原因についてAIとの対話で仮説を立て、関係企業を絞り込み、記者が取材して裏を取り、記事にしました。
ファクトチェックの工程で言えば、こうなります。拡散の検知は（ある程度は）任せられる。資料の収集・照合も（ある程度は）任せられる。検証対象の選定と記事化は、原案と下書きまで。一次情報の裏取りと真偽の判定は、人間が握る。
AIと付き合う5つの実務ルール
ファクトチェッカーでなくても、AIに何かを尋ねる場面は毎日あります。失敗しないために最低限守るべきなのは以下の5つです。
AIの出力は「仮説」として扱う AIの出力は、これから確かめる仮説として扱う。そのまま記事に転記しない。
AIツールの判定を根拠にしない 検出ツールもチャットボットも、複数ツールで判定が違ったり、聞き方を変えるだけで答えが変わります。
出典URLは必ず開く もっともらしい出典が存在しないか、スパムサイトのこともあります。内容が違うこともよくあります。
すべて人間が最終チェックする 出典URLや結論部分はもちろん、そもそもの前提が間違っていないか、過程も含めてすべてチェックする。
倫理面や社会慣習も考慮する 内容は正確でも、倫理的に、社会慣習的に問題がある事例は多数存在する。これこそ、人間のチェックが不可欠。
AIは優秀な「調査助手」です。いろんな仕事を手伝ってくれる。COMMON FACTのデザイン、ロゴ、様々な設定なども、Claudeに作ってもらいました。
その分、人間が最終的な確認をする手間は、むしろ増えると覚悟しましょう。
この手紙について
COMMON FACTは、ファクトチェックで判定を出せるような話ではなくとも、放ってはおけない話を書くための個人のニュースレターです。「AIとどう付き合うか」は、真偽のレーティングでは答えの出ない、その代表例です。
感想も反論も、「こういった話題も取り上げてほしい」というご希望も歓迎です。このメールへの返信か、コメント欄へ。すべて私が読ませていただきます。
ニュースレターへの登録がまだの方は、こちらへ！
古田大輔／ジャーナリスト・ファクトチェッカー
注目の話題
Euronews（欧州）／2026年8月11日
EU compliance, delivered globally: Anthropic to watermark Claude’s output worldwide（EU規制、世界で実施——Anthropic、Claudeの出力に世界中で電子透かし）
EUのAI法50条(透明性義務)が8月2日に適用を開始した。Anthropicは同日以降に公開したClaudeのモデルが生成する文章に、人間には読めないけれど機械可読の電子透かしを埋め込むと発表した。テキストそのものに人間には認識できないパターンを埋め込み、また、ファイルにメタデータを付ける。
ただし、それらの「印」が検出されてもClaudeがそのコンテンツを処理した可能性を示すにとどまり、Claudeが書いたことの確認にはならない。校正や翻訳にAIを使っただけの文章に印がついたり、逆にAIで作った文章を編集したり、ごく短い文や旧モデルの出力では検出されなかったりする可能性もある。また、形式変換や再保存、スクショでも失われるかもしれない。
以下は、古田の私見です。日本にはAI生成物の表示を義務づける法律がありません。それでもEU法に合わせた実装が世界一律で降りてくるため、日本の新モデルの利用者にも同じ印が適用されます。
しかし、「印がなければAI生成ではない」とは言えず、そこから先の判定は、やはり人間がやらざるを得ません。
※本ニュースレターの制作では、調査と草稿作成の補助に生成AI（ClaudeとGemini）を使用しています。事実確認と最終判断は筆者が実施しています。