騙されない！拡散に加担しない！生成AI時代のファクトチェック

私たちは、膨大な量の情報を手元で簡単に入手できる時代に生きています。しかし、すべての情報が正確で信頼できるわけではありません。生成AIの普及が進む今、私たちに突きつけられているさまざまな課題に対処するには、メディアリテラシー（適切に読解して表現する力）の学習と人材育成がますます求められています。そこで重要なのが、ファクトチェック（事実検証）です。私たちは、どのような意識と態度で、情報爆発の現代をサバイブしていくべきか考えてみます。

「大混乱生成兵器」の脅威は、世界ワースト3位

ChatGPTやMidjourney、Stable Diffusionなど、生成AIの爆発的な普及によって、ある程度の知識や環境があれば、誰でも高精度なアウトプットを手軽に得られ、単純作業から解放されるチャンスが拡がりつつあります。

その一方で、粗悪で低質な情報やコンテンツも増えています。アメリカの調査会社が発表した、2023年の「世界10大リスク」の3位に、生成AIの脅威が「大混乱生成兵器」としてランクインしていることを紹介しました。誤情報がAIの学習データとして使われれば、悪貨が良貨を駆逐してしまう事態を招きかねません。

Webサイトのランク評価にもサステナブルな環境が重要なワケ SDGs/ESG/CSRなど、地球環境の保護と持続可能な社会の実現は、実はWebサイトの評価や価値提供にも通じています。検索エンジン最適化SEOで重要な要素の、経験/専門性/権威性/信頼性は、ステークホルダーとの関係を適切に管理し、育てていくことと同じです。

フェイクコンテンツが乱造される圧倒的なスピードと、手間が掛かり後追いにならざるを得ないファクトチェックの非対称性は、以前から問題視されてきました。一度拡散してしまった情報は、後から訂正・謝罪しても、最初の情報ほど見られることはありません。情報を消費した視聴者にとってファクトはどうでもよく、すでに次の話題へと関心が移っているからです。

自分にとって心地いい情報に包まれてノイズを遮断するフィルターバブルや、同じ意見だけを増幅・共鳴させるエコーチャンバーによって、社会の分断が加速しています。時に私たちは、その現実を、社会的な大きな出来事ではなく、自分の身近な人の言動を通じて知り愕然とすることになります。生成AIの登場でさらに、玉石混交の情報の中から何が事実かを確かめることが難しくなっていきます。

場所当てゲームが「情報を見極める動体視力」を鍛える

GeoGuessrというゲームをプレイしたことはありますか？これは、Googleマップに写っている情報から、場所を特定するゲームです。風景や建物の形と位置関係、看板や道路標識、車のナンバープレートなどを手掛かりに、制限時間内に場所を探し当てます。距離の誤差と推定までの時間でスコアが決まり、世界中のプレーヤーが競い合っています。プロまでいて、その驚異的な「情報を見極める動体視力」には驚かされますが、このスキルは今回のテーマに関係しています。

▼プロの GeoGuessr プレーヤーが勝つために使用するすべてのトリック (ft. RAINBOLT) | WIRED – YouTube

情報洪水から私たちを守る、OSINTとファクトチェック

情報の真偽を見極める上で重要なのが、OSINT（オシント）とファクトチェックです。

OSINTとは、Open-source IntelligenceまたはOpen-source Investigationの略称です。一般に公開されているデータを収集し、それを元に調査・検証するプロセスのこと。Webサイトやソーシャルメディアの投稿はもちろん、プレゼン資料やアーカイブなど、ネット上でアクセスできるあらゆる情報が収集されます。テレビや新聞、ラジオ、雑誌など、伝統的な情報源が併用されることもあります。

しかし、OSINTによって収集されたすべての情報が、信頼できるわけではありません。そこで、必要なのがファクトチェックです。これは、その情報が事実かどうか、正確性・信頼性を検証するプロセスのこと。OSINTで量を集めた後で、ファクトチェックによって情報が正しいか、ソースが信頼できるかといった質を高めていくフローです。

ファクトチェックが深く関係するジャーナリズム

ファクトチェックは、性格上、ジャーナリズムと切っても切り離せません。その多くが負の記録です。

怒りと衝撃で世界が騙された湾岸戦争

インターネットが普及する以前の、1990年の湾岸戦争に関するニュースはよく知られています。イラク軍が破壊した石油施設から流出した重油による「油まみれの水鳥」の衝撃的な写真は、実は捏造でした。また、クウェート人少女が、涙ながらに戦争の悲惨さをアメリカ議会で訴えた「ナイラ証言」も、フェイクだったことが後年暴露されました。当時はメディアすら、事実を検証する手段が限られていました。

インターネットがもう一つの「現場」に

2018年7月、アフリカらしき場所で起きた犯罪を撮影したビデオが、ソーシャルメディアで拡散されました。同年9月、そのビデオをBBCがOSINTで検証する様子が「Anatomy of a Killing」と題して公開され、内容と共に世界に大きな衝撃を与えました。

このファクトチェックでは、前述のゲーム以上に細かい点が注目されていました。映っている山の稜線や建物だけでなく、木々の立ち方、道路、人々の服装や持ち物、太陽の角度と影の長さ、喋っている言葉、Facebookの投稿などが多角的に検証され、事実を追求する経緯が解説されていました。オフラインの現地を丁寧に取材する以外にも、ファクトを検証する方法があることが広く知られました。

「猫の首に鈴を付ける」重要な役割

今、世界的に最も知られている、OSINTとファクトチェックに特化した調査報道グループが、Bellingcat（ベリングキャット）です。2014年7月に設立され、国際的な事件において政治的中立な立場から極めて重要な役割を果たしています。オープンソースやソーシャルメディアの調査を専門とする寄稿者のネットワークを活用し、プロのジャーナリストや一般市民の調査結果を公表しています。

外部リンク

bellingcat - the home of online investigations

URLhttps://www.bellingcat.com/

日本でも活動している、ファクトチェック機関

ファクトチェック機関は日本にもいくつか存在し、大きな事件や事故、災害時に注目が集まっています。これらの組織も、さまざまなメディアや企業とパートナーシップを組んで、精力的に活動を広げています。

▼FIJ｜ファクトチェック・イニシアティブ | 誤情報に惑わされない社会へ
https://fij.info/

▼日本ファクトチェックセンター（JFC）
https://factcheckcenter.jp/

『事実よりも嘘の方が金になる』時代だからこそ

ファクトチェックには相応の手間や人的資源が必要で、残念ながら、フェイクニュースほどには［いいね！］が集まらず、組織に収入をもたらしません。しかし、放置しておけば、フェイクニュースは野火のように瞬く間に広がってしまいます。世論に大きな悪影響を与え、人々の間に混乱や不信を招き、命の危険すらもたらす可能性があります。後追いであってもファクトチェックで防がない限り、メディアやプラットフォーマーだけでなく、結局は社会全体がより大きなコストを負担しなければならない、深刻な事態に陥ります。

また、ファクトチェックには、直接の金銭的利益以外のメリットがあることも忘れてはいけません。視聴者やフォロワーとの信頼関係を築くには、正確で信頼できる情報を提供することが重要です。組織としてのブランドを確立し、エンゲージメント（信頼度）が高まれば、それが結果的に収益の向上につながっていきます。

普通の一般市民が、重要な役割を果たす

実は、重要な役割を果たすのが、私たち個人です。一人ひとりの力は弱くても、時代に則した正しいメディアリテラシーを学習し、批判的思考スキルと「動物的な直感」が働くセンスを身につけることができます。

ファクトチェックのためにできること

• 日時、組織、人物、チャンネル、メディア、プラットフォームなどを確認する癖を付ける。
• 衝撃的な見出しや煽り言葉、大きな主語に警戒する。
• 立場が異なる複数のチャンネルで多角的・多面的にチェックする。
• 批判的思考力（クリティカルシンキング）を身につける。
• セミナーやワークショップ、社内勉強会などに積極的に参加する・提供する。
• OSINTとファクトチェックに役立つリソースにアクセスする。

今ほど学習リソースが豊富な時代もありません。例えば、日本ジャーナリスト教育センターが公開している「フェイクニュース調査のフィールドガイド」は、誰でも閲覧できます。さらに、Googleは15〜24歳を対象としたトレーニングを実施して、教育活動に努めています。また、個人が使えるさまざまなOSINTツールもあります。

▼一般社団法人 日本ジャーナリスト教育センター（JCEJ）
http://jcej.info/

外部リンク

日本語 | Youth Challenge

URLhttps://www.verificationchallenge.com/jp

この他、正確さと信頼性を重視する組織をフォローしたり、良質なコンテンツを共有し、サービスや商品を購読することで、支援することもできます。メディアやプラットフォーマー、一般企業、所属組織の活動に注目し、リテラシーを育てていくことが、自分自身の成長にもつながります。

私たちは、新型コロナウイルスのパンデミックとワクチン報道、ウクライナ戦争、そして生成AIのビッグバンを経験しています。そして、大手テック企業が集中するアメリカでは、2024年に大統領選挙を控えています。OSINTとファクトチェックが、さらに重要なカギを握ることは容易に想像できます。

残念ながら人は、ファクトやデータ、論理では動かない生き物です。信じたいモノやコトしか信じず感情で動く人の前では、ファクトチェックはあまりにも無力です。しかし、情報やコンテンツの正確性・信頼性・透明性が、かつてなく重要になっている中で、組織として・個人としてできることが数多くあるのも事実です。他者を糾弾する道具としてファクトを濫用するのではなく、それぞれの立場でできること・すべきことを真摯に継続していきましょう。

kotobato

リプリパ編集兼外部ライター

XFacebookInstagram

企画制作や広告クリエイティブ畑をずっと彷徨ってきました。狙って作るという点ではライティングもデザインの一つだし、オンラインはリアルの別レイヤーで、効率化は愛すべき無駄を作り出すため。各種ジェネレーティブAIと戯れる日々です。
kotobatoの記事一覧