NHKのWEB特集「AIが生み出す偽情報、ウィズフェイク時代をどう生きるか」を紹介します。
画像やテキストが誰でも簡単に生成できる生成AI。多くのメリットがある一方で、「うそ＝フェイク」の情報が、ネットを中心に拡散するリスクが、今まで以上に高まっています。私たちの身近なところにフェイク情報が存在する「ウィズフェイク」とも言える時代に、どう向き合っていけばいいのか考えたいと思います。

これは「アメリカの国防総省付近で爆発が起きた」とする画像。
昨年５月に、SNSやインターネットで瞬く間に拡散され、一部の海外のメディアでも「アメリカ国防総省の近くで爆発」と速報されました。大手金融メディアを装った偽アカウントもこの情報を広げたことで、ニューヨーク株式市場のダウ平均株価が一時100ドル以上下落しました。非常に怖いことです。
このフェイクニュースをつくるのに、特別な知識や技術力は必要ありません。サービスを提供しているウェブサイトなどにアクセスすれば、誰でも利用することができます。
今、この新しいテクノロジーで作られた「フェイク」がネット空間にあふれ、真偽の見極めが追いつかない状況になりつつあります。

日本でも9月の台風15号による豪雨で、静岡県で水害が起きた際に、SNSで町全体が水没したような画像が投稿されました。その情報により、画像は5000件以上リポストされ拡散した結果、静岡県が記者会見で県民に注意を呼びかける事態となりました。そしてその後に、投稿者はAIで作った偽画像だと認めて謝罪したそうです。
台湾でも総統選挙前には世論工作のためにAIの偽画像が使われて、蔡英文政権や欧米に批判的な内容などを拡散させていたようです。
台湾でAIを使って偽情報の拡散傾向などを研究する団体“Taiwan AI Labs”責任者は「昔は、顔画像がないアカウントが発信する内容は怪しむようにと注意喚起していたが、いまやアカウント画像があるのが当たり前になってしまった。人の顔だと、見る人には安心感を与えるので、よりフェイクを見抜くのが難しくなっている。」と言っています。

AIの利用が広がることで、世の中にフェイクが氾濫していくことも懸念される中、フェイクに対抗するための技術や研究も世界中で進められており、日本でも始まっています。
偽画像や音声のフェイクを検出するシステムの開発を進めている都内のスタートアップ企業「NABLAS」。偽画像の特徴などを学習させたAIを使って、フェイクの確率を判別していくそうです。国防総省の爆発画像の場合、判別AIは画像内の2つの領域に赤や黄色の反応を示しました。結果、AIは71％の確率で「フェイク」と判定でした。ただ技術的な課題もあり、AIが高精度でフェイクを判断できるのは、あくまで「学習したフェイク」の範囲に限られるとのこと。

国立情報学研究所の越前功教授は、いわゆる「ワクチン」の概念を応用した、ユニークな研究を進めています。サイバーワクチンと呼ばれる、目に見えない特殊なデジタル処理を「予め」画像に施すことで、画像が加工されても、元に復元できる手法を開発しました。村上グローバル戦略情報官は「一昨年はロシアによるウクライナの軍事侵攻や、アメリカのペロシ下院議長の台湾訪問があった。対象国の国内で混乱を引き起こしたり、政治や世論などに影響を与えようとしたりする、偽情報が多く見られた。特定した偽情報を周知し国民に正しい情報を提供することや、正しい情報提供を通じて情報の真偽を見極める力を高めていくことに取り組んでいきたい」と述べています。
フェイクニュースにどう立ち向かうかについて、国立情報学研究所佐藤一郎教授は『まず、気をつけなければいけないことは、自分はだまされないと思うべきではない。誰もがだまされる時代だということを認識することが重要だ。技術的にフェイク情報かどうかを判別する技術が出てきているが、まだ完璧ではない。そうした中では1人1人が主体的に、同時に批判的に情報に接することで、“これはフェイクではないのか”と、疑いながら情報に接していかなければいけない。まずは本物の情報かどうかを、よく確かめること。同時にそれを誰かに伝えたいと思っても、それが本当かどうかを常に考えながら行動することが求められる時代だ。』とも。