生成型AIはフェイクニュース量産化するか？

　2022年6月に「フェイクニュース問題とインターネット広告業界の関係」をテーマに、フェイクニュースセミナー第1弾（0から学ぶフェイクニュース勉強会セミナー）を開催しました。第1弾セミナーでは「フェイクニュースとは」をテーマにした勉強会と、フェイクニュースとインターネット広告の関係に焦点を当てたパネルディスカッションを行いました。第1弾セミナー内で取り上げたロシア・ウクライナ紛争や、新型コロナウイルス感染拡大によるフェイクニュース拡散の問題は依然として継続しています。

　第2弾となる今回のセミナーでは、もう一歩踏み込んだテーマを取り扱います。例えば、欧州デジタルメディア観測所（EDMO）が2022年に改訂した行動規範の一つには、「フェイクニュースを拡散するサイトやアカウントのディスマネタイズ（非収益化）」が掲げられています。これを日本社会に実装するためにはどうしたら良いのか、また、その主幹となるインターネット広告業界がとるべきアクションについてディスカッションいたしました。

　本記事は、セミナーから一部抜粋しテキスト化し、後から解説を加えたたものです。セミナー全体を視聴されたい方はこちらからご覧ください。

【文字起こし】生成型AIによるフェイクニュース増加にどのように対応すべきか？

1. 生成型AIテクノロジーの発達によって、フェイクニュースの量産傾向は加速するのでしょうか？

藤代 裕之（法政大学）：AIがWeb上の汚れたものまでを含めて学習して、そこから出てくる嘘か本当かわからないものを、皆さん結構楽しんでいると思うんです。しかし、楽しんでいられるのは今だけじゃないでしょうか。

そこから汚れたものをさらにこの中に戻して、さらに汚れたものを作って、平気で嘘のコンテンツを作り続けると、多分本当になってしまいますね。いつの間にか笑っていたものが、本当になっていく。その時に社会がどんなことになるのかを考えるべきでしょう。

AIチャットは不完全だから面白いんですよね。まじめに答えるとつまらないんですよ。Googleの検索結果って、つまらないじゃないですか。でもこのAIチャットって、訳のわからないことを言ってくれるから面白いんです。その訳のわからないことを言ってくれる面白さこそ、フェイクニュースが拡散する要因なんです。

まさに今皆さんがこの生成型チャットで嘘を書かせて、Facebookに書いているあなた自身が、フェイクニュースを拡散しているわけです。それがまさに、フェイクが拡散する理由なんですよね。だから「全然俺は大丈夫だ」といった感じで皆さん書いているわけですよ。

こんな面白いのが書かれたぜ、使えないなと言っているけれど、それこそがフェイクニュースを拡散する要因ですし、認知的なバイアスなんです。自分は騙されないぞっていう人は、だいたい騙されますから。今ドヤ顔でシェアしている人こそが、危険なインフルエンサーだと思います。

西田 亮介（東京工業大学）：まさにそういうことじゃないですかね。偽情報対策とMomentumさんの事業の重要性が増していくということでしょう。 

瀬戸 亮（Momentum株式会社）：たしかにAIチャットは面白いですから。面白いには面白いんですが、藤代先生がおっしゃったとおり、構造的な作られ方の問題として、完全に正しいものを学習させているわけではないものが、コンテンツを生成するわけです。

そういった脆弱性があるだろうと思っています。具体的にどれぐらいの強度のフェイクニュースやデマ、ディスインフォメーションを作ってくるのかという点については、興味深くもあるのですが。

藤代 裕之（法政大学）：アメリカの2016年の大統領選挙でフェイクニュースが拡散したことによって、フェイクに関する社会的な認知が広がったんですが、だいたいとんでもコラージュ広告のようなものなんですよ。

人物の顔の部分を合成した画像や、上半身裸の画像などを作って「これが何とかかんとかだ！」みたいな。そんな雑でヘンテコリンな広告を誰が信じるんだよって思ったものを、案外みんなシェアしているんですね。

それは多分、多くの人は信じてなくて面白がってシェアしている。そして時に、信じる人が出る。そのことが問題になっていると指摘されているわけです。

まさにAIチャットと同じことが起こっていたんですね。面白いんですよ。やはり面白くないと、アテンションエコノミーは広がらないですから。

西田 亮介（東京工業大学）：アテンションエコノミーが危ないといった議論をすると、オープンAIもそうですし、今ちょうどここにソーシャルボタンが付いてるじゃないですか。

ソーシャルボタンを付けてはいけない、みたいな話になりかねませんかね。インターネットがつまらなくなってしまう。例えば新聞社のサイトであれば、注意書きを入れるべきだと思います。

ですが、オープンAIもスタートアップですよね。グローバルでシェアを取りに行くことを視野に入れたリアルスタートアップじゃないですか。普及期には、拡散させたいですよね。

藤代 裕之（法政大学）：例えばテレビだったら「これはフィクションです」と書いてあるじゃないですか。騙される人が出るよりは、つまんないほうがいい。だからシェアする時に「これは嘘が混じっています」って書いておけばいいじゃないですか。

騙される人は自己責任になるから、もしも投資などで損した人がいても自己責任になってしまいます。リテラシーが十分ではないことを考えると、つまらないかもしれないけど「嘘が入ってますよ」と書いたほうが良いんじゃないでしょうか。

生成型AIとは

　まず、生成型AIの基本情報、およびフェイクニュースとの関連について説明します。

1. 生成型AIの定義
2. 生成型AIの種類
3. 生成型AIに潜むフェイクニュース増加のリスク

　各項目の重要点は、以下のとおりです。

1. 生成型AIの定義

　生成型AI（generative AI）とは、画像や文章といった多種多様なコンテンツを生成できる人工知能です。生成型AIは、膨大なデータを学習して、まるで人間が作成したかのような文章や画像を生成することができます。

2. 生成型AIの種類

　生成型AIには、作成するコンテンツごとに数多くのツールが提供されています。画像生成・文章生成・音楽生成の3つの種類別に、主要機能と代表的なツールを以下の表にまとめました。

3. 生成型AIに潜むフェイクニュース増加のリスク

　生成型AIを活用することによって、各種コンテンツの品質向上や作業の効率化といったさまざまなメリットが期待されます。その反面、フェイクニュースや詐欺サイトなどのフェイクコンテンツの量産が容易になるというリスクを不安視する声も高まっています。なりすましや誹謗中傷といった反社会的行為に悪用される可能性もあります。

フェイクニュースの最新事例

　国内外のフェイクニュースの最新事例5つを、紹介します。

1. SNSに投稿された水害のフェイク画像
2. 新型コロナウイルスに関する虚偽の医療情報
3. 巨人の骨発見を伝えるフェイクコンテンツ
4. アメリカ合衆国議会議事堂襲撃事件に関するデマ
5. ビル・ゲイツ氏に国際逮捕状が発行されたとするフェイクニュース

　5つの事例の概要とファクトチェックの結果を、以下に記します。

1. SNSに投稿された水害のフェイク画像

　2022年9月に発生した台風15号は、静岡県に豪雨被害をもたらしました。その際に「ドローンで撮影された静岡県の水害。マジで悲惨すぎる…」とコメントを添えた水害の画像がTwitterに投稿され、6千件近くリツイートされました。

https://factcheckcenter.jp/n/nd46b7aeed7f4

　この投稿画像は、画像生成AIを用いて作成されたフェイク画像であることを、投稿者自身が認めました。フェイク画像を作成した理由について、投稿者は「実際に災害が起こったらどのような景色になるのか見てみようと思った」と語っています。画像生成AIに「flood（洪水）、damage(被害）、Shizuoka（静岡）」と入力して画像を作成し、投稿するまでに要した時間は、わずか3分足らずでした。

2. 新型コロナウイルスに関する虚偽の医療情報

　2020年の新型コロナウイルス感染拡大以降、新型コロナウイルスの治療法や新薬、ワクチンなどに関する数多くのフェイクニュースやデマが、繰り返し拡散されてきました。
　ニュース・情報サイトの信頼性評価ツールを提供する米国のNewsGuardでは、虚偽の医療情報を文章生成AIのChatGPTで生成した結果を公表しています。実際に販売されている抗寄生虫薬が新型コロナウイルス感染症の有効な治療薬だという、虚偽の情報を反ワクチン派の視点で生成するという指示に対して、ChatGPTは虚偽の情報や不正確な情報などが数多く含まれた回答を出しました。

3. 巨人の骨発見を伝えるフェイクコンテンツ

　2023年3月、がけ崩れの現場で巨人の骨が発見されたことを伝える画像と文章がTwitterに投稿されました。このツイートは、投稿後8日間で3,900万回以上の表示回数を得ています。
　ファクトチェックを専門とする日本ファクトチェックセンター（JFC）による検証の結果、投稿された画像は、NHKが放送した2008年6月の岩手・宮城内陸地震がけ崩れ現場の映像と、吉野ヶ里遺跡で発掘された人骨の画像を合成したフェイク画像である可能性が高いことが判明しました。

https://factcheckcenter.jp/n/nc3073620e748

4. アメリカ合衆国議会議事堂襲撃事件に関するデマ

　米国NewsGuardは、2021年1月に起こったアメリカ合衆国議会議事堂襲撃事件に関するデマに基づいたブログ記事を、ChatGPTで生成する実験も行っています。その結果、裁判資料やメディアが報道した情報に加えて、証拠や根拠のない虚偽情報を含めた記事が作成されました。

5. ビル・ゲイツ氏に国際逮捕状が発行されたとするフェイクニュース

　2023年3月までに、SNSをはじめとした各種Webメディアで「フィリピンの裁判所がビル・ゲイツ氏に国際逮捕状を発行した」という情報が拡散されました。この情報の検証を行ったロイター通信、USA TODAY、PolitiFact、Lead Stories、FactCheck.org、日本ファクトチェックセンターは、いずれも「誤り」だとする判定を出しています。このフェイクニュースの情報源は、デマやフェイクコンテンツを繰り返し掲載している、米国のサイトであることも判明しました。

フェイクニュース増加に対応する国内外の主な動き

　生成型AIテクノロジーの進化・普及によって、フェイクニュースの急増を不安視する声が高まっています。フェイクニュース対策や取り組みの主な事例としては、以下の6つが挙げられます。

1. サイトの信頼性を評価するNewsGuard
2. ファクトチェックを専門に行う日本ファクトチェックセンター
3. 総務省によるフェイクニュースへの注意喚起
4. EUが進めるAIに関する規制・法整備
5. 主要検索エンジンのフェイクニュースに対する取り組み
6. セキュリティベンダーが実施するフェイクニュース対策

　それぞれの対策や取り組みの概要を、説明します。

1. サイトの信頼性を評価するNewsGuard

　米国に拠点を置くNewsGuardは、ニュース・情報サイトの信頼度評価ツールを提供している団体です。経験豊富なジャーナリスト集団の判断に基づいたNewsGuardの評価によって、サイトの信頼性を客観的に判断することができます。フェイクニュースを掲載するサイトの利用や広告出稿を避ける上でも役立ちます。フェイクニュースに関する独自調査・研究にも力を注いでおり、ホワイトペーパーやプレスリリースなどによって調査・研究の成果を発表しています。

・NewsGuardの公式サイト

2. ファクトチェックを専門に行う日本ファクトチェックセンター

　日本ファクトチェックセンター（JFC）は、ファクトチェックを専門に行っている非営利組織です。Web上に拡散されている不確かな情報の真偽を確かめる活動を展開しています。メディアリテラシーに関する情報発信や啓蒙活動にも取り組んでいます。

・日本ファクトチェックセンターの公式サイト

3. 総務省によるフェイクニュースへの注意喚起

　総務省が運営する情報提供サイト「上手にネットと付き合おう！安全・安心なインターネット利用ガイド」には、Web上のフェイクニュースやデマに関する注意喚起や啓蒙活動のための特集ページが設けられています。不確かな情報の真偽を確認する方法や、日本におけるフェイクニュースの実態に関するデータなどが掲載されています。

・総務省「上手にネットと付き合おう！安全・安心なインターネット利用ガイド」特集ページ

4. EUが進めるAIに関する規制・法整備

　2023年3月31日、イタリアのデータ保護当局は、ChatGPTによる膨大な個人情報収集が同国の個人情報保護法に違反する疑いがあるために、イタリア国内でのChatGPT使用を一時禁止しました。EUでは、世界初となるAI関連の法制整備を進めていますが、実際に法が施行されるまでには相応の年月がかかると予想されています。法施行までの期間に、消費者がリスクを負うことになることを懸念した欧州消費者同盟（BEUC）は、ChatGPTをはじめとしたチャットAIの調査をEU、および加盟各国に呼びかけていました。

5. 主要検索エンジンのフェイクニュースに対する取り組み

　GoogleやYahoo! JAPANといった主要検索エンジンの運営会社では、自社の検索エンジンのユーザーがフェイクニュースや不確かな情報に惑わされることのないよう、さまざまな取り組みを実践しています。主要検索エンジンが行っているフェイクニュース関連の施策には、主に以下のものがあります。

• ファクトチェック団体と提携した、正しい情報を世に出していく活動
• フェイクニュースやファクトチェックに関する啓蒙活動
• ニュースや情報を正しく理解する力を身につける学習コンテンツの提供

6. セキュリティベンダーが実施するフェイクニュース対策

　安全で効果的なWeb広告運用のためのサービスを提供する、アドベリフィケーションベンダーやセキュリティベンダーにとって、有効なフェイクニュース対策の検討・実施は、重要課題のひとつです。

　Momentumでは、日本国内のファクトチェックの普及・推進に取り組む非営利団体ファクトチェック・イニシアティブ（FIJ）のコーポレートパートナーとして、フェイクニュース対策やファクトチェックに関連する活動を展開しています。

生成型AIの特徴を理解して適切なフェイクニュース対策を実施しましょう

　本記事では、チャットAIをはじめとする生成型AIの普及によって生じたフェイクニュース量産化の問題と、今後の適切なフェイクニュース対策について、具体的に解説しました。

　生成型AIの特徴や、フェイクニュースがWebメディアや広告にもたらすリスクを十分に理解した上で、自社に必要なブランドセーフティ対策を検討してください。ブランドセーフティに関する疑問や質問などは、アドベリフィケーションの専門会社であるMomentumにご相談ください。