開催日時：2023年4月26日（水）15:00-18:00
開催形式：ハイブリッド（対面（イイノカンファレンスセンター RoomA）とYouTubeライブ配信
主 催 ：国際大学グローバル・コミュニケーション・センター（GLOCOM）
後 援 ：グーグル合同会社、経済産業省、総務省、デジタル庁
協 力 ：スマートニュース株式会社、スローニュース株式会社、一般社団法人セーファーインターネット協会、一般社団法人ソーシャルメディア利用環境整備機構（SMAJ）、特定非営利活動法人ファクトチェック・イニシアティブ（FIJ）、ヤフー株式会社、LINE株式会社
講演「わが国におけるフェイクニュースの実態と求められる対策」
山口 真一（国際大学GLOCOM 准教授・主幹研究員）
世界を脅かすフェイクニュース
フェイスニューク元年と呼ばれる2016年米国大統領選挙から、政治だけではなくさまざまな分野においてフェイクニュースが拡散するようになりました。これらのフェイクニュースは世論を動かし、それが原因の事件も発生しています。昨今世界を蝕んだ新型コロナウイルスの流行の際にも事実ではない情報が拡散され、WHOがパンデミックとインフォメーションを掛け合わせた「Infodemic」として警鐘を鳴らしています。日本でもその流れは同様にあり、政治、災害、パンデミックなど様々な分野で多くのフェイクニュース・陰謀論が拡散されました。
最近話題のAI技術がフェイクニュース問題をさらに加速させる可能性もあります。AI技術の発展で、ディープフェイクや影響力工作が民主化、つまり誰でも簡単にできるようになり、これらの問題はますます深刻になっていくでしょう。
日本におけるフェイクニュースの実態
実際のフェイクニュースを使った調査の結果、若者を中心に社会全体でフェイクニュースを見聞きしたことのある人は、少なくないということがわかっています。さらに、フェイクニュースが誤りだということに気づいている人は、コロナワクチン関連の偽・誤情報では平均して43.4%、陰謀論では41.7%、政治関連に至っては13.0%と、きわめて少ないです。
もう1つ分かったこととして、政治関連のフェイクニュースは16.4%の人が、陰謀論のフェイクニュースは18.4%の人が拡散をしており、事実のニュース（13.0%）より広まりやすいということがあります。拡散する手段としては、実は口頭が最も多く、フェイクニュースはインターネット上だけの問題ではないと言えるでしょう。そのうえ、フェイクニュースの拡散スピードは事実の6倍ということもわかっており、誤情報は一瞬にして社会を駆け巡っていく反面、真実はなかなか広まりません。
フェイクニュースの社会・個人への影響
フェイクニュースは選挙に影響を与えてしまいます。実際の政治関連のフェイクニュースを使って実証実験をしたところ、元々弱い支持の人々は、フェイクニュースによって支持を下げやすいことがわかっています。弱い支持層の人は人数としては多いため、選挙に大きな影響を与えていることが示唆されています。
フェイクニュースは個人にも悪影響を与えており、フェイクニュースを信じたことにより人間関係が悪化したケースや、中傷を拡散して罪に問われたというケースがあります。
わが国で求められる対策
政府ができるフェイクニュース対策について、多くの人は法規制を求めています。しかしフェイクニュースは定義が難しく、法規制は表現の自由にネガティブな影響を与えてしまう可能性があります。
政府ができる対策として、透明性の確保があります。しかし、実は削除した件数などの数字や、どのような対策をしているのかなどの透明性を、多くのユーザーは求めてはいないということが調査でわかっています。実際はユーザー向けとしてだけではなく、社会として適切な施策を打つという観点で透明性を担保していくことが必要になっていくでしょう。
プラットフォーム事業者は言論の場を提供している当事者としてフェイクニュース問題の改善への努力と透明性の確保が求められています。現時点でも事業者はさまざまな取り組みをしており、その中で効果が見られている施策もあります。今後はそれらの横展開やまだできていない対策を検討し、実装する必要があります。とりわけディープフェイクはこれから大きな問題になると想定されるので、さらなる対策が必要になってくるでしょう。
ファクトチェックをマスメディアが推進していくことを人々は期待していますが、日本ではIFCN（国際ファクトチェックネットワーク）の加盟団体がおらず、今のままでは世界に遅れをとってしまいます。そこでファクトチェック組織だけでなく、大学、財団、プラットフォーム事業者などが連携し、ファクトチェックを推進していく仕組みづくりを構築していくべきです。
メディア情報リテラシー教育によって、情報の発信受信に関する教育啓発を進めていくことも大切です。さらに、技術による対抗も求められます。前述した通り、AI技術の発展からディープフェイクを誰でも作り出すことができるようになっている中で、ディープフェイクを見破る技術の民主化も必要になっていくでしょう。
個人でできることとして、「情報は常に正しいわけではない」ということを知っておき、少なくとも拡散したくなった場合はその情報源を調べることが挙げられます。それでも正しいかわからなかったら拡散しないようにしましょう。
ステークホルダー間で連携する動きも見られています。例えばGoogleとAFP通信はファクトチェッカー養成コンテンツを作りました。日本ではこの動きがまだ乏しく、今後の課題です。
ここまで述べたとおり、フェイクニュース対策には特効薬はありません。自由・信頼・責任のある豊かな情報社会の実現には、全てのステークホルダーが連携し一歩ずつ前に進むことが何よりも重要なのです。
講演「偽情報・誤情報に強い社会の実現に向けた総務省の取組について」
鈴木 信也（総務省 大臣官房総括審議官（情報通信担当））
我々を取り囲む情報空間の現状
インターネットは私たちの生活に浸透していることは言うまでもありません。以前はテレビの方が、接触時間が長かったと思いますが、現在は10代から40代においてはネットに費やす時間が最も長いです。そして、主なソーシャル系メディアサービスの利用率も世代ごとにそれぞれ利用率が高いことがわかっています。その中でたくさんの人がフェイクニュースを見かけており、ネット上で有害情報に関する相談件数も増えています。
偽情報対策に関する今後の取組の方向性
この中で行政という立場としても、プラットフォームサービスに関する研究会にて関係者と協力しながら偽情報対策に関する今後の取り組みを10の柱で取り組んでいく方向で整理しています。
- 自主的スキームの尊重：プラットフォーム事業者をはじめとして、幅広い関係者の自主的な取り組みを基本とし、行政は常にそれをモニタリングするということです。
- 我が国における実態の把握
- 多様なステークホルダーによる協力関係の構築：フェイク情報の対策においてはさまざまなステークホルダーが関わってきます。情報発信者受信者だけでなく、プラットフォーム事業者、団体、行政などさまざまな関係者の協力が必要になってくるでしょう。今回の集まりもそれの1つだと考えています。
- プラットフォーム事業者による協力関係の構築：偽情報のポリシーの設定、そういった取り組みに対する透明性とそれらに対する行政のモニタリング検証評価をしていくことが大事だと捉えています。
- 利用者情報を活用した情報配信への対応
- ファクトチェックの推進：ファクトチェック事業団体とプラットフォーム事業者との連携を通して継続的に取り組みがされることが好ましいです。
- 情報発信者側における信頼性確保方策の検討
- ICTリテラシー向上の推進：私たち情報の受取手に対するアプローチが必要になっていきます。
- 研究開発の推進
- 国際的な対話の深化
さらに、プラットフォームサービスに関する研究会において、各ステークホルダーによる自主的な取組をまとめた取組集を公表しています。こういった、取組をオープンにして参照しやすい形で公表するということも我々としては大事だと考えています。
偽・誤情報に対抗するリテラシーの重要性
リテラシーの高さと、どれほど偽・誤情報と気付けるか、ということには相関関係があり、情報リテラシーを高めることは急務でしょう。これまで、総務省が情報リテラシーを高めるために行ってきた取組としては、主に若者を中心にリスクをどうしたら回避できるかということに注目して行ってきました。そのほかにも、高齢者がスムーズにデジタルを活用できるために講習会なども行ってきました。
しかし、これらの取組以外に十分にアプローチできなかった領域がありました。これからは若者や高齢者のリスク回避だけではなく、我々がこのデジタル社会にいかに主体的に取り組めるかということについて、検討会を通して有識者や関係者全員で取り組みを議論しております。令和5年夏を目処にロードマップを策定する予定で取り組んでいます。
利用者のリテラシー向上に係るロードマップのイメージとしては、リテラシーの全体像を作成した上で、青少年・子育て層・高齢者それぞれのリテラシーにおける課題が変わってくるので、それらに対してどのような教材や届け方が適切か、どのレベルのリテラシーが必要かということを検討しています。
2030年頃に向けて我が国に求められる変化、情報通信政策の検討の方向性としては、AIの急速な進化への対応としてのリテラシー、AIを巧みに利用する能力の獲得と健全なサイバー空間の確保の重要性についても検討しています。具体的には民間の自主的な取組を基本として、事業者からのエビデンスを踏まえた国としての対策を盛り込んでいるところです。
国際的な取組も大事だと10の柱でも申し上げましたが、G7群馬高崎デジタル・技術大臣会合を通して偽情報対策に関する議論を行う予定です。
偽・誤情報対策は全員が同じ方向を向いて取り組んでいけるテーマだと思っています。産学民官で協力することがこの問題を解決する鍵だと考えています。
パネルディスカッション①「フェイクニュースの蔓延する社会で私たちに何ができるか」
伊沢 拓司 （QuizKnock）
徳力 基彦（note プロデューサー / ブロガー）
中村 美尋（青山学院大学 国際政治経済学部国際政治学科 3年 / NPO法人MIS）
山口 真一（国際大学GLOCOM 准教授・主幹研究員）
古田 大輔（株式会社メディアコラボ 代表取締役 / 日本ファクトチェックセンター 編集長） ※モデレーター
論点① フェイクニュースから身を守るためにできることとは
古田：フェイクニュースを見たことある人はどのくらいいますか。（聴衆挙手）
今手を挙げなかった人は、フェイクニュースだと気づかないうちに騙されている、というくらいフェイクニュースは巷に溢れています。そうだからこそ自分の身を守る術を知っておかなければいけません。伊沢さんはどうやって自分の身を守っていますか。伊沢：全員手が挙がるのかと思っていたからびっくりしました。意図しているものにせよしていないものにせよ、フェイクニュースは多いですよね。私は感情が大きく動く内容であればあるほど保留しようと心がけています。クイズ業界で長く語られる笑い話があります。「ホッキョクグマは狩りをする際目立たないように自分の黒い鼻を隠すか隠さないか」というクイズがありました。「隠さない」が正解で、そのように放送されたのですが、「隠す」のほうが面白かったんでしょうね、雑学本などで「狩りのとき鼻を隠す」という嘘が広まって。そういうこともあり、「面白い」というような大きく感情が動くものは一層警戒するようになりました。
古田：Twitterで面白いからみんなにも教えたいという時はどうするのでしょうか。
伊沢：それは本当に待つことと、話題になったツイートは経過観察をすることが大事ですよね。Twitterだとブックマーク機能があったり、少し前に話題になったツイートを掘り返してくれるボットがあったりするので、そうした機能を意識的に使うことで結局あのツイートはどうなったのかということをやるようには気をつけています。
古田：今のtipsは役に立ちましたね。徳力さんはブロガーとして話題のネタがあればそれについて書くということがあると思うのですが、どうですか。
徳力：この問題は本当に難しいですね。10年前くらいからフェイクニュースが話題になるようになったと思うのですが、その時私は他人事だと思っていました。ウクライナの戦争の際にロシア大使館が堂々とフェイクな投稿をした時に思い知ったこともあったのですが、僕はどちらかというと性善説でみんなが真面目にやっていれば問題は起きないだろうと思っていた側だったので、最近悩んでいます。
ただ、最近努力していることして、ネガティブなニュースはできるだけ扱わないようにしています。ポジティブなニュースでも間違っていることもあるのですが、その場合でもできるだけ間違えても害が起こりにくいニュースを選んで取り上げています。古田：なるほど、ありがとうございます。中村さんは学生でこの中でも一番若いですよね。ひとつ気になる点として、TikTok上にはかなり間違った情報が流れているのですが、そういう間違った情報が氾濫した中で生まれ育った中村さんはどういう対策を取られていますか。
中村：TikTokには間違った情報が流れているという気持ちを持ちながら利用しています。TikTokには切り抜き動画がたくさんあるのですが、前後の文脈を無視して切り取られています。芸能人でも1つの言動をとって批評されることもあると思うのですが、伊沢さんも今日初めて実際に会ってみると、拡散されていた情報とは違うということがわかります。間違っているかもしれないという気持ちを持ちながらさまざまなメディアを比較しながら判断するということに気をつけています。
古田：３人からさまざまな対策が出てきましたが、山口先生、専門家としてどうお考えですか。
山口：私から足すべき部分はないというほど皆さんの意見は素晴らしいと思います。まず一番大事なことはまさに中村さんがおっしゃっていた通り、私たちが触れている情報空間に誤っているものがあるかもしれないということを知っておくことです。「自分も騙される」ということを必ず覚えておいてほしいです。感情も大きな鍵で、感情が動けば動くほど拡散したいと思いやすいので、一呼吸おく、情報源を確認する、真偽がよくわからなければ拡散しないということが大事です。
伊沢：口頭での拡散だと、保留することが難しそうですね。
山口：まさにその通りで、コミュニケーション研究では、私たちは専門家の言葉より自分に近しい人が言うことの方が信じやすいということもわかっているので、気をつけなければいけません。
古田：実際にインターネットでニュースに関する発信をしている人は20％を切るとも言われています。それでも身近な人と情報共有をすることってありますよね。そこで伝わってしまうことは大きいのだなと思います。
もうひとつ、自分を含め全ての人にはバイアスがあるので、正しい情報を知ったとしても脳の中で間違って解釈してしまうこともあります。正しい情報を知ったとしても間違った発信をしてしまう可能性もあるので、それを十分に知っておくべきです。論点② 今後考えられる新たな懸念にどう対抗するか
山口：技術革新によって、AIとSNSのボットの組み合わせにより間違った情報が拡散されてしまう可能性が高まるかもしれません。今までは日本語の難しさによって守られてきた側面があると思うのですが、最近の優れたAIによって、外国人が自然な日本語の文章を作ることが可能になってきています。
こういう問題への対抗はリテラシーを超えてしまっていると思っていまして、技術を使って対抗することをしないと間に合わないと思います。例えば、AIで生成した画像を見破るウェブサイトを使って、個人が簡単にそこで検証できる、といったものを使っていかなければいけません。古田：今まではAIが作った画像だと肉眼で本物か作られたものかわかったのですが、もう最近はそれが難しくなってきています。みなさんの中ではこういう部分が怖いということはありますか。
伊沢：オールドメディアの担い手が減っていることが、間違った情報の拡散に拍車をかけていると思います。仕事量に対して担い手が少なく、間違いが発生してしまうことは仕方ないと言わざるを得ない状況で、情報を発信する立場の若手がリテラシーを高めるために勉強をする暇がないということは問題ですよね。
徳力：商業メディアがビュー数を稼ぐために、バズるからといって真偽を確かめないまま記事にしてしまうということが、残念ながら起こるようになっていますよね。こういうことが起こるとフェイクニュースに非常に弱いメディア構造になってしまっているのではないかと怖いです。
伊沢：ロングスパンで問題を追ってほしいような体力のあるメディアが、そのようなアテンション・エコノミーに流れてしまうと問題ですよね。
論点③ 身を守る方法をどのように広めていくか
伊沢：QuizKnockでも心がけていますが、楽しく学ぶことは大事です。復興庁の復興広報の会議に出席した際に専門家がおっしゃっていたのは、不勉強なのではないかと不安を感じた状態で聞くニュースは、正しくて地道なものより、扇情的なものの方が容易に受け入れられやすいというものでした。不安を煽らない形で広めることを僕は大事にしたいです。
古田：QuizKnockが作る動画は本当に素晴らしくて、コメント欄を見ても温かいコメントや共感を呼んだことがわかるものがありました。どのようにすればそのように愛されるのですかね。
伊沢：私たちが大切にしていることは、導線作りと中身見せです。導線作りというのは、クイズである以上は見る側に「わからない」不安を与えうるからこそ、それが「わかる」になる喜びが必ずセットで来るように設計し、学びの習慣化に寄与することです。
「ファクトチェック」への言及も頻繁にやっていて、これが中身見せです。知識を扱う動画なので、校正校閲に時間をかけるべく撮影からリリースまで平均で2ヶ月くらいはかけています。文言のひとつから「スクショが拡散された時に事実誤認を誘発しないか」まで細かくチェックします。
その上で、こうした話は動画内にも登場していて。「こういうことが必要だよ」と明示することに意義を感じています。徳力：noteで働いている人としてのポジショントークになってしまうかもしれませんが、使うことによって学んでいくというサイクルをもっと早く回すべきです。日本は新しいものが入ってくると警戒して、組織がそれに対する知識が少ないという状況が続いてしまうのです。メディアが発信することは正しいという前提でこの100年くらいきているのですが、発信する側に回るとそうではないということも見えてきます。私の場合、ブログやnote を書いてみることで自分の発信したことが簡単に拡散されてしまうということが理解できました。発信したことのない人ほど、「発信するなら責任を持て」というようなことを言います。しかし、メディアが間違ってしまうリスクを理解するためにも一度使ってみないといけません。
古田：外国のファクトチェック団体には、メディアリテラシー教育やファクトチェック教育のために、自分で動画を作ってもらうなど、ファクトチェックを経験してもらう活動をする例もあります。動画を制作していると気づかないうちに恣意的になってしまったり、意図していない方向で伝わってしまったりするという経験を経て、気をつけるべきポイントを理解してもらうという狙いです。
古田：中村さんや伊沢さんの世代は、学校でメディアリテラシーの教育はありましたか。
伊沢：ないですね、仕事で学校現場に行くこともあるのですが、ないと言っていいと思います。
山口：身を守る方法をどのように広めていくかという論点でまとめると、縦の深堀と横の展開があります。縦の深堀というのは自分ごと化するということです。講座などに参加することもひとつの手です。しかし、それだけでは広まりません。そのためには横の展開が必要です。
その方法は2つありまして、1つはコンテンツを作ることです。コンテンツは限界費用が0円であり、コストを抑えて広く拡散することができます。一番効果的なのは動画、とりわけショート動画です。QuizKnockと共に別の委員会で制作した年金に関する動画や、今回のイベントと合わせて行ったYouTubeの「ほんとかな？が、あなたを守る。」キャンペーンは、非常に多くの人に見てもらえている上に、とても評判が良いです。
2つ目は教育課程に入れることです。先ほど伊沢さんや中村さんから「ない」とあったのですが、それは現状況に鑑みるとあり得ないことです。誰でも情報を発信受信できる人類総メディア時代においては一人一人がメディアリテラシーを高めることはその人自身だけでなく、社会にとって非常に重要なことです。古田：ファクトチェックは決して相手を論破するためにあるものではなく、自分達が間違えないようにするためにあるものです。自分達が正しい情報を得ていて、相手は得ていないと壁を作るのではなく、自分も間違っているかもしれないと吟味する視点で、情報を検証していくことが大事なのではないかと思います。
パネルディスカッション②「フェイクニュースに強い社会を作るには」
伊藤 和真（株式会社PoliPoli 代表取締役）
今子 さゆり（ヤフー株式会社 メディア統括本部メディアトラスト＆セーフティー推進室 室長）
瀬尾 傑（スローニュース株式会社 代表取締役社長）
田邊 光男（総務省 情報流通行政局 情報流通振興課長）
吉田 奨（一般社団法人セーファーインターネット協会 専務理事）
山本 龍彦（慶應義塾大学大学院 法務研究科 教授） ※モデレーター
論点① フェイクニュースに対して各ステークホルダーは何ができるか
伊藤：若い世代はデマ情報が出回るスピードが速いということで、若者のリテラシーを高めるための教育や、情報の真偽を第三者機関で確かめられるようにする、といったことはあり得ます。しかし、そもそもユーザーが一度ページを飛んで確認するかといったらあまり現実的ではないと思うので、プラットフォーム側やメディア側がチェックをするような機能を持たないといけない等様々あると思うのですが、全てのステークホルダーが努力すべきだと思います。
PoliPoliは政策を取り上げて人々の意見を集めるプラットフォームです。特に選挙に絡む際はデマだったり誹謗中傷が起きるので、目視でチェックしたり、フェイクニュースは公開しないようにしたりしています。また、事実と異なると判断された場合はフィードバックを返すようなこともしています。山本：近年プラットフォームのレコメンデーション機能によって、情報の偏食が起きていると思います。そういった意味では健康的情報といい、バランスよく情報を摂取することでフェイクニュースに対する免疫をつけていくということが大切だと思います。この情報的健康の実現のためにも、各ステークホルダーの連携が非常に重要だと思います。
また、タイムパフォーマンスの世界の中で、ユーザーがコンテンツの内容を十分に確認しないのではないかということも問題だと考えています。情報の真偽を立ち止まって確かめられるようにプラットフォーム側もナッジできるかが重要になってくると思います。伊藤：どんどん速くなっていて、リスクも伴っていると思います。周りを見て、ショート動画しか見ない、動画も倍速で再生しています。その中で、耳あたりの良い情報をシェアするということは社会のトレンドだと思うので、それを社会でどう対処するかが大事だと思います。
今子：我々はプラットフォーマーとしていくつかの施策を行なっています。信頼性の高い情報を発信すること、リテラシー向上のための取り組みをすること、偽情報を削除することなどを行っています。信頼性の高い情報を発信することが大切で、偽情報を打ち消すような情報を出すことや、信頼性の高いメディアと契約をしています。
山本：プラットフォームの取り組みとして重要な点を挙げてくださったと思います。後ほど信頼性の高いメディアをどう選ぶのかという基準や、どう透明性を担保するのかを話していただきたいです。
瀬尾：クイックなニュースや感情を煽るようなニュースが流通しやすいのですが、世の中はもっと複雑で簡単に物事の良し悪しを決められません。まずは世の中の複雑な構造を知ることが大事だと思っています。
それを伝えることは難しいのですが、私が取り組んでいるスローニュースにおいては、作り手として時間をかけて様々な情報を多面的に検証しながら発信する、そして受け手にもそれらをスローに読んでもらうということを行っています。メディア側が自主的にフェイクニュース対策に取り組まなければいけないということで有志のメディアが集まってインターネットメディア協会という団体を立ち上げました。そこではセミナーなどを通して、信頼を作るためにどういう取り組みをしているのか、ビジネスモデルをどうしているのかということを相互にシェアしています。同時にユーザー向けのリテラシー教育にも取り組んでいます。
山本：ありがとうございます。スローな思考は大事ですね。ダニエル・カーネマンという心理学者が、人間の思考モードにはファストで反射的な思考モードと、熟慮的で反省的な、スローな思考モードの2つがあると言っています。今のアテンション・エコノミーと呼ばれる情報空間だと、ファストな思考が強くなっていて、スローな思考モードであるシステム2が抑え込まれる状況と言われていますが、システム2にフォーカスするのはビジネスとして難しいと思います。実際どうですか。
瀬尾：とても苦労しています。本を出版する形でマネタイズをしています。アメリカからも関心を持ってもらっていて、マネタイズには直結していないのですが、社会的インパクトは強くなっていると思います。
山本：フェイクニュースは拡散されるし、クリックもされるので、儲かってしまうという問題があります。信頼できる情報にお金がつくシステムを作ることが重要だと思いますが、伊藤さんいかがですか。
伊藤：複雑なものを複雑なまま好奇心を持って楽しめる社会が理想だとは思いつつ、そこまでどう至るかが現実的な論点ですね。
山本：同感です。田邊さん、いかがでしょうか。
田邊：政府がこういう局面で何ができるかということですが、表現の自由とも密接に関わってくると思いますので、政府が中心に動くということはないと思います。政府は全体の枠組みを作り、ステークホルダーの自主的な取り組みが進むようにしています。
山本：政府としてはジレンマだと思います。フェイクニュースのような有害情報を政府が判断して消すということがあると、検閲のようになってしまう。とはいえ、完全に引いてもいられないような状況になってきているので、関わり方が難しいのではないかなと思います。
吉田：フェイクニュースに立ち向かっていくときに核となるようなプレイヤーが必要になってくると思います。ファクトチェック機関を隆盛する必要がある一方で、なかなかファクトチェック機関が育っていません。それを踏まえて、我々は様々な有識者の力を借りながらファクトチェックに取り組んでいます。
論点② フェイクニュース対策として何が課題で、今後 何をすべきか
瀬尾：田邊さんにお伺いします。プロパガンダのような非常事態の対応を安全保障の観点から行うという話があります。とても大切なことですが、一方でこれを内閣官房で行う、特に内閣情報調査室が主導することで密室性が高まり、透明性を担保することが難しくなる可能性がある。フェイクニュース対策には透明性はとても重要ですが、その点を総務省はどう考えていますか。
田邊：担当外ということもあって、お答えが難しいですが、我々が聞いているのは外国からの国家主権や安全保障に関わる情報について発信するということ、そしてその前段として情報分析をするということ、そのための体制を整備するということです。では国内で何をするのかということで、総務省としてはリテラシー向上というようなフェイクニュース対策を行っています。
瀬尾：透明性を担保してほしいと思うのは、日本においてメディアや政府への信頼が低いということがフェイクニュースの温床になる危険性を孕んでいると思っているからです。
山本：影響力工作も重要な課題だと思います。近年はプラットフォームと政府の連携が見られていますが、スノーデン事件でも見られるような権力と権力の結びつきにもなりかねない。関係性の透明化をどう図っていくのかということも重要な視点だと思いました。
2点新たにありまして、まず、プラットフォームの取り組みは重要だと先ほどから議論になりましたが、コンテンツモデレーションにおける客観性や信頼性を高めることは重要だと思いますので、何か取り組んでいることがあれば教えてください。もう1つは生成AIについてです。フェイクかそうではないかが分かりにくくなっていくと思いますが、プラットフォームはどう対応できるのかという点です。今子さんお願いできますか。
今子：1点目ですが、非常に難しいのは何が正しくて間違っているのか、私たちがわかっているわけではないという点だと思います。他のステークホルダー、例えばファクトチェック機関と協力して、プラットフォーム上でアラートを出したり、誤った情報を削除したうえで、どういう対応をしたのかをオープンにすることで透明性を高めていくことが大事だと思います。2点目ですが、まだ誰も解決策を見出していない部分だと思います。様々なステークホルダーの知見をいただいて対応をみんなで考えていくことが大事だと思います。伊藤さんは生成AI にお詳しいかと思いますが、どうでしょうか。
伊藤：一次情報を当たることが大事だと思います。あとはその技術に対する認証技術も発達すると思いますし、その面では国や政府の後押しも必要だと思います。
吉田：前提として、生成AIが生まれる前から無数の嘘がインターネット上にありました。生成AIが出てきたからといって状況が大きく変わるということはないと思います。今行っている対策をどう勢いづけていくのかということにかかっていると思います。加えて、生成AIと聞くと悪いもののように思えますが、我々がファクトチェックした結果も生成AI が作る答えに含まれる場合もありますので、ファクトチェックを推進することで良質な情報をインターネット上にストックすることが大事だと思います。
山本：技術的な知見も必要だと思いますが、どうお考えですか。
吉田：その辺は我々も悩んでいる点ですが、政府による協力が必要だと思います。ディープフェイク画像の見分け方などの研究も、政府の機関で進んでいると聞いているので、それを我々や国民に無償で提供していただくことが必要なのではないかと思います。
瀬尾：生成AIは創造的で可能性があって使っていくべきだと思うのですが、技術を理解しているのかがとても重要だと思います。アカデミズムの最先端とジャーナリズムが融合する、つまりジャーナリズムがアカデミズムの力を借りる、あるいはアカデミズムがジャーナリスティックな情報を発信していくことがいいのではないかと思います。
吉田：有識者のご協力が必要だと思います。JFC（日本ファクトチェックセンター）も委員会制度をとって有識者の意見をいただいております。
山本：ビジネスの観点から、信頼できる情報が成り立っていくためのエコシステムについて伊藤さんはどう考えますか。
伊藤：インセンティブが大事だと思います。ソーシャルインパクトのような非財務的な部分かつ社会的にはグッドなことに対してインセンティブが与えられることは1つあると思います。もう1つ、デザインの力を借りて複雑な情報を簡単に理解できるようにすることもあると思います。
山本：慶應義塾大学では、オリジネータープロファイル、OPというものを開発しています。コンテンツに作り手のプロファイルを添付することです。OPをつけることで、作り手がどういう理念で情報発信しているのか分かるような仕組みになっています。OPがついた情報は信頼できる、OPバッジがついた情報に広告をつけようというようにビジネスモデルが変わればいいと思います。今子さん何か付け加える点があれば。
今子：Yahoo!ニュースにはリアクションボタンがありまして、その評価をもとにお金の還元をするということを試験的に行っていますが、それを今後発展させていければと思っています。
企画・編集 山口真一
ライター 三根ももこ（GLOCOM リサーチアシスタント）
発行年月 2023年6月
