OPINION PAPER No.40(26-003)
アテンション・エコノミーが壊す民主主義
―withフェイク2.0時代の制度設計―
フェイク情報の問題を語るとき、多くの議論は「嘘が増えた」という現象面に集中する。しかしそもそも、嘘や流言は歴史を通じて常に存在してきた。関東大震災時の流言、昭和金融恐慌の取り付け騒ぎ、戦時下のプロパガンダ――虚偽や誤情報はインターネット以前から社会を揺るがしてきた。ゆえに「フェイクが存在すること」自体は、現代固有の問題ではない。
決定的に変わったのは、情報の量と流通速度である。今、私たちは、人類総メディア時代を生きている。かつて情報発信は新聞社や放送局など限られた主体に集中していたが、現在は誰もが常時発信者である。SNSや動画共有サービスなどを通じて、日々膨大なコンテンツが生み出されている。世界全体で一日に生成されるデジタルデータは、もはや人間が処理可能な水準をはるかに超えている。
情報が希少だった時代から、注意力が希少な時代へと転換した。この環境では、「正確であること」よりも「目を引くこと」が優位に立つ。人の可処分注意時間は限られている。溢れる情報の中で可視性を獲得するには、より刺激的で、より断定的で、より感情を揺さぶる表現が有利になる。ここにアテンション・エコノミーが成立する。
アテンション・エコノミーとは、関心や注目がそのまま経済的価値に転換される構造である。閲覧数、再生回数、インプレッション、エンゲージメント――それらは広告収益や分配金に直結する。その中では、情報の真偽よりも、「どれだけ人の目を引くか」が価値を決める。
ここで重要なのは、人間の心理である。怒り、不安、恐怖、驚き、優越感。こうした感情を刺激する情報ほど拡散されやすい。MITの研究（Vosoughi, Roy, & Aral, 2018）が示した通り、フェイク情報は真実よりも速く、広く拡散する傾向がある。理由は単純である。フェイク情報は往々にして新規性が高く、感情を強く揺さぶるからだ。
さらに、私の研究（Yamaguchi, 2023）では、極端な意見を持つ人ほど投稿頻度が高いことが確認されている。SNS上では、少数の強い思いを持つ積極的な投稿者が大量の発信を行い、怒りや対立をあおる投稿ほど「反応」が集まりやすいため、プラットフォームのアルゴリズムによってより多くの人の画面に表示されやすくなる。その結果、社会全体の意見分布とは異なる「可視性の偏り」が生じる。ごく一部の声が、あたかも世論の多数派であるかのように見える。
この構造のもとでは、フェイク情報は合理的な戦略となってしまう。過激であればあるほど、断定的であればあるほど、感情を刺激すればするほど、拡散と収益の可能性は高まる。嘘は倫理的には問題であっても、経済的には効率的なのである。
この第一段階を、私は「withフェイク時代」と呼んできた。2016年の米国大統領選挙では、フェイク情報が大きな社会問題となった。その背景には、まさにアテンション・エコノミーの構造があった。遠くマケドニア共和国（現・北マケドニア共和国）の学生たちが大量のフェイク情報を作成・拡散し、広告収入によって親の生涯年収を超える収益を得たと報じられた。注目を集めれば収益になるという仕組みが、フェイク情報を合理的なビジネスへと変えてしまったのである。
この段階では、私たちは「フェイクと共存せざるを得ない時代」に入ったといえる。しかし現在、状況はさらに進んでいる。生成AIの普及によって、フェイクは量的拡大にとどまらず、質的転換を遂げた。ディープフェイクの大衆化である。
かつて精巧な偽動画や偽音声を作るには高度な技術と設備が必要だった。しかし現在では、一般の利用者が短時間でそれらを生成できる。実在の政治家の発言を捏造する動画、著名人の声を模倣した音声、ニュース番組風の演出映像。これらは専門家の領域ではなくなった。
問題は、精巧さそのものではない。映像や音声が「証拠」として機能しなくなることにある。これまで映像は事実の記録として強い説得力を持っていた。しかしディープフェイクが一般化すれば、映像を見ても即座に信頼することはできない。逆に、真実の映像であっても「AIによる偽物だ」と否定することが可能になる。
ここに生じるのが「うそつきの配当」である。都合の悪い証拠を「フェイクだ」と言い逃れる余地が常に残る社会である。真実の暴露であっても疑われ、虚偽の主張であっても一定の支持を得る。信頼の基盤が侵食される。
さらに深刻なのは、生成AIが「感情の最適化」を加速させる点である。生成AIそのものが政治的意図を持つわけではない。しかし、SNS空間では長らく、クリック数や共有数などの「反応量」が評価指標となってきた。AIはその反応データを学習し、どのような言葉が怒りを生み、どのような構成が強い共感を誘うかを統計的に把握できる。結果として、政治的メッセージは真偽や論理的一貫性よりも、より強い感情反応を引き出す方向へと最適化されやすくなる。
私はこれを「共感の独裁」と呼ぶ。共感は本来、他者理解や連帯の基盤であった。しかしアテンション・エコノミーのもとでは、共感の大きさが可視性を決める。強い共感を生む物語ほど拡散し、「多く見える」こと自体が正当性の証拠のように機能する。一方で、冷静な分析や複雑な議論は反応を生みにくく、表示順位を下げられ、視界から消えていく。
こうして、反応の強さが正しさの代替指標となるとき、共感は他者理解の契機ではなく、異論を排除する力へと転化する。共感の連鎖が閉じた空間をつくり、分断は固定化される。そこでは多数決ではなく、「最も強い感情」が支配する構造が生まれるのである。
こうした構造の中で、民主主義は想像以上に傷つきやすい。私は、民主主義とは本来、共通の事実を土台に議論を重ねることで方向を定めていく制度だと考えている。だが、事実そのものが疑われ、怒りや不安といった感情が先に立つ環境では、その土台が崩れてしまうのだ。
この構造的な脆弱性は、実証的にも確認されている。私の調査（山口, 2022）では、フェイク情報は強固な支持層よりも「弱い支持層」に影響を与えやすいことが示されている。態度を保留している中間層は規模として大きく、選挙において重要な役割を担う。フェイクはその層を動かす力がある。さらに、民主主義において全員の考えを変える必要はなく、拮抗している場合は数%の変化でも結果が180度変わる。民主主義は多数決で決まるが、その帰結は少数の態度変化によって左右されうる。
では、どう制度設計すべきか。まず明確にしておくべきは、表現内容そのものを国家が判断する構造は危険であるということである。「何がフェイクか」を政府が定義する制度は、容易に言論統制へと転化し得る。実際に海外では、フェイク対策は権力強化の口実になり、政府に批判的なジャーナリストの逮捕に利用されているケースもある。
したがって、焦点は内容規制ではなく、アテンション・エコノミーのインセンティブ構造に置くべきである。
第一に、選挙期間中の選挙関連コンテンツのマネタイズ停止は検討に値するだろう。政治的主張は自由であるべきだが、選挙という公共性の高い場面で、過激な発信が収益化される構造は歪みを生む。収益を断つことで、少なくとも「儲かるから過激化する」という動機を弱めることができる。災害時など、他の情報が重要性を増す場面も同様だ。期間で区切ることにより、表現の自由との両立はもちろん、経済活動の自由とのバランスもとる。ただし、適用範囲の定義と異議申立て手続き、透明性の担保が前提となる。
第二に、偽広告対策の強化である。著名人のなりすまし広告や投資詐欺は、プラットフォームの広告審査を経て配信されている。広告は営利活動であり、消費者保護の観点から、より高い確認義務を課すことは合理的である。ユーザーの投稿における言論の自由と、広告という取引行為は分けて考える必要がある。
第三に、真正性の担保である。生成AIの普及によって、画像や音声、映像の「本物らしさ」は飛躍的に高まった。問題は、フェイク情報そのものよりも、何が本物かを見分ける基盤が揺らぐことである。コンテンツの出所表示、電子透かし、認証制度、AIコンテンツ判定など、真正性を確認できる仕組みと技術開発を整備する必要がある。
第四に、信頼を公共財として位置づける視点である。情報空間における信頼は、市場原理だけに委ねていては維持できない。ただし、政府が自ら「真偽の判定者」になることは慎重であるべきだ。権力が真実を決める構図は、民主主義の根幹と緊張関係にある。必要なのは、内容に介入することではなく、独立性と透明性を制度的に支えることである。
メディア情報リテラシー教育の強化、プラットフォームの透明性確保の制度化、そして政府から独立したファクトチェック機関や研究基盤を持続的に支援する仕組みなど、公共的投資は「判定」ではなく「環境整備」に向けられるべきである。信頼は自然に生成されるものではない。それを支える制度的基盤こそが、民主主義社会における公共財なのである。
いずれも重要なのは、「嘘を完全に排除する」ことを目標にしないことである。それは不可能である。目指すべきは、「嘘が合理的でなくなる構造」をつくることである。
アテンション・エコノミーが支配する社会において、民主主義を守る鍵は、嘘を禁じることではない。嘘が儲からず、過激さが優位に立たず、信頼が摩耗しにくい制度設計を行うことである。
withフェイク2.0時代とは、単に技術が高度化した時代ではない。信頼が資源となり、同時に消耗品となる時代である。民主主義の危機は、フェイクそのものではなく、信頼が静かに削られていくことにある。
だからこそ、私たちが設計すべきは「真実を強制する社会」ではない。「信頼が維持される経済構造」である。アテンション・エコノミーの土台に手を入れない限り、フェイクとの戦いは終わらない。民主主義は制度であると同時に、信頼の共同体である。その共同体を支える設計思想が、いま問われているのである。
参考文献
・Vosoughi, S., Roy, D., & Aral, S. (2018). The spread of true and false news online. Science, 359(6380), 1146–1151.
・Yamaguchi, S. (2023). Why are there so many extreme opinions online?: An empirical, comparative analysis of Japan, Korea and the USA. Online information review, 47(1), 1-19.
・山口真一. (2022). ソーシャルメディア解体全書: フェイクニュース・ネット炎上・情報の偏り. 勁草書房.
2026年2月発行
