背景
 インターネットを介した膨大な情報の集約による〈集合知の創出〉が素朴に期待されてきた現代社会は、今や誤情報の拡散がもたらす〈集合知の危機〉に直面している。ロシアによる国家レベルのサイバー攻撃から、SNS上でのデマや陰謀論の自然発生的な拡散まで、我々が直面する具体的な問題事例は膨大である（Shane, 2017）。ネット上での誤情報の問題は、現代社会における集合知の可能性に疑念と期待を交錯させている。
 こうした状況のなか、近年ではSNS等のビッグデータの分析を通した計算社会科学（Lazer et al., 2009）によって、誤情報の拡散現象の定量的な可視化が可能になっている。その一方で、具体的なコンテキストを超えて、誤情報の連鎖的伝播がどのような認知過程を通して発生するのかについて、人間の認知アルゴリズムを起点とする説明は未だできてない。

研究内容・方法
 本研究ではまず、人々が①正しい情報を発しやすい情報源と②誤った情報を発しやすい情報源という2つの情報源にアクセスできる状況を、もっともシンプルな状況設定として導入した。意思決定が必要なイベントが発生するたびに、人々はどちらかの情報源を選択し、情報を得ることができる。ここでのポイントは、2つの情報源の質については事前にわからないこと、そしてどちらも一定の確率で誤りを生むノイズを含むため、不確実な状況での選択の学習が必要になることである。このような場面では、人々の選択・学習アルゴリズムを強化学習モデルで近似できることが知られている（片平, 2018）。
 ここで、複数の人々が情報源の選択を自発的に行うと同時に、互いの選択を知ることができるとする。実際の社会では、情報を主体的に発信したり、分業したりすることで高度な社会的相互作用が行われるが、ここでは出発点としてシンプルに「互いの選択を観察できる」と仮定する。これは、SNSアカウントのフォロー数や「いいね」数、閲覧数などの指標に対応する。本研究では、この条件下で、人々が自分の選択に社会的情報を反映させるアルゴリズムとして2つの経路をモデル化した。第一の経路は、社会的情報を情報源の「選択」にのみ利用するというものである。第二の経路は、社会的情報を情報源の質の「評価」にのみ利用するというものである。第一の経路（社会的情報→選択）では、例えば参照するメディアのアカウントを選ぶとき、人気のあるアカウントを優先的に選びはするけれども、最終的にそのアカウントの情報源としての確からしさの評価には人気度が関係しない。一方、第二の経路（社会的情報→評価）では、アカウントの選択において人気度は関係せず、実際に参照したあとで当該アカウントの評価を行う際に、人気があればあるほど色がつくという仕組みである。

知見と今後の展開
 上記の2つの経路を計算論モデル（Najar et al., 2020）によりモデル化し、シミュレーションを行った。このシミュレーションでは、それぞれの社会的情報の学習アルゴリズムを備えた集団を用意し、どちらのアルゴリズムにおいて誤った情報源の選択確率が高まりうるかを調べた。その結果、第一の経路（社会的情報→選択）では、環境変動（情報の正しさの「ゆらぎ」）の有無によらず、社会的学習の結果として比較的頑健に正しい情報源が選択されるように集団の学習が進むことが分かった。その一方、第二の経路（社会的情報→評価）では、環境変動がある場合には、社会的学習により正しい情報源が選択されやすくなった一方、環境変動がない場合には、人々が誤った情報源に偏って選択するようになった。



 今後は、同様の意思決定状況を実際の人間の参加者に適用し、人々がどちらのアルゴリズムにしたがって社会的学習を行うかを明らかにしたい。実際の社会では、人々が常に同じアルゴリズムにしたがって意思決定しているわけではないことは自明であるから、今後の実験では、「政治的イデオロギー」や｢災害」、「噂話」など具体的なコンテキストに応じてどのようなアルゴリズム選択が行われるのかを明らかにする必要があるだろう。また、人々が同時に意思決定を行う状況ではなく、数珠つなぎ状に情報が流れる伝言ゲームのような社会ネットワーク条件下で、どのように誤情報が「拡散」し、それが「加速」するかを調べるアプローチも有意義だろう。
 本研究の成果は、誤情報の拡散を生み出す人々の認知アルゴリズムについて示唆を与え、今後の有効な誤情報拡散防止のための技術介入などに示唆を与えるだろう。

2024年5月
現職：日本学術振興会特別研究員CPD（受入機関：東京工業大学環境・社会理工学院）