技術と魚

技術屋ですが経営もやってます

SNSと技術の夢、陰謀論

僕が小〜中学生の頃、インターネットというと個人サイトやチャットでワイワイやるのが主目的でして、エンジニアとしての原点を感じています。ところで、昔チャットで、「七色に輝く中国の河川」とか「2つの頭を持つ牛」とか、いわゆる中国の環境汚染の実態を伝えている記事を熱心にシェアする人がいました(調べてみたら今も記事にアクセス可能のようです)。当時はピュアな心で「うわぁ、やべえなぁ中国・・」とか思ったりしていたわけです。全くファクトチェックなどしていませんが、別に日本だって発展途上ではゴミだらけで大概だった映像を見たこともあるし、公害問題など誰しも知っている知識と照らせば、まあどこの国にもそれくらいのことはあるのでしょう。と、大人になって思えるようになりました。

全く話が変わって、諸事情からとある社会問題にまつわる界隈のTwitterを眺めておりまして、賛否の意見が飛び交い、殆どただの煽り合いに近いツイートを傍観しています。今まで仕事やプライベートだけのTwitterをやっていて、長らく平和な環境にいたので忘れておりましたが、インターネット上の煽り合いの様相は15年前と全然変わらないなあと感じます。特に建設的な議論が発生しない点は昔から共通しています。(建設的な議論は、コンテンツとしてはつまらないからねぇ・・)

一つ変わったこととしては、実名にする方が増えたことです。"匿名 IS KING"だった2ch全盛期から、徐々にmixi、Facebookと流行っていくうちに、現代的なオープンなインターネットの流れができたように見えます。昔は「実名=危険」と認識されていました。特定されるからだとか。ところが、今は実名を名乗ることによって信頼性を得られるようになり、逆に匿名だとボットだとか疑われるようにもなりました。匿名といえば、デマだらけのブログを乱立させてアフィリエイト収入を得ている方は昔からいましたね。僕はやってませんが、知人はそれなりにお金が入っていたようです。

さて現代においてあまり進歩のないコミュニケーションを眺めている中、非常に冷静な方が下の本をタイムラインで紹介されている方がいらっしゃって(アカウントを忘れてしまいました)、 とても興味を引いたので勢いで買ってみました。

原題「The Reality Game」

アメリカの選挙にまつわる陰謀論を徹底的に追いかけつつ、こうした技術の進歩の中で起きる可能性がある諸問題がどんなものが予測できるか、そしてどう立ち向かうべきかという視点で書かれた本です。

FacebookのようなSNSというものが生み出された当初、かつて特定メディアに限られていた”発信"が誰でもできるように民主化され、これによって少なくともクローズドな時代よりも自由主義的な良い時代が来ると信じられていました。スタートアップの経営者も従業員もベンチャーキャピタル界隈も、そのような"良い面"をとにかく強調していました。こうした情報による民主化は社会をより良いものにすると信じる考え方はシリコンバレーで働くエンジニア界隈にある程度共通していて、筆者はサイバーリバタリアニズムと呼んでいます。僕自身もエンジニアであることからこのような感覚は少なからず持っています。

その一方でデマや陰謀論の拡散が昔に比べ容易になってしまった部分をまず筆者は指摘します。今でも、大した技術を持っていなくとも、Twitterのアカウントを複数作って運用することは簡単にできます。実際にアメリカの選挙期間において、数人〜数十人程度のグループで、Twitterのトレンドを操作してあたかも世論が存在しているかのように偽装することが実際に行われたことを発見され、本でも指摘しています。重要なことは、これがサイバーリバタリアニズムの思い描く性善説とは全く逆の事象だということです。つまり、発信が民主化し、さらにボットによる自動化のような技術も民主化されたことは、詰まるところ単に手段が容易になっただけであり、裏を返せば差別・暴力主義者のような極端な思想を持つ者が、それを正当化するような世論がマジョリティとして存在しているかのように錯覚できる状態を作ること(いわば洗脳)もかなり容易にしてしまったということになります。

Facebookはデマの発信源になってしまっている問題に対し、ザッカーバーグがAIを使って問題のあるコンテンツの検出を行うような技術開発を進めているといいますが、そもそもデマの発信の責任がプラットフォーム側にない、というのが、米通信品位法230条の現在の解釈としてあるため、実効性があるかどうかという点では疑問点があります。さらに現時点では技術で解決すること自体、技術的な壁も大きいのが現状です。また、地道に人手による検閲的方法を使わないでどうにかしようとしている点においては、結局サイバーリバタリアニズム的思想の内側にいるようにも見えます。まあ、彼らはユーザで成り立つビジネスなので、その考えに至るのはよく分かりますが。

そして、仮にAI技術が進歩し、我々はSNSを使っていて人間だと思ってフォローしていた相手が実はAIだった!といった状況が出来上がる頃には、何らかの形でAIが印象操作できる時代が来るかもしれなく、そして我々はおそらく気づくことができず、正しい検閲も難しい状況になる可能性があります。その先に、画像・映像コンテンツのディープフェイクのようなものも当然出てくる可能性もある、というのがこの本全般での問題提起となっています。

当面AIがそのレベルに達するとは思っていませんが、いつしかAIだらけとなったSNSというのはリアルな人間から見放されインターネットは情報処理システムとしての価値に回帰するのか、もしくは虚偽だらけの混沌としたインターネットに人間が飲み込まれるのか、と想像するだけで、SF映画が出来上がりそうですね。

直近の問題に目を向けると、先に述べたような数十人程度によって生み出される偽の世論(コンピュータ・プロパガンダ)問題があります。既にアメリカ選挙では問題が顕在化したので、日本でも、令和からの選挙はコンピュータ・プロパガンダ問題が顕在化する可能性は高いでしょう。すでに、YouTubeは陰謀論コンテンツのオンパレードです。リテラシーの高い方々は、信頼性の高い情報を選択できる力があると思いますが、最近は3歳児からシニアまでネットが使えるわけで、そうしたリテラシーの低い層がどのような影響を受けてしまうかは、懸念せざるを得ないですね。

技術で世の中をより良くすることを仕事にしている自分にとっては、この問題は中々考えさせられるものがあります。