この TED 講演は、ティム・オライリーが新年一発目に書いた What’d I miss? で紹介していて知ったものである。講演者のジーナップ・トゥフェックチー（Zeynep Tufekci）は、ノースカロライナ大学の准教授の社会学者で、インターネットで社会運動が容易になっても、目的達成が難しい理由について書いた処女作『Twitter and Tear Gas: The Power and Fragility of Networked Protest』は、BackChannel チームが選出した2017年最高のテック系書籍11選に入っている。
Twitter and Tear Gas: The Power and Fragility of Networked Protest
- 作者: Zeynep Tufekci
- 出版社/メーカー: Yale University Press
- 発売日: 2017/05/16
- メディア: ハードカバー
- この商品を含むブログ (2件) を見る
Twitter and Tear Gas: The Power and Fragility of Networked Protest (English Edition)
- 作者: Zeynep Tufekci
- 出版社/メーカー: Yale University Press
- 発売日: 2017/05/01
- メディア: Kindle版
- この商品を含むブログ (3件) を見る
ティム・オライリーは、ジーナップ・トゥフェックチーの「あたかも AI が独立した実体であるかのように考え、AI が人間に何を行うか心配している人は多いが、権力者が AI を使って何ができるか気にする人がとても少ない」というツイートに賛意を寄せているが、日本語字幕がついたばかりのこの講演も、それを主題としている。
私たちが最も恐れるべきなのは、AI それ自体が私たちに何をするかではなく、権力者が私たちをコントロールし、操るために、目新しく、予想もつかない巧妙なやり方で密かに AI を使うかもしれないことです。近い将来、私たちの自由と尊厳を脅かすテクノロジーの多くは、私たちのデータと注意を捉え、広告主その他の顧客に販売している企業によって開発されています。
アルゴリズムの問題については、先月キャシー・オニールとケイト・クロフォードの講演動画を取り上げたばかりだが、ジーナップ・トゥフェックチーは、Facebook、Google、Amazon といった強大な力を有するプラットフォーム企業の収益を支えるアルゴリズムが、（ジョージ・オーウェルが『1984年』で描いた権力よりも巧妙に）権力者が我々を監視する力に変わる危険に警鐘を鳴らしている。
しかし、権力者がこうしたアルゴリズムを使って密かに私たちを監視し、判別し、突つきまわし、トラブルを起こしそうな反抗的な者を洗い出してマークし、説得アーキテクチャを大々的に利用し、個人の弱みや脆弱な面を突いて１人ずつ操作しようとするなら――市民の仲間や隣人が何を目にしているか、私たちが互いに分からないように個人の画面を通して大きなスケールで実行するなら――この独裁体制が私たちをクモの巣のように包み込んでも自分がその中にいるとは夢にも思わないかもしれません。
この講演でも紹介される、何か動画を再生すると、思想的により踏み込んだ動画を自動再生しようとする YouTube や、ドナルド・トランプの SNS 担当者が明らかにした、投票勧誘ではなく、逆に投票しない意思を固めさせるために Facebook を利用した事例など怖いものがある。
アルゴリズムの影響力の強さというと、最近では、Facebook のマーク・ザッカーバーグ CEO の企業よりも個人からの投稿を重視するとする方針転換が注目されたとかあったね。
しかし、アルゴリズムの潜在的な危険性は、シリコンバレーのプラットフォーム企業を率いる秀才たちが見せる（薄っぺらな）善意では軽減されない。
でも Facebook や Google の経営者たちが悪意をもって、意図的にこの国や世界の分極化を進め、過激化を後押ししているわけではありません。良心的に行動するという彼らの声明をこれまでにいくつも読みました。しかし、技術力を持つ人々の意図や声明ではなく、彼らが構築している構造やビジネスモデルが問題なのです。それが問題の核心です。
このあたり、テッド・チャンが警告する、AIの洞察力の欠如につながる企業（資本主義）の倫理観の欠如につながるかもしれない。
ここまで大きな話でなくても、AI をまとった人間対普通の人間という戦いが発生するぐらいは我々も考えておいたほうがよいだろう。また、その場合、ジーナップ・トゥフェックチーが別の講演「機械知能は人間の道徳性をより重要なものにする」における、「私たちは責任を機械に外部委託することはできない」「私たちは人間としての価値観と倫理観をさらに強固に持たねばならない」というのを忘れてはいけないだろう……が、上で引きあいに出したテッド・チャンの警告を読むと、構造的に勝ち目がない戦いにも思えてくるのである。
それでも私たちがこれほど深く依存しているシステムがどのように働いているかを真剣に考えるなら、この議論をこれ以上先延ばしにできるとは思えません。こうした構造が私たちの行動を組織し、私たちに何ができ、何ができないかをコントロールしています。広告収入で維持されるこうしたプラットフォームの多くは、無料で利用できることを強調しています。つまり販売されているのは私たち自身だということです。私たちにとって必要なデジタル経済は、最も高い値段をつけた独裁者や扇動的な政治家に私たちのデータや注目が売り渡されないシステムです。
この講演の結論も、当然ながらというべきか、シビアである（「つまり販売されているのは私たち自身」というのには反論があろうが）。
こうやってジーナップ・トゥフェックチーの講演を取り上げるのは、ワタシも彼女と同じくらいの明晰さなどと思いあがったことを言うつもりはさらさらないが、同じような問題意識をもって「ユートピアのキモさと人工知能がもたらす不気味の谷」や「我々は信頼に足るアルゴリズムを見極められるのか？」といった文章を書いたこと、そしてそれらを収録した『もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来』を電子書籍にして出してるのでよろしくということである。
おい、最後は宣伝かよと言われそうだが、もちろん宣伝である。そのためにこのブログをやっているのだから。
