電子フロンティア財団による「アルゴリズムに頼る前の5つのチェックリスト」とアルゴリズムが自動化する不平等についての本

• Math Can’t Solve Everything: Questions We Need To Be Asking Before Deciding an Algorithm is the Answer | Electronic Frontier Foundation

これもキャシー・オニールの主張に通じる話なのだが、電子フロンティア財団が、「数学は必ずしもすべての問題を解決できない」として、アルゴリズムに頼る前に確認すべき5つのチェックリストを公開している。

1. そのアルゴリズムは、人間の生命（生活）にネガティブな影響を与える可能性がある決定を下す――あるいはその基礎となる――か？
2. 手に入るデータは本当に良い結果につながるか？
3. そのアルゴリズムは公平か？
4. アルゴリズムの結果は（本当に）人間の手で活用されるのか？
5. アルゴリズムによる決定に影響を受ける人々は、何かしらそのシステムに何かしら影響力を持つのか？

これだけでは分かりにくい項目もあるので、気になった方は原文をあたってくだされ。

面白いと思ったのは、この文章の中で引き合いに出されているのが、件のキャシー・オニールの『Weapons of Math Destruction』に加え、Virginia Eubanks の『Automating Inequality』という本である。

Automating Inequality: How High-tech Tools Profile, Police, and Punish the Poor

Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor (English Edition)

2018年に入って刊行された本だが、記憶を辿ると、Boing Boing で Cory Doctrorow が気合の入った書評を書いていた。彼以外にもナオミ・クラインやイーサン・ザッカーマンやダナ・ボイドが推薦の言葉を寄せている。

この本も邦訳の刊行が期待される洋書を紹介しまくることにする（2018年版）に入れるべきだった。後悔。

さて、Virginia Eubanks の『Automating Inequality』だが、「いかにハイテクツールが貧者をプロファイルし、取り締まり、罰するか」というタイトルがなかなか強烈である。要は現在 AI という言葉でまとめられるハイテク企業の武器は貧者も平等に享受できるものではなく、結果不平等と格差が自動化するという主張である。

これも重要な論点だと思うが、こちらは邦訳は出るかねぇ。