やはり我々には「アルゴリズムの監査機関」が必要なのか？

FacebookのTrending topics問題、Googleの検索結果が偏っているという話、食べログのランキング疑惑、不透明なアルゴリズムとどう付き合っていくかが問題としてようやく注目されるようになってきたのかも。人工知能が仕事を奪うとかよりずっと今日的な話。
— yu koseki (@youkoseki) September 7, 2016

例によって、Facebook のアルゴリズムの精度やその適用基準が問題になっている。

日本でも、カカクコムが運営する食べログの評価操作疑惑が問題となっている。

Facebook の事例は、少なくともニュース記事選別に関しては、すいません、下手うちましたで取り下げればよい話なのだが、食べログの事例は、何よりお店の点数が口コミサイトとしての根幹に関わる話だから問題はより深刻である。

こういう事例を見ると、ワタシは例によって「もうすぐ絶滅するという開かれたウェブについて」で紹介した以下の意見を連想してしまうのである。

ワタシなど、2013年に刊行された、現在の AI ブームを予見するような『アルゴリズムが世界を支配する』という本を思い出します。Facebook の「トレンド」の件は、中立なアルゴリズムに選別を任せているといいながら、実は人為的な操作が入っているののが疑われたのですが、アルゴリズム自体も偏見を持つ可能性があるのを、「世界を支配する」と言われるほど我々の生活に強力な力を及ぼしていることとあわせ、忘れてはいけません。
バイテルトは、IoT 時代にはアルゴリズムが人間の生命を直接的に脅かす力を持ちうるのを指摘し、食料品や医薬品について検査や取り締まりを行う食品医薬品局（FDA）にあたる監視組織をアルゴリズムについても設けるべきと提言しています。それがプラットフォーム企業の個人データ支配を緩和し、ユーザが自身の情報に関するコントロールを取り戻しながら、飽くまで開かれたウェブを通して利用者の利便性を確保する道とバイテルトは考えているようですが、このあたりドク・サールズの『インテンション・エコノミー顧客が支配する経済』との親和性がありそうです。
バイテルトは、我々が今日築いたウェブが次世代の基盤になるのだから、これを（現在の大企業のウォールド・ガーデンによる便利だけどサイロ化されたものから）利用者がプライバシーと選択肢を持ち、透明性という開かれた価値によって規定されるよう正すことが重要であり、それが開かれたウェブを守る方法だと力説します。
もうすぐ絶滅するという開かれたウェブについて - WirelessWire News（ワイヤレスワイヤーニュース）