当ブログは YAMDAS Project の更新履歴ページです。2019年よりはてなブログに移転しました。

Twitter はてなアンテナに追加 Feedlyに登録 RSS

やはり我々には「アルゴリズムの監査機関」が必要なのか?

例によって、Facebookアルゴリズムの精度やその適用基準が問題になっている。

日本でも、カカクコムが運営する食べログの評価操作疑惑が問題となっている。

Facebook の事例は、少なくともニュース記事選別に関しては、すいません、下手うちましたで取り下げればよい話なのだが、食べログの事例は、何よりお店の点数が口コミサイトとしての根幹に関わる話だから問題はより深刻である。

こういう事例を見ると、ワタシは例によって「もうすぐ絶滅するという開かれたウェブについて」で紹介した以下の意見を連想してしまうのである。

ワタシなど、2013年に刊行された、現在の AI ブームを予見するような『アルゴリズムが世界を支配する』という本を思い出します。Facebook の「トレンド」の件は、中立なアルゴリズムに選別を任せているといいながら、実は人為的な操作が入っているののが疑われたのですが、アルゴリズム自体も偏見を持つ可能性があるのを、「世界を支配する」と言われるほど我々の生活に強力な力を及ぼしていることとあわせ、忘れてはいけません。

バイテルトは、IoT 時代にはアルゴリズム人間の生命を直接的に脅かす力を持ちうるのを指摘し、食料品や医薬品について検査や取り締まりを行う食品医薬品局(FDA)にあたる監視組織をアルゴリズムについても設けるべきと提言しています。それがプラットフォーム企業の個人データ支配を緩和し、ユーザが自身の情報に関するコントロールを取り戻しながら、飽くまで開かれたウェブを通して利用者の利便性を確保する道とバイテルトは考えているようですが、このあたりドク・サールズの『インテンション・エコノミー 顧客が支配する経済』との親和性がありそうです。

バイテルトは、我々が今日築いたウェブが次世代の基盤になるのだから、これを(現在の大企業のウォールド・ガーデンによる便利だけどサイロ化されたものから)利用者がプライバシーと選択肢を持ち、透明性という開かれた価値によって規定されるよう正すことが重要であり、それが開かれたウェブを守る方法だと力説します。

もうすぐ絶滅するという開かれたウェブについて - WirelessWire News(ワイヤレスワイヤーニュース)

これについて、「問題のアルゴリズムがネット企業の収益性のキモである以上、アルゴリズムFDA が果たして実現可能なのか訝しく思う」というワタシの考えは残念ながら変わらないのだが、やはり何かしらの監査機関が必要なのかねぇ。

ワタシが iPhone食べログアプリに登録しているお店で、本文執筆時点で口コミの評点は悪くないのに点数が3.0になっている(またワタシ自身それをおかしいと思う)お店をチョイスしてみた。選択対象は、今のワタシ的に悪影響が出ないように(笑)、ワタシの故郷長崎のお店にさせてもらった。

食べログなんて信用ならないという話は、ワタシの知った人でもたとえば速水健朗さんなど以前から言っていたことだが、しかし、初来福の津田大介を村さ来に連れていった前科があるワタシのような人間は、指標として頼ってしまってるのは間違いないわけで、その信頼性を揺るがす話を聞くと悲しくなるのである。

アルゴリズムが世界を支配する (角川EPUB選書)

アルゴリズムが世界を支配する (角川EPUB選書)

[YAMDAS Projectトップページ]


クリエイティブ・コモンズ・ライセンス
YAMDAS現更新履歴のテキストは、クリエイティブ・コモンズ 表示 - 非営利 - 継承 4.0 国際 ライセンスの下に提供されています。

Copyright (c) 2003-2019 yomoyomo (E-mail: ymgrtq at yamdas dot org)