当ブログは YAMDAS Project の更新履歴ページです。2019年よりはてなブログに移転しました。

Twitter はてなアンテナに追加 Feedlyに登録 RSS

『AIに潜む偏見: 人工知能における公平とは』とAI倫理、顔認識技術の行方

週末に Netflix を含め映画をいくつか観たので、今日はその話を中心に更新したい。

まず一つ目はなかむらかずやさんにお勧めいただいた『AIに潜む偏見: 人工知能における公平とは』

この作品はワタシのアンテナに入ってなかったのだが(みんなどうやって Netflix の新作情報を得ているのだろう?)、観てみるとなるほど、なかむらかずやさんがワタシにレコメンドするのも納得のドキュメンタリーだった(公式サイト)。

Netflix で観れるドキュメンタリー映画としては、『グレート・ハック: SNS史上最悪のスキャンダル』『監視資本主義: デジタル社会がもたらす光と影』に続く、AI(アルゴリズム)の問題を突くものである。ワタシもかつて「我々は信頼に足るアルゴリズムを見極められるのか?」という文章を書いているが、電子書籍『もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来」とも共通する問題意識を扱った作品である(と例によってすかさず宣伝)。

本作では『AIには何ができないか』のメレディス・ブルサード『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』のキャシー・オニール『ツイッターと催涙ガス』のゼイナップ・トゥフェックチー『抑圧のアルゴリズム』の Safiya Umoja Noble『不平等の自動化』の Virginia Eubanks など本ブログでもおなじみの識者が、アルゴリズム支配や顔認識技術の危険性を語る。それらに加え、本作に少しだけ登場する、昨年末 Google を解雇されたことで話題となったティムニット・ゲブル、そして何より本作の狂言回しである MIT メディア・ラボのジョイ・ブオラムウィーニ(Joy Buolamwini)を含め、主要登場人物が全員女性である。識者以外の登場人物もほぼ女性だった。本作の監督も女性だからというわけではないが、このチョイスは絶対意識的なはずだ。果たして同じ問題について日本でドキュメンタリーを作るとして、これを実現できるだろうか?

本作の最初にジョイ・ブオラムウィーニが告発する顔認識技術の人種差別、性差別(白人男性ほど正しく識別される)の話と、その後で展開される顔認識技術の使用による監視社会化の問題は別の話じゃね? と思ったりもするが、上記識者の語りの巧みな編集と本作の最後におけるジョイ・ブオラムウィーニの議会証言でそれらがまとめられ、うまく丸め込まれた印象がある。

……と一見して思ったが、本作鑑賞後にたまたま類似の問題意識のコンテンツをいくつか目にし、そうでもないなと考えを少し改めた。

まず録画しておいたのを見た「町山智浩のアメリカの今を知るTV」で、『監視資本主義の時代』のショシャナ・ズボフが登場して、顔認識技術に法律での規制が必要とかなり強硬な主張をしていてたじろいだ。

それはそうと、番組でもはっきり『監視資本主義の時代』とテロップに表記していたが、邦訳はいったいいつになったら出るんじゃ!

gigazine.net

こちらはビッグデータやAI倫理の問題を訴えてきたケイト・クロフォードの記事を取りあげたもの。犯罪捜査で有用と顔認識技術を使っていると、個人の自由と権利を侵害する恐れがあると、特に感情を読み取る AI の危険性が警告されており、これは前述の番組でも強調されていた。

考えてみればケイト・クロフォードも『AIに潜む偏見』に出ていて不思議ではなかったし、彼女の出たばかりの新刊は邦訳が期待されますな。

news.yahoo.co.jp

タイミングよく平和博さんも顔認識技術、特に「感情認識」テクノロジーを扱う AI の問題を取り上げている。その問題とは、人種によるバイアスや「常時監視」によるプライバシーの侵害の懸念であり、『AIに潜む偏見』での告発につながる話なのだ。この問題については意識しておいたほうがよい。

さて、最後に少し本筋から離れた話を書いておくと、『AIに潜む偏見』で狂言回しを務めるジョイ・ブオラムウィーニの詩心が強調されていたのが印象的だった。クライマックスとなる議会証言の後、本作の登場人物たちとリモート会議をするのだが、そこで彼女は Safiya Umoja Noble やキャシー・オニールの書名を織り込んだ詩を得意満面で披露する――と書くと、なんかバカにしているように誤解されるかもしれない。日本語圏のインターネットには「ポエム」という言葉が侮蔑語として使われる文化圏がはっきりあり、というかワタシ自身それをやった過去があるからだ。

先日観た『ノマドランド』でも主人公を支える詩の力が描かれていたなと思い出したりして、本作における主人公の詩心の意義について、作品の趣旨とは違ったところでちょっと考えてしまった。

[YAMDAS Projectトップページ]


クリエイティブ・コモンズ・ライセンス
YAMDAS現更新履歴のテキストは、クリエイティブ・コモンズ 表示 - 非営利 - 継承 4.0 国際 ライセンスの下に提供されています。

Copyright (c) 2003-2021 yomoyomo (E-mail: ymgrtq at yamdas dot org)