人工知能（AI）が人間のような知能を獲得し、やがて悪の支配者となり、人類を滅亡させんとするのが SF 映画でおなじみの筋立てだが、実は我々を殺すのに AI が知覚を獲得する必要なんてなくて、そんなものなしで人間を絶滅させるシナリオは他にもありますよというわけで、この IEEE Spectrum の記事は、AI の専門家へのインタビューを通じて、映画よりももっと現実的な AI がもたらす最悪のシナリオを6つ挙げている。
まず一つ目は「フィクションが現実を規定する場合」で、これは何が本当で何がフェイクか見分けられなくなった状況を指す。つまりは、画像、映像、音声、テキストのディープフェイクの台頭により、国家安全保障の意思決定が偽情報に基づいて行われてしまい、最悪戦争に至るというもの。ディープフェイクによる偽情報の物量作戦が可能になれば、情報というものへの我々の信頼自体が損なわれてしまう。ブルース・シュナイアー先生も似たことを危惧してましたな。
二つ目は「底辺への危険な競争」で、いち早く AI を軍事利用した国が戦略的に優位に立てるが、開発スピード重視のためシステムに残された欠陥をハッカーに悪用され、事態が制御不能になるのを指す。安全性やテストや人間による監視よりも開発スピードを優先することを「底辺への危険な競争」と言ってるわけですな。人間が動作原理を理解していない機械学習モデルに命令と制御を委ねてしまうのもこれにあたるとな。
三つ目は「プライバシーと自由意志の終焉」で、我々が日常的に生み出している膨大なデジタルデータに企業や政府が無制限にアクセスできるようになることでコントロールを――って『監視資本主義』な話だけど、そこに顔認証、ゲノムデータ、AI による予測分析が加わり、データによる監視や追跡は危険な未知の領域に突入するという見立てだ。かつての独裁者のように大勢の兵士に依存しなくても反政府活動を抑制できるし、AI の予測的な制御は人間から自由意志を奪いかねないと見ている。
四つ目は「人間のスキナー箱」で、この話はバラス・スキナーの『ウォールデン・ツー』が執拗に引き合いに出されるショシャナ・ズボフ『監視資本主義』を読んでないとピンとこないかも。
スマートフォンの画面にくぎ付けでソーシャルメディアを使っている人を実験室のネズミ、行動研究の実験装置であるスキナー箱の人間版にいると見立てているわけだが、プラットフォームはできるだけ利用者がそこに留まるよう最適化、つまりは広告利益を最大化することで、人間が前向きで生産的かつ充実した生活を追求する時間を奪ってしまうという視座である。
五つ目は「AI 設計の専制性」で、関係ないがこの tyranny という単語、マイケル・サンデルの新刊（の原題）にも出てくるね。
これは AI システム設計につきもののバイアスの問題である。実は AI 以前より、日常生活でよく使うもののデザインは（右利き、平均的な体格の男性など）特定の種類の人間に合わせて作られてきたが、AI がカフカ的な門番となり、偏った規範によって一部の人がサービス、仕事、医療などから疎外されてしまうシナリオである。
そして最後の六つ目は、「AI の恐怖が人類から利益を奪う」で、今日の AI は高度な統計モデルや予測セットで動作する数学中心なシステムだが、人々が AI を恐れるあまり、政府が AI を規制し、結果その恩恵を人類から奪ってしまったらダメよね、と最後にここまでの流れをひっくり返して、AI は多くの分野で恩恵をもらたすのに、驚異的なテクノロジーに恐れをなし、最悪のシナリオを恐れて考えなしに AI を規制してしまうのも、それはそれで最悪のシナリオよね、と言ってるわけだ。
さてさて、皆さんは以上6つのシナリオのどれに現実味を感じますか？
ネタ元は Slashdot。
