クリエイティブ・コモンズ設立20周年を祝い、久方ぶりに寄付をした #CCTurns20

creativecommons.org

2001年にローレンス・レッシグによって立ち上げられた Creative Commons が今年20周年を迎えている。

やはり今年 Wikipedia も20周年を迎えているが、クリエイティブ・コモンズの場合、ウィキペディアほど人口に膾炙していない。それでもよくここまで活動が続いてきたものだと敬意を払わずにはいられない。

20 Years: Better Sharing, Brighter Future という特設ページができているが、やはりそこで真っ先に訴えられているのは寄付のお願いである。

思えば、Creative Commons には2015年以来寄付をしていない（折角の機会なので、自分のメールを検索したら、Mozilla Foundation には2018年、Internet Archive には2019年、Wikimedia Foundation には2020年に寄付している）。

www.classy.org

そういうわけで、今回も大した額ではないが、キャンペーンページから久方ぶりに寄付をさせてもらった。CC は寄付をするとTシャツがもらえるのが楽しみだったが、もうそういうのはなくなったのかな。

思えばこのブログ自体 Creative Commons ライセンスの表示 - 非営利 - 継承 4.0 国際 — CC BY-NC-SA 4.0を指定しているし、昔「クリエイティブ・コモンズ・ライセンスのブログ翻訳のススメ」なんて文章を書いたものだ（遠い目）。

「情報共有の未来」と題した連載を ワイアードビジョン、ワイヤレスワイヤーニュースと媒体をまたいでやっていた人間にとって、Creative Commons が掲げる「シェア」の理念は重要なものに違いないわけで。

もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来【電子書籍】

yomoyomo
達人出版会
発行日: 2017-12-25
対応フォーマット: PDF, EPUB, ZIP

詳細を見る

『インスタグラム：野望の果ての真実』が2021年版洋書紹介特集本で最初の邦訳本になるようだ

「邦訳の刊行が期待される洋書を紹介しまくることにする（2021年版）」で紹介した本の中で、果たしてどの本の邦訳が最初に出るか（ワタシだけが）気になるところだったのだが、サラ・フライヤーのインスタグラム創業物語がそれになる模様。

インスタグラム:野望の果ての真実

原書のハードカバーが出たのが昨年4月なので、比較的早い邦訳登場と言えるでしょうね。

「「暴君」Facebookの傘下でもがくInstagramの理想と野望、そして裏切り。100%の共感と教訓に満ちた実録ビジネスドラマ」とのことで、これは楽しみですね。もう少し中身を知りたい方はカタパルトスープレックスの書評をどうぞ。

www.catapultsuplex.com

さて、この本の版元はNewsPicksパブリッシングなのだけど、ここって刊行している本の個別ページがないようで、刊行書籍一覧からのリンク先はすべて Amazon である割り切りである。その代わりに公式 note があるところが今どきなんでしょうな。

サイバーセキュリティと言えばニンジャ？ Cyberjutsu（サイバー術）というセキュリティ本が面白そうだ

確か Facebook 経由で知ったはずだが、No Starch Press から Cyberjutsu という本が出ていて受けてしまった。

Cyberjutsu: Cybersecurity for the Modern Ninja

Cyberjutsu: Cybersecurity for the Modern Ninja (English Edition)

「サイバー術」ってなんじゃそりゃと思うが、"Cybersecurity for the Modern Ninja" という副題からも分かる通り、これはサイバーセキュリティ本なんですね。忍者のテクニック、戦術、流儀に基づく実践的なサイバーセキュリティのフィールドガイドとのこと。マジかよ。

本の公式サイトができているが、著者の Ben McCarty はアメリカ国家安全保障局（NSA）やアメリカ陸軍での勤務経験があるサイバーセキュリティ分野におけるエキスパートとのこと。

An info-graphic to commemorate the publication of my book, `Cyberjutsu: Cybersecurity for the Modern Ninja`.

The book is now available from various bookstores, https://t.co/y5JCZE7bGc , https://t.co/h6mtnXWfHf , https://t.co/32vjwGKOrZ pic.twitter.com/sMIPjG57Ol

— Ben McCarty 👹 (@apt_ben) April 28, 2021

おいおい（笑）と思うが、こういうの憎めないんだよねぇ。アジャイルがサムライなら、セキュリティはニンジャというわけか？ 邦訳が期待ですな。

アマチュア天文家から世界的な太陽観測者となった小山ひさ子は日本版『Hidden Figures』なのか？

自らの不明を恥じる、という表現が適切だと思うが、kottke.org 経由で知った TED-Ed の YouTube チャンネルで先月公開された動画を見て驚いた。

この動画で「The woman who stared at the sun（太陽を見つめた女性）」と紹介されている小山ひさ子のことをまったく知らなかったからだ。

でも、それはワタシだけではないのかもしれない。だいたい Wikipedia 英語版には Hisako Koyama というページができているが、日本語版がない！

それにこの TED-Ed 動画自体、本文執筆時点で7か国語の字幕がついているが、その中に日本語はない。なんてこったい。

彼女の著書を探したが、Amazon には一冊しか登録がなく、しかも書影が明らかに別の本だったりする。ヒドい話だ。

太陽黒点観測報告―1947‐1984

www.pbs.org

2017年には PBS に小山ひさ子を日本の「hidden figure」と紹介する記事が公開されているが、その少し前に公開された映画『Hidden Figures』（邦題は『ドリーム』）にかけているのは言うまでもない。

ドリーム [AmazonDVDコレクション] [Blu-ray]

日本語で読める彼女の紹介記事は以下の二つが代表的なものかな。

• 黒点を40年間記録した故・小山ひさ子さん　太陽観測史上の貴重な貢献 - アストロアーツ
• 小山ひさ子氏：アマチュア天文家から世界的な太陽観測者への道程（PDF）

女性が科学者になるのが今よりずっと難しかった時代に太陽の観測、特に黒点の記録を数十年に渡って続け（同じ人物が同じ望遠鏡、同じ観測方法で太陽を記録し続けた例はほとんどない！）、彼女の死後、ガリレオ以来の太陽の黒点観測記録の見直しが行われる過程で彼女の粘り強い仕事が（TED-Ed の動画から引用すれば）「人類史における太陽活動のもっとも重要な記録」として高く評価されるようになったという。すごい話ではないか。TED-Ed の動画に早く日本語字幕がつくことを願う。

映画『キャッチ・ミー・イフ・ユー・キャン』の内容はでっち上げで、フランク・アバグネイルの自己宣伝こそ彼の最高の詐欺だった？

whyy.org

スティーヴン・スピルバーグの映画『キャッチ・ミー・イフ・ユー・キャン』はワタシも公開時に観て楽しんだが、ブログの感想をリンクしようと探したが見つからない。この映画は、ワタシがはてなダイアリーでブログを書くようになる少し前に公開された映画なんだね。

キャッチ・ミー・イフ・ユー・キャン [Blu-ray]

さて、『キャッチ・ミー・イフ・ユー・キャン』の元となったフランク・アバグネイルの自伝小説の信憑性については以前から議論があり、フランク・アバグネイル自身本の共著者に責任を被せるような言い訳をしているが、『キャッチ・ミー・イフ・ユー・キャン』の主人公である詐欺師の「神話」を作り上げたことこそが、フランク・アバグネイルが実際に行った最高の詐欺だというのが新しく出た本のテーマらしい。

The Greatest Hoax on Earth: Catching Truth, While We Can

The Greatest Hoax on Earth: Catching Truth, While We Can (English Edition)

つまり、あるティーンエイジャーが、あるときはパンアメリカン航空のパイロット、あるときは医師、あるときは弁護士と職業を偽装しながら、各地で偽造小切手を使った詐欺事件を起こしながら FBI の捜査官から逃げおおせたという話自体がほぼ作り話だというのだ。

実際には、アバグネイルはトランス・ワールド航空のパイロットを装い、ポーラ・パークスという客室乗務員を追いかけまわし、ほとんどストーキングの勢いで交際を迫ったという。彼女がバトンルージュの両親を訪ねると彼もついてきて、彼女はそうではなかったが、彼女の家族が彼のことを信用し、親切心を起こした。アバグネイルは彼らの小切手を盗むことでその恩を仇で返した。彼が小切手詐欺で騙したのはホテルや銀行、という話はウソなんですね。

この件でアバグネイルは逮捕されるわけだが、ティーンエイジャーだった彼が FBI に追われてそれこそ世界中を逃げ回ったという話は完全にフィクションで、その期間のほとんどを彼は刑務所に収監されていたのだ。

1974年に仮釈放されたアバグネイルはすぐに窃盗で逮捕されてしまうのだが、保護観察官に勧められて自分の話を売り込むことで彼の人生は変わる。最初は小規模な講演会で自分が犯した罪の話をしていたのが、どんどん話が大きくなっていき、1977年には To Tell the Truth という全国放送のテレビ番組への出演を果たしてしまう。このテレビ番組は実は現在も放送されているのだが、なんというか皮肉な番組名である。

そこでアバグネイルが披露した（嘘の）話が大受け。すぐ後に「トゥデイ」、ジョニー・カーソンの「ザ・トゥナイト・ショー」と全国区のテレビ番組に次々と出演するようになる。

1978年にはサンフランシスコ・クロニクルの記者がアバグネイルの話を検証し、アバグネイルが吹聴する話が本当でないことを記事にし、その後にもアバグネイルの嘘を暴く記者が続くのだが、インターネットなどない時代、彼らの検証記事は広まらず、巧みに語られるアバグネイルの魅力的な法螺話のほうが人々の記憶に残り、しまいには『キャッチ・ミー・イフ・ユー・キャン』として映画化されてしまう。

そこで、フランク・アバグネイルの自己宣伝によって詐欺師の「神話」を作り上げたことこそが、彼が行った最高の詐欺だという結論になるのだが、それならインターネットがある現在ならアバグネイルの嘘はすぐに潰されたのだろうか？

そうかもしれないが、今回アバグネイルの嘘を検証する本を書いたアラン・ローガンは、誤情報がすごい勢いで広まることは十分に証明されており、特に有名人が陰謀論を支持すると、真実がどこにあるのかを理解するのが難しくなる、という話をしているのが面白い。

そこで一歩身を引き、一息ついて考えてみる健全な懐疑心を持つことが大切という教訓が導き出せるわけだが、やはりインターネットがあろうがなかろうが誰でもある種の話に騙される可能性はあり、自分だけが例外と思っちゃいけないということだろう。

ネタ元は Boing Boing。

Rotten Tomatoesで批評家の評価は低いがワタシは好きな映画を集めてみた

最近では映画の宣伝でも「ロッテントマトで9X点！」とか普通に使われることが多くて、そういうものを見るとダセーっとか思ったりもするが、とか言いつつ小心者のワタシも残された短い時間を面白くない映画でムダにしたくないと Rotten Tomatoes を参照することが確かにある。

もっとも、そうやって選んだ映画評論家受けする映画を観に行って全然ピンとこなかったほうがよほど陰惨な気持ちになったりもするのだが。

さて、Rotten Tomatoes（や同種のサイト）の点数を切り口にした映画のおススメリストというのも定番コンテンツだが、ここでむしろ Rotten Tomatoes では低評価だが好きな映画リストというのどうだろうと思った次第である。

ここでの低評価は、批評家評価のトマトが赤色でなくなる60点（60％）未満を基準とする。

ただワタシの場合、映画の趣味に特にクセがなく、Rotten Tomatoes の点数と評価が明らかに食い違う作品は意外に少なかったりもするので、そんな変わったリストにはならなかった。これを見て、批評家受けは悪いが我こそ面白いと思う逸品映画を（ブックマーク）コメントなりで教えてほしいというのが真の趣旨だったりする。

以下、だいたい公開年が古い順に並べている。Rotten Tomatoes の評価は飽くまで本文執筆時点。

マイケル・サーン『マイラ　―むかし、マイラは男だった―』（1970年）（RT：27％、ワタシの感想）

これは今観ても新鮮な映画で、斬新過ぎて当時の批評家には理解できなかった可能性もある。この映画が大不評だった理由は、岸田裁月さんの文章を参照いただきたい。

マイラ　―むかし、マイラは男だった― [DVD]

ジョン・ランディス『サボテン・ブラザーズ』（1986年）（RT：46％）

ワタシはかつて『ギャラクシー・クエスト』について、「この映画は『サボテン・ブラザーズ』と大体同じ話だけどそれを凌駕している」と書いていて、その評価は今でも変わらないが、『サボテン・ブラザーズ』も好きである。

この映画は、Saturday Night Live の製作者のローン・マイケルズと、数々の優れた映画音楽をてがけてきたランディ・ニューマンが、それぞれ本業の製作、音楽だけでなく脚本にクレジットされている極めて珍しい作品でもある。

サボテン・ブラザース [DVD]

ロバート・ハーモン『ヒッチャー』（1986年）（RT：62％）

おい、60％超えてるじゃないかと言われそうだが、これは近年の再評価で点数が上がっているのが原因で、公開当時はロジャー・イーバートが星ゼロ個の評を書くなどはっきり批評家受けは悪かったので、あえて入れさせてもらった。

ワタシはこの映画を「ホラー映画ベストテン」の8位に入れるくらい評価している。ルトガー・ハウアーがとにかく怖いのだ。

小説家の藤野可織さんが好きな映画でもあり、今年『ヒッチャー ニューマスター版』が公開された際には、「殺人鬼たちの正体を教えてくれた映画として、暗黒青春映画として、「ヒッチャー」はいつまでも私のもっとも大切な映画のひとつだ」と賛辞を寄せている。

ヒッチャー HDニューマスター版 [Blu-ray]

オリバー・ストーン『ナチュラル・ボーン・キラーズ』（1994年）（RT：48％）

今観るとロバート・ダウニー・Jrやトミー・リー・ジョーンズのオーバーアクトがウザいかもしれないが、ジュリエット・ルイスのベストワークという意味で、この映画は嫌いになれない。

ナチュラル・ボーン・キラーズ ディレクターズカット [Blu-ray]

ロバート・マンデル『野獣教師』（1996年）（RT：42％、ワタシの感想）

『ミスター・グッドバーを探して』のラストで鮮烈な登場を果たしたトム・ベレンジャーは、『プラトーン』の悪役でオスカー候補となり、『メジャーリーグ』のような良質な娯楽ヒット作に出ていた頃あたりが絶頂期で、本作も『インセプション』でメジャー作に復帰するまでに多く出たB級作品の一つなのかもしれないが、ワタシは好き。（未だ批評が載っていた頃の）allcinema の評も参考まで。

DVD 出てないんか……。

フレッド・スケピシ、ロバート・ヤング『危険な動物たち』（1997年）（RT：55％、ワタシの感想）

まぁ、ジョン・クリーズ先生に対する贔屓目ということで。『ワンダとダイヤと優しい奴ら』と同等の傑作とはワタシも言わないが、これはこれで良くできてると思うわけで、『ワンダ』の反動の過小評価はあると思う。

危険な動物たち [DVD]

スティーヴン・ソマーズ『ザ・グリード』（1998年）（RT：28％）

えーっ、この映画B級活劇としてすごく面白いのにすごく評価低いね。モンスターが強力で人を殺しまくるのは当然として、登場人物がいずれもひとクセあってキャラが立ってるのがいいのだ。岸田裁月さんの評も参考まで。

この映画で手腕を認められた監督が次に手がけて大当たりしたのが『ハムナプトラ/失われた砂漠の都』なわけで、この映画の低評価は批評家に見る目がなかったと言いたくなる。

ザ・グリード [DVD]

テリー・ギリアム『ラスベガスをやっつけろ』（1998年）（RT：49％、ワタシの感想）

当時絶頂期にあったジョニー・デップのかっこいい姿を期待して観に言ったらハゲ親父をやってて、しかもベニチオ・デル・トロもデブの弁護士役、しかもこいつらの行状がとにかく不快という、間違いなく不機嫌になる映画なのだけど、それこそテリー・ギリアムが目指したものだから仕方ないのである。

ラスベガスをやっつけろ [Blu-ray]

スティーヴン・ノリントン 『ブレイド』（1998年）（RT：55％）

ギレルモ・デル・トロが手がけた2作目のほうが批評家受けはいいのかもしれないが、ワタシはこの1作目のほうが好き。

ブレイド [Blu-ray]

カート・ウィマー『リベリオン』（2002年）（RT：41％、ワタシの感想）

ガン＝カタが堪能できる以上の何を望むって言うんだ？ この映画の監督の現時点での最新作『X-ミッション』もなかなか狂ってるらしいが、観れてない。

リベリオン-反逆者- [Blu-ray]

エリック・ブレス、J・マッキー・グルーバー『バタフライ・エフェクト』（2004年）（RT：33％、ワタシの感想）

これを「SF映画ベストテン」に選出するのはワタシだけだと思うし、確かに脚本のおかしなところをスピード感で押し切っているところは確実にあるのだけど、それにしてもこの低評価は納得いかない。

バタフライ・エフェクト プレミアム・エディション [DVD]

フランシス・ローレンス『コンスタンティン』（2005年）（RT：46％、ワタシの感想）

ホラーのようでその実バカ、なところがキアヌ・リーブスによく合っている。あと主人公にぶん殴られてもすがすがしい表情のティルダ・スウィントンが良かったですね。

本作は批評的にも商業的にも成功しなかったが、キアヌ・リーブスは続編の出演に前向きで、それを知ったサンドラ・ブロックが、お前は『スピード』の続編断ったのに、なんであんな駄作の続編に出たがる！ と突っ込んだという話を読んで笑った覚えがあるが、続編の話はさすがにもうないか。

コンスタンティン [Blu-ray]

リチャード・カーティス『パイレーツ・ロック』（2009年）（RT：59％、ワタシの感想）

リチャード・カーティスの美意識には合わないところもあるのだけど、『アバウト・タイム〜愛おしい時間について〜』なんかよりこっちのほうがはっきり好き。

フィリップ・シーモア・ホフマンとビル・ナイが共演しているというだけで、ワタシ的にはプラス300点になるわけです。

この映画、本国での The Boat That Rocked という原題がダメだった気がする。

パイレーツ・ロック [Blu-ray]

クリント・イーストウッド『J・エドガー』（2011年）（RT：43％、ワタシの感想）

この映画の不評には、老け時代のメークアップがお粗末という評判が確実にあったと思うのだけど、ワタシがイーストウッドの映画に求めるものはそんなものではないので全然気にならなかった。後に彼は『アメリカン・スナイパー』で赤子役に人形をあてがうという暴挙を当然のようにやっている。

あとこの映画は、トム・クルーズの物まねがもっともうまい役者のマイルズ・フィッシャーが出た一番メジャーな作品ということになろうか。

J・エドガー [Blu-ray]

ニマ・ヌリザデ『プロジェクトX』（2012年）（RT：28％、ワタシの感想）

日本での公開当時『クロニクル』と対で語られていた記憶があるが、そちらとは好対照な評価の低さである。それには本作のミソジニーというか政治的な正しくなさが大きいのは間違いない。逆に言うと、本作は政治的には明らかに正しくないが面白い映画はあるという実例、と書くと怒られるだろうか。

プロジェクトX [DVD]

アダム・シャンクマン『ロック・オブ・エイジズ』（2012年）（RT：43％、ワタシの感想）

リストに入れておいてなんですが、映画としては全体的に割とどうでもいいのだけど、アレック・ボールドウィンとラッセル・ブランドのカップルが見れるというその一点だけでプラス200点なので。

ロック・オブ・エイジズ [Blu-ray]

フィッシャー・スティーヴンス 『ミッドナイト・ガイズ』（2012年）（RT：36％、ワタシの感想）

この映画は『ハングオーバー 消えた花ムコと史上最悪の二日酔い』以降いくつも作られた一夜の大暴れもの、しかもそのジジイのファンタジーバージョンなのだけど、アル・パチーノとクリストファー・ウォーケンが、それぞれいかにもらしい役をしっかりやった共演が観れただけでワタシは満足です。

ミッドナイト・ガイズ Blu-ray

ピーター・バーグ『バトルシップ』（2012年）（RT：34％）

昔、『踊る大捜査線 THE MOVIE 3 ヤツらを解放せよ！』を巡る論争があり、当事者のお二人のいずれのブログも楽しく読んでいたワタシはなんというか唖然としてしまったのだけど、娯楽映画をネタとして笑いツッコミながら見るというのは十分アリだろう。

本作は主要キャストに浅野忠信さんが出ているおかげもあって、日本人はネタとしてこの映画を楽しむことができて良かったと思います。

バトルシップ [Blu-ray]

ニール・ブロムカンプ『チャッピー』（2015年）（RT：32％、ワタシの感想）

冷静に見ると、結局これも『第9地区』と大枠同じ話じゃんと思うし、監督は本作以降あまり話題になってないということを見ると本作の低評価も間違ってはいないのかもしれないが、このニール・ブロムカンプという人の悪趣味さが憎めない。

CHAPPIE / チャッピー [AmazonDVDコレクション] [Blu-ray]

ここまで書いてから気づいたのだが、一部似た趣旨の本が既にあるんですね。Amazon のページを見る限り、かぶっているのは『ブレイド』だけのようだが。

いとしの〈ロッテン(腐った)〉映画たち: 映画批評サイト「Rotten Tomatoes」がおすすめする名作カルト、過小評価された傑作、ひどすぎてイケてる映画たち

[2021年05月25日追記]：あさやんさんから教えていただいたが、『いとしの〈ロッテン(腐った)〉映画たち』で紹介されている映画とワタシのリストでかぶるものは、『ブレイド』と『サボテン・ブラザーズ』の二作のようだ。

新刊書籍「いとしの〈ロッテン(腐った)〉映画たち」は、2019年に刊行された「Rotten Tomatoes: Rotten Movies We Love: Cult Classics, Underrated Gems, and Films So Bad They're Good」の邦訳のようですね。書籍情報から、紹介されている作品101本の一覧を作ってみました。https://t.co/d0ho8PRxX1 pic.twitter.com/SekwinAGyO

— あさやん (@asa_yang) December 29, 2020

来月刊行されるショシャナ・ズボフ『監視資本主義』を改めて取り上げておく

str.toyokeizai.net

「邦訳の刊行が期待される洋書を紹介しまくることにする（2021年版）」で既に触れているのだが、版元である東洋経済新報社のサイトに個別ページができていたので、改めて来月刊行されるショシャナ・ズボフ『監視資本主義』を取り上げておきたい。

監視資本主義: 人類の未来を賭けた闘い

監視資本主義―人類の未来を賭けた闘い

ワタシが「監視資本主義（surveillance capitalism）」という言葉をブログで最初に取り上げたのは2018年5月なので、3年前にさかのぼる。その時点で Wikipedia の項目ができており、ショシャナ・ズボフが発明したこのタームのインパクトが分かる。ワタシも2018年秋に執筆し、『もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来』に収録した「付録A インターネット、プラットフォーマー、政府、ネット原住民」において、ショシャナ・ズボフの原書の名前を（刊行前に）挙げているくらいだ。

もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来【電子書籍】

yomoyomo
達人出版会
発行日: 2017-12-25
対応フォーマット: PDF, EPUB, ZIP

詳細を見る

そして、そのショシャナ・ズボフによる原書が出たのが2019年1月、瞬く間に評判となり、その年の後半にGuardianが選ぶ21世紀最高の本トップ100にロバート・マクファーレン『アンダーランド: 記憶、隠喩、禁忌の地下空間』（asin:4152099798）と並び、2019年刊行の本で選出されるほどである。

この本のビッグテックは個人の自由を弱体化し、民主主義を蝕んでいるという主張は、その後に出る多くの本の通奏低音となったし、Netflix 制作の『グレート・ハック: SNS史上最悪のスキャンダル』、ズボフ自身も出演した『監視資本主義: デジタル社会がもたらす光と影』もこの本なしにはなかったかもしれない。

逆に言うと、少なくとも欧米のインテリ層にはそれだけ人口に膾炙した本なので、そうした論説を追ってきた人であれば、割と当たり前に思えてしまう内容かもしれない。しかも必然的にかなりな値段がついているので、簡単には手が出ないかもしれないが、これはちゃんと読んでおくべき本だと思います。

それで思い出したのは、少し前に『マスターアルゴリズム』邦訳刊行を取り上げたとき、はてなブックマークで「つまり英語読めないと5年も遅れるということですな(´・ω・`)」というコメントがついたこと。

『監視資本主義』の場合、原書刊行からおよそ2年半での邦訳刊行であり、『マスターアルゴリズム』ほどのタイムスパンではないものの、このブログでも何度も邦訳はまだかと書いてきた本である。「英語読めないと×年も遅れる」というのは昨日今日始まった話ではもちろんないが、それがさらに強まるのは困るという気持ちはある。

スティーブン・ジョンソンの新刊は人類の偉大な成果としての「余生」がテーマとな

www.nytimes.com

かのスティーブン・ピンカーが、スティーブン・ジョンソンの新刊 Extra Life の書評を書いている。

Extra Life: A Short History of Living Longer

Extra Life: A Short History of Living Longer (English Edition)

新刊のテーマはタイトルから分かる通り人類の「余生」がテーマで、「長生きの浅い歴史」という副題も楽しい。

しかし、長生きに浅い歴史しかないというのは本当のことで、ピンカーの書評も、ニューヨーク・タイムズ紙の購読者の平均年齢は約55歳だが（そうなのか！？）、人類史の大半の期間で平均寿命は約30歳だったという先制パンチから始まる。数世紀前までは、生まれてくる子供の4分の1以上が1歳の誕生日を迎える前に、約半分が5歳の誕生日を前に死んでたというのだ！

つまり、長寿はそれ自体が「人類史におけるもっとも偉大な成果の一つ」なんですね。豊かな国の平均寿命は、1880年までに40歳、1900年までに50歳、1930年までに60歳、1960年までに70歳、そして2010年までに80歳に達した。さらに書くと、平均寿命というのは短命の人が数字を押し下げるので、1950年に70歳を迎えた人の余命は9年だったのが、現在では16年まで伸びているそうな。

ジョンソンによると、長寿は十分に評価されておらず、また死因として戦争が過大評価されてきたらしい。そして、その死因に関する無知はこの一年で軽減されただろうとピンカーは書いているが、それがコロナ禍を指しているのは言うまでもない。

ジョンソンによると、最も多くの命を救った8つのイノベーションのうち6つが感染症への防御策らしい。それが何かは本（あるいはピンカーの書評の続き）を読んでいただくとして、それに化学肥料やワクチンをはじめとして、一部の人たちの反発を買うものが含まれるのも面白い話だと思う。

ピンカーは、ジョンソンが地道な成果を強調するあまり反英雄主義が行き過ぎているところもあると少し苦言を呈しているが、ジョンソンが優れたストーリーテラーであり、この新刊が重要な本であると認めている。

www.pbs.org

さて、フレッド・ウィルソンもこの本を取り上げているが、今回の新刊の刊行とほぼ時を同じくして、PBS で同名のドキュメンタリー番組も作られてるんだね。

予告編を探したが、なぜか BBC のチャンネルにしか見つからなかった。

『世界をつくった6つの革命の物語』（asin:4023315303）の原作が出たときもテレビ番組が作られてたっけ。

スティーブン・ジョンソンの新刊が出るとだいたいこのブログで何かしら取り上げているのに今まで気づかなかったのだが、近作の邦訳は「新・人類進化史」シリーズとしてまとめられているんだね（↓のように Kindle 版をまとめるページもできている）。

新・人類進化史

今回の新作も、内容的におそらくこのシリーズの一つとして邦訳が出ること間違いなしだろう。

ジョン・レノンの最後の日々（とマーク・チャップマン）を描く伝記の邦訳が出る

トランネットのオーディション課題概要に面白そうな本が入っている。一目見て分かるが、ジョン・レノンの伝記本である。

ジョン・レノンの伝記なら既にいくらでもあるが、本書の場合、著者に小説の総売り上げ発行部数が3億部をこえるというベストセラー作家のジェイムズ・パタースンというビッグネームが名前を連ねているのが目を惹く。

しかも、書名から分かるように、この本はジョン・レノンの最後の日々を扱ったものらしい。

さらに、章の合間には丹念に追ったMark David Chapmanの３日間の行動がはさみこまれるという独特の形式だ。John LennonとMark David Chapman、ふたつの流れがひとつの点に向かって進み、遂には出合う、一種スリリングな組立てが絶妙である。

オーディション課題概要

これはかなりスリリングな読み物になりそうだ。

しかし、この書名はちょっとどうかと思うところがあり、実はほぼ同名の本が既にあるんですね。フレデリック・ラインハルト・シーマンの『ジョンレノン 最後の日々』（asin:440170116X）である。

この本の刊行により守秘義務を違反した、またレノンの家族の写真の所有権をめぐって著者のシーマンはヨーコ・オノに訴えられており、ヨーコ・オノが勝訴している。

ベストセラー作家を担ぎ出すくらいだから、こちらはその種の遺族とのトラブルはないと思うが、マーク・チャップマンがどう描かれているのかは少し気になるところ。

The Last Days of John Lennon

The Last Days of John Lennon (English Edition)

そうそう、ジョン・レノンと言えば、アルバム Plastic Ono Band（邦題：ジョンの魂）の8枚組ボックスセットというすごいボリュームのものが出ているね。

ジョンの魂:アルティメイト・コレクション<スーパー・デラックス・エディション> (限定盤)(6SHM-CD+2BLU-RAY Audio)

ロバート・フリップがモヒカン刈り（というかキューピーカット）にする模様の動画公開

昨年、英国がロックダウン入りしてからロバート・フリップ先生は、アンビエントシリーズ Music For Quiet Moments に加え、トーヤさんとの夫婦漫才シリーズ Toyah & Robert's Sunday Lunch において、網タイツ姿で踊ったり、被り物をして踊ったり、蜂のコスプレ姿で走りまくったり（やはり網タイツ姿……網タイツ好きなんだろうか？）、最近ではトーヤさんとギタリストのシドニー・ジェイクとの三人で天衣無縫なパフォーマンスを披露してフリーダムさを見せつけているが、少し前にロバート・フリップがモヒカン刈り（というかキューピーカット？）にしていてまたしても驚かせてくれたわけだが、このヘアカットの模様が動画公開されている（笑）。

実際にヘアカットをやったのはシドニー・ジェイクだったんですね。

さて、ロバート・フリップ翁も今月75歳の誕生日を迎え、日本でいえば後期高齢者の仲間入りをしたわけだが、トーヤさんともどもお元気そうで何よりである。

さすがにお二人をあしらったTシャツは、『クリムゾン・キングの宮殿』Tシャツよりも着るのにハードルが高かったりしますが。

そういえば、今年に入ってキング・クリムゾンのオリジナルアルバムや一部ライブアルバムの YouTube への音源公開も一通りやりきってしまったが、またクリムゾンとしてのライブツアー復帰も来年実現するのだろうか？

KING CRIMSON/キング・クリムゾン クリムゾン・キングの宮殿 ロックTシャツ バンドTシャツ S チャコール

『もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来』への反応 その44

前回からひと月以上間が空いてしまったが、『もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来』の宣伝というのがこのブログの存在意義なので、反応がある限りしつこく続けさせてもらいます！

まずは前回紹介した小関悠さんの「フレンチのコース料理に最後デザートがつきますって言うから、楽しみだなーと思ってたら北京ダックが丸ごとやってきたみたいな感じ」という反応への反応から。

確かに和食というよりフレンチだし，デザートが北京ダックというのは凄い納得したw
＞フレンチのコース料理の後に北京ダックが丸ごと
https://t.co/urWVJcdWTb

— Der Spiegel im Spiegel (@spiegel_2007) March 25, 2021

『もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来』については、「円城塔が推し、ブレイディみかこを泣かせても売れない不遇の電子書籍」というお名前を出した方に失礼極まりない非公式キャッチコピーがあるが、「フレンチのコース料理に最後デザートが来ると思ったら北京ダックが丸ごとやってくる電子書籍」というのもいいかもしれない（逆効果？）。

そういえば、この本に解説を書いてくださった arton さんも以下のように書かれている。

それはそれとして、ボーナストラックに余情があるといえば、「もうすぐ絶滅するという開かれたウェブについて: 続・情報共有の未来」だな。

L'eclat des jours(2021-03-28)

よし、「フレンチのコース料理に最後デザートが来ると思ったら余情がある北京ダックが丸ごとやってくる電子書籍」にしようか（やめなさい）。

続いては少し考え込んでしまう反応である。

本を買いたいと思うかどうかは動線の良し悪しによる(CDもそう)「読みたい」と「買いたい」の間には動線という溝が。

暇でない時には特に。

もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来 - 達人出版会 https://t.co/ffXMNYNzfl

— monmonmon (@moraraeru) April 26, 2021

これは推測であるが、『もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来』は、「読みたい」から「買いたい」にいたる導線があまりよろしくないと言われているのかもしれない。

以前、どこまで読んだか把握しやすいよう（達人出版会からの購入するのに加えて）Kindle版も買った方の話を紹介したことがあるが、買うまでの導線もそうだが、買ってからのユーザビリティも Amazon は強いのは間違いないわけだ。Amazon を超えるのは難しい。

もうすぐ絶滅するという開かれたウェブについて 続・情報共有の未来【電子書籍】

yomoyomo
達人出版会
発行日: 2017-12-25
対応フォーマット: PDF, EPUB, ZIP

詳細を見る

ブルース・シュナイアーが予言する「AIがハッカーになり人間社会を攻撃する日」

www.belfercenter.org

ブルース・シュナイアー先生が Wired に「Hackers Used to Be Humans. Soon, AIs Will Hack Humanity（ハッカーはかつて人間だった。じきに AI が人間性をハックする）」という文章を寄稿している。

その趣旨はタイトルの通り、じきに AI がハッカー（ここでの「ハッカー」は優れたプログラマーという意味ではなく、コンピュータやネットワークのセキュリティ侵害を行う存在を指している）になるぞという話だが、その文章の中で「最近発表したレポート」としてリンクされている文章である。

軽い気持ちで読み始めたら、長い……とても長い……かなり長い……読んでも読んでも終わらない……なんとか読み終わったが、かなーりな時間がかかったので、内容をまとめてみようと思う。

しかし考えてみれば、上でリンクした Wired の寄稿が作者自身によるまとめとも言えるので、無駄な作業かもしれない。それでも読むのに時間をかけちゃった以上、せっかくその元を取りたいという気持ちから意地でもやってしまった。

はじめに

人工知能（AI）はコンピュータ上で動作するソフトウェアだが、既に我々の社会に深く組み込まれている。AI システムがハッキングに利用されるだけでなく、AI システム自身がハッカーになることで、社会、経済、政治のあらゆるシステムに脆弱性を見つけ出し、かつてない速度（スピード）、規模（スケール）、範囲（スコープ）で我々の社会をハックするだろう。

これは大げさな話ではない。遠い未来の SF 技術ではないし、「シンギュラリティ」も前提としていない。『ターミネーター』のスカイネットや『マトリックス』のエージェントのような悪意のある AI システムも必要なく、現在の AI の学習、理解、問題解決が高度になれば自ずと可能になる。

このエッセイは、AI ハッカーによって引き起こされる影響を論じるものだ。まず、経済、社会、政治システムの「ハッキング」の一般的な解説、次に AI システムがいかにハッキングに利用されるか、続いて AI が経済、社会、政治システムをいかにハッキングするかを説明し、最後に AI ハッカー界がもたらす影響と、可能な防御を指摘する。

ハックとハッキング

まず、ハッキングは不正行為ではない。ルールに従いながら、その意図を裏切り、利己的に利用するものだ。

システムは硬直し制限をかけがちだが、それから逸脱する何か別のことをしたいと思う人がいてハックをする。ハッキングというとコンピュータに対して行われると思われがちだが、税法をはじめとするあらゆるルールに対して行える。

パソコン、携帯電話、IoT 機器問わず、あらゆるコンピュータソフトウェアにはバグと呼ばれる欠陥が存在する。そのバグの中に、セキュリティホールにつながるものがある。具体的には、攻撃者が意図的にコンピュータを攻撃可能な状態にするバグで、これを「脆弱性」と呼ぶ。脆弱性を利用して個人情報を抜き取るのも、システムをその設計者が意図もしない方法で悪用する「ハック」の一例だ。

税法にもコンピュータソフトウェア同様バグがある。それは法律の文言の言葉に誤りがあったり、解釈に誤りがあったり、意図しない脱落があったり、また法律間の予期せぬ相互作用から生じる場合もある。税法上のバグには脆弱性となるものもあり、アイルランドとオランダの子会社を組み合わせて低税率または無税率の国に利益を移す、ダブルアイリッシュ・ダッチサンドイッチと呼ばれる大手テック企業が租税を回避する法人税のトリックはその一例だ。

プログラマーがシステムに意図的にバックドアを追加するように、税法に減税措置や免除措置といった租税回避（Tax Loopholes）の抜け道として意図的に脆弱性が盛り込まれることもある。コンピュータセキュリティの世界でいうところの「ブラックハット研究者」が大勢いて、税法の一行一行を調べて脆弱性を探しているが、彼らは一般には税理士や会計士と呼ばれる。

現代のソフトウェアは驚くほど複雑で、複雑になればなるほどバグや脆弱性は増える。税法もまたしかり。コンピュータコードの脆弱性は、コードが完成する前にツールで修正できるし、コードが世に出た後に研究者が脆弱性を見つけたら、ベンダーが迅速にパッチを当てるのも大事だ。これと同じ方法を税法に採用できる場合もあるが、利害関係者が多くてそう簡単にいかないこともある。

いたるところにあるハッキング

あらゆるものがシステムであり、あらゆるシステムはハック可能であり、人間は自ずとハッカーになる。

金融の歴史はハッキングの歴史でもある。金融機関は自分たちに利するルールの抜け穴を探すし、Uber や Airbnb といったギグエコノミー企業は政府の規制をハックするし、フィリバスター（議事妨害）は古代ローマで発明された古いハックだし、ゲリマンダーは政治プロセスのハックだ。

そして遂には、人間がハッキングされる可能性がある。我々の脳は何百万年もかけて進化してきたシステムであり、環境との継続的な相互作用によって最適化されてきたが、このシステムは21世紀のニューヨークや東京やデリーにはあまり適しておらず、操作が可能だ。

認知ハッキング（cognitive hacking）は強力で、ソーシャルメディアは我々のアテンションをハックし、広告はパーソナライズされることで説得のシステムをハックし、偽情報は我々の現実に対する共通認識をハックし、テロリズムは恐怖とリスク評価の認知システムをハックする。

コンピュータはシステムとしては新顔だが、財務、税制、規制、選挙といった伝統的なシステムがコンピュータ化されることで、速度（スピード）、規模（スケール）、範囲（スコープ）という3つの次元でハッキングを加速させる。

あらゆるシステムが等しくハッキングされるわけではなく、多くのルールがある複雑なシステムは、意図せぬ結果をもたらす可能性が高いがゆえに特に脆弱である。これはコンピュータシステムだけでなく、税法や金融システムや AI にもあてはまる。厳格に定義されたルールではなく、柔軟な社会的規範による規定されるシステムは、解釈の余地と抜け道が多いため、ハッキングに対して脆弱である。システムには必ず曖昧さや不整合があり、またそれを利用しようとする人が必ずいる。

我々をハックするAI

2016年にジョージア工科大学から発表された研究結果によると、擬人化されてないロボットでも緊急事態となると（そのロボットの能力が低いことを直前に確認したにも関わらず）大多数の人がその指示に従ったそうで、ロボットは人間の信頼を自然にハックできるようだ。

人工知能とロボット

AI の定義を考え始めるといくらでも書けるが、ここでは人間の思考をシミュレートするさまざまな意思決定技術を総称して AI と呼ぶ。

ここで、特化型 AI（弱いAI）と汎用 AI（強いAI）を区別する必要がある。汎用 AI は映画に出てくるような（時に人間を滅ぼそうとするような）、人間的な方法で感知、思考、行動できる AI で、これにロボット工学と組み合わせると、アンドロイドのできあがりだ。

ここでは特化型 AI にフォーカスする。特化型 AI は自動運転車を制御するシステムなどの、限られた領域の特定のタスク向けに設計される。

AI 研究者の間では、「何かがうまくいった時点でそれはもう AI ではなく、ただのソフトウェアだ」というジョークがある。AI は本来神秘的な SF 用語で、何かできるようになると、その不思議さがなくなるというわけだ。

実際には、単純な電気機械から SF 的なアンドロイドまで、意思決定の技術やシステムは連続しており、何をもって AI とするかは、実行されるタスクの複雑さとその実行環境の複雑さに依存することが多い。そうした定義上の議論はここでは避けたい。

ロボティクス分野にも人気のある神話（つまり事実ではない）やそれと裏腹の派手さのない現実があり、これも様々な定義があるが、「物理的な動きによって環境を感知、思考、行動できる物理的に具現化された物体」というロボット倫理学者のケイト・ダーリング（Kate Darling）の定義が好きだ。ロボティクス分野についても、ここでは平凡で近未来的なテクノロジーに焦点を当てたい。

人間のようなAI

コンピュータプログラムに人間らしさを求める考え方は古くからある。1960年代、ジョセフ・ワイゼンバウムが ELIZA というセラピストを真似た会話プログラムを作ったところ、人々が個人的な秘密をただのコンピュータプログラムの ELIZA に打ち明けるのに驚いた。今日でも、Alexa や Siri などの音声アシスタントに人は礼儀正しく接する。

多くの実験で、被験者はコンピュータの感情を傷つけたくないと感じることが分かっており、コンピュータが被験者に架空の「個人情報」を教えたら、被験者は自身の個人情報を教えてくれる可能性が高い。この返報性は、人間も利用するハックだ。

人間を欺くための認知ハッキングも利用されているが（例：ボットによる SNS へのプロパガンダの拡散）、AI の利用は今後ますます高度化していくだろう。何年も前から AI がスポーツや金融分野のニュース記事を書いているが、今ではより一般的なストーリーを書くところまできている。Open AI の GPT-3 といった研究プロジェクトは AI によるテキスト生成の可能性を広げるが、これはフェイクニュースを書くのにも使える。

AI が政治的言説を劣化させることも起こりうる。既に AI が開発したペルソナが、新聞社や国会議員にメールを書いたり、ニュースサイトや掲示板に分かりやすいコメントを残したり、ソーシャルメディアで政治について知的に議論したりできる。こうしたシステムは、より洗練されてパーソナライズされ、現実の人間と見分けがつかなくなるだろう。

現にあるオンラインプロパガンダキャンペーンが、AI が生成した顔写真を使った偽ジャーナリストによって行われた実例などあり、ディープフェイク技術や、ソーシャルメディアやその他のデジタルグループの中で個人を装う AI である「ペルソナボット」など悪用可能な技術は存在する。1つのペルソナボットでは世論を動かせないが、それが何千、何百万もあったらどうだろう？ AI は将来的に偽情報を無限に供給するだろう。

こうしたシステムは、個人レベルでも影響を及ぼす。効果的なフィッシングメールは、人や企業に多大な損失をもたらすが、フィッシング攻撃をカスタマイズするような手間のかかる作業が、AI技術によって自動化され、マーケティング担当者がパーソナライズされた広告を送りつけるだけでなく、フィッシング詐欺師が個別にターゲットを絞ったメールを送れるようになる。重要なのは、AI 技術は人間ではなくコンピュータの速度と規模でそれを可能にすることだ。

我々をハックするロボット

ケイト・ダーリングは、著者『The New Breed』の中で、こうしたハックにロボット工学が加わることでより効果的になると述べている。我々人間は、線の上に2つ点があればそれが顔に見えるという、他人を認識するとても効果的な認知的ショートカットを備えている。顔があるだけで、人間にはそれが何かしらの生き物に感じられ、意思や感情を読み取る。

擬人化されたロボットは、人間の感情に訴えかける説得力のあるテクノロジーだし、AI はその魅力を増幅させる。AI が人間や動物を模倣するようになれば、人間がお互いをハックするのに使っているメカニズムをすべて乗っ取ることになる。人間がロボットを感情や意思を持った生き物として扱い、ロボットに操られやすくなる。

AI はこれらをすべてをうまくこなすようになるだろう。多くの AI 分野がそうであるように、最終的には人間を超える能力を持つようになる。そうなれば、人間をより正確に操れるようになる。しかし、AI のハッカーを操る人間のハッカーがいることを忘れてはいけない。あらゆるシステムは、特定の目的のために特定の方法で我々を操作したい人間によって設計されるのだが、これについては後述する。

AIがハッカーになるとき

CTF（Capture the Flag）は、ハッカーのチームが自分たちのコンピュータを守りながら他のチームを攻撃する、基本的にコンピュータネットワーク上で開催されるアウトドアゲームだ。CTF は1990年代半ばからハッカーの集いの目玉競技だが、2016年に DARPA が AI を対象とした同じスタイルのイベントを開催した。100ものチームがこの Cyber Grand Challenge に参加した。これまで解析やテストが行われたことのないカスタムソフトウェアを使用した特別なテスト環境が用意され、AI には10時間の猶予が与えられ、競技に参加した他の AI に対抗するための脆弱性の発見と悪用されないためのパッチの適用が求められた。

その決勝が行われた DEFCON では、人間チームによる CTF が開催され、それに CGC で優勝した Mayhem も招待されたが、結果は最下位だった。だが、AI のコア技術が進歩する一方で、ツールが進歩しても人間は人間のままなので、最終的には（シュナイアーの予想では10年もかからず）AI が人間に勝つのが当たり前になるだろう。完全に自律した AI によるサイバー攻撃が可能になるまで何年もかかるだろうが、AI 技術は既にサイバー攻撃の本質を変えつつある。

AI システムにとって特に有益と思われる分野の1つが脆弱性の発見で、ソフトウェアのコードを一行ずつ調べていくような退屈な作業こそまさに AI が得意とする問題だ。これはコンピュータネットワークにとどまらない。税法、銀行規制、政治プロセスなど多くのシステムで、AI が何千もの新たな脆弱性を見つけないわけがない。

これを利用して、AI にシステムをハックするように指示する人が出てくるだろう。AI に世界の税法や金融規制を学習させ、そこから利益を生むハッキングをしかけるわけだ。そうでなく、不注意ではあれ AI が自然にシステムをハッキングしてしまうこともありうる。我々がそれが起こったことに気づかないかもしれないので、後者のほうがより危険だ。

説明可能性の問題

『銀河ヒッチハイク・ガイド』において、すぐれた知性をもった汎次元生物の宇宙人が、生命、宇宙、そして万物についての究極の疑問の答えを得るために、宇宙最強のコンピュータ「ディープ・ソート」を構築した。750万年の計算の後、ディープ・ソートが出した答えは「42」だった。しかし、ディープ・ソートはその答えを説明できなかった。

これがいわゆる説明可能性の問題だ。現代の AI システムは基本的に、片方からデータが入り、片方から答えが出てくるブラックボックスである。プログラマーがコードを見ても、システムがどのようにして結論を出したのか理解できないこともある。AI は人間のように問題を解決するものではない。AI システムには、人間のような頭の中で同時に処理できる情報量の限界はないのだ。

しかし、説明可能性の問題がある AI は理想ではない。我々が求めるのは、AI システムが答えを出すだけでなく、その答えについて人間が理解できる形で説明してくれることだ。これはより安心して AI の判断に任せられるようにするためだが、AI システムがハッキングされて偏った判断をしていないか確認するためでもある。

研究者たちは説明可能な AI に取り組んでおり、2017年には DARPA がこの分野の12のプログラムに7500万ドルの研究基金を立ち上げた。この分野に進展はあるだろうが、能力と説明可能性はトレードオフの関係にあるようだ。つまり、説明を強要すると、AI システムの判断の質に影響を与える新たな制約になりかねない。近い将来、AI はますます不透明、複雑、非人間的になり、説明可能性がなくなっていくのではないか。

報酬ハッキング

繰り返すが、AI は人間と同じように問題を解かない。AI は人間が当たり前に共有する文脈、規範、価値観を持ち合わせないので、人間が思いもよらないような解決策に必ず行き当たるし、システムの意図を覆す解決策もあろう。

報酬ハッキングとは、AI の設計者が意図しない方法で AI が目標を達成することである。AI は目的に最適化するように設計されている。それによって自然に、我々が予期しない方法でシステムをハックしてしまうのだ。

優れた AI システムは、当たり前のようにハックを見つける。ルールに問題や矛盾、抜け穴があり、その特性がルールで定義された許容できる解決策を AI は見つけるのだ。それを見た我々人間は、元の問題の文脈を理解しているがゆえに、逸脱、不正、ハッキングだと感じてしまう。AI の研究者が「目標の調整（goal alignment）」と呼ぶ問題である。

ギリシャ神話のミダス王は、ディオニュソス神に願いを叶えてもらい、触れる物を全て黄金にする能力を得た。しかし、食べ物も飲み物も娘もミダス王が触れたものがすべて金になってしまい、飢えに苦しみ惨めな思いをする。これが「目標の調整」の問題であり、ミダス王は間違った目標をシステムにプログラムしてしまったのだ。

この問題は一般的なもので、人間は言語や思考であらゆる選択肢を説明することはないし、注意点や例外や但し書きをすべて明示もできない。人間は文脈を理解し、通常は誠意や常識を持って行動するので問題にはならない。しかし、AI に目標を完璧に指定はできないし、AI も文脈を完全には理解できない（インターネットジョークの例：ジェフ・ベゾス「アレクサ、ホールフーズで何か買ってよ」アレクサ「承知しました。ホールフーズを買います」）。

2015年、フォルクスワーゲンが排ガス規制のテストで不正行為を行っていたことが発覚した。フォルクスワーゲンはテスト結果を偽造したのではなく、エンジニアが車のコンピュータのソフトウェアを、車が排出ガステストを受けているのを検知するようプログラムすることで、車のコンピューターが不正行為を行うように設計した。車のコンピュータは、テストの間だけ車の排出ガス抑制システムを作動させたわけだ。

このフォルクスワーゲンの話に AI は含まれないが、AI は不正行為という抽象的な概念を理解しない。AIが「既成概念にとらわれない」発想をするのは、既成概念や人間の解決策の限界を知らないからに他ならないし、AI には倫理観もない。フォルクスワーゲンの解決策が他人を傷つけることも、排ガス規制テストの意図を損なうことも、法律に違反していることも理解できないだろう。つまり、AI が人間の不正行為と同じような「解決策」を考え出すのも容易に想像できる。AI は自らがシステムをハックしていることすら気づかないだろうし、説明可能性の問題から、我々人間もそれに気づかないかもしれない。

天然ハッカーとしてのAI

プログラマーが「テスト時に通常と異なる動作をしない」と指定しないと、AI はフォルクスワーゲンの不正行為と同じようなハックを思いつくかもしれない。プログラマーが予想しないようなハックはそれ以外にも常に存在する。問題は明らかなハッキングだけではない。効果が微妙なために我々が気づかない、目立たないハッキングこそ心配である。

例えば、レコメンデーションエンジンが人々を極端なコンテンツに向かわせることはよく知られている。これは元々の意図ではなく、システムが継続的な結果を見て、ユーザーのエンゲージメントを高めようと自己修正することで自然に生まれた特性である。こうしたハッキングは、悪意のある人が行ったものではなく、ごく基本的な自動システムがいきついてしまったもので、我々のほとんどはそんなことが起きてることに気づいていない（Facebook の奴らは例外で、あいつらはそれを示す調査結果を無視している）。

こうした話は AI の研究者にとって目新しいものではなく、その多くが目標や報酬のハッキングから防御する方法を検討している。AI に文脈を教えるのが解決策の一つだ（「価値観の調整（value alignment）」と呼ばれる）。これには価値観を明示的に指定するやり方と、人間の価値観を学ぶ AI を作るやり方の二つがある。前者は現在もある程度可能だが、ハッキング被害を受けやすいという欠点がある。後者は実現に何年もかかるし（それが何年かは AI 研究者の間でも意見が分かれる）、誰の価値観を反映すべきかという問題もある。

SFから現実まで

AI が解決策の最適化に着手し、新しい解決策をハックするには、環境のすべてのルールをコンピュータが理解できるように形式化する必要がある。AI では目的関数と呼ばれる目標を設定する必要があるし、どれくらいうまくいっているかフィードバックが必要で、それによりパフォーマンスを向上させられる。

囲碁のような、ルールも目的もフィードバックもすべて正確に指定されるゲームは簡単だ。しかし、システムに曖昧さがあると問題になる。世界中の税法を AI にインプットすると考えると、確かに税法は税額を決定する計算式で構成されるが、その中には曖昧な部分が存在する。その曖昧さをコード化するのは難しいので、AI では対応できなくて、当分の間税理士の仕事は安泰だ。人間のシステムの多くはもっと曖昧である。現実のスポーツのハックを AI に任せるのは、不可能ではないが SF の領域である。曖昧さは AI のハッキングに対する短期的なセキュリティの防御策となるわけだ。

AI によるハッキングの対象としては、ルールがアルゴリズムで処理できるよう設計されている金融システムが筆頭候補になる。世界中の金融情報をリアルタイムで入手し、世界中の法律や規制やニュースフィードなど、関連性があると思われる情報を AI に学習させ、「合法的に最大の利益を得る」という目標を与えるのが考えられる。これは遠い未来の話ではないし、その結果斬新な、人知を超えたハックが生まれるだろう。

1950年代以降、二つの種類の AI が生まれた。初期の AI 研究は「シンボリックAI」と呼ばれ、人間の理解をシミュレートすることを目的としたが、これは非常に難しく、その数十年で実用的な進歩はあまり見られなかった。もう一つは「ニューラルネットワーク」で、これも歴史は古いが、計算機やデータの飛躍的な進歩により、ここ10年で一気に普及した。ニューラルネットワークは言語を「理解」したり、実際に「思考」したりはしない。基本的に過去に「学んだ」ことに基づいて予測を行う、高度な統計的オウム返しのようなものだ。その達成は驚くべきことだが、できないこともたくさんあり、この文章に書かれることの多くもその範疇に入るだろう。が、AI の進歩は不連続で直感に反するもので、ブレイクスルーが起こるまでは分からないものだ。

つまり、AI ハッカーで埋め尽くされた世界は現時点ではまだ SF だが、はるか彼方の銀河系の話ではない。我々は、強制力のある、理解しやすい、倫理的な解決策を考え始めなければならない。

AIハッカーの意味

ハッキングは人類と同じくらい古いものだ。我々は創造的に問題を解決し、抜け穴を利用し、自らの利益のためのシステムを操作する。そうしてより多くの影響力、より多くの権力、より多くの富を求めるが、それでも制約なしに利益を最大化する人間はいない。人間的な資質がハッキングにブレーキをかけるのだ。

ハッキングは、あらゆるものがコンピュータ化されるにつれて進化した。コンピューターはその複雑さゆえにハッキングが可能になる。そして今では、車も家電も電話もあらゆるものがコンピュータだ。金融、税制、法令順守、選挙など社会システムのすべてがコンピュータとネットワーク前提となり、あらゆるものがハッキングされやすくなっている。

これまでハッキングは人間が行うもので、専門知識、時間、創造性、運が必要だったが、AI がハッキングをするようになればそれも変わる。AI には人間のような制約も限界はない。

ハッキングに対応する社会システムはあるが、それはハッカーが人間だった頃に開発されたものであり、人間のハッカーの速度を反映している。新たに何百、何千もの税金の抜け穴が発見されたとして、それに対応できるようなシステムはない。Facebook で民主主義をハッキングした人間にも対処できなかったのに、AI がコンピュータの速度でハッキングしたらもはや制御できない。

速度だけでなく、規模の問題も同様だ。その前兆はあり、DoNotPay は駐車違反の取り締まりを自動化する AI を利用する無料サービスだが、このサービスは航空便の遅延に対する補償を受けたり、サブスクリプションをキャンセルするなど他の分野にも拡大している。

AI システムの範囲が広がることで、ハッキングの危険性も高まる。生活に影響を与えるような重要な判断は、これまで人間が独占的に行うものだったが、既に一部 AI が行っている。AI システムの能力が向上すれば、社会はより多くの、より重要な決定を AI に委ねるようになろう。そして、そうなったシステムのハッキングは、大きな被害をもたらすだろう。

AIのハックと権力

このエッセイで紹介されているハッキングは、権力者が我々に対して行うものであり、我々のではなく権力者の利益のためにプログラムされているのを忘れてはいけない（例：Amazon のアレクサ）。ハッキングは主に既存の権力構造を強化するものだが、AI はその力学をさらに強化するだろう。

一つ例を紹介すると、ソニーが1999年から販売しているロボット犬 AIBO がある。2005年までは毎年改良された新型が発売されていたが、その後数年間で旧型 AIBO のサポートは徐々に終了していった。AIBO は原始的なコンピュータに分類されるが、所有者は AIBO に感情移入できた。日本では「死んだ」AIBO のお葬式が行われていたほどだ。

2018年、ソニーは新世代の AIBO の販売を開始した。興味深いのは、クラウドデータストレージを必要とするようになったことだ。つまり、これまでのAIBOとは異なり、ソニーは遠隔操作で AIBO を改造したり「殺す」ことが可能になった。クラウドストレージは最初の3年間は無料で、その後の料金は発表されていない。3年後、所有する AIBO に感情移入するようになったオーナーから多くの料金を請求できることだろう。

AIハッカーに対する防御

AI が新たなソフトウェアの脆弱性を発見できるようになれば、政府にも犯罪者にも趣味でハッキングを行う人にも信じられないほどの恩恵をもたらす。その脆弱性を利用して世界中のコンピュータネットワークをハッキングできるからだが、それは我々皆を危険にさらすことにもなる。しかし、同じ技術が防御にも役立つとも言える。長い目で見れば、ソフトウェアの脆弱性を発見する AI 技術は防御側に有利に働く。そしてそれは、より広範な社会システムのハッキングについても同様である。

しかし、そうした一般的なケースで防御を確実にするには、ハッキングに迅速かつ効果的に対応できる弾力性のある統治構造を構築する必要がある。社会のルールや法律も、パソコンや携帯電話をアップデートする頻度でパッチを当てられるものでなければなならない。これは難しい問題であり、本稿の範囲をはるかに超えるものだ。

最大の解決策は「人」である。ここまで説明してきたのは、人間とコンピューターのシステムの相互作用、並びにコンピューターが人間の役割を果たすことに内在するリスクである。テクノロジーに未来を託すのは簡単だが、未来におけるテクノロジーの役割を社会で決める方がずっと良い。AI が世界をハッキングし始める前に、我々はこの問題を解決しなければならない。

以上がブルース・シュナイアー先生の文章のワタシなりのまとめだが、できれば原文を読んでほしい。むちゃんこ長いけど。

個人的には納得できないところもある。例えば、AIBO を引き合いに出しているところはワタシははっきり不満で、もっと適した例がいくらでもあるだろうに、と正直まとめからバッサリ削除しようかとも思ったくらい。また前半かなり煽っておいて、最後のあたりでこっそり風呂敷をたたんでいる気配があるのもどうかと思った。それでもこれは読むべき論考だと思うわけです。

そういえばロボット倫理学者ケイト・ダーリングの新刊 The New Breed が文中引き合いに出されているが、当のブルース・シュナイアー先生だけでなく、ローレンス・レッシグやティム・オライリーも推薦の言葉を寄せており、邦訳が期待される。

The New Breed: What Our History With Animals Reveals About Our Future With Robots

The New Breed: What Our History with Animals Reveals about Our Future with Robots (English Edition)

その内容は、おそらく彼女の TED 講演「なぜ人はロボットと感情的繋がりを持つのか」を発展させた感じでしょうね。

www.ted.com

我々の脳はコンピュータよりもインターネットに近い？ 脳の働きの新しいパラダイムをもたらす新刊

boingboing.net

神経科学者のダニエル・グレアム（Daniel Graham）の An Internet in Your Head – A New Paradigm for Understanding the Brain という本を取り上げているが、これは面白そうである。

ディーン・ブオノマーノ『バグる脳 ---脳はけっこう頭が悪い』（asin:4309252737）やドナルド・ホフマン『世界はありのままに見ることができない ―なぜ進化は私たちを真実から遠ざけたのか―』（asin:4791773152）など、これまで人間の脳をコンピュータにたとえる言説が多かった。しかし、神経科学の最新研究によると、我々の脳はコンピュータというよりインターネットに近いのではというのがこの本のポイントで、それを脳理解の新しいパラダイムと謳っている。

boingboing.net

こちらには、この本の序文が掲載されている。さわりを少し訳しておきましょう。

我々は自分たちの脳をコンピュータとしてとらえている。意識しているかどうかは別として、記憶を取り戻すとか、自動操縦で動くとか、何か習得回路が備わっているとか、心を再起動するとか言うとき、我々は脳をコンピュータにたとえている。神経科学者もやはりコンピュータのメタファーにとらわれている。神経科学の分野でも、脳をコンピュータ装置としてイメージするのがデフォルトのアプローチなのだ。

もちろん、大部分の神経学者は、脳を文字通りのデジタルコンピュータとは考えていない。しかし、脳科学の教科書では、思考や行動の神経生物学的プロセスを、プログラム、記憶回路、画像処理、出力装置の類を備えたコンピュータにそのまま似たものとして記述されるのが当たり前に行われている。さらには意識も外の世界を内部のコンピュータでモデル化して表現される。そして、この脳とコンピュータ装置との比較は、ある程度条件つきとはいえほとんどどこにも存在している。我々が脳についての考え方にあまりにも浸透しているため、このメタファーから逃れることは難しいし、それに気づくことさえないのだ。

これは来年以降に邦訳が出るんじゃないですかね。

An Internet in Your Head: A New Paradigm for How the Brain Works

An Internet in Your Head: A New Paradigm for How the Brain Works (English Edition)

ウィキペディアの「社名の由来一覧」ページが今更ながら面白い

kottke.org

Wikipedia の List of company name etymologies、要は「社名の由来一覧」ページが面白いという話である。

はてなブックマークを見ると英語版でも15年前にぶくまされているので、知る人はとっくに知っている話のようだが、ワタシは初めて知った。まさに暇つぶしに眺めるのにちょうど良い。

kottke.org が取り上げている例に「セブンイレブン」があり、これは日本人ならだいたい想像つくのだけど（いや、生まれたときからコンビニの24時間営業が当たり前だった世代にはそうでもないのかな）、「ハーゲンダッツ」には実は何の意味がないという話は、ワタシも少し前に Twitter で読んだ覚えがあるな。

あと Mozilla について、「Netscape Navigator の前にあったウェブブラウザの名前から。Netscape の共同創業者のマーク・アンドリーセンがその Mosaic ブラウザにとってかわるブラウザを作ったとき、最初ジェイミー・ザウィンスキーによって Mozilla（Mosaic キラー、ゴジラ）と内輪で名付けられた」とあるが、これこそお若い方にしてみれば、Mosaic は言うまでもなく、Netscape もなんだそれ、という感じなのかもしれない。

この Mozilla の命名の場面をジェイミー・ザウィンスキーの文章から引用させてもらう。

一週間かそこら前に、みんなで集まってクライアントの名前を考え出そうとした。Mosaic は会社の名前だから、これは使えない。 マーケティングのアホどもは、サイバーなんとかだのパワーなんたらだのうんちゃらウェアだの、くだらん提案ばっかりしやがる。そこでだれかが NCSA Mosaic をつぶすという話をして、ぼくが「もじら!」と口走った。みんなそれが気に入ったみたいで、だからこれがブラウザの正式名になっちゃうかも。

nscp dorm-j

時は1994年8月5日のことである。

ワタシのブログの Netscape～Mozilla 関係のエントリでは、以下も参考まで。

yamdas.hatenablog.com

yamdas.hatenablog.com

食うか食われるか ネットスケープvs.マイクロソフト

篠原奎次氏が浮世絵の木版技法を実演する動画を今更知る

www.openculture.com

この記事経由で、スミソニアン国立博物館の YouTube チャンネル、それも Smithsonian's National Museum of Asian Art というアジアのアートに特化したチャンネルに浮世絵の木版画作成を実演する動画を知る。

この元動画が公開されたのは2014年4月なので7年前か。恥ずかしながらまったく知らなかった。

英語で説明しながら実演するのは篠原奎次氏で、彼はアメリカで伝統的木版画家として活躍している方なんですね。

知識とは知っていても、こういう動画を見て、あ、浮世絵って木版画だったんだ（もちろん肉筆画もあるけど）、と思い当たるのは日本人としては恥ずかしいことかもしれない。

そういえばスミソニアン国立博物館ってボブ・ロスが「ボブの絵画教室」で書いた絵も一部寄贈されていたっけ。すごいよなぁ。果たして日本の博物館はこうした文化遺産に関する動画を遺しているだろうか。

版画芸術no.183―見て・買って・作って・アートを楽しむ 特集:知られざる創作版画