www.404media.co
ワタシは↑のエントリで「PHP事変」と書いちゃったが、‘Black October’という表現が使われてるみたいね。言い換えれば、AI によるサイバーセキュリティの「ブラック・スワン」現象?
この 404 Media の記事も、「AI はハッキングのあり方を根本から変えつつある。今後どうなるかは誰にもわからない」と書く通りで、先のことは分からんとしか言いようがないのが現状だ。
この記事で紹介されているジョンズ・ホプキンス大学の教授であり、世界的な暗号学者のひとりであるマシュー・グリーンの、「我々は、ゾンビの進路に手あたり次第にものを投げつけて、少しでも足止めすることを願っている映画の場面にいる」という投稿、そして「インターネット全体が乾燥した火種であって、それが燃え広がらないでいるのは、ティーンエイジャーがまだマッチ棒を見つけていないからだけなのに多くの人たちが気づき始めている」という投稿にはなんとも暗い気持ちになる。
学術論文の検索、要約、構造化データ抽出を自動化する AI リサーチ支援ツール Elicit の CEO である Andreas Stuhlmüller など、一年以内に電力網、金融システム、インターネットインフラ、水道に対する AI ベースのサイバー攻撃が発生する可能性があるので、数週間分の現金や水や保存食などを準備しておくべきという「サバイバル準備」の必要性を呼びかけている。
ワタシ的にはどうしても「AI破滅論と『終末ファシズム』、そしてアポカロプティミストとして生きること」の最後に紹介したキャシー・オニールの予測をどうしても思い出してしまう。
とはいえ、AIについて心配すべき点がないというのではない。中国、北朝鮮、ロシア、インドの組織化され、技術に精通した犯罪組織が、AIエージェントの大軍を掌握し、例えば地方銀行などに侵入したら、どのような被害や窃盗が発生しうるか、そして実際に発生するかを考えてほしい。AIには音声認識を欺く能力があり、しかも私たちに関する人物プロファイルも把握している上、システムをハッキングする能力も実証されていることを考えれば、犯罪者の支配下にあるAIエージェントが、大規模に銀行口座を乗っ取り、口座を空っぽにしてしまうと聞いても、私は驚かないだろう。
決して荒唐無稽ではない予測をひとつ挙げよう。2年以内に――もしかするともっと早く!――銀行はインターネットから切り離されるだろう。なぜなら、インターネットが犯罪AIに占拠されてしまうからだ。私たちは現金を引き出すために自ら銀行まで歩いて行くことを強いられ、あらゆるデジタルウォレットが信用できなくなるので、現金で取引することになるだろう。まるで1980年代に戻ったかのように。
ついでに言うと、インフラを人質に取って身代金を要求しようとする悪辣なエージェントによるハッキングのリスクがあるため、電力網もインターネットから切り離されることになるだろうと私は推測する。それから、世界中の他の地域でも同じことが起こるだろう。リスクが火を見るより明らかになり、被害が具体的に実感されるようになるからだ。
AI破滅論と『終末ファシズム』、そしてアポカロプティミストとして生きること – WirelessWire & Schrödinger's
こんなに早くこの予測が現実に近づくとは思わなかったな。
404 Media の Jason Koebler は、これは AI が知覚能力を獲得したからでも、人間が AI の制御を失ったからでもなく、単にインターネットを支えるソフトウェアの多くに脆弱性があり、それに対する人間の対策が追い付いておらず、そして AI によりそうした脆弱性を見つけるのが驚くほど容易になっただけときちんと指摘しており、過剰に不安を煽ることはしていない。
それでも事態は深刻だ。PHP2Shell がウェブにもたらす最大の影響のひとつとして、多くの歴史的なウェブサイトが更新されないままでハッキングされる可能性があり、一部は予防的にオフラインにされ、二度と復活しない可能性があるということを The Atlantic の記事は指摘している。
ウェブにおけるリンクの劣化は甚大であり、多くの歴史が失われる恐れがあるというのは、↑のエントリで紹介したブリュースター・ケールの訴えにもつながる話である。
この記事は、以下の文章で終わる。
現時点では、このすべてが最終的にどんな影響をもたらすか、一時間後、一年後、あるいは十年後にどうなるのかは不確かだ。しかし、AI はサイバーセキュリティやハッキングの仕組みを変えつつある。AI はバグの発見と悪用をより迅速かつ容易にしている。インターネットが実際にはどれほど安全でないかを我々はまさに知ろうとしているのだ。