テッド・チャンが警告する、AIの洞察力の欠如につながる企業（資本主義）の倫理観の欠如

シリコンバレーが警告するAIの恐怖、その本質を「メッセージ」原作者が分析

原文を12月後半に知り、なかなか日本版に翻訳が出ないものだから、勝手翻訳してやろかと思いかけていたので、とりあえずありがたいことである。

昨年、代表作である「あなたの人生の物語」が『メッセージ』として映画化されたテッド・チャンの寄稿だが、原文のタイトルは「Silicon Valley Is Turning Into Its Own Worst Fear」で、「シリコンバレーは、自らが最も恐れるものに変化しつつある」になろうか。

前半は、「洞察」という単語がキーワードとなる。AI の脅威は、この洞察のなさだという。

洞察は、まさにマスク氏のイチゴ摘みAIが有しない能力であり、悲観論者が語る同様のシナリオで人類を滅亡させるほかのあらゆるAIにも欠けている。こうしたシナリオで描かれるAIは人間の解決不可能な問題を解くほど賢いとされるのに、作業をそのまま進めることが間違いなく正しいかどうか立ち止まって自問するという、大抵の大人がすることすらできない。私は、これを妙なことだととらえていた。その後、私は思い至った。我々はとっくに、完全に洞察の欠如したマシンに囲まれているではないかと。そして、そうしたマシンを単に企業と呼んでいるのだ。もちろん企業は自律的に活動しないし、動かしている人間は洞察力を持っているだろうが、資本主義は洞察行為を評価しない。逆に資本主義は、人間の持つ「良い」方法かどうか判断する能力を「市場で決まること」へ置き換えるよう求め、人間の洞察力を盛んにむしばんでいく。
シリコンバレーが警告するAIの恐怖、その本質を「メッセージ」原作者が分析

そして、既に我々はこの洞察力が完全に欠如した「企業」というマシンに囲まれているじゃないか、というわけだ。それなのに、AI に洞察力、言い換えれば倫理観を持たせるなんて、現状企業に倫理観を持たせることに失敗している現状を見れば、無理に決まってるじゃないかというわけだ。

（とろい）人間が（容赦のない）AI にとってかわることで、（シリコンバレーのテック企業が強力に推進する）資本主義は完全に手がつけられなくなるのではないか。つまり、シリコンバレーは自らが最も恐れるものになるんじゃないか。

米国の思想家フレドリック・ジェイムソン氏が広めた言葉に、「世界の終わりを想像することは、資本主義の終わりを想像するよりたやすい」というものがある。シリコンバレーの資本主義者たちは、資本主義の終焉など考えたくないだろう。予想外なのは、資本主義者の想定する世界の終わりが、超高度AIの姿をして、抑制のきかない資本主義という形でもたらされることだ。彼らは、意図せず自分たちが思い描いている悪魔を作ってしまった。その魔物による悪行は、彼らの行為そのものなのだ。
シリコンバレーが警告するAIの恐怖、その本質を「メッセージ」原作者が分析

リバタリアニズムやジョン・ペリー・バーロウ氏のサイバースペース独立宣言へのあんまり肯定的でない言及、何よりも AI の名の元での人間の疎外への恐れなど『もうすぐ絶滅するという開かれたウェブについて続・情報共有の未来』とも通じるものを勝手に感じてしまう。

それにしても、人間性を信じながらも、AI について淡々と書きながら、人間なんか知らんがな、という未来に遠慮なく切り込むところなど、SF 作家としてのテッド・チャンの面目躍如ではないだろうか。