アメリカのシンクタンクであるランド研究所（RAND Corporation）の Jeff Alstott、Joel B. Predd、Casey Dugan の3人の研究員が、ハーバード大学の Berkman Klein Center 主催で人工汎用知能（Artificial General Intelligence、AGI）が直面する5つの重大な国家安全保障上の課題をテーマに講演を行っている。
5つの重大な国家安全保障上の課題とは何か。
- ワンダーウェポン（決定的兵器）の登場：AGI が軍事バランスを一気に覆す兵器や能力を生み出す可能性
- 国家間のパワーバランスの体系的変化：AGI が産業革命のように、経済・軍事・科学力の基盤を徐々に変化させ、国家間の競争力格差が拡大する可能性
- 非専門家による大量破壊兵器の獲得：AGI が悪意ある非国家主体（テロリスト等）による生物兵器やサイバー兵器の開発を可能にし、リスクが拡大
- 制御不能・アライメント問題：AGI が自律的に行動し、人間の意図と異なる行動をとることで、人間の意思決定権が奪われ、予期せぬリスクや社会的混乱を招く可能性
- 不安定性の増大：AGI の開発競争が国際的な緊張や予防戦争、経済戦争を誘発する恐れがある
まぁ、AGI は核兵器と同等、あるいはそれ以上の地政学的影響をもたらし、国家の安全保障のパラダイムを変える可能性があるので、それに柔軟かつ戦略的に備える必要があるという趣旨ですね。
ここまで書いて念のために検索したら、ランド研究所のサイトで同名の論文が公開されていた。
動画じゃなくて、こっちをはじめから読んでおけばよかった……。
しかし、もうちょっとランド研究所のサイトを調べてみると、「人工汎用知能の普及がアメリカで内戦を引き起こす可能性はあるのか？」といった AGI に関する物騒な論文が公開されており、のけぞってしまう。
