2026.04.28 2026.04.28

技術の封じ込めが不可能な4つの理由【『The Coming Wave』4/6】

kotukatu

本ページはプロモーションが含まれています

過去の成功体験という罠

あなたは、AIや合成生物学といった危険を孕む技術であっても、かつての核兵器のように国際的な合意と厳格な管理によって封じ込めることができると信じていないだろうか。冷戦時代、人類は核という破滅的な力を、国家による資源の独占と巨大な物理的施設の監視によって、なんとかコントロール下においてきた。この成功体験があるからこそ、私たちは現代の新しい技術に対しても、同じような規制の網をかければ安全を確保できるという幻想を抱きがちである。しかし、私たちが今直面している技術の波は、過去のどの技術とも異なる性質を持っている。

『The Coming Wave』著者でDeepMind共同創業者のムスタファ・スレイマンは、核兵器とAIの間には、封じ込めを不可能にする決定的な溝があると指摘している。核兵器の製造には、ウラニウムの濃縮施設のような巨大な物理的フットプリント（足跡）が必要であり、それは衛星から容易に監視可能であった。一方で、AIはコードであり、デジタルデータとして瞬時に複製され、世界中に拡散する。物理的な制約という「檻」を持たない技術を、従来の国家の枠組みで封じ込めることは困難を極める。著者が説く「封じ込めのジレンマ」を理解するためには、この波が持つ四つの特性を直視する必要がある。

封じ込めを拒む四つの特性

著者は、現代の技術が持つ決定的な四つの特性として、「汎用性（Omni-use）」「超進化（Hyper-evolution）」「非対称性（Asymmetry）」「自律性（Autonomy）」を挙げている。第一の特性である汎用性は、核兵器が破壊という単一の目的を持つのに対し、AIは医療診断から兵器の制御まであらゆる領域で使用されることを意味し、特定の目的での規制を事実上無効にする。第二の超進化は、技術が指数関数的に向上し、自己改善を繰り返すため、規制案を策定している間に技術が数世代先へと進んでしまうという構造的な障壁である。

さらに脅威となるのが、第三の非対称性と第四の自律性だ。非対称性とは、攻撃や破壊にかかるコストが劇的に下がる一方で、それを防ぐための防御コストが跳ね上がることを意味し、かつては国家にしかできなかった行動を少数の個人や組織が可能にしている。そして自律性によって、技術は人間の手を離れて自ら意思決定を行い、拡散を続ける。これらの特性が複雑に絡み合うことで、一度解き放たれた技術は二度と元の檻には戻らない「不可逆的な波」となるのである。

地政学的競争という加速装置

なぜ、これほどまでに危険な特性を持つ技術の進化を、国際社会は協力して止められないのか。そこには、米中を筆頭とする地政学的な覇権争いという深刻な背景がある。著者は、現代の状況を「デジタルな軍拡競争」と表現している。AIの覇権を握ることは、二十一世紀における経済、軍事、そして文化的な主導権を握ることを意味する。もし自国が開発を制限すれば、その隙にライバル国が優位に立ち、自国の安全保障が脅かされる。

この相互不信が、ブレーキを踏むべき局面でアクセルを踏ませるという「封じ込めのジレンマ」を加速させている。各国は技術の危険性を認識しながらも、相手に遅れをとる恐怖から、開発の手を緩めることができない。デジタル空間という国境のない戦場において、物理的な障壁による封じ込めはもはや機能せず、競争という名のエンジンの燃料となっている。私たちは、国家という制度そのものが、この制御不能な波の前でいかに脆弱であるかを知らなければならない。

制度の限界を知り、新しい枠組みへ

技術の波が封じ込め不可能であるという事実は、私たちがこれまで頼りにしてきた「国家」や「法律」という制度が、もはや万能ではないことを示唆している。全員の顔色を窺い、全ての合意を待っていては、波に飲み込まれるのを待つだけである。私たちが今すべきことは、既存の制度の限界を認め、技術の特性に合わせた新しい制約のあり方を模索することだ。それは、単なる禁止ではなく、技術の根幹であるコードやハードウェアのレベルで組み込まれる、重層的な防護策でなければならない。

人間が作り出した技術が、いかにして国家のあり方を変え、あるいは制度を崩壊させていくのか。その地政学的なメカニズムをより深く理解するための次の一冊として、ダロン・アセモグル、ジェイムズ・A・ロビンソン著の『国家はなぜ衰退するのか』を手に取ってみてはどうだろうか。制度が技術革新をどう受け入れ、あるいは拒絶するのかを説いたこの本は、著者が警告する「カミング・ウェーブ」に直面した現代社会が、どのような分岐点に立たされているのかを鋭く照らし出してくれるはずだ。封じ込め不可能な技術を前にして、それでも私たちが社会を守り抜くために、まずは「止めることはできない」という現実を受け入れることから、新しい戦略が始まるのである。

リンク