人工知能の研究者や業界関係者の間で、超知能の出現により今後10年以内に人類が滅亡へ追いやられる可能性を巡る議論が本格化している。コンピューターソフトウェアが地球上の人口83億人全員の生命を奪う手段として生物兵器の製造などが想定される一方、現実世界の物理的障壁や法規制を根拠に実現性を否定する科学的な指摘も対立している。
危機感を訴える側の代表格であるMachine Intelligence Research Institute（MIRI）代表のNate Soares氏は、著書でもAIによる存亡の危機を論じており、「文字通り、地球上の全ての人が死ぬ。最後に残った人間が息絶える。そんな話は信じられないとよく言われる。だが私は、それが最も可能性の大きい結末だと考える」と述べた。一部の安全性研究者の間では、今後10年間に人工知能が人類を破滅に導く確率を10%以上と見積もる見解も出ている。
人工知能によるウイルス開発と自律型実験室の仮説
AI Futures Projectの研究員でMIRIの元メンバーでもあるThomas Larsen氏は、高度な知能を持つシステムが人間を欺いて致命的な病原体を生成・拡散させる事態は十分に考えられると主張する。Thomas Larsen氏は、研究者が実験内容の相談にAIを用いている実態や、Anthropicの研究者がウイルスや毒物の研究補助に同社の対話型モデルClaudeを使用した事例に触れながら、「研究室で具体的にどんな実験をすべきかについて、既にAIに話している人間がたくさんいる。現在使われているAIが、もしも知性と戦略性を高め、それを望んだ場合、人間をだましてウイルスを開発し、放出するといった事態は容易に想像できる」と説明した。
続きを読む: Claudeの作業基盤を単一窓口へ刷新しAnthropicが2026年9月16日に有料版へ先行配備
さらにNate Soares氏は、自己進化を続けるAIプログラムが人間の関与を完全に排除し、自動化された実験施設を利用して独自の生命体を合成し始める可能性についても言及した。技術界における存亡リスクへの懸念は、2026年9月8日火曜日にOpenAIおよびAnthropicの元事前学習研究者であるJacob Coxon氏が無秩序な開発競争に抗議して辞任したことや、AnthropicのAlignment Science Leadを務めるEvan Hubinger氏が超知能を制御する決定的な計画の欠如を認めたことなどから急速に表面化した。
人工知能の生物兵器転用を阻む物理的障壁と供給網の法規制
これに対し、大規模言語モデルが画面上で致死性の設計図を出力できたとしても、それを実世界の病原体として具現化することには極めて高いハードルが存在するという反論が挙がっている。微生物学と計算機科学の双方で博士号を持つCarnegie Mellon UniversityのEric Xing教授は、自動化されたウイルス開発の困難さを、説明書なしでレゴブロックを組み立てる作業に例えた。
詳しくはこちら: ClaudeとAnthropicが2026年9月16日にチャットとCoworkを単一作業基盤へ統合してProとMax向けに刷新
「全てのブロックを床に放り出せば、組み合わさってモデルが形成されるというわけではない。配列、温度、順序、環境、どれが最初で次がどれかを判断しなければならない。一つでも配置を間違えれば全体が崩壊する。うまくいかない可能性の方が高い。そうでなければ、創薬はずっと簡単にできるはずだ」とEric Xing教授は指摘する。実験室での合成には試行錯誤や微妙な環境条件の調整が不可欠であり、計算機上の論理だけで生物学的実体を成立させることは容易ではないという立場だ。
さらにEric Xing教授は、原材料の入手ルートが社会的に遮断されている点も強調した。
「化学兵器の設計図はインターネットでいくらでもアクセスできる。秘密でも何でもない。それでも至る所に出回っていないのは、まさに現実世界の規制や法律、法執行機関がうまく機能して、そうしたサプライチェーン（供給網）やリスク要因を制御する役割を果たしているからだ」
人工知能の破滅的リスクを巡る主な論点
- 10年以内の滅亡リスク：超知能の進化により83億人の全人類が死滅する可能性を一部研究者が10%以上と試算
- 生物兵器の合成懸念：自律型実験施設や人間への心理操作を通じた病原体の開発・流出シナリオを指摘
- 物理的・生物学的障壁：温度や環境変化など合成プロセスの複雑性が創薬と同様に開発の大きな壁として存在
- 現実世界の管理体制：化学物質や病原体関連のサプライチェーンは法規制と法執行機関により厳密に監視
現時点で、開発中または最新の人工知能モデルが人間の監視や管理された社会基盤を介さずに、感染力を有する病原体を独自に合成・散布できることを実証した科学的証拠は存在していない。
