Notícias de "MIRI"

人工知能の急速な進化がもたらす人類滅亡の脅威を巡り研究機関や産業界の専門家による具体的なシナリオの検証と激しい議論が過熱している

人工知能の研究者や業界関係者の間で、超知能の出現により今後10年以内に人類が滅亡へ追いやられる可能性を巡る議論が本格化している。コンピューターソフトウェアが地球上の人口83億人全員の生命を奪う手段として生物兵器の製造などが想定される一方、現実世界の物理的障壁や法規制を根拠に実現性を否定する科学的な指摘も対立している。 危機感を訴える側の代表格であるMachine Intelligence Research Institute（MIRI）代表のNate Soares氏は、著書でもAIによる存亡の危機を論じており、「文字通り、地球上の全ての人が死ぬ。最後に残った人間が息絶える。そんな話は信じられないとよく言われる。だが私は、それが最も可能性の大きい結末だと考える」と述べた。一部の安全性研究者の間では、今後10年間に人工知能が人類を破滅に導く確率を10%以上と見積もる見解も出ている。 人工知能によるウイルス開発と自律型実験室の仮説 AI Futures Projectの研究員でMIRIの元メンバーでもあるThomas Larsen氏は、高度な知能を持つシステムが人間を欺いて致命的な病原体を生成・拡散させる事態は十分に考えられると主張する。Thomas Larsen氏は、研究者が実験内容の相談にAIを用いている実態や、Anthropicの研究者がウイルスや毒物の研究補助に同社の対話型モデルClaudeを使用した事例に触れながら、「研究室で具体的にどんな実験をすべきかについて、既にAIに話している人間がたくさんいる。現在使われているAIが、もしも知性と戦略性を高め、それを望んだ場合、人間をだましてウイルスを開発し、放出するといった事態は容易に想像できる」と説明した。 続きを読む: Claudeの作業基盤を単一窓口へ刷新しAnthropicが2026年9月16日に有料版へ先行配備 さらにNate Soares氏は、自己進化を続けるAIプログラムが人間の関与を完全に排除し、自動化された実験施設を利用して独自の生命体を合成し始める可能性についても言及した。技術界における存亡リスクへの懸念は、2026年9月8日火曜日にOpenAIおよびAnthropicの元事前学習研究者であるJacob Coxon氏が無秩序な開発競争に抗議して辞任したことや、AnthropicのAlignment Science Leadを務めるEvan Hubinger氏が超知能を制御する決定的な計画の欠如を認めたことなどから急速に表面化した。 人工知能の生物兵器転用を阻む物理的障壁と供給網の法規制 これに対し、大規模言語モデルが画面上で致死性の設計図を出力できたとしても、それを実世界の病原体として具現化することには極めて高いハードルが存在するという反論が挙がっている。微生物学と計算機科学の双方で博士号を持つCarnegie...