同社の人工知能開発部門であるGoogle DeepMindは、スタッフの大幅な再配置を実施した。これまでAIセキュリティに注力していた約90人の研究者がグローバル・アフェアーズ部門に異動し、Googleのさまざまなサービスに関わる一般的なポリシーを管理することになる。

これらの専門家は、人工知能モデルに関連する潜在的な生物学的、化学的、放射線学的、核の脅威を評価する上で重要です。 AI セキュリティ専門チームの存在は、特に複雑なトピックを掘り下げて潜在的な悪意のある使用をテストできるため、システム応答の欠陥を特定するために不可欠です。

これらの内部変更に関する情報は、Google の社内メールを通じて明らかになりました。この動きは、デミス・ハサビス氏がディープマインドのCEOを辞任し、グーグルの親会社であるアルファベットの取締役会長と主任科学者の役割を引き継いだ直後に行われた。

現在の技術シナリオにおける人工知能におけるセキュリティの役割

テクノロジー分野の急速な進歩により、人工知能の開発を管理するための一般科学の知識を持つ専門家の重要性が強化されています。 OpenAI や Anthropic などの競合企業は、すでに自社モデルの進化について大きな懸念を表明しており、科学的テーマをより深く掘り下げる能力を強調し、機密性の高いトピックを扱う場合にはセキュリティ対策を組み込むことを約束しています。

Googleは、これらの専門家の異動は、彼らの活動を検索ツールなどの製品分野に近づけることを目的としていると発表した。しかし、従業員の間では、この変更により、Gemini の新しいバージョンを作成するプロセスへのチームのアクセスが制限され、システム内の潜在的な欠陥の検出が困難になる可能性があるという懸念があります。

DeepMind の AI セキュリティ担当バイスプレジデントであるヘレン・キング氏は、従業員に送信された電子メッセージの中で、チームが開発中のイノベーションへの完全なアクセスを維持すると保証しました。

Google DeepMind におけるその他の最近の変革

研究者の移住は9月初旬に始まる予定で、これはGoogleが人工知能部門で推進するさらなる変化を表している。以前の動きでは、8月初旬にDemis Hassabis氏がCEOを辞任し、DeepMindのリーダーシップが変更された。彼の後任にはKoray Kavukcuoglu氏が就任し、Jeff Dean氏が主任研究員となった。さらに、ハサビスにノーベル化学賞をもたらしたアルファフォールド計画は中止された。

Google で 27 年の経験があり、同社の AI 開発過程全体に関与していた Dean に加えて、他の長年の専門家も会社を去りました。多くの人は、新しいスタートアップを設立するか、他の人工知能研究チームに参加することを選択しました。その中には、それぞれ OpenAI と Anthropic に移った Noam Shazeer と John Jumper もいます。市場では、DeepMind に対する最近の変更により、より多くの専門家が同様の機会を求めるようになるのではないかとの懸念があります。