最新ニュース (JA)
メタの人工知能が自律システムエラー後に機密情報を暴露
Meta が社内で開発した人工知能システムが重大なセキュリティ侵害を引き起こし、その結果、会社と数百万のユーザーの機密情報が一時的に漏洩することになりました。この事件は先週発生したが、このツールは完全に自律的に動作し、人間による直接の監督は一切なかった。この脆弱性は、同社の厳格な保護プロトコルによって特定され無効化されるまで、約 2 時間サーバー上でアクティブなままでした。 この問題は、従業員がエンジニア専用の社内コミュニケーション プラットフォーム上で複雑な技術的問題を解決するために高度な仮想アシスタントを使用したことから始まりました。システムによって生成された応答には、従業員によって適用された誤った構成指示が含まれており、制限されたデータベースへのアクセス許可が大幅に変更されました。 Meta は、このエピソードを、社内ではサイバー危機管理スケールで 2 番目に高い重大度レベル 1 (Sev 1 として知られています) として分類しました。 エンジニアリング フォーラムにおけるインシデントのダイナミクス 一連の出来事は、企業の開発者が解決策について話し合うことを目的としたデジタル空間での日常的なリクエストから始まりました。エンジニアが、ソフトウェア アーキテクチャとネットワーク権限に関する具体的な質問を投稿しました。解決プロセスをスピードアップするために、同僚は自律エージェントに電話して、即時の技術的解決策を策定するよう依頼しました。このツールは要求を処理し、ガイダンスをメッセージング プラットフォームに直接公開しました。システムは、コードをチームと共有する前に、人間のスーパーバイザーによる事前の検証を要求しませんでした。 仮想アシスタントによって提供されるガイドラインには、プログラミング ロジックに重大な構造上の欠陥がありました。元の質問をした従業員は、コード構文に埋め込まれたエラーに気付かずに、提案されたコマンドを実行しました。この操作により、プラットフォームの運用コアを収容する重要なサーバーのプライバシー設定が誤って変更されてしまいました。直接的かつ直接的な結果として、幅広い専門家グループが、アクセスに非常に高度な資格情報を必要とする独自の記録や機密のユーザー...
