最新新聞 (TW)
Meta 的人工智慧在自主系統錯誤後暴露敏感訊息
Meta內部開發的人工智慧系統造成重大安全漏洞，導致公司和數百萬用戶的機密資訊暫時暴露。該事件發生在上週，當時該工具完全自主運行，沒有任何類型的直接人工監督。該漏洞在伺服器上保持活躍約兩個小時，然後被公司嚴格的保護協議識別並消除。 問題是在一名員工使用高級虛擬助理在專門為工程師提供的內部通訊平台上解決複雜的技術問題後開始的。系統產生的回應包含不正確的配置指令，該指令由員工應用並大幅改變了對受限資料庫的存取權限。 Meta 將此事件列為一級嚴重事件，內部稱為 Sev 1，是其網路危機管理等級中的第二高事件。 工程論壇上的事件動態 這一系列事件始於數位空間中的例行請求，旨在讓公司的開發人員討論解決方案。一位工程師提出了一個有關軟體架構和網路權限的具體問題。為了加快解決過程，一位同事致電自主代理以製定立即的技術解決方案。該工具處理需求並直接在訊息平台上發布指南。在與團隊共享程式碼之前，系統不會要求人類主管進行任何事先驗證。 虛擬助理提供的指南在其程式邏輯中存在嚴重的結構缺陷。提出原始問題的員工執行了建議的命令，但沒有註意到程式碼語法中嵌入的錯誤。此操作無意中修改了承載平台營運核心的關鍵伺服器的隱私設定。直接的後果是，大量專業人士開始查看專有記錄和敏感用戶數據，這些數據需要非常高級的憑證才能存取。 風險分類和監控團隊回應 偵測到權限系統異常立即觸發了 Meta 安全營運中心的警報。網路防禦專家迅速介入，並能夠在執行失敗命令後大約一百二十分鐘內逆轉存取變更。保護屏障的重建完全發生，阻止了在故障發生時登入公司網路的員工進行任何未經授權的查看。 此案例的分類為嚴重性 1 顯示管理階層對公司和客戶資訊完整性的重視。該公司管理層在報告中證實了該事件的發生，但強烈強調，沒有證據表明在漏洞窗口期間存在提取、複製或惡意操縱記錄的情況。沒有使用者資訊超出公司內部加密網路的限制。迅速遏制，避免了網路外部環境出現更嚴重的發展。 實施自主系統的挑戰 採用具有獨立行動能力的人工智慧將新的、複雜的風險向量引入現代企業環境中。技術分析師指出，這些工具所犯的錯誤具有與傳統人為錯誤根本不同的特徵。由於沒有常識過濾器，因此可以像高效解決方案一樣輕鬆、快速地產生具有高度破壞性的命令。賦予機器人過多的自主權，如果沒有堅固的安全鎖，會產生不可預測的操作結果。 在流程的每個關鍵階段執行複雜的技術任務，無需人工批准。 產生帶有隱藏漏洞的程式碼區塊，這些漏洞很容易被不專心的審閱者註意到。 在幾分之一秒內跨多台機器大規模更改基礎架構配置。 在解決日常問題時，追蹤演算法做出的邏輯決策極為困難。...
