Apple 發布 TinyGPU 驅動程序,可與矽晶片的 Mac 上的外部顯示卡配合使用

MacBook Pro

MacBook Pro - Dontree_M / Shutterstock.com

Apple 已正式批准 Tiny Corp 開發的驅動程式(稱為 TinyGPU),允許配備 Apple Silicon 的 Mac 電腦使用外部圖形處理單元。這項決定標誌著該公司立場的重大轉變,在此之前該公司一直嚴格限制在自己的處理器中使用 eGPU。該工具的主要重點不是顯示器的傳統圖形渲染,而是將這些硬體用作人工智慧加速器。授權允許使用者作業系統而無需停用系統完整性保護(SIP)等安全保護,只需要在 macOS 設定中手動授予驅動程式權限。

系統中的技術整合和相容性要求

TinyGPU 專案專為填補使用 Apple ARM 架構執行繁重運算任務的開發人員所面臨的硬體空白而設計。為了建立連接,設備必須具有 USB4 或 Thunderbolt 3 和 4 端口,以確保處理器和外部卡之間交換資料所需的頻寬。除了實體連接之外,作業系統還必須更新至macOS 12.1或更高版本,以確保Tiny Corp.所需的通訊協定的穩定性。

軟體實作需要強制安裝「tinygrad」框架,該框架作為管理GPU工作負載的邏輯基礎。此生態系統的設計精益高效,避免了作業系統核心不必要的開銷。在獲得蘋果公司的批准後,最終用戶的安裝過程變得相當簡單,消除了以前令技術愛好者和數據研究人員望而卻步的複雜技術障礙。

Apple環境下支援AMD和NVIDIA硬體

這次更新最大的驚喜之一就是加入了對不同廠商顯示卡的支持,涵蓋AMD的RDNA3架構和NVIDIA的Ampere架構。對於 AMD 卡,編譯器在 macOS 環境中本地運行,利用品牌之間的歷史相容性來優化效能。對於NVIDIA硬體使用者來說,執行NVCC編譯器需要使用Docker Desktop,建立處理指令所需的虛擬化層。

  • 支援 RDNA3 架構或更高版本的 AMD GPU。
  • 與基於 Ampere 架構的 NVIDIA 卡相容。
  • 需要 Docker Desktop 來運行 NVIDIA 特定的二進位。
  • 專注於數據處理,不透過 eGPU 直接輸出影片。

這種硬體靈活性使 Mac Mini 或 MacBook Air 等緊湊型機器能夠獲得以前僅在高成本工作站中才能提供的運算能力。支援現代架構的選擇反映了處理需要大量 VRAM 記憶體和特定張量核心的語言模型和神經網路的需求。

MacBook – udovichenko/Shutterstock.com

人工智慧模型的實際應用

TinyGPU的實際效能已經在開發團隊使用大型模型進行的測試中展示了可喜的結果。報告顯示,該系統能夠成功運行Qwen 2.5 27B模型,證明Thunderbolt頻寬足以滿足AI推理應用的需求。對於喜歡蘋果軟體生態系統、但又需要可根據專案需求進行更換的專用 GPU 的多功能性的研究人員來說,這項進步至關重要。

影像處理和顯示的分離是這個蘋果認可的驅動程式的關鍵技術特性。透過不處理視訊輸出,eGPU 將其所有功能和頻寬專門用於純數學計算,從而減少了機器學習任務中的延遲。這種以數據為中心的方法有助於蘋果公司批准該驅動程序,因為它不會直接幹擾該公司的專有顯示協議,從而保持了用戶視覺體驗的完整性。

對開發者社群和生產力的影響

該驅動程式的批准消除了數據科學專業人士對蘋果矽晶片提出的主要批評之一。在此解決方案之前,晶片的統一記憶體限制是模型載入的最大上限,但現在,透過 eGPU 進行外部擴展打破了這個物理障礙。開發人員可以保持筆記型電腦的便攜性,同時在辦公室使用功能強大的充電站來訓練或測試複雜的演算法。

工作流程變得更加動態,允許中央處理器 (CPU) 和整合 GPU 處理介面和系統任務,而外部卡則在背景處理繁重的運算。這種負載分佈可以延長 Mac 內部組件的使用壽命,防止長時間運行的任務導致硬體過熱。 Apple 官方簽名提供的穩定性確保未來的系統更新不會意外破壞功能,為希望採用該解決方案的公司提供法律和技術安全。

使用平行計算的技術視角

TinyGPU 驅動程式架構使用低階呼叫來確保 macOS 和外部硬體之間的通訊以盡可能少的開銷進行。透過使用tinygrad框架,Tiny Corp為Python或C++指令創建了一條有效的路徑來到達視訊卡的核心,而無需經過過多的程式碼轉換層。在每一毫秒的處理都關係到即時人工智慧應用程式的可行性的情況下,這一點尤其重要。

使用外部 GPU 還為試驗不同類型的硬體打開了大門,而無需更換整台電腦。用戶可以從入門級 GPU 開始,隨著 AI 模型複雜性的增加升級到更強大的卡片。這種模組化雖然在 PC 世界中很常見,但對於發現自己受到具有整合處理器的新型號的封閉設計的限制的 Mac 用戶來說,這是一個受歡迎的發展。

macOS 環境中的設定與安全

即使允許 TinyGPU 在其最新設備上運行,Apple 仍保持嚴格的安全標準。安全首選項中手動驅動程式批准的需要確保使用者可以完全控制在核心層級安裝的內容。此過程是第三方驅動程式的標準,但此處的重要性在於 eGPU 要求透過系統資料匯流排進行存取的性質。

與先前需要對引導系統進行大量修改的方法不同,Tiny Corp 的解決方案被認為是在公司參數範圍內即插即用。這意味著 IT 管理員可以在公司電腦群上實施這些解決方案,而不會影響網路的整體安全策略。系統開放性和資料保護之間的平衡似乎是庫比蒂諾巨人獲得批准的交匯點。

軟體需求和 Docker 的作用

NVIDIA 卡的 Docker 依賴性是一個技術細節,它定義了很大一部分使用者的使用體驗。由於 NVIDIA 多年來一直沒有為 macOS 提供本機驅動程序,因此容器的使用允許 CUDA 指令所需的編譯器獨立工作。這種創造性的解決方案使 NVIDIA 的尖端硬體能夠在理論上不支援它的系統中得到利用,從而擴展了互通性的邊界。

對於 AMD 用戶來說,這個過程更加簡單,這反映出蘋果與 GPU 製造商在過去的 Mac Pro 和 iMac 機型上的持續合作。本機支援意味著更少的延遲和更簡化的安裝,使其成為那些在tinygrad框架內尋求最大效率的人的建議選項。這兩種選擇都代表了一項技術進步,使 Mac 重新受到使用密集並行處理的大型研究實驗室的關注。

蘋果人工智慧生態系統的演變

蘋果擁抱 TinyGPU 的舉動可能標誌著對人工智慧運算未來更加務實的看法。隨著對本地處理的需求不斷增長,允許外部硬體支援您自己的晶片可能是將專業用戶保留在您的平台內的策略。與 Qwen 2.5 模型的成功整合證明該解決方案對於最先進的自然語言處理任務來說足夠強大。

這個新階段的外部相容性不僅有利於 Tiny Corp 及其用戶,而且還鞏固了 macOS 作為人工智慧工程可行作業系統的地位。同時使用 AMD 和 NVIDIA GPU 與 Apple ARM 晶片的靈活性創造了市場上獨特的混合工作站。市場現在正在等待其他公司是否會效仿並為其他類別的高性能週邊開發特定驅動程式。

對加速運算未來的思考

Tiny Corp 的舉措表明,獨立開發者社群仍然是封閉平台創新的驅動力。透過專注於人工智慧加速等特定領域,他們能夠讓蘋果相信支援 eGPU 是有益且安全的。不提供視訊輸出的重點是允許第三方軟體和蘋果專有架構和平共存的技術差異化因素。

從現在開始,在 Mac 上使用外部運算不再是小眾實驗,而是經過驗證的工作工具。需要強大的硬體來本地運行人工智慧是全球趨勢,而蘋果似乎已經明白,允許透過 Thunderbolt 進行擴展是在不改變產品內部設計的情況下滿足這一需求的最佳方式。 TinyGPU 因此為如何以注重原始效能的智慧方式將外部硬體整合到現代系統中設定了新標準。

另見