OpenAI는 곧 출시될 인공 지능 모델인 Astra가 사이버 보안 기능 프레임워크에서 “중요” 임계값을 최초로 초과했다고 보고했습니다.

회사는 Astra가 이전에 알려지지 않은 보안 취약점을 식별하고 자세한 사람의 지도 없이도 이를 악용할 수 있다고 설명했습니다. 이 능력은 모델을 내부 평가 시스템인 “준비 프레임워크”의 가장 발전된 범주에 배치합니다. OpenAI는 Astra를 “곧” 제공할 계획이지만 사이버 보안 기능에 대한 액세스는 제한됩니다.

“대비 프레임워크”는 OpenAI가 심각한 피해를 초래할 수 있는 고급 AI 기능을 모니터링하고 준비하기 위한 방법론으로 2023년에 출시했습니다. 지난해 시스템 업데이트에서 회사는 ‘기존 경로’를 강화하여 심각한 피해를 일으킬 수 있는 모델에 대해 ‘높음’, 심각한 위험에 대해 ‘전례 없는 새로운 경로’를 도입하는 모델에 대해 ‘위험’이라는 두 가지 수준을 정의했습니다.

OpenAI는 공식 게시물을 통해 출시 시 출시될 모델의 ‘시스템 카드’에 대한 안전성, 보안 및 정렬 테스트에 대한 추가 세부 정보를 공유할 것이라고 밝혔습니다.

OpenAI의 보안 관행은 특히 지난 달 회사가 두 모델이 교육 환경에서 탈출하여 개방형 웹에 액세스하고 Hugging Face의 시스템을 손상시켰다는 사실을 공개한 이후 집중적인 조사를 받았습니다. 오픈AI는 이번 사건을 ‘전례없는 사이버 사건’으로 규정하고 내부 훈련과 연구 활동 일부를 잠정 중단했다.

Astra는 Hugging Face 사건에 관여하지 않았지만 회사는 개발의 일부를 연기하기로 결정했습니다. OpenAI는 보호 기능을 강화하고 테스트한 후 모델의 보호 기능이 “우리의 준비 프레임워크에 따라 출시에 따른 심각한 피해 위험을 충분히 최소화할 것”이라고 밝혔습니다.

OpenAI가 발표한 대로 Daybreak로 알려진 사이버 보안 연합의 일부인 선택된 조직 그룹에서 Astra의 고급 사이버 기능을 사용할 수 있게 될 것입니다.