회사의 인공 지능 개발 부서인 Google DeepMind는 직원을 대폭 재배치했습니다. 이전에는 AI 보안에 주력했던 약 90명의 연구원들이 글로벌업무 부문으로 이동해 구글의 다양한 서비스와 관련된 전반적인 정책을 관리하게 된다.
이들 전문가는 인공 지능 모델과 관련된 잠재적인 생물학적, 화학적, 방사선학적 및 핵 위협을 평가하는 데 중요합니다. AI 보안 전담팀의 존재는 시스템 대응의 결함을 식별하는 데 필수적입니다. 특히 복잡한 주제를 조사하여 잠재적인 악의적 사용을 테스트할 수 있기 때문입니다.
이러한 내부 변경 사항에 대한 정보는 Google의 회사 이메일을 통해 공개되었습니다. 이러한 움직임은 Demis Hassabis가 DeepMind의 CEO에서 물러나 이사회 의장직과 Google의 모회사인 Alphabet의 수석 과학자 역할을 맡은 직후에 이루어졌습니다.
현재 기술 시나리오에서 인공지능 보안의 역할
기술 분야의 급속한 발전으로 인해 인공 지능 개발을 관리하기 위한 일반 과학 지식을 갖춘 전문가의 중요성이 더욱 커졌습니다. OpenAI 및 Anthropic과 같은 경쟁업체는 이미 자체 모델의 진화에 대해 큰 우려를 표명하여 과학 주제를 더 깊이 탐구할 수 있는 능력을 강조하고 민감한 주제를 다룰 때 보안 조치를 통합할 것을 약속했습니다.
Google은 이러한 전문가의 이동이 예를 들어 검색 도구를 포함하여 제품 영역에 더 가까운 활동을 제공하는 것을 목표로 한다고 발표했습니다. 그러나 직원들 사이에서는 이러한 변경으로 인해 Gemini의 새 버전을 만드는 프로세스에 대한 팀의 액세스가 제한되어 시스템의 잠재적인 결함을 감지하기가 어려워질 수 있다는 우려가 있습니다.
DeepMind의 AI 보안 담당 부사장인 Helen King은 직원들에게 보낸 전자 메시지에서 팀이 개발 중인 혁신에 대한 완전한 접근권을 유지할 것이라고 확신했습니다.
Google DeepMind의 기타 최근 변화
연구원들의 이동은 9월 초에 시작되어야 하며, 이는 구글이 인공지능 부문에서 추진하는 또 다른 변화를 의미합니다. 이전 움직임에서는 8월 초 Demis Hassabis가 CEO로 떠나면서 DeepMind의 리더십이 바뀌었습니다. 그는 Koray Kavukcuoglu로 대체되었고 Jeff Dean이 수석 과학자가 되었습니다. 게다가 허사비스에게 노벨 화학상을 안겨준 알파폴드 프로젝트도 중단됐다.
Google에서 27년간 경력을 쌓고 회사의 AI 개발 여정 전반에 참여했던 Dean 외에도 다른 오랜 전문가들도 회사를 떠났습니다. 많은 사람들이 새로운 스타트업을 찾거나 다른 인공지능 연구 팀에 합류하기로 결정했습니다. 그중에는 각각 OpenAI와 Anthropic에 참여한 Noam Shazeer와 John Jumper가 있습니다. 시장에서는 최근 DeepMind의 변화로 인해 더 많은 전문가들이 유사한 기회를 찾도록 장려할 수 있다는 우려가 있습니다.
