이번 주부터 영국 법률은 인공지능이 생성한 거짓 친밀한 이미지의 생산을 범죄화하는 규정을 발효함으로써 디지털 폭력에 대한 싸움을 대폭 강화했습니다. 이 발표는 1월 12일 월요일 의회에서 기술부 장관 Liz Kendall이 발표했으며, 그는 이 조치를 가상 환경에서 여성과 소녀의 온전함을 보호하기 위한 근본적인 조치로 분류했습니다. 새로운 규정은 배포를 처벌할 뿐만 아니라, 후속 공유와 관계없이 자료를 만드는 행위를 불법으로 규정하여 문제의 근본 원인을 공격합니다.
법률 강화는 딥페이크(deepfake)라고 알려진 합의되지 않은 성적 콘텐츠 생성을 촉진하는 생성 AI 도구의 확산에 대한 직접적인 대응으로 이루어졌습니다. 정부의 결정은 2025년에 승인된 데이터(사용 및 접근)법에 예견된 조항을 예상하여 이러한 기술의 급속한 발전을 처리하는 당국의 긴급성을 보여줍니다. 주요 초점은 소프트웨어가 사진에서 옷을 디지털 방식으로 제거하거나 승인 없이 노골적인 콘텐츠가 포함된 장면에 실제 사람의 얼굴을 삽입하는 데 사용되는 것을 방지하는 것입니다.
새로운 법안은 콘텐츠를 생성하는 사용자를 대상으로 하는 것 외에도 이러한 목적을 위해 특별히 설계된 도구의 개발자 및 제공자에게 형사 책임을 확대합니다. 이 전략은 자동 “누적화”를 허용하는 생태계를 해체하여 이 소프트웨어를 남용 도구로 취급하는 것을 목표로 합니다. Kendall 장관은 그러한 이미지가 피해자의 사생활과 존엄성에 대한 심각한 침해를 나타내고 종종 지속적인 심리적 피해를 초래하기 때문에 무해한 것으로 간주될 수 없다고 강조했습니다.
이 법의 즉각적인 시행은 이전 규정으로 인해 생긴 공백을 메우려는 노동당 정부의 입장 변화를 반영합니다. 디지털법 전문가들은 그때까지 많은 조치가 이미지의 공개 유포에만 초점을 맞춰서 개인적 소비를 위해 이미지를 제작하거나 피해자를 위협하는 사람들을 처벌하지 못했다고 지적합니다. 이제 단순히 불법 자료를 제작하는 것만으로도 범죄가 되어 인공지능의 악의적 이용과의 격차가 줄어들게 되었습니다.
Ofcom, 플랫폼의 보안 결함 조사
영국 통신 규제 기관인 Ofcom은 인공 지능 챗봇 Grok의 오용에 대해 이전에 Twitter로 알려진 Platform X에 대한 공식 조사를 시작했습니다. 최근 보고서에 따르면 이 도구는 성적인 이미지와 딥페이크를 생성하는 데 널리 사용되어 해당 국가에서 확립된 온라인 안전 지침을 위반했습니다. 조사에서는 회사가 해당 콘텐츠의 생성을 방지하기 위한 적절한 보호 장치를 구현하지 않았는지 확인하기 위해 노력하고 있습니다.
영상 기능에 대한 액세스를 유료 가입자에게만 제한한 플랫폼 X의 초기 대응은 영국 당국에 의해 불충분한 것으로 간주되었습니다. 정부는 콘텐츠에 액세스할 수 있는 사람을 제한하는 것이 아니라 콘텐츠가 소스에서 생성되는 것을 방지하는 강력한 기술적 조치를 요구합니다. Ofcom의 조사는 회사가 기술과 관련된 위험을 무시했다는 것이 입증될 경우 무거운 벌금을 부과하고 의무적인 수정을 부과할 수 있는 권한을 가지고 있습니다.
Grok 사례는 엄격한 윤리적 필터가 없을 때 AI 도구가 악의적인 목적으로 쉽게 조작될 수 있음을 폭로한 상징이 되었습니다. 몇 초 만에 사실적인 이미지를 생성할 수 있는 기능으로 인해 이 플랫폼은 유럽 전역의 규제 기관의 관심 대상이 되었습니다. 영국 정부는 소셜 네트워크를 공식 커뮤니케이션 채널로 활용하는 것을 계속 검토 중이며, 보안 정책이 만족스럽게 강화되지 않을 경우 거리두기가 가능함을 시사했습니다.
새로운 지침 및 디지털 폭력 퇴치
새로운 법안은 새로운 기술의 사용을 위한 명확한 규제 프레임워크를 확립하고 자유로운 혁신보다 시민의 안전을 우선시합니다. 정부는 법률 준수를 보장하기 위해 개인과 기술 기업 모두가 따라야 하는 일련의 조치를 설명했습니다. 이 조치는 학대자에게는 적대적이며 일반 사용자에게는 안전한 디지털 환경을 조성하는 것을 목표로 합니다.
- 성적 딥페이크의 생성 또는 권유를 즉각 범죄화하여 개인 용도의 생산을 허용하는 법적 공백을 메웁니다.
- 주요 기능이 의류의 디지털 제거인 소프트웨어 또는 애플리케이션의 개발 및 상용화를 전면 금지합니다.
- 디지털 플랫폼에서는 악성 콘텐츠가 확산되기 전에 이를 감지하고 차단하기 위한 사전 예방적 메커니즘을 채택하는 것이 의무입니다.
- 불법 AI 도구의 국경 간 흐름을 모니터링하고 예방 기술을 공유하기 위한 국제 협력을 확대합니다.
이 지침은 2023년 온라인 안전법을 강화하여 생성 인공 지능의 현실에 대한 조항을 업데이트합니다. 규제 압력으로 인해 대규모 기술 기업이 합법적인 예술 작품과 악의적인 자료를 구별할 수 있는 알고리즘을 개발하는 것 외에도 보안 및 신뢰 팀에 더 많은 투자를 하게 될 것으로 예상됩니다. Liz Kendall 장관은 Ofcom이 진행 중인 조사를 완료하기 위한 엄격한 시간표를 설정하여 관료적 절차가 피해자에게 필요한 보호를 지연시키는 것을 방지할 것을 요구했습니다.
AI 기술 발전에 미치는 영향
이 법이 발효되면서 영국은 인공지능 규제의 선두에 서게 되었고 유사한 문제에 직면한 다른 국가들에게 가능한 모델이 될 수 있게 되었습니다. 이제 AI 개발자는 보안 필터 구현을 소홀히 하면 범죄 결과를 초래할 수 있는 훨씬 더 철저한 조사를 받고 있습니다. 이는 나중에 추가되는 기능이 아니라 소프트웨어 개념부터 보안이 기본 요구 사항이 되는 제품 설계 철학의 변화를 주도해야 합니다.
기술 부문에서는 표준이 기존 언어 모델 및 이미지 생성기에 대한 복잡한 기술 조정을 요구할 수 있으므로 개발 상황을 면밀히 관찰하고 있습니다. 도구의 윤리적인 사용에 대한 책임이 최종 사용자에서 기술 작성자로 옮겨가고 있으며, 이로 인해 기업은 피해를 예방하는 데 적극적인 역할을 하게 되었습니다. 이 법안은 또한 딥페이크 도구를 위한 지하 시장의 출현을 억제하여 디지털 성적 착취를 목표로 하는 서비스 운영을 위험하게 만드는 것을 목표로 합니다.