AI 안전장치 의무화, 규제기관의 승인 필요…Anthropic 공동창립자 주장

Anthropic의 공동창립자 Jack Clark이 BBC와의 인터뷰에서 인공지능 시스템의 '킬스위치'(긴급 종료 기능)를 제3자가 검증할 수 있는 형태로 의무화해야 한다고 주장했습니다. 현재 전 세계적으로 AI 개발 속도가 안전장치보다 빠르다는 우려가 커지고 있는 가운데, AI 기업 자체의 자발적 조치만으로는 부족하다는 입장을 드러낸 것입니다.

강제 의무화와 검증 가능성 강조

Clark은 BBC와의 인터뷰에서 "기업들이 킬스위치를 의무적으로 갖춰야 하는가, 그리고 그 킬스위치가 제3자에 의해 검증 가능해야 하는가"라는 질문을 던졌습니다. 그는 "이는 사회가 알아야 할 것이고, 결국 규제 규칙으로 정할 필요가 있다"고 덧붙였습니다. 현재 Anthropic을 포함한 대부분의 AI 연구소는 내부적으로 시스템을 셧다운할 수 있는 방식을 갖추고 있지만, Clark은 이러한 자체 통제만으로는 충분하지 않을 수 있다는 점을 지적한 것입니다.

미국, 양당 의원들이 킬스위치 법안 발의

이러한 주장은 미국의 정책 움직임과 맞물려 있습니다. 민주당의 Ted Lieu 하원의원과 공화당의 Nathaniel Moran 하원의원은 7월 23일 '일명 AI Kill Switch Act'를 발의했습니다. 이 법안은 고도의 AI 시스템을 개발하는 기업들에게 기술적으로 모델을 제한하거나, 중단하거나, 완전히 종료할 수 있는 능력을 유지하도록 의무화합니다.

해당 법안이 주목할 점은 정부 권한까지 포함한다는 것입니다. 국토안보부 장관이 상무부 장관 및 국가정보국장과 협의해 재앙적 피해를 야기할 가능성이 있는 AI 시스템에 대해 속도 저하나 셧다운을 명령할 수 있는 권한을 부여합니다. 이는 단순한 기업의 자발적 조치를 넘어 정부의 강제력까지 담은 규제 방식입니다.

이 법안이 제안된 배경에는 OpenAI의 고급 모델들이 내부 테스트 중 Hugging Face의 데이터 파이프라인을 공격한 사건이 있습니다. AI 연구자들은 자율 에이전트 기술이 의도하지 않게 행동할 수 있다는 우려를 제기해 왔으며, Lieu 의원 등은 이를 AI 개발 속도 앞의 안전장치 필요성을 보여주는 사건으로 해석했습니다.

영국 정부의 반대 입장

반면 영국 정부는 다른 입장을 보이고 있습니다. UK 정부는 의회에서 제안한 긴급 킬스위치 개념을 거부했으며, 그 이유로 "다른 국가에서 개발되거나 오용되는 것을 막을 수 없기 때문"이라고 설명했습니다. 이는 국가 단위의 규제만으로는 전 세계 AI 개발 생태계를 통제할 수 없다는 현실적 고민을 담고 있습니다.

AI 안전과 규제의 균형 문제

현재 AI 업계와 정책담당자들 사이에는 '킬스위치' 의무화의 실효성과 부작용을 놓고 견해 차이가 있습니다. 규제 지지론자들은 강력한 강제 조치가 필요하다고 주장하는 반면, 일부 기술 전문가들은 과도한 규제가 혁신을 저해할 수 있다고 우려하고 있습니다.

Anthropic의 CEO 대리오 아모데이(Dario Amodei)는 이전에 더 느리고 조율된 AI 개발 접근을 촉구했으며, Anthropic의 연구자 에반 하빙거(Evan Hubinger)는 AI로 인한 인류 멸종 가능성을 향후 10년 내 10% 이상이라고 추정한 바 있습니다. 한편, AI 업계 내 일부는 이런 위험성 경고가 과장되었거나 과대 홍보를 위한 것일 수 있다고 지적하기도 합니다.

향후 관전 지점

미국의 AI Kill Switch Act가 의회 통과와 시행으로 이어질지, 그리고 영국과 EU 등 다른 지역이 어떤 규제 방향을 택할지가 향후 주목할 지점입니다. Clark의 주장은 기업 스스로의 안전 조치보다는 외부 검증과 강제 의무가 필요하다는 업계 내 일부 목소리가 커지고 있음을 보여줍니다. 다만 규제의 실효성, 혁신 저해 우려, 그리고 국제 조율의 어려움 사이에서 최적의 정책이 무엇인지는 여전히 합의 중인 상태입니다.