서론: 규제의 비대칭성 문제
인공지능 기술은 규제 능력보다 빠르게 발전한다. 의회가 법안을 통과시키는 속도로는 매달 새로운 AI 모델이 출시되는 현실을 따라잡을 수 없다. 이것은 단순히 제도적 민첩성의 문제가 아니다. 규제 대상인 기술의 작동 원리, 잠재적 위험, 그리고 사회적 영향을 예측하는 것 자체가 근본적으로 불확실한 상황에서, '선제적(anticipatory)' 규제는 어떻게 가능한가?
본 논문은 현재 전 세계적으로 진행 중인 AI 규제 시도들—EU AI법, 미국 행정명령, 중국 AI 규정, G7 히로시마 AI 과정 등—을 비판적으로 검토하고, 선제적 AI 거버넌스의 구조적 한계를 분석한다. 나아가 이러한 한계를 인식하면서도 책임 있는 AI 개발과 배포를 위한 거버넌스 접근법을 모색한다.
주요 AI 규제 프레임워크 비교 분석
EU AI법: 위험 기반 접근의 선구
2024년 발효된 EU AI법(EU Artificial Intelligence Act)은 세계 최초의 포괄적 AI 법률로서, AI 시스템을 위험 수준에 따라 분류하고 차등적 의무를 부과하는 '위험 기반(risk-based)' 접근법을 채택하였다. 고위험 AI—의료, 교육, 취업, 사법 등에 사용되는 시스템—에 대해서는 투명성, 인간 감독, 데이터 품질 등의 엄격한 요건을 부과하고, 범주적으로 허용되지 않는 AI 관행—사회 신용 점수, 특정 생체 인식 시스템—을 금지한다.
EU AI법의 혁신성에도 불구하고, 몇 가지 한계가 지적된다. 첫째, '위험' 범주의 경계가 불명확하다—무엇이 고위험 AI인지를 결정하는 기준이 자의적일 수 있다. 둘째, 규제 집행(enforcement)을 담당할 기관의 전문성과 자원이 충분하지 않다. 셋째, 빠르게 진화하는 기술에 법적 정의가 뒤처질 위험이 있다. 예를 들어, 법 제정 당시 예상하지 못했던 대형언어모델의 능력 급성장이 적용 범위와 규제 방식에 대한 새로운 해석 논쟁을 낳고 있다.
미국의 접근: 행정명령과 자율 규제
미국은 EU와 달리 포괄적 입법보다 행정명령, 기관별 가이드라인, 자발적 서약을 중심으로 AI 거버넌스를 추진해 왔다. 2023년 바이든 행정명령은 AI 안전·보안에 관한 광범위한 지침을 제시하였지만, 법적 구속력의 한계가 있다.
미국 모델의 강점은 혁신 친화적 환경을 유지하면서도 위험에 유연하게 대응할 수 있다는 것이다. 약점은 기업의 자발적 준수에 의존하는 구조로 인해 실질적 안전 기준 적용이 불균등할 수 있다는 것이다.
중국의 접근: 국가 주도 규제
중국은 생성형 AI, 알고리즘 추천, 딥페이크 등 특정 AI 응용 분야를 대상으로 한 분야별 규정을 빠르게 도입하였다. 이 규정들은 콘텐츠 관리, 국가 안보, 사용자 보호 등의 목표를 복합적으로 추구한다. 중국 모델의 특징은 국가가 AI 개발과 규제 모두에서 능동적 행위자로 기능한다는 것이다.
선제적 규제의 구조적 한계
AI 거버넌스에서 '선제적' 접근—아직 발생하지 않은 위험을 예측하고 예방하는 규제—은 이론적으로 매력적이지만 실천적으로 심각한 한계에 직면한다.
첫째, 인식론적 한계이다. AI 시스템의 능력과 위험은 개발 전에 완전히 예측하기 어렵다. GPT-4나 Claude 3 같은 시스템의 능력은 개발자들도 완전히 예상하지 못한 방식으로 창발(emergence)하였다. 알지 못하는 위험을 규제하는 것은 근본적으로 불가능하다.
둘째, 전략적 불확실성이다. AI 경쟁의 지정학적 맥락에서 어떤 국가도 혁신을 제한하는 엄격한 규제를 일방적으로 도입하기 어렵다. '규제 경쟁(regulatory competition)'의 역학이 작동하여 규제를 하향 조정하는 압력이 생긴다.
셋째, 포획(capture)의 위험이다. AI 규제 기관이 규제 대상 기업의 전문 지식에 의존하는 상황에서, 규제 포획—피규제 기업이 규제 기관의 의제를 실질적으로 통제하는 현상—의 위험이 있다.
적응적 거버넌스: 대안적 접근
선제적 규제의 한계를 인식하면서, '적응적 거버넌스(adaptive governance)' 접근법이 대안으로 제시된다. 이것은 단번에 완전한 규제 체계를 구축하려는 대신, 실험적 규제 공간(regulatory sandboxes)을 운영하고, 기술 발전에 따라 지속적으로 규제를 갱신하는 더 유연한 접근이다.
또한 '책임 있는 AI' 원칙—투명성, 설명 가능성, 공정성, 안전성, 인간 감독—을 규정 준수(compliance) 체크리스트가 아닌 조직 문화와 개발 실천으로 내면화하는 것이 강조된다. 규제의 외부적 강제만으로는 AI 안전 문화를 조성하기 어려우며, 기업과 연구자들의 내적 동기가 중요하다.
결론: 겸손하고 지속적인 거버넌스
AI 거버넌스의 핵심 과제는 완벽한 규제 체계의 설계가 아니라, 불완전성과 불확실성 속에서도 책임 있는 방향으로 AI 발전을 유도하는 지속적인 사회적 협상 과정이다. 이를 위해서는 국가, 기업, 시민 사회, 학계가 지속적으로 대화하고 협력하는 다층적 거버넌스 생태계가 필요하다. 한국을 포함한 모든 국가는 이 전 지구적 도전에 기여하면서 동시에 자국의 맥락에 맞는 AI 거버넌스 역량을 강화해야 한다.