AI 법(AI Act)

AI 법 개요

인공지능법(AI Act)은 유럽연합(EU)이 인공지능 기술의 개발 및 사용을 감독하기 위해 도입한 주요 규제 프레임워크입니다. 2024년 5월에 승인된 이 법은 AI를 위한 세계 최초의 글로벌 법률 프레임워크입니다. 법의 주요 목표는 윤리적, 사회적, 기술적 과제를 해결함으로써 AI를 위한 안전하고 신뢰할 수 있는 환경을 조성하는 것입니다. 이 법은 투명성, 공정성, 책임성 등 유럽의 가치를 AI 개발에 반영하는 데 중점을 둡니다.

AI 법은 위험 수준과 적용 분야에 따라 AI 시스템을 규제하는 넓은 범위를 갖는 것이 특징입니다. EU 내에서 개발된 AI 시스템뿐 아니라 EU에서 판매, 사용되거나 그 결과물이 EU에 영향을 미치는 시스템에도 적용됩니다. 이 접근법은 개발 위치와 관계없이 EU 시민이나 기업에 영향을 미치는 모든 AI가 동일한 높은 기준을 충족하도록 보장합니다.

AI 법의 적용 범위와 대상

AI 법은 AI 생태계 내 다양한 이해관계자를 포괄합니다.

• 제공자: AI 시스템을 자체 브랜드로 개발·공급하는 조직. 제공자는 EU 시장 진입 전 AI 시스템이 법의 요건을 충족하는지 확인해야 합니다.
• 배포자: AI 시스템을 사용하는 기업이나 개인. 특히 고위험 AI 애플리케이션의 경우 법적 프레임워크에 맞게 사용해야 합니다.
• 수입업자 및 유통업자: EU에 AI 시스템을 도입하거나 유통하는 주체는 특정 규칙을 준수해야 합니다.
• 제조업자: 제품에 AI를 통합하여 EU에서 판매하는 기업도 해당 제품이 법의 적용 대상입니다.

법은 AI 시스템을 예측, 추천, 의사결정 등 자율적으로 결과를 산출하는 기계 기반 시스템까지 포괄적으로 정의합니다. 과학 연구·개발(R&D)이나 배포 전 통제된 테스트 환경 등 일부 AI 범주는 법 적용에서 예외로 인정됩니다.

AI 법의 주요 특징

위험 기반 접근법

AI 법은 위험 기반 분류 시스템을 적용해 AI 시스템을 규제합니다. 네 가지 위험 수준으로 분류합니다.

1. 허용 불가 위험: 유해하거나 EU 가치에 반하는 AI 시스템은 금지됩니다. 예를 들어, 사회적 평점 시스템이나 인간 행동을 조작하여 해를 끼치는 AI 등이 여기에 해당합니다.
2. 고위험: 생체인식 도구, 의료기기, 중요 인프라 관리 시스템 등이 이에 속하며, 테스트, 문서화, 인간의 감독 등 엄격한 요건을 충족해야 합니다.
3. 제한적 위험: 주로 교육이나 엔터테인먼트 목적의 시스템으로, 사용자가 AI와 상호작용 중임을 알리는 등 투명성 요건을 갖춰야 합니다.
4. 최소 또는 무위험: 전자상거래 추천 엔진 등 대부분의 AI 애플리케이션은 이 범주에 속하며 규제가 거의 없거나 없습니다.

거버넌스 및 준수

AI 법은 준수를 보장하기 위해 거버넌스 체계를 마련하고 있습니다. 주요 내용은 다음과 같습니다.

• 유럽 인공지능 위원회: EU 회원국 전역에서 AI 법의 일관된 적용과 지침 제공을 책임집니다.
• 국가 감독 기관: 각 EU 회원국은 지역 내 준수를 감독·집행할 기관을 지정해야 합니다.
• 역외 적용: 해당 AI 시스템이 EU에 영향을 미친다면, 개발 지역과 관계없이 법 적용을 받습니다.

생성형 AI에 대한 규정

법은 ChatGPT 같은 생성형 AI 시스템에 대한 별도의 규정을 포함합니다. 개발자는 학습 방법, 사용 데이터셋, 잠재적 편향을 공개하는 등 투명성 및 안전 요건을 충족해야 합니다.

AI 분류: 위험 기반 시스템

위험 기반 분류 시스템

유럽연합의 인공지능법(AI Act)은 위험 기반 분류 시스템을 통해 AI 기술을 규제합니다. 이 시스템은 AI 애플리케이션이 야기할 수 있는 위험 수준에 따라 규제 강도를 조정합니다. AI 시스템을 허용 불가, 고위험, 제한적 위험, 최소 또는 무위험으로 구분함으로써 기술 발전과 공공 안전, 윤리 기준 간의 균형을 추구합니다. 각 범주별로 개발자, 배포자 등 이해관계자가 준수해야 할 구체적 규제가 마련되어 있습니다.

위험 수준별 특징 및 의미

허용 불가 위험

“허용 불가 위험” 범주의 AI 시스템은 기본권, 안전, EU 가치에 직접적 위협이 된다고 간주되어 법에서 금지됩니다. 예시는 다음과 같습니다.

• 잠재적 조작: 유권자의 결정을 모르게 조작하는 등 인간 행동에 해를 끼치도록 은밀히 영향을 미치는 AI 시스템
• 취약점의 악용: 연령, 장애, 경제적 취약성을 근거로 해를 끼치는 AI(예: 아동에게 위험한 행동을 유도하는 대화형 장난감 등)
• 사회적 평점: 행동·특성에 따라 개인을 평가하는 시스템(예: 소셜미디어 활동을 통한 신용평가 등), 불공정한 결과 초래
• 공공장소 실시간 생체인식: 사법 승인 등 특정 경우를 제외하고, 감시를 위한 얼굴 인식 시스템
• 감정 인식 및 생체 분류: 직장이나 학교 등 민감한 환경에서 인종, 정치 성향 등 민감 정보를 추론하는 AI

이러한 금지 조항은 인권을 존중하는 윤리적 AI 실현에 대한 EU의 의지를 반영합니다.

고위험

고위험 AI 시스템은 건강, 안전, 기본권에 중대한 영향을 미칩니다. 사용은 금지되지 않으나, 투명성과 책임성을 확보하기 위한 엄격한 요건을 충족해야 합니다. 예시:

• 중요 인프라: 교통 등 필수 시스템을 관리하는 AI(오작동 시 생명 위협)
• 교육·고용: 시험 채점, 채용 필터링 등 교육·채용 기회를 좌우하는 시스템
• 의료: 수술 로봇 등 의료 장비·의사결정에 통합된 AI
• 공공 서비스: 대출, 복지 자격 결정 도구
• 법 집행 및 출입국 관리: 범죄 수사, 비자 심사 AI

고위험 AI 개발자 및 배포자는 문서화, 인간 감독, 적합성 평가 등 엄격한 기준을 따라야 합니다.

제한적 위험

제한적 위험 AI 시스템은 중간 수준의 위험이 있고, 사용자에게 AI와 상호작용 중임을 알리는 투명성 요건을 충족해야 합니다. 예시:

• 챗봇: 사용자가 사람과 대화하는 것이 아님을 안내
• 추천 알고리즘: 상품, 콘텐츠, 엔터테인먼트 제안

이 범주의 시스템도 신뢰와 책임성 확보를 위한 최소한의 윤리 기준을 요구합니다.

최소 또는 무위험

대부분의 AI 애플리케이션(번역, 검색 엔진 등 범용 도구)은 이 범주에 속합니다. 혁신을 저해하지 않도록 규제가 거의 없거나 아예 없습니다. 예시: 생산성 도구, 개인용 가상비서 등

생성형 AI 시스템에 대한 규정

AI 법은 ChatGPT, DALL-E 등 텍스트, 이미지, 코드 등을 생성하는 생성형 AI 시스템에 대한 별도 조치를 포함합니다. 사용 목적과 잠재적 영향에 따라 분류하며, 주요 규정은 다음과 같습니다.

• 투명성 요건: 개발자는 학습에 사용된 데이터셋을 공개하고, 콘텐츠가 AI에 의해 생성되었음을 명시해야 합니다.
• 안전 및 윤리 지침: 생성형 AI는 편향을 줄이고, 허위정보 방지, 윤리 기준 부합을 목표로 해야 합니다.
• 책임성 조치: 기업은 모델 아키텍처, 용도, 한계 등에 대한 상세 문서를 제공해야 합니다.

준수를 위한 거버넌스 체계

EU AI 법에서의 거버넌스 역할

유럽연합의 인공지능법(AI Act)은 규정 준수를 위한 거버넌스 체계를 도입했습니다. 이 체계는 투명성, 책임성, 회원국 간의 일관된 적용을 촉진하며, 기본권을 보호하면서도 신뢰할 수 있는 AI 기술 개발을 지원합니다. 중심에는 유럽 인공지능 위원회(EAIB)와 유럽 AI 사무국이 있으며, 이들은 각국 당국과 협력해 AI 법의 집행 및 감독을 담당합니다.

유럽 인공지능 위원회(EAIB)

EAIB는 AI 법 집행을 총괄하는 주요 기관으로, 법의 일관된 적용과 자문, 조정 역할을 합니다.

핵심 역할

• 조정 및 감독:
  EAIB는 각국의 AI 법 집행 기관 간 조율을 담당하며, 회원국 간 해석·집행 차이를 줄이고 일관된 규제를 목표로 합니다.
• 지침 및 권고:
  위원회는 AI 법 적용 관련 자문과 지침, 위임법안, 기타 규제 도구를 마련해 규정 준수를 돕습니다.
• 정책 개발:
  유럽의 AI 정책 개발에도 기여하며, 혁신 전략, 국제 협력, 기타 이니셔티브에 대해 지침을 제공합니다.

거버넌스 구조

EAIB는 각 EU 회원국 대표로 구성되며, 사무국 역할의 유럽 AI 사무국의 지원을 받습니다. 유럽 데이터 보호 감독관, EEA-EFTA 국가 대표 등도 참관인으로 참석합니다. 하위 그룹을 구성해 특정 정책 분야별 협력과 모범 사례 공유도 이뤄집니다.

유럽 AI 사무국

유럽 AI 사무국은 EU의 AI 거버넌스 허브로, EAIB 및 회원국과 협력해 AI 법 이행을 지원합니다. 안전하고 책임 있는 AI 기술 개발을 보장하는 역할을 합니다.

주요 기능

• 전문성 및 지원:
  AI 사무국은 EU 내 AI 전문지식의 중심지로, 회원국에 기술·규제 지원을 제공합니다. 또한 범용 AI 모델이 안전 및 윤리 기준을 충족하는지 평가합니다.
• 국제 협력:
  EU의 규제 접근법을 국제 표준으로 확산시키고, 과학자, 산업계, 시민사회와 협력해 정책을 수립합니다.
• 집행:
  사무국은 AI 시스템 평가, 정보 요청, 비준수 범용 AI 모델 제공자에 대한 제재 권한을 갖습니다.

AI 법의 역외 적용

AI 법은 EU 내 주체뿐 아니라, EU 시장에 AI 시스템을 제공하거나 EU 시민에게 영향을 미치는 EU 외부의 주체에도 적용됩니다. 이를 통해 법의 높은 기준이 전 세계적으로 준수되도록 하며, 국제 AI 거버넌스의 모델을 제시합니다.

GDPR과의 비교

AI 법의 거버넌스 체계는 구조와 목표 면에서 일반 개인정보보호법(GDPR)과 유사합니다.

• 중앙집중식 감독:
  GDPR의 유럽 데이터 보호 위원회처럼, EAIB는 AI 거버넌스의 중앙 감독기구로 회원국 간 일관성을 보장합니다.
• 역외 적용:
  AI 법과 GDPR 모두 규정 적용 범위를 EU 국경 밖까지 확장하여, 디지털 규제에서 글로벌 기준을 선도합니다.
• 기본권 보호 중시:
  두 규정 모두 투명성, 책임성, 윤리성을 강조하며, 기본권 보호에 우선순위를 둡니다.

단, AI 법은 위험 분류, 생성형 AI 규제 등 AI 특유의 과제를 추가적으로 다룹니다.

글로벌 차원의 AI 규제

글로벌 모델로서의 AI 법

유럽연합의 인공지능법(AI Act)은 효과적인 AI 규제의 글로벌 모델을 제시합니다. 세계 최초의 상세한 AI 법률 프레임워크로서, 윤리·법률·사회적 도전에 대응하려는 다른 지역에 가이드라인을 제공합니다. 위험 기반 분류 시스템 도입, 투명성 강화, 기본권 보호 등으로 강력하고 현대적인 규제 접근법을 마련했습니다.

AI 법은 AI의 기회와 위험을 모두 다룹니다. 예를 들어, 사회적 평점, 일부 생체인식 기술 등은 명확히 금지함으로써 AI 사용에 대한 윤리적 기준을 제시합니다. 이미 미국, 캐나다, 일본 등에서도 이와 유사한 AI 규제 논의에 영향을 주고 있습니다.

또한, 법은 역외 적용 규정을 포함합니다. 전 세계 기업이 자사 AI 시스템이 EU 시장이나 시민에게 영향을 미친다면, 소재지와 무관하게 법의 요구를 따라야 합니다. 이를 통해 유럽을 넘어 국제 기업도 법의 기준에 맞추도록 유도합니다.

AI 거버넌스의 국제 협력

EU는 AI 과제가 글로벌 협력을 필요로 함을 인식하고 있습니다. 국제기구 및 각국과 협력하며, 일관성 있는 AI 규제와 윤리 기준을 촉진합니다. OECD의 AI 원칙, G7의 AI 이니셔티브 등에도 EU 프레임워크 요소가 반영되고 있습니다.

최근 블레츨리 파크 정상회담과 같은 행사에서는 글로벌 AI 거버넌스 논의의 필요성이 강조되었습니다. 정책 결정자, 산업계, 시민사회가 모여 AI 기술 관리에 대한 가치와 전략을 논의합니다. EU는 이러한 논의에 적극 참여하며, 글로벌 AI 규제 발전에 기여하고 있습니다.

국제 협력을 통해 EU는 국가별 AI 정책의 파편화를 방지하고, 모두에게 안전하고 윤리적인 AI 확산을 목표로 하고 있습니다.

유럽에서의 AI 미래

AI 법은 단순히 AI를 규제하는 것에 그치지 않고, EU AI 산업의 혁신과 경쟁력 강화도 목표로 합니다. AI 이노베이션 패키지, AI 팩트와 같은 이니셔티브가 인간 중심 AI 개발, 투자 및 연구를 촉진합니다.

미래를 내다보면, EU는 AI 기술이 사회 전반에 자연스럽게 융합되길 기대합니다. 생산성 향상, 복잡한 문제 해결을 위해 AI를 활용하되, 윤리 기준은 결코 타협하지 않습니다. 투명성과 책임성에 대한 법의 강조는 AI 시스템에 대한 신뢰를 높이고, 대중의 수용도를 높입니다.

글로벌 AI 주도권 경쟁 속에서, 강력한 규제와 혁신 지원의 균형을 갖춘 EU의 접근법은 윤리적 AI 개발의 주요 사례가 되고 있습니다. 이는 유럽 시민뿐 아니라 세계 각국에도 긍정적 영향을 미치며, 책임감 있는 AI 거버넌스의 전 세계적 확산을 촉진합니다.

EU는 AI 법을 글로벌 모델로 제시하고, 국제 협력을 강화함으로써 윤리적이고 신뢰할 수 있는 AI 생태계 조성에 앞장서고 있습니다. 이 프레임워크는 현재의 AI 과제를 해결할 뿐 아니라, 안전하고 지속가능한 글로벌 AI 발전의 토대를 마련합니다.