또 앞서가는 EU의 AI 규제법안
  • 뉴스1
또 앞서가는 EU의 AI 규제법안
  • 뉴스1
  • 승인 2021.06.23
  • 댓글 0
이 기사를 공유합니다

유럽에 위치한 27개의 회원국 간의 정치 및 경제 통합체로서 초국가기구인 유럽연합(European Union)이 또 앞서가는 규제법안을 제안하였다. 2021년 4월 21일 행정부에 해당하는 유럽연합 집행위원회(EU commission)는 AI 규제법안(Artificial Intelligence Act)을 발표하였다. 이미 이전에도 2018년 5월 세계 최초의 일반개인정보보호법(General Data Protection Regulation)을 시행하였고 2020년 7월 12일에는 EU의 정책결정기구인 이사회(European Council)와 입법부인 EU 의회(European Parliament)는 집행위원회의 입법 권고를 수용하여(2019.3) 「온라인 플랫폼 시장의 공정성 및 투명성 강화를 위한 2019년 EU 이사회 규칙」을 제정, 시행하였다.

4차산업혁명을 이끌어가는 3대 키워드인 데이터, 플랫폼, AI 모두에 대해 규제법을 도입하거나 도입을 제안하고 있는 것이다. 가히 EU 주도의 디지털 규제 입법 열풍이라도 해도 과언이 아니다. AI 규제법안의 내용을 살펴보면 다음과 같다.

우선 제안 이유는 EU의 인공지능 분야 기술 리더십을 유지하고 유럽 시민들이 유럽 연합의 가치와 기본권 및 원칙에 따라 개발되고 기능하는 새로운 인공지능 기술을 유익하게 활용할 수 있도록 하는 것이다. 또한 AI를 위한 규칙은 인간 중심적인 관점에서 기술이 기본권을 포함한 법률에 따라 안전하게 사용되고 있다는 확신을 주어야 한다고 선언하고 있다. 한편 AI에 대한 투자와 혁신 지원을 위해 법적 불확실성을 제거하는 것도 법안의 목표로 제시하고 있다.



AI 시스템의 개념을 머신러닝, 논리·지식기반 접근법, 통계적 접근법 등을 활용해 개발되고, 인간이 정의한 목적을 위해, 상호작용하는 주변 환경에 영향을 미치는 콘텐츠, 예측, 추천, 의사결정 등의 결과물을 생성할 수 있는 소프트웨어로 정의하고 있다.

규제안은 금지되는(Unacceptable) AI, 고위험(High risk) AI, 저위험(Low or minimal risk) AI로 3분류하고 각각의 유형과 의무를 규정하고 있다. AI가 기본권과 안전에 초래하는 위험에 따라 규제를 달리하고 있는 것이다.

첫째, 금지되는 AI는 다음 4가지이다. 1) 잠재의식에 영향을 미치는 기술을 통해 사람들의 행동을 왜곡하거나 조작하는 경우 2) 연령, 신체적 또는 정신적 장애 등에 기반한 특정한 집단의 취약성 이용하는 경우, 3) 공공기관이 AI 기반 사회적 점수화(social scoring)를 통해 자연인의 신뢰도를 평가 및 분류하는 경우 4) 법 집행을 위한 목적으로 공개적으로 접근가능한 공간에서 실시간 원격 생체 인식 시스템을 사용하는 경우. 단, 압수수색, 급박한 위험 방지 등 일부 상황에서는 예외적으로 허용된다.

둘째, 고위험 AI는 자연인의 건강, 안전, 기본권에 고위험을 야기할 수 있는 경우로 크게 보면 제품의 안전요소로서 사용되어 사전에 제3자 적합성 평가가 요구되는 AI 시스템과 생체 인식 및 분류, 교육, 고용, 법집행 등 기본권에 영향을 미칠 수 있는 환경에서 독자적으로 활용되는 AI 시스템이다. 고위험 AI에 대해서는 데이터 및 데이터 거버넌스, 문서 및 기록 유지, 투명성 및 사용자에 대한 정보 제공, 인간에 의한 감독, 견고성, 정확성, 보안 등의 의무가 요구된다. 부속서에 따르면 1) 자연인의 생체 인식 및 분류, 2) 중요 인프라의 관리 및 운영, 3) 교육 및 직업훈련, 4) 고용, 근로자 관리 및 자영업에 대한 접근, 5) 필수적인 민간 서비스, 공공 서비스 및 혜택에 대한 접근 및 향유, 6) 법 집행, 7) 이주, 망명 및 국경 통제 관리, 8) 사법행정 및 민주적 절차 등 8가지가 고위험 AI로 규정되어 있다.

셋째, 저위험 AI는 의무는 없으나 자발적 준수를 위한 행동강령의 수립이 권고된다. 다만, 챗봇처럼 자연인이 AI 시스템과 상호 작용하는 경우와 자연인이 감정 인식 또는 생체 인식 분류 시스템에 노출되는 경우 이를 당사자에게 고지해야 한다. 또한 AI 시스템을 사용하여 기존의 사람, 장소 또는 사건과 현저히 유사하고 마치 진본처럼 보이는 이미지, 오디오 또는 비디오 콘텐츠를 생성하거나 조작하는 사용자는 인공지능 아웃풋에 적절한 라벨을 표시하고 그 인공적 기원을 밝힘으로써 해당 콘텐츠가 인공적으로 생성 또는 조작되었음을 공개해야 한다.

EU의 AI 규제법안은 다음 몇 가지 점에서 의의를 가지는 것으로 평가될 수 있다. 첫째, AI 이슈를 윤리가 아닌 법규제 차원에서 본격적으로 다루고 있다는 것이다. 물론 이미 GDPR에서 정보주체는 프로파일링 등 본인에 관한 법적 효력을 초래하거나 이와 유사하게 본인에게 중대한 영향을 미치는 자동화된 처리에만 의존하는 결정의 적용을 받지 않을 권리를 가진다고 규정하여 AI에 의한 의사결정에 대한 법적 제한을 가하고 있으나, 본격적인 AI 규제법은 최초라고 할 수 있다. AI 알고리즘의 공정성, 투명성, 책임성 등을 확보하기 위해 윤리규범만으로는 실효성 있는 AI의 위험통제가 어렵다고 본 것이다.

둘째, 위험기반접근(Risk based approach)을 하고 있는 것이다. AI의 사용목적, 사용정도, 건강·안전·기본권에 미치는 영향, 피해의 강도 및 범위 등을 고려하여 AI의 위험수준에 비례하는 위험통제를 하고 있다. 위험이 작은 경우 AI 혁신을 지원하고 고위험으로 갈수록 규제를 강화하는 방법인 위험기반접근이 미리 정해둔 상세한 규칙에 따라 인간의 행위를 통제하는 규정기반접근(rule based approach)에 비해 신기술 규제를 위한 적절한 대응이라고 할 수 있다. 셋째, 미국 콜롬비아 로스쿨의 Bradford 교수는 AI 규제법안이 이미 확보한 엄청난 개인정보를 바탕으로 개인의 권리, 시민의 자유를 침해하는 방식으로 AI 개발을 주도하고 있는 미국, 중국기업들을 견제하기 위한 움직임이라고 평가하고 있다. 즉, EU의 AI 기술주도권 확보를 위해 GDPR에 이어 AI 규제법을 통해 글로벌 IT기업의 공세에 대응하고 있는 것이다.

법 제정까지는 앞으로 약 2년 이상의 시간이 걸릴 것으로 전망된다. EU의 입법동향을 면밀히 모니터링하면서 우리의 경우에도 AI 규제법 관련 논의를 시작할 필요가 있다. 다만, 어떤 경우에도 AI 기술에 대한 구체적인 위험이 확인되지 않는 상황에서 섣부른 규제의 도입은 지양되어야 한다. AI 기술혁신으로 인한 더 큰 사회적 편익을 포기하는 우를 범하지 말아야 하기 때문이다.

또한 언제부터인가 한국에서는 데이터, 플랫폼 분야의 규제 도입에 있어 EU가 모범사례가 되고 있다. 혹자는 EU의 광범위한 규제법안 제안은 초국가기구인 EU의 존재의의를 회원국에 과시하려는 목적이 있는 것이 아닌가 하는 의심을 하기도 한다. EU는 기술혁신이 산업의 성장, 일자리 증가 등으로 이어지는 현실적인 문제에 대해서는 관심이 부족해 보인다. EU 규제안을 모범사례로 하기보다는 미국 등 글로벌 규제 동향도 두루 참고하여 한국의 상황에 필요한 독자적인 규제체계를 구축하려는 노력을 게을리해서는 안 될 것이다. 이성엽 고려대 기술경영전문대학원 교수



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

최신기사
  • 경북 포항시 남구 중앙로 66-1번지 경북도민일보
  • 대표전화 : 054-283-8100
  • 팩스 : 054-283-5335
  • 청소년보호책임자 : 모용복 국장
  • 법인명 : 경북도민일보(주)
  • 제호 : 경북도민일보
  • 등록번호 : 경북 가 00003
  • 인터넷 등록번호 : 경북 아 00716
  • 등록일 : 2004-03-24
  • 발행일 : 2004-03-30
  • 발행인 : 박세환
  • 대표이사 : 김찬수
  • 경북도민일보 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 경북도민일보. All rights reserved. mail to HiDominNews@hidomin.com
ND소프트