# 플랫폼 # 글로벌 # 핀테크 # 데이터 # 가상자산 # 트렌드
EU의 생성 AI 규제 방안
2023.06.05

| EU에서 AI법안이 나오게 된 배경


AI 개발 속도가 급속도로 빨라지고 있다. 오픈AI의 ChatGPT, 마이크로소프트의 Bing, 구글의 Bard 등 생성 AI 개발 경쟁이 전례 없이 가속화되고 있다. 불과 얼마전까지 ChatGPT의 출현에 열광했는데 지금은  일자리에 대한 불안에서부터 저작권 문제 등까지 각계의 우려가 커지고 있다. 출중한 능력에 감탄만 하고 있기에는 생각보다 심각한 문제가 발생할 수 있기 때문이다. 심지어 ChatGPT를 만든 오픈AI의 샘 올트먼(Sam Altman) 대표마저 지난 5월 16일 미 의회의 청문회에서 AI의 위험을 완화하기 위해 정부의 개입이 필요하다고 주장하였다. 

한편으로는 AI서비스를 만드는 빅테크 기업들이 대부분 미국 기업이라서 규제라는 명목으로 유럽 시장 방어에 민감하다는 비판도 있을 수 있다. 하지만, EU는 오랫동안 ‘사람’이 중심이 되는 디지털 전환과 기술발전을 목표로 해 왔다. 이런 이유 때문에 디지털 전환으로 인해 데이터가 중요해지는 시점에서는 GDPR(General Data Protection Regulation; EU 개인정보보호법)을 발표했으며, 마이데이터(MyData) 산업이 부각될 경우 ‘사람’이 데이터 수집이나 활용에 중심이 될 수 있도록 사업을 펼치고 있다. 한마디로 EU는 기술 규제에 있어서는 선두주자라고 할 수 있다.

AI에 대한 법안 역시 올해 갑자기 등장한 것이 아니다. 먼저, EU집행위원회는 2020년 2월, AI에 대한 백서를 발간하였으며, 신뢰성 확보를 위한 규제 프레임워크를 만들 것을 제안하였다. EU 의회 역시 집행위원회에 AI, 로보틱스, 그리고 관련된 기술의 개발과 활용에 대한 윤리 원칙을 담은 EU의 법안을 만들 것을 제안하였다. 

이런 맥락에서 2021년 4월 21일 EU 집행위원회(행정부 성격)에서 AI 법안을 발의하였다. 이후 2022년 12월 6일 EU 각료이사회(상원 성격)가 AI 법 개정안을 발표하였고, 2023년 5월 11일 드디어 EU 의회(하원 성격)의 내부 위원회가 개정안을 최종 승인하였다. 이제 6월 중순 EU 의회 본회의를 거친 후 법안의 세부 내용을 EU 회원국들과 조율하면 최종적인 AI법이 공표될 예정이다. 특이한 점은 ChatGPT는 EU 의회에서 AI법안을 검토하는 기간 동안 등장했기 때문에 EU 의회의 개정안에는 ChatGPT와 같은 생성AI에 대한 규제 부분이 모두 포함되어 있다는 점이다.

| 법안 주요 내용


EU의 AI법안은 어떤 방식으로 AI를 규제할까? EU는 AI를 ‘위험(risk)’ 정도에 따라 차등해서 규제를 각각 다르게 적용하는 방식을 택하고 있다. 
  • 허용할 수 없는 위험(unacceptable risk): EU가 추구하는 가치에 대조되는 해로운 AI 활용. EU 내에서는 사용할 수 없음
  • 고위험(high risk): 사람의 안전이나 근원적인 권리에 부정적 영향을 미치는 AI 활용. 필수적인 요구사항을 충족시켜야 하는 의무 부여
  • 제한된 위험(limited risk): 인간과의 상호작용으로 인해 특정한 영향을 미칠 수 있는 AI. 투명성 의무 부여
  • 최소한의 위험(minimal risk): AI법 외에 추가되는 의무는 없음
EU 내에서 AI를 활용하고자 하는 기업은 AI가 주는 위험을 이처럼 4가지 단계로 구분하고 나서, AI가 사람의 근원적인 권리, 건강, 안전, 환경, 민주주의, 법의 통치에 위험이 있을지 여부를 평가하고 그 위험을 상쇄할 방법을 찾아야 한다. 아울러, AI 사용 기업은 데이터 소스가 적합한지, 편향된 부분은 없는지 검토해야 한다. 

최근에 포함된 가장 중요한 부분 중 하나는 AI 학습에 사용된 데이터가 저작권법을 위반하지 않도록 하는 것이다. 즉, 생성 AI를 사용하는 기업은 모델 학습에 사용한 데이터 저작권을 모두 공개해야 한다. 

| 시사점


EU의 AI법안에 대해 산업계는 범위가 너무 넓다는 목소리를 높이고 있다. 또한, EU에서 AI를 사용하려면 엄격한 요구사항을 받아 들여야 하거나 아니면 EU 내에서는 사용하지 못할 것이라고 우려하고 있다. 

그럼에도 불구하고 EU의 AI 법안은 세계 최초의 AI 법안으로서 분명 중요한 의미를 지니고 있다. EU의 AI 법안은 전 세계에 신뢰할만한 AI란 어떠해야 하는지에 대한 기준을 제시하고 있다. EU의 개인정보보호법인 GDPR이 전 세계에 지대한 영향을 미친 것과 같이 AI 법안 역시 EU 내에서 AI 서비스를 제공하고자 하는 기업 뿐만 아니라 미국, 영국, 중국, 한국 등에 큰 영향을 미칠 것으로 보인다.  

우리나라도 국회에서 AI 법안을 만들고 있다. 다만 입법의 신속성 보다는 세계적인 흐름과 철학을 충분히 벤치마킹하여 AI 기술의 혁신을 보장하되, ‘사람’이 소외되지 않는 AI 법안을 구성할 필요가 있을 것이다. "끝".


<참고 문헌>
상기 콘텐츠의 모든 저작권은 BC카드 신금융연구소 (이하 'BCiF')에 있으며, 무단 도용을 금합니다.
본 자료를 인용 및 발췌하고자 할 경우 출처를 명확하게 표기해야 합니다.
# AI # 인공지능
박정관
법무법인 율촌에서 전문위원으로 활동하고 있는 그는 미래창조과학부, 방송통신위원회를 거치며 방송 및 통신 정책과 관련된 전문 실무 경험을 축적하고, 미래전파공학연구소에서 ICT정책연구실장을 역임했습니다. 고려대학교에서 영문학을 전공한 그는 영국 City University, Westminster University 에서 각각 커뮤니케이션정책학 석사 학위를 취득했고, KDI국제정책대학원에서 공공정책학 석사 학위를 취득했습니다. 연세대학교 정보대학원에서 마이데이터 분야와 관련된 논문으로 박사 학위를 취득했습니다. 현재 호서대학교 기술경영전문대학원에서 겸임교수로도 활동하고 있습니다.
에디터 글 읽어보기

관련 콘텐츠