AI는 어떻게 규제되고 있는가
2025.04.04
AI는 어떻게 규제되고 있는가
by 박도현(BC카드 사내변리사)
AI 규제 필요성
최근 전 산업 분야에서 AI를 적극적으로 도입하고 있으며 AI를 이용한 창작물을 서비스나 광고에 활용하는 경우가 크게 늘고 있다.
AI는 아직 여러가지 위험성이 내재되어 있는데, AI의 데이터 수집 과정에서 프라이버시가 침해되거나 기존 창작물의 저작권 및 IP 침해가 있을 수 있고 딥페이크나 가짜뉴스 등 범죄로 악용될 여지가 있다.
이에 따라 유럽연합(EU), 미국, 일본, 중국 등 주요국은 AI를 규제하기 위한 법률을 제정하거나 AI 규제 방안을 논의하고 있다. 우리나라는 지난 1월 21일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’을 제정하였고 이 법은 2026년 1월부터 시행된다.
아래에서는 주요국의 AI 규제 현황 및 국내 AI 기본법을 살펴보고 국내외에서 AI를 활용하는 경우 주의할 점을 알아보고자 한다.
주요국의 AI 규제 현황
유럽연합(EU)은 AI 규제 법안인 ‘AI Act’가 2024년 3월 유럽의회에서 통과되었고 발효일(24.8.1.)부터 6개월에서 36개월 이후 단계적으로 시행된다. EU AI Act는 AI 기술의 급속한 발전과 광범위한 적용에 따른 윤리적, 법적, 사회적 영향에 대응하기 위해 마련된 최초의 포괄적인 AI 규제 법안으로, 위험 수준에 따라 AI 시스템을 분류한다.
구체적으로 EU AI Act는 AI 시스템을 ‘수용불가 위험 AI 시스템’, ‘고위험 AI 시스템’, ‘제한된 위험 AI 시스템’, ‘저위험 AI 시스템’으로 구분하는데, ‘수용불가 위험 AI 시스템’은 인간의 존엄성, 자유, 평등, 민주주의, 법치 등 EU의 기본가치와 관련된 것으로 사용이 전면 금지되며, ‘고위험 AI 시스템’은 생체인식, 주요 인프라, 교육 등 사회적으로 민감한 분야에 관한 것으로 높은 수준의 규제를 받게 되고, ‘제한된 위험 AI 시스템’은 사용자와의 상호작용에 관한 것으로 일정한 투명성이 요구되며, ‘저위험 AI 시스템’은 일상적인 상업적, 개인적 용도에 관한 것으로 규제 부담이 최소화된다.
EU AI Act는 전세계 최초로 시행되는 AI 규제 법률인 만큼 AI 규제에 관한 국제적 기준을 제시하려는 것으로 보인다.
미국은 AI 기술의 발전과 혁신을 촉진하면서 동시에 AI로 인한 다양한 리스크와 위험에 대응하기 위해 노력하고 있다. 그 일환으로 2019년에 ‘알고리즘 책임법안(The Algorithmic Accountability Act)’을 발의하였다. 이 법안은 미국의 전반적인 AI 시스템을 규제의 대상으로 삼고 있다. 특히 이 법안은 기업들의 알고리즘이 편향성, 차별, 프라이버시 침해, 보안 위험 등을 유발할 수 있는지 스스로 평가하고 점검하도록 요구하고 있다. 기업들은 영향평가 결과를 5년간 보관하고 개발 관련자들에게 고지하며 초기 요약 보고서와 지속적 영향평가 보고서를 연방거래위원회(Federal Trade Commission, FTC)에 제출해야 한다.
영국은 AI에 대한 포괄적인 규제를 도입하기 보다는 기존 규제기관을 활용하여 AI 기술 발전을 저해하지 않으면서 사회적 혼란을 최소화하기 위한 노력을 하고 있다. 2018년 개인정보보호법(Data Protection Act 2018) 및 영국 일반 개인정보보호법(UK GDPR)을 도입하고, AI와 데이터 보호에 관한 지침, 위험관리 도구키트, 감사 프레임워크 등을 발표하여 AI 활용을 위한 법제도적 기반을 마련하고 있다.
중국은 아직 AI에 관한 통일된 법률을 제정하지 않았지만 개인정보보호법, 사이버보안법, 데이터보안법 등을 통해 AI의 핵심 요소들을 관리하는 견고한 법체계를 구축하고 있다.
일본은 AI 이용원칙 초안, 인간중심의 AI 사회원칙, AI 이용 및 활용 가이드 라인 등 연구개발 가이드라인 중심으로 AI 기술의 안전하고 윤리적인 활용을 위한 기준을 제시하고 있다.
우리나라의 AI 기본법
우리나라는 몇 년간 난항을 겪던 AI 기본법이 지난해 국회를 통과하여 내년 1월 본격적인 시행을 앞두고 있으며, 국내 AI 기본법은 전세계에서 유럽연합(EU)에 이어 두 번째로 제정되었다.
AI 기본법의 주요 내용은 다음과 같다.
인간의 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 ‘고영향 AI’로 정의하여 투명성 확보, 확인 의무 등을 규정하였다. 또한 AI 산업의 진흥 및 AI 신뢰 기반 조성을 위한 주요 정책을 심의하기 위한 대통령 소속 국가인공지능위원회를 두고, 국가인공지능위원회는 AI 기본계획의 수립, AI 활용 촉진, 고영향 AI 규율 등에 관한 사항을 심의•의결하게 하였다.
고영향 AI나 생성형 AI를 이용한 제품•서비스를 제공하는 AI 사업자는 해당 사실을 이용자에게 사전 고지하여야 하며, 생성형 AI를 이용한 제품•서비스를 제공하는 경우 그 결과물이 생성형 AI에 의하여 생성되었다는 사실을 표시해야 한다. AI 사업자는 고영향 AI 또는 이를 이용한 제품•서비스를 제공하는 경우 안전성•신뢰성을 확보하기 위한 조치를 이행하여야 한다.
AI 활용에 대한 투명성 확보가 중요
이미 EU AI Act 일부가 EU 역내에서 시행되고 있고 우리나라도 내년 1월부터 AI 기본법이 시행되므로 AI를 이용한 제품•서비스를 제공하는 경우 주의가 필요하다.
EU 역내에서 AI 관련 영업활동을 하려면 자사의 AI 제품•서비스가 EU AI Act의 어느 위험 단계에 해당하는지와 그에 따른 의무 사항을 파악하여 대비할 필요가 있다. 국내에서는 고영향 AI 또는 생성형 AI를 이용한 제품•서비스인 경우 이용자에게 사전 고지하거나 제품•서비스에 표시하기 위한 준비를 하여야 한다.
앞으로는 EU, 한국 외에도 미국, 중국 등을 포함한 전세계적으로 AI 규제가 강화될 것이다. 기업들은 AI를 활용하기 전에 반드시 각국의 AI 규제 법률을 살피고 AI 투명성 확보를 위한 노력을 게을리하지 않아야 한다. “끝”.
상기 콘텐츠의 모든 저작권은 BC카드 신금융연구소 (이하 'BCiF')에 있으며, 무단 도용을 금합니다.
본 자료를 인용 및 발췌하고자 할 경우 출처를 명확하게 표기해야 합니다.
본 자료를 인용 및 발췌하고자 할 경우 출처를 명확하게 표기해야 합니다.
박도현
BC카드의 사내 변리사로 활동하고 있는 그는 지식재산권 전문가로서 BC카드가 국내 2금융권 중 최다 특허를 기반으로 혁신금융 기업으로 발돋움하는 데 중추적인 역할을 수행하고 있습니다. 각종 신기술과 혁신 아이디어에 대한 제도적 관점의 전문성을 토대로 신결제 분야에 대한 풍부한 인사이트를 제공합니다.