2024년 12월 26일, 한국의 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)이 국회를 통과했습니다. 이는 EU가 2024년 AI 규제법(AI Act)을 시행한 이후 세계 두 번째로 제정된 포괄적인 AI 규제법입니다. 2026년 초부터 시행될 예정으로, 일부 디지털 의료기기 관련 규정은 2026년 1월 24일부터 시행됩니다.

[AI 기본법의 주요 내용]

1. 고영향 인공지능

생명, 안전, 기본권에 중대한 영향이나 위험을 초래할 수 있는 AI 시스템으로 정의되며, 의료, 에너지, 교통, 공공서비스 등 다양한 영역에 적용됩니다. 예를 들어, 생체인식정보를 이용한 범죄 수사, 채용 및 대출 심사, 교육 평가 등에서 사용되는 AI가 포함될 수 있습니다.

2. 생성형 인공지능

입력한 데이터의 구조와 특성을 모방하여 텍스트, 그림 등을 생성하는 AI로 정의되며, ChatGPT와 같은 모델이 이에 해당합니다.

3. AI사업자의 의무 사항

- 투명성 확보(제31조): 고영향 및 생성형 AI를 이용한 제품 및 서비스 제공자는 이런 AI 사용된 제품/서비스임을 사전에 고지하고, 생성형 결과물이 AI에 의해 생성된 것임을 표시해야 합니다.

* 모든 AI사업자는 실제와 구분하기 어려운 가상 결과물을 제공할 때 해당 결과물이 AI에 의해 생성된 것임을 표시해야 합니다.

- 안전성 확보(제32조): 특정 규모 이상의 모델을 이용하는 AI사업자는 위험을 식별하고 평가하며 이를 완화하기 위한 체계를 구축하고, 과학기술정보통신부에 관련 결과를 제출해야 합니다.

- 고영향 AI 확인(제33조): 모든 AI사업자는 AI가 고영향 시스템인지 사전에 검토하거나 정부에 확인을 요청해야 합니다.

- 고영향 AI 영향평가(제34조, 제35조): 고영향 AI의 사용이 사람의 기본권에 미치는 영향을 평가하기 위해 노력하고, 안전성과 신뢰성을 확보하기 위한 조치를 취해야 합니다.

4. 법 집행 및 제재 

과학기술정보통신부는 위반 행위를 조사할 수 있으며, 필요 시 시정명령이나 과태료(최대 3천만 원)를 부과할 수 있습니다. 과태료는 주로 투명성 의무 위반 시 적용됩니다.

[AI 기본법의 특징 및 평가]

이 법은 AI 규제의 첫걸음을 내디뎠다는 점에서 의미 있지만, 구체성이 부족하다는 평가도 존재합니다. 

- 고영향 AI의 정의 불명확성: 예를 들어, ChatGPT가 고영향 AI로 분류될지 등 구체적인 기준이 부족합니다. 

- 안전성 조치의 구체적 가이드라인 부족: 기업들이 어떤 수준의 조치를 해야 충분한지 명확하지 않습니다. 

- 처벌의 강도: 과태료와 시정명령이 주요 제재 수단입니다.

[향후 과제]

- 기준 정립: 2026년 시행 시까지 명확하고 구체적인 세부 기준 마련이 필요합니다.

- 사업자의 준비: AI 사업자는 법 시행에 대비해 투명성 의무를 준수하고, 자사의 제품이 고영향 AI로 평가될 가능성을 검토해야 합니다. 또한, 구체적인 안전성 조치를 위한 기술적·경제적 준비를 해야 하겠습니다.

- 법적 보완: 시행 때까지, 또는 시행 이후까지도 법적·제도적 빈틈을 메우는 과정이 예상됩니다. 지속적으로 모니터링할 필요가 있습니다.

법무법인 위온은 AI, 크립토 등 신산업 분야 사업자의 규제 대응, 규제 위험 파악 등에 대하여 전문적인 조력을 제공합니다. 이와 관련한 법적 도움이 필요하신 경우 법무법인 위온으로 연락하여 주시기 바랍니다.

Contact

김정민 변호사(010-5135-5560, jmkim@weonlaw.co.kr)