✔️세계 두 번째 포괄적 AI법제 제정, AI 기본법 제정안 국회 본회의 통과 AI는 이제 우리의 일상에서 빼놓을 수 없는 중요한 기술로 자리 잡았습니다. 챗지피티, 클로드, 제미나이와 같이 생성형 AI의 발전과 산업 전반의 활용 사례가 증가하면서, 이를 뒷받침할 지원과 규제 체계의 필요성이 대두되었습니다.
이러한 논의 속에서 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 “AI 기본법”)이 2024년 12월 26일 국회 본회의를 통과하였습니다. 처음으로 EU 인공지능법에 이어, 대한민국은 세계에서 두 번째로 포괄적인 인공지능(AI) 법제를 마련하게 되었습니다.
이번 뉴스레터에서는 AI 기본법의 주요 내용을 살펴보도록 하겠습니다. |
|
|
|
AI 기본법은 인공지능 기술이 올바르고 안전하게 발전하고, 신뢰를 줄 수 있도록 필요한 기준을 규정하기 위해 제정되었습니다. 주요 내용을 아래와 같이 4가지로 나누어 살펴보겠습니다.
- AI 법률 용어의 정의 – 개념의 명확화
AI 기본법은 인공지능, 고영향 인공지능, 생성형 인공지능, 인공지능사업자 등 핵심 용어를 정의하였습니다(제2조). AI 기본법에 따른 AI 핵심 용어의 정의는 다음과 같습니다.
✅ 인공지능: 학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것을 말합니다(제2조 제1호).
✅ 고영향 인공지능: 사람의 생명, 신체의 안전, 기본권 등에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 1) 에너지의 공급, 2) 범죄 수사나 체포 업무를 위한 생체인식정보의 분석 및 활용, 3) 디지털의료기기의 개발 및 이용 등의 영역에서 활용되는 인공지능시스템을 말합니다(제2조 제4호).
✅ 생성형 인공지능: 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상, 그 밖의 다양한 결과물을 생성하는 인공지능시스템을 말합니다. 생성형 인공지능의 예시로는 ChatGPT, Gemini와 같은 대형 언어 모델(LLM)이 포함됩니다(제2조 제5호).
✅ 인공지능사업자: 인공지능산업과 관련된 사업을 하는 자로 인공지능개발사업자와 인공지능이용사업자로 구분하고 있습니다(제2조 제7호).
고영향 인공지능과 생성형 인공지능을 구분하여, 단순히 일상 업무에 사용하는 AI와 생명과 기본권에까지 영향을 미칠 수 있는 AI가 각각 다른 규제를 적용받도록 하였습니다.
- AI 기술 육성을 위한 정부의 적극적 지원
정부는 AI 산업 육성과 경쟁력 강화를 위해 정부는 다음과 같은 지원을 하여야 합니다.
✅ 인공지능 기본계획 수립: 과학기술정보통신부장관은 3년마다 인공지능기술과 국가경쟁력 강화를 위하여 인공지능 기본계획을 수립·시행하여야 하고, 기본계획에는 인공지능 정책의 기본 방향, 전문인력 양성, 신뢰 기반 조성 등에 관한 사항이 포함되어야 합니다(제6조).
✅ 국가인공지능위원회 설치: 인공지능산업의 진흥 및 인공지능 신뢰 기반 조성을 위하여 주요 정책을 심의·의결하기 위하는 대통령 소속의 국가인공지능위원회를 둡니다. 국가인공지능위원회는 기본계획의 수립, 인공지능 활용 촉진, 고영향 인공지능 규율 등에 관한 사항을 심의·의결합니다(제7조, 제8조).
✅ 인공지능기술 개발 및 안전한 이용, 도입ㆍ활용 지원: 정부는 인공지능 기술 개발 활성화를 위해 AI 기본법에서 정하고 있는 사업을 지원할 수 있고, 필요한 경우에 개발 지원, 컨설팅 지원, 교육 지원 등 다양한 형태의 지원을 할 수 있습니다(제13조, 제16조 등).
- AI 사업자와 기술 사용에 따른 의무
AI를 활용한 서비스와 제품을 제공하는 인공지능사업자는 다음과 같은 의무를 준수해야 합니다.
✅ 인공지능 사용 사실 고지: 인공지능사업자는 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스가 인공지능에 기반하여 운용되는 사실을 이용자에게 사전에 고지하여야 하고, 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 합니다(제31조).
✅ 인공지능 위험 관리 및 모니터링: 학습에 사용된 누적 연산량이 특정 기준 이상인 경우 해당 인공지능사업자는 인공지능 수명주기 전반에 걸쳐 위험을 관리하고 평가하며, 문제 발생 시 이를 모니터링하고 대응하는 체계를 구축해야 합니다(제32조).
✅ 고영향 인공지능 여부 확인: 인공지능사업자는 제공하는 인공지능 서비스가 고영향 인공지능에 해당하는지 사전에 검토하여야 하며, 필요시 과학기술정보통신부장관에게 고영향 인공지능 해당 여부를 확인 요청할 수 있습니다(제33조).
✅ 고영향 인공지능의 안전성ㆍ신뢰성 확보: 고영향 인공지능 또는 이를 이용한 제품ㆍ서비스를 제공하는 경우 위험관리방안 및 이용자 보호 방안을 수립하는 등 안전성ㆍ신뢰성 확보 조치를 하여야 합니다(제34조).
✅ 국내 대리인 지정: 국내 주소나 영업소가 없는 해외 인공지능 사업자 중 특정 기준을 충족하는 자는 국내대리인을 지정하고 이를 과학기술정보통신부장관에게 신고하여야 합니다. 이를 위반하면 최대 3천만원의 과태료가 부과될 수 있습니다(제36조, 제43조).
인공지능을 활용한 사업을 하는 사업자가 준수하여야 할 사항이 직접적으로 명시되어 있습니다.
인공지능 관련 서비스가 내부적으로 인공지능을 사용한다는 점을 고지하고, 또한 생성형 인공지능의 결과물을 이용하는 경우에도 그 사실을 표시해야 합니다.
그리고 연산 규모가 큰 경우에는 인공지능 위험 평가를 지속적으로 수행해야 하고, 자사의 서비스가 고영향 인공지능인지 사전에 확인하여야 합니다. 만약 고영향 인공지능으로 판정된다면, 위험관리방안과 이용자 보호 방안을 따로 수립해야 합니다.
해외 인공지능 사업자는 국내 대리인을 선임하여 신고할 필요가 있습니다.
- AI 안전성 검증 및 법적 실효성 강화
정부는 AI 기술의 안전성을 보장하고 이용자를 보호하기 위하여 다음과 같은 시설 및 체계를 도입합니다.
✅ 인공지능안전연구소 운영: 과학기술정보통신부장관은 인공지능과 관련하여 발생할 수 있는 위험으로부터 국민의 생명ㆍ신체ㆍ재산 등을 보호하고 인공지능사회의 신뢰 기반을 유지하기 위한 상태를 확보하기 위한 업무를 수행하기 위한 인공지능안전연구소를 운영할 수 있습니다(제12조).
✅ 사실조사: AI 기본법에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우에 인공지능사업자에 대하여 관련 자료를 제출하게 하거나, 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있습니다(제40조).
✅ 과태료 규정: ① 고영향 인공지능 또는 생성형 인공지능에 기반하여 운용된다는 사실을 사전에 고지할 의무를 위반할 경우, ② 국내대리인 지정 의무를 위반할 경우, ③ AI 기본법에 따른 사실조사 결과로 인한 중지명령이나 시정명령을 이행하지 아니할 경우 3,000만원 이하의 과태료가 부과될 수 있습니다(제43조).
|
|
|
|
대한민국의 AI 기본법은 EU AI법과 적용 범위와 규제 대상, 제재 방법 등에서 일부 차이를 보이지만, AI 산업에 대한 규제 방향을 명확히 제시했다는 점에서 공통적으로 큰 의미를 가집니다.
또한 아직은 ‘고영향 인공지능’, ‘인공지능 위험’, ‘위험관리방안’, ‘이용자 보호 방안’이 구체적으로 무엇인지, 그리고 어떤 기준으로 만들어져야 하는 것인지 정해져 있지 않으나, 추후 시행령이나 시행규칙 등 하위입법을 통하여 좀 더 구체적인 사례와 기준이 명확해질 것으로 예상됩니다.
앞으로도 사회적 합의와 활발한 논의를 통해 AI 기본법 및 하위 법령을 정비하여 인공지능 관련 사업이 더욱 발전하길 기대합니다. 특히 AI 기본법을 구체화하는 세부 사항이 마련되는 과정에서 인공지능의 위험성은 줄이면서, 동시에 인공지능 사업자의 부가적인 책임이 너무 무거워지지 않는 균형적인 방안들이 논의된다면 좋을 것입니다.
추후 인공지능사업자들은 AI 기본법에 명시된 투명성, 안전성, 신뢰성 확보 조치 등 다양한 의무사항을 면밀히 검토하고, 규제 환경에 대비하는 노력이 필요합니다.
법무법인 비트는 AI(인공지능)분야에 대한 풍부한 자문 경험 및 높은 이해도를 바탕으로 AI 기본법 시행에 따라 기업들이 새로운 규제 환경에 적응하고 비즈니스 기회를 극대화할 수 있도록 전문적인 법률 자문을 제공하고 있습니다.
AI 기본법과 관련하여 법적 지원이나 상담이 필요하다면 언제든지 문의하시기 바랍니다.
감사합니다.
|
|
|
|
법무법인 비트의 뉴스레터는 일반 법률 정보만을 포함하고 있습니다. 구체적인 사안에 대한 법률 의견이 필요한 분들은 공식 자문을 요청해주시면 감사하겠습니다.
월간비트 뉴스레터를 통해 듣고 싶은 법률 주제가 있으신가요? |
|
|
|
법무법인 비트Tel. 02-576-8990 | Mail. contact@veat.kr서울 강남구 영동대로 735, 골프존타워서울본관 8층, 9층(청담동)수신거부 Unsubscribe |
|
|
|
|
