인공지능기본법

인공지능기본법은 정식 명칭이 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」인 대한민국의 법률로, 인공지능(Artificial Intelligence, AI) 산업의 발전을 지원하는 동시에 인공지능의 안전성·신뢰성 확보와 국민의 권익 보호를 위한 기본적인 규율 체계를 정한 법이다.

개요

인공지능기본법은 인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 기본 사항을 규정하여 국민의 권익과 존엄성을 보호하고, 국민의 삶의 질과 국가경쟁력을 높이는 것을 목적으로 한다.

2024년 12월 26일 국회 본회의에서 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안(대안)」이 통과되었으며, 2025년 1월 21일 법률 제20676호로 제정·공포되어 2026년 1월 22일부터 시행되었다. 이후 일부개정과 정부조직 개편에 따른 개정을 거쳤다.

법은 산업 진흥만을 목적으로 하는 법률이 아니라 인공지능에 대한 신뢰 기반과 안전 규율을 함께 규정한다. 인공지능 기본계획, 국가인공지능전략위원회, 연구개발·표준화·학습용데이터·인공지능집적단지 등의 산업 지원책과 함께 생성형 인공지능의 표시, 고영향 인공지능의 관리, 일정 규모 이상의 첨단 인공지능시스템에 대한 안전성 확보 의무 등을 규정하고 있다.

주요 개념

법에서 정의하는 주요 개념은 다음과 같다.

용어	의미
인공지능	학습·추론·지각·판단·언어 이해 등 인간의 지적 능력을 전자적 방법으로 구현한 것
인공지능시스템	다양한 수준의 자율성과 적응성을 가지고 주어진 목표를 위하여 실제 또는 가상환경에 영향을 미치는 예측·추천·결정 등의 결과물을 추론하는 인공지능 기반 시스템
인공지능기술	인공지능을 구현하는 데 필요한 하드웨어·소프트웨어 기술 또는 그 활용 기술
생성형 인공지능	입력 데이터의 구조와 특성을 모방하여 글·소리·그림·영상 등의 결과물을 생성하는 인공지능시스템
고영향 인공지능	사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있으며 법률에서 정한 영역에 활용되는 인공지능시스템

고영향 인공지능

고영향 인공지능은 인공지능기본법의 핵심 규제 대상 중 하나이다. 단순히 성능이 높은 인공지능이라는 의미가 아니라, 어떤 영역에서 사용되고 사람에게 어떠한 영향을 줄 수 있는지를 중심으로 정의된다.

법은 다음과 같은 영역에서 활용되는 인공지능을 고영향 인공지능의 대상으로 규정한다.

• 에너지 공급
• 먹는물 생산 공정
• 보건의료의 제공 및 이용체계
• 의료기기 및 디지털의료기기의 개발·이용
• 핵물질 및 원자력시설의 안전한 관리·운영
• 범죄 수사나 체포 업무를 위한 얼굴·지문·홍채 등 생체인식정보의 분석·활용
• 채용·대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가
• 교통수단·교통시설·교통체계의 주요 작동 및 운영
• 공공서비스의 자격 확인·결정, 비용 징수 등 국가기관·지방자치단체·공공기관의 의사결정
• 유아교육·초등교육·중등교육에서의 학생 평가
• 그 밖에 생명·신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역

인공지능사업자는 자신이 제공하는 인공지능 또는 이를 이용한 제품·서비스가 고영향 인공지능에 해당하는지를 사전에 검토해야 하며, 필요한 경우 과학기술정보통신부장관에게 해당 여부의 확인을 요청할 수 있다.

인공지능사업자의 의무

투명성 확보

고영향 인공지능 또는 생성형 인공지능을 이용한 제품·서비스를 제공하려는 사업자는 해당 제품이나 서비스가 그러한 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 알려야 한다.

생성형 인공지능 또는 이를 이용한 제품·서비스의 결과물에는 생성형 인공지능으로 생성되었다는 사실을 표시해야 한다. 또한 실제와 구분하기 어려운 가상의 음향·이미지·영상 등을 제공하는 경우 이용자가 인공지능 생성물이라는 사실을 명확하게 인식할 수 있는 방법으로 고지하거나 표시해야 한다.

시행령은 제품·서비스명이나 이용자 화면 등을 통해 인공지능 활용 사실이 이미 명백한 경우, 사업자의 내부 업무에만 사용되는 경우 등에는 투명성 의무의 전부 또는 일부를 적용하지 않을 수 있도록 규정한다.

대규모 인공지능의 안전성 확보

일정 기준 이상의 인공지능시스템을 다루는 사업자에게는 인공지능 수명주기 전반의 위험 식별·평가·완화와 안전사고 모니터링·대응을 위한 위험관리체계 구축 등의 의무가 부과된다.

2026년 9월 기준 시행령상 안전성 확보 의무의 대상이 되려면 다음 조건을 모두 충족해야 한다.

1. 학습에 사용된 누적 연산량이 10²⁶ 부동소수점연산(FLOPs) 이상일 것
2. 현재 활용되는 인공지능기술 가운데 최첨단 기술을 적용하여 구성·운영될 것
3. 위험도가 사람의 생명·신체의 안전 및 기본권에 광범위하고 중대한 영향을 미칠 우려가 있을 것

대상 사업자는 위험의 식별·평가·완화와 위험관리체계 구축 등의 이행 결과를 과학기술정보통신부장관에게 제출해야 한다.

고영향 인공지능 사업자의 책무

고영향 인공지능 또는 이를 이용한 제품·서비스를 제공하는 사업자는 안전성과 신뢰성을 확보하기 위해 다음 조치를 이행해야 한다.

• 위험관리방안 수립·운영
• 기술적으로 가능한 범위에서 최종 결과와 주요 판단 기준, 학습용데이터 개요 등에 대한 설명 방안 마련
• 이용자 보호 방안 수립·운영
• 사람에 의한 관리·감독
• 안전성·신뢰성 확보 조치에 관한 문서 작성·보관

영향평가

고영향 인공지능을 이용한 제품·서비스를 제공하는 사업자는 사전에 해당 제품이나 서비스가 사람의 기본권에 미치는 영향을 평가하도록 노력하여야 한다. 즉 민간 사업자에 대한 영향평가는 법문상 일률적인 강제 의무가 아니라 노력 의무로 규정되어 있다.

국가기관 등이 고영향 인공지능 제품·서비스를 이용하려는 경우에는 영향평가가 실시된 제품 또는 서비스를 우선적으로 고려하도록 규정한다.

해외 사업자에 대한 적용

인공지능기본법은 국외에서 이루어진 행위라도 대한민국 국내 시장 또는 이용자에게 영향을 미치는 경우 적용된다. 반면 국방 또는 국가안보 목적으로만 개발·이용되는 인공지능 가운데 대통령령으로 정하는 인공지능은 적용 대상에서 제외된다.

국내에 주소나 영업소가 없는 해외 인공지능사업자 가운데 일정 기준을 충족하는 사업자는 국내대리인을 지정하고 과학기술정보통신부장관에게 신고해야 한다.

2026년 9월 기준 시행령은 다음 중 하나에 해당하는 사업자를 국내대리인 지정 대상으로 규정한다.

• 전년도 전체 매출액 1조 원 이상
• 인공지능서비스 부문 전년도 매출액 100억 원 이상
• 전년도 말 기준 직전 3개월간 국내 이용자 수가 일평균 100만 명 이상
• 법에서 정한 일정한 과태료 부과 사실이 있는 경우

국가 차원의 추진체계

과학기술정보통신부장관은 관계 중앙행정기관과 지방자치단체의 의견을 들어 3년마다 인공지능 기본계획을 수립·변경·시행해야 한다.

법은 국가 차원의 인공지능 정책 심의·조정을 위한 국가인공지능전략위원회를 두고, 인공지능 관련 정책 개발과 국제규범 정립·확산 등을 지원하기 위한 인공지능정책센터를 지정할 수 있도록 한다.

또한 정부가 인공지능 윤리의 확산을 위해 안전성·신뢰성, 접근성, 인간의 삶과 번영에 대한 기여 등을 포함하는 인공지능 윤리원칙을 제정·공표할 수 있도록 규정한다.

산업 진흥

인공지능기본법은 규제뿐 아니라 인공지능 산업을 육성하기 위한 정책적 근거도 폭넓게 규정한다.

주요 진흥 정책에는 인공지능 연구개발 지원, 표준화, 학습용데이터 관련 시책, 인공지능 도입·활용 지원, 중소기업 지원, 창업 활성화, 전문인력 확보, 국제협력, 해외시장 진출 지원 및 인공지능집적단지 지정·지원 등이 포함된다.

이 때문에 인공지능기본법은 인공지능의 위험을 규제하는 법률인 동시에 대한민국 인공지능 산업정책의 기본적인 법적 틀이라는 성격을 가진다.

제재

법 위반에 대해 모든 의무가 곧바로 형사처벌이나 과태료로 이어지는 것은 아니다.

법 제43조에 따라 다음 행위에는 3천만 원 이하의 과태료가 부과될 수 있다.

• 제31조 제1항의 고지 의무를 이행하지 않은 경우
• 법에서 정한 국내대리인을 지정하지 않은 경우
• 과학기술정보통신부장관의 중지명령 또는 시정명령을 이행하지 않은 경우

과학기술정보통신부장관은 법 위반 여부를 확인하기 위해 필요한 조사를 할 수 있으며, 위반 사실이 인정되면 해당 행위의 중지 또는 시정을 명할 수 있다.

평가 및 쟁점

인공지능기본법은 산업 진흥과 신뢰·안전 규율을 하나의 기본법 체계에서 함께 다룬다는 특징이 있다. 반면 규제의 실효성과 적용 범위를 둘러싼 논의도 이어지고 있다.

국회입법조사처는 법 제정 당시 고영향 인공지능 사업자의 책임은 비교적 구체적으로 규정된 반면, 생성형 인공지능에 대해서는 생성물 표시와 같은 투명성 의무 이외에 데이터·기술·이용자 측면의 내재적 위험에 대한 대응이 상대적으로 부족하다고 분석했다. 이에 학습데이터 투명성, 기술문서, 생성형 인공지능 위험관리 등을 향후 입법정책 과제로 제시했다.

또한 대규모 인공지능의 안전성 확보 의무 기준을 둘러싼 논쟁도 있다. 시행령은 누적 학습 연산량 10²⁶ FLOPs 이상 등의 요건을 두고 있는데, 국가인권위원회는 시행령 제정 과정에서 이 기준으로 인해 상당수 고성능 인공지능시스템이 규율 대상에서 제외될 가능성을 지적하며 기준을 낮출 필요가 있다는 의견을 제시한 바 있다.

같이 보기

• 인공지능
• 생성형 인공지능