한국 AI 기본법 시행 가이드｜생성형 AI 표시·고영향 AI 의무 총정리

한국 AI 기본법, 무엇이 달라졌나

한국 AI 기본법의 정식 명칭은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이다. 이 법은 2025년 1월 21일 제정·공포됐고, 2026년 1월 22일부터 시행됐다. 다만 디지털의료기기 관련 일부 조항은 2026년 1월 24일부터 적용됐다.

시행령은 2026년 1월 20일 국무회의에서 의결되고, 1월 21일 대통령령 제36053호로 공포된 뒤 1월 22일부터 시행됐다. AI 기본법은 산업 진흥뿐 아니라 생성형 AI의 투명성, 고영향 AI의 책임, 첨단 AI의 안전성까지 함께 규율한다.

생성형 AI 서비스는 사전 고지가 필요하다

생성형 AI나 고영향 AI를 이용한 제품·서비스를 제공하는 사업자는 이용자에게 AI가 활용된다는 사실을 사전에 알려야 한다. 고지는 제품, 이용약관, 계약서, 서비스 화면이나 이용 장소에 표시하는 방식으로 할 수 있다.

예를 들어 AI 상담 챗봇을 운영하는 기업이라면 사용자가 대화를 시작하기 전에 AI 상담 서비스라는 사실을 알 수 있도록 안내해야 한다. 다만 제품명이나 화면만으로 AI 활용 사실이 명백하거나 사업자 내부 업무용으로만 사용하는 경우에는 시행령상 예외가 적용될 수 있다.

AI 생성물과 딥페이크 표시 기준

생성형 AI 결과물에는 AI가 만든 콘텐츠라는 사실을 표시해야 한다. 사람이 직접 볼 수 있는 문구뿐 아니라 메타데이터나 디지털 워터마크처럼 기계가 판독하는 방식도 사용할 수 있다.

다만 비가시적 표시만 넣는 경우에도 안내 문구나 음성 등을 통해 AI 생성물이라는 사실을 최소 한 차례 알려야 한다. 실제 사람이나 사건과 구분하기 어려운 딥페이크 결과물에는 이용자가 명확히 알아볼 수 있는 표시가 요구된다.

실무에서는 콘텐츠 제작 단계에서 표시문구를 추가하고, 파일 메타데이터나 워터마크가 유통 과정에서 사라지지 않는지 점검하는 절차가 필요하다.

고영향 AI는 어떻게 판단하나

고영향 AI는 의료, 채용, 대출, 교육, 공공서비스처럼 국민의 권리와 안전에 중대한 영향을 줄 수 있는 분야의 AI를 말한다. 단순히 해당 분야에서 AI를 사용했다는 이유만으로 자동 지정되는 것은 아니다.

AI가 최종 결정에 미치는 영향, 기본권 침해 위험, 사람이 실질적으로 개입해 결과를 검토하고 통제할 수 있는지 등을 종합적으로 판단한다. 형식적으로 승인 버튼만 누르는 구조는 충분한 사람의 개입으로 인정되지 않을 수 있으므로 실제 검토 절차와 책임자를 명확히 해야 한다.

고영향 AI 사업자는 위험관리, 이용자 설명, 결과 추적, 관련 문서 보관 등 추가적인 관리체계를 준비해야 한다.

첨단 AI 안전성 의무의 적용범위

강화된 안전성 의무는 모든 생성형 AI 기업에 적용되는 것은 아니다. 정부 설명 기준으로 학습 누적연산량이 10²⁶ FLOPs 이상이고, 최첨단 기술을 적용하며, 국민의 기본권에 광범위하고 중대한 위험을 초래할 우려가 있는 경우 등을 대상으로 한다.

따라서 일반적인 챗봇이나 외부 AI API를 활용하는 소규모 서비스가 자동으로 첨단 AI 안전성 의무 대상이 되는 것은 아니다. 다만 개인정보, 저작권, 허위정보와 관련된 다른 법률은 서비스 규모와 관계없이 별도로 검토해야 한다.

계도기간이 곧 의무 면제는 아니다

과학기술정보통신부는 시행일부터 최소 1년 이상 사실조사와 과태료 관련 계도기간을 운영한다고 발표했다. 이는 법 시행 자체를 미루는 규제 유예가 아니다.

생성형 AI 고지와 표시 등 법적 의무는 2026년 1월 22일부터 발생했다. 인명사고나 중대한 인권침해가 발생하면 계도기간 중에도 사실조사가 가능하다. 계도기간 종료 시점과 본격적인 과태료 집행 일정은 현재 공개된 자료 기준으로 확정되지 않았다.

AI 기본법 지원데스크는 시행 10주 차까지 총 552건의 상담을 접수했다. 일반 상담은 평일 기준 72시간 이내, 복잡한 법적 검토가 필요한 사안은 14일 이내 회신을 목표로 운영되며 이는 법정 처리기간이 아닌 행정상 상담 기준이다.

기업 실무 체크리스트

AI 서비스를 운영한다면 먼저 자사 기능이 생성형 AI 또는 고영향 AI에 해당하는지 분류해야 한다. 이어 이용자 사전 고지, AI 생성물 표시, 개인정보 처리 근거, 사람의 검토 절차와 사고 대응체계를 점검해야 한다.

외부 AI 모델을 사용하더라도 국내 이용자에게 서비스를 제공하는 사업자의 책임이 모두 사라지는 것은 아니다. API 제공사와 서비스 운영자 사이의 역할, 로그 보관, 오류 대응과 이용자 문의 절차를 계약과 내부 문서에 명확히 남길 필요가 있다.

결론

한국 AI 기본법은 AI 산업을 제한하기 위한 법이라기보다 산업 지원과 신뢰 확보 의무를 함께 규정한 기본법이다. 장점은 생성형 AI 표시와 고영향 AI 책임 기준을 제도화했다는 점이다.

반면 업종과 서비스 구조에 따라 고영향 AI 여부나 표시 방식의 판단이 달라질 수 있다는 한계가 있다. 현재 공개된 자료 기준으로 공공 AI 제품·서비스 확인제도를 포함한 시행령 개정안은 입법예고 단계이므로 최종 공포 여부를 계속 확인해야 한다.

이 글은 AI 도구를 활용해 초안을 작성하고, 작성자가 직접 검토·수정·보완하였습니다.

 핵심 요약

• AI 기본법과 시행령은 2026년 1월 22일부터 시행됐다.
• 생성형 AI·고영향 AI 서비스는 이용자 사전 고지가 필요하다.
• AI 생성물에는 가시적 또는 기계 판독 표시를 적용해야 한다.
• 딥페이크 결과물에는 이용자가 명확히 알 수 있는 표시가 요구된다.
• 최소 1년의 계도기간은 법적 의무 면제를 의미하지 않는다.
• 개인정보보호법과 저작권법 등 개별 법률도 별도로 준수해야 한다.

함께 읽으면 좋은 글

• 생성형 AI 실무 가이드 모아보기
• AI 에이전트 구축과 운영 기준
• AI 서비스 개인정보보호 핵심 정리
• 국가법령정보센터 AI 기본법 확인
• 개인정보보호위원회 AI 안내서 확인