[AI기본법] ① 개정안 21일 시행…한국 AI 법제, 준비 마쳤다

[2026-07-19 06:03:13]

생성형 AI 표시·고영향 AI 관리체계 본격 가동

공공 AI 조달 확대…취약계층 이용 지원도 제도화

(서울=연합뉴스) 권하영 기자 = 지난 1월 시행된 인공지능(AI)기본법의 후속 개정안이 오는 21일부터 시행되면서 국내 AI 법·제도 체계가 한층 구체화한다.

정부는 지난 1년간 시행령과 고시, 가이드라인을 마련하고 생성형 AI 표시 의무와 고영향 AI 관리 기준, AI 제품·서비스 확인제도 등 세부 제도를 정비해왔다.

이번 개정안 시행으로 공공조달 확대와 취약계층·이공계 인재의 AI 이용 지원 근거도 마련되면서 규율과 산업 육성을 아우르는 AI 정책이 본격 가동된다.

네이버와 카카오, SK텔레콤, KT, LG AI연구원, 업스테이지 등 주요 기업들도 AI 거버넌스와 윤리위원회, 위험관리 체계를 잇달아 구축하며 대응에 속도를 내고 있다.

다만 고영향 AI의 적용 범위와 기업 부담, 제도의 현장 안착을 둘러싼 과제는 여전히 남아 있다는 지적이 나온다.

◇ AI 법제 완성…개정안으로 공공 지원까지 확대

AI기본법은 2020년 7월 처음 발의된 뒤 4년 넘는 논의 끝에 2024년 12월 국회 본회의를 통과, 이듬해 1월 제정됐다. EU의 인공지능 법(EU AI Act)에 이어 세계에서 두 번째로 제정된 AI 기본법이다.

이후 1년 경과 기간을 거쳐 올해 1월 22일 전면 시행된 기본법의 핵심은 국가 AI 거버넌스 체계 구축, AI 산업 육성 지원, 신뢰·안전 기반 조성 등 3축으로 구성된다.

특히 AI 개발·이용사업자를 대상으로 중대 영향을 미치는 고영향 AI 관리와 생성형 AI 표시 의무에 대한 규정이 핵심으로 꼽힌다.

이어 지난해 12월 국회를 통과한 개정안의 핵심 방향은 공공부문이 마중물이 돼 AI 산업 혁신을 이끈다는 것이다.

우선 국가기관이 업무에 필요한 제품·서비스를 조달할 때 AI 제품·서비스를 우선 고려하도록 하는 공공 수요 창출 제도가 시행된다.

공공조달 우대 적용을 위해 과학기술정보통신부 장관이 AI 활용 여부를 기술적으로 확인하는 'AI 제품·서비스 확인 제도'도 함께 도입된다. 확인서를 취득하면 다수공급자계약 참여 요건 완화, 총액계약 적격 심사 시 가점 등 조달 시장에서 우대받을 수 있다.

장애인·고령자 등 AI 취약계층과 경제적 여건으로 AI 제품·서비스를 이용하기 어려운 국민에게 국가·지방자치단체가 비용을 지원할 수 있는 근거도 마련됐다.

취약계층의 범위는 기존 디지털 분야 취약계층 외에 경력보유여성·구직자 등 고성능 AI 서비스에 접근이 어려운 이들도 포함하도록 시행령에서 폭넓게 규정했다.

이와 함께 AI전략위 개편 사항의 법제화와 AI연구소 설립·운영 근거가 구체화됐고, 벤처투자모태펀드를 활용한 AI 창업 지원, AI 전문인력 교육훈련 및 취업 지원, 공공데이터의 학습용 데이터 제공 기준 마련 등도 담겼다.

인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안 본회의 통과

과기정통부는 AI기본법 시행과 함께 AI 투명성 확보 안내 지침(가이드라인)을 공개하고 기업의 법 이행을 지원하는 '지원 창구(지원 데스크)' 개소 등 지원체계를 고도화하는 한편, 지난 5월 3대 가치·6대 원칙을 담은 'AI 윤리원칙' 초안을 공개하고 이달 초 대국민 의견수렴을 마쳤다.

개정안의 세부 시행 기준을 구체화한 시행령 개정안은 이달 14일 국무회의를 통과해 본법 개정안과 함께 21일부터 시행된다.

거버넌스 체계도 정비됐다.

국가AI전략위원회는 1월 22일 법 시행을 계기로 대통령령 기반에서 법정위원회로 전환됐다. AI 정책 총괄·조정을 위한 법적 권한이 강화됐으며, AI책임관협의회도 법정 협의회로 격상됐다.

◇ 기업들 AI 거버넌스 구축…생성형 AI 표시도 확대

주요 AI·플랫폼·통신 기업들은 AI기본법 시행 전후로 자체 AI 안전·거버넌스 조직을 정비하고 있다.

다만 아직은 중대한 영향을 미치는 고영향 AI 기준에 부합하는 서비스를 운영 중인 기업은 없는 것으로 파악된다.

네이버는 AI 안전 업무를 전담하는 'AI 세이프티 센터'를 운영 중으로, 이사회 산하 리스크관리위원회 감독을 포함한 3계층 관리 감독 체계를 구축했다.

또한 이달 초 AI 안전 프레임워크 '네이버 ASF 2.0'을 공개하고, 생성형 AI 표시 안내를 하고 있다. 예컨대 'AI 쇼핑 에이전트' 서비스 타이틀에 AI 로고와 함께 대화창 하단에 'AI가 생성한 응답은 부정확할 수 있습니다'라는 안내 문구를 표기하는 방식이다.

카카오[035720]는 AI 세이프티 전담조직을 중심으로 위험 관리·평가·기술개발·고도화·외부협력의 5대 역할을 수행하고, AI 리스크 유관부서와 함께 'AI 가디언스 TF'를 구성해 운영 중이다.

생성형 AI 결과물에는 가시적 워터마크(카나나)와 함께 구글 딥마인드의 '신스ID' 비가시적 워터마크를 병행 적용하고 있다.

SK텔레콤[017670]은 AI 거버넌스 전담팀과 AI 서비스의 리스크·취약성을 직접 찾아내는 'AI레드팀'을 분리해 운영하는 것이 특징이다. RCSA(위험·통제 자가진단) 기반으로 AI 서비스 기획부터 배포까지 단계별 리스크를 관리하며, 심의를 통과해야만 배포가 가능한 구조다.

KT[030200]는 2024년 '책임 있는(Responsible) AI' 전담부서를 신설하고 외부 자문위원회를 운영 중이다. LG유플러스[032640]는 ISO/IEC 42001 AI 경영시스템(AIMS)을 기반으로 AI 리스크 관리 체계를 구축했다.

업스테이지는 모델 출시 전 내부 안전 검증 시스템 'QUA(Quality Assurance)'를 통해 유해성·편향성·사실 오류를 자동 평가하고, 기준에 못 미치면 배포를 차단하는 구조를 갖췄다.

◇ AI 법제 완성은 시작…현장 안착이 관건

법 시행 이후 기업들의 반응은 기대와 주문이 공존한다.

한 AI 기업 관계자는 "생성형 AI와 고영향 AI에 대한 관리·감독 책임이 보다 명확해졌다는 점에서 의미가 크다"고 평가했으며, 또 다른 관계자는 "과기정통부가 하위법령으로 구체화하고 지원 데스크를 운영하면서 실질적인 규제 불명확성은 상당 부분 해소되고 있다"고 했다.

다만 추가 보완 필요성도 제기된다.

"제도의 예측 가능성과 현장 실행력을 높이기 위해서는 고영향 AI의 적용 기준과 판단 사례, 사업자별 역할과 책임 범위, 생성형 AI 표시 의무의 구체적인 이행 방식 등에 대해 보다 명확하고 일관된 가이드라인이 지속적으로 고도화될 필요가 있다"는 목소리도 나왔다.

정부는 최소 1년 이상의 계도기간을 유지하며 AI기본법 제도개선 연구반 운영, 가이드라인 세분화 등을 통해 제도 보완 작업을 이어가고 있다.

AI기본법의 법적 골격은 완성됐지만, 법이 현장에서 실질적으로 작동하는 데는 더 촘촘한 후속 작업이 남아 있다는 평가다.

kwonhy@yna.co.kr