28일 ‘인공지능데이터행정법’ 시행…“실효성 위한 후속 정비 필요”

오는 28일부터 공공부문의 인공지능(AI) 도입·활용과 데이터 공동활용을 뒷받침하는 ‘인공지능 및 데이터 기반 행정 활성화에 관한 법률’이 시행된다. 국회입법조사처는 공공 AI 활용의 법적 기반이 마련됐지만, 실제 성과와 국민 신뢰를 확보하려면 데이터 품질과 공유, 책임성, 보안 등을 뒷받침할 후속 제도 정비가 필요하다고 제언했다.


국회입법조사처는 20일 발간한 ‘인공지능 및 데이터 기반 행정 활성화에 관한 법률 시행, 실효성 확보를 위해 무엇이 더 필요한가?’ 보고서에서 데이터 등록과 표준화, 학습용데이터 품질관리, AI 기반 행정결정에 대한 인간의 개입, 거버넌스와 보안체계 강화를 주요 과제로 제시했다.

공공 AI 도입·활용 법적 근거 마련
개정법은 기존 ‘데이터기반행정 활성화에 관한 법률’을 ‘인공지능 및 데이터 기반 행정 활성화에 관한 법률’로 바꾸고, 공공부문의 AI 도입·활용과 데이터 공동활용을 촉진하기 위한 규정을 담았다.

데이터통합관리 플랫폼의 구축·운영 범위에는 AI 활용 관련 사항이 추가됐다. 공공기관이 AI를 공동으로 도입·활용할 수 있도록 공통기반 구축의 근거도 마련됐다. 공공기관장은 AI 개발과 활용에 쓰이는 학습용데이터의 적정한 품질 수준을 확보하기 위해 필요한 조치를 하도록 했다.

공공기관이 AI를 정책 수립과 의사결정에 활용하더라도 최종 권한과 책임은 해당 기관에 있다는 점도 법에 명시됐다. 개인정보 보호와 AI·데이터의 편향성, 의사결정의 투명성 등을 고려하도록 했으며, AI 활용 윤리기준도 규정했다.

기존 데이터기반행정 책임관은 AI·데이터 기반 행정 책임관으로 확대·개편됐다. 책임관은 학습용데이터 관리와 AI 신뢰성 확보, 위험관리 관련 업무를 총괄·지원하게 된다.

데이터 등록, 기관 판단에 맡겨 ‘공유 한계’
입법조사처는 데이터 공동활용 제도의 틀이 마련됐지만, 실제 AI 활용에 필요한 데이터가 충분히 축적되고 공유될지는 불확실하다고 지적했다.

개정법은 특정 분야에서 공동활용할 필요가 있다고 인정되는 데이터를 데이터통합관리 플랫폼에 등록할 수 있도록 규정한다. 다만 실제 등록 여부가 개별 공공기관의 판단에 맡겨져 있어 기관별로 소극적인 대응이 이어질 수 있다는 게 입법조사처의 지적이다.

행정안전부 장관이 필요한 데이터의 등록을 요청할 수 있지만, 입법조사처는 요청만으로 각 기관의 적극적인 등록을 이끌어내는 데에는 한계가 있다고 봤다. 다른 법령에서 비밀로 정했거나 목적 외 이용을 제한한 경우 데이터 제공을 거부할 수 있는 규정도 폭넓게 적용되면 기관 간 데이터 칸막이를 심화시킬 수 있다는 분석이다.

입법조사처는 공공기관이 생성·취득·관리하는 데이터를 원칙적으로 플랫폼에 등록하도록 하되, 법령상 비밀 등 예외 사유를 법률에 명확히 두는 방안을 제안했다. 기관 간 데이터 연계·융합과 AI 활용을 촉진하기 위해 데이터 형식과 관리 기준의 표준화도 강화할 필요가 있다고 봤다.

학습용데이터 ‘적정 품질’ 기준은 과제
개정법은 공공기관장이 학습용데이터의 적정한 품질 수준을 확보하도록 했지만, ‘적정한 품질’의 기준과 품질관리 절차는 구체적으로 규정되지 않았다는 평가다.

AI의 성능과 공정성은 학습데이터의 정확성과 대표성, 최신성 등에 영향을 받는다. 데이터에 오류나 편향이 있으면 AI가 이를 학습해 부정확하거나 특정 집단에 불리한 결과를 낼 수 있다.

입법조사처는 법률에 학습용데이터 품질관리의 기본원칙과 필수 요소를 명확히 규정하고, 세부 기준과 절차는 행정안전부 장관이 표준을 마련해 고시하는 방안을 검토할 필요가 있다고 제안했다.

개인정보가 포함된 학습용데이터의 활용 기준도 과제로 꼽혔다. 공공기관의 AI 개발·학습과 행정 활용이 개인정보 보호법상 가명정보 처리 허용 범위에 어디까지 포함되는지 명확하지 않다는 지적이다.

AI 기반 행정결정에 ‘인간 재검토’ 필요
국민의 권리·의무에 중대한 영향을 미치는 행정결정에 AI가 활용되는 경우, 최종 판단과 책임의 주체를 분명히 하고 인간이 AI의 판단을 검토·수정할 수 있는 장치를 마련해야 한다는 제언도 나왔다.

개정법은 공공기관이 AI를 정책 수립과 의사결정에 활용할 때 최종 권한과 책임이 해당 기관에 있음을 명시했다. 다만 국민이 AI 활용 행정결정에 대해 설명을 요구하거나 이의를 제기하고, 인간에 의한 재검토를 요청할 수 있는 절차는 보다 구체화할 필요가 있다는 것이 입법조사처의 판단이다.

공공분야 AI 영향평가 관련 규정은 내년 2월 28일부터 시행될 예정이다. 입법조사처는 사전 평가뿐 아니라 AI 시스템 운영 과정에서 발생할 수 있는 오류와 편향, 예기치 못한 결과를 지속적으로 점검하고 필요하면 재평가할 수 있는 체계도 필요하다고 제안했다.

거버넌스·보안 대응 강화
AI·데이터 기반 행정이 확대될수록 데이터 관리와 개인정보 보호, 정보보호, 사이버안보, 디지털 인프라를 아우르는 협업 체계의 중요성도 커진다.

입법조사처는 AI·데이터 기반 행정 책임관 협의회가 범정부 협력과 기관 간 정책 조정을 실질적으로 수행하도록 역할을 구체화할 필요가 있다고 밝혔다. 기관 내부에서도 데이터 수집·관리, AI 설계·개발, 운영과 사후 조치에 이르는 단계별 책임 주체와 역할을 명확히 해야 한다고 봤다.

AI 활용 확대에 따라 학습데이터 오염과 AI 시스템을 겨냥한 사이버 공격 등 새로운 보안 위험에 대한 대응 필요성도 제기됐다. 입법조사처는 AI·데이터 거버넌스와 보안의 기본원칙을 정비하고 관련 법령과 범정부 대응체계를 연계할 필요가 있다고 강조했다. 공공 AI 활용의 법적 기반은 마련됐지만, 데이터와 책임·권리구제 체계를 얼마나 구체화하느냐가 시행 이후 실효성을 좌우할 과제로 남았다.