경기도의회가 전국 최초로 인공지능(AI) 기술의 위험성 평가나 악용 방지 등 오남용을 규제할 입법을 추진해 관심이 쏠린다.
특히 최근 딥페이크 범죄가 급격히 늘면서 유럽 등 선진국들이 입법에 서두르고 있는 반면 국내엔 관련법이 전무한 상태다. AI의 도정 활용 등 인공지능 산업의 보폭을 넓히는 경기도가 기술 안전·규제 분야에서도 선두로 나설 수 있을지 관심사다.
경기도의회는 24일 전석훈(민·성남3) 의원이 대표발의한 ‘경기도 인공지능 기본조례안’을 입법예고했다. 조례안은 인공지능 개발 및 이용이 특정한 개인·단체가 차별받지 않도록 이뤄지고, 사회적 약자 및 취약계층 등에 접근성을 보장하도록 하는 내용의 기본원칙을 제시했다.
또한 인간의 존엄성과 기본권 침해가 우려되는 고위험 인공지능에 대한 ‘규제’를 엄격하게 적용하는 범위에서 허용하는 내용도 기본원칙에 넣었다. 도지사가 인공지능의 이용 등이 효율적으로 추진될 수 있도록 관리·감독하고, 관련 사업에 행정적·재정적·기술적 지원을 할 수 있도록 했다.
그동안 인공지능 산업 지원에 대한 입법은 추진된 반면 인공지능 기술에 대한 기본원칙과 규제를 제시한 조례안은 도의회가 처음이다. 국회도 지난해 2월 ‘인공지능산업 육성 및 신뢰기반 조성에 관한 법안’이 발의됐지만, 상임위 문턱을 넘지 못해 21대 국회 임기 종료와 함께 폐기될 예정이다.
그러나 인공지능 기술이 급격히 발전하면서 범죄에 악용될 가능성 역시 덩달아 높아졌다.
최근 서울대 졸업생 2명이 동문 여성 60여명을 무단으로 합성한 딥페이크 성착취물을 ‘n번방’과 같은 메신저에 유포하다 경찰에 검거돼 구속됐다. 미국에선 올해 초 세계적 팝스타 테일러 스위프트의 얼굴이 딥페이크로 합성된 영상이 SNS를 중심으로 퍼지면서 파장이 커졌다.
이 때문에 유럽연합(EU)은 포괄적인 인공지능 기술 규제법인 ‘AI법’을 지난 21일 최종 승인했고, 11월부터 인권침해적 요소를 지닌 AI 서비스를 모두 금지할 예정이다.
현재 도는 인공지능에 대해 기술을 도정에 적극 적용하거나 AI국 신설의 조직개편 등 전국 광역단체 중 가장 적극적으로 대응하고 있다. 챗GPT를 활용해 ‘공무직 시간외수당 정산 자동화’ 프로그램을 개발해 도청 공무원들의 행정업무를 단축했고, 이태원(10.29) 참사를 계기로 5분 단위 실시간 인파를 측정할 수 있는 ‘경기도형 인파관리시스템’도 구축 중이다.
이번 조례안은 다음 달 11~27일 열리는 정례회에서 심의될 예정이다.
전석훈 의원은 “인공지능 산업이 굉장한 발전을 이루고 있는 반면 공적, 정책적 측면에서 도민의 행복과 삶을 위한 개발이 우선시돼야 한다”며 “신뢰할 수 있는 안전한 인공지능의 사용환경 조성이 중요하고, 도지사가 이에 대한 책무를 갖고 제도적 대응을 해야 하기 위해 조례안을 마련했다”고 설명했다.