김동연 경기도지사가 추진을 본격화하고 있는 '경기GPT'(3월7일자 2면 보도=경기GPT, 소외계층·민원에 활용한다)와 더불어 각종 정부 부처와 공공기관들이 '챗GPT' 도입 의사를 밝히고 있지만, 실현 가능성을 두고 의문의 목소리가 제기된다.

인공지능(AI) 기술이 민생과 밀접한 행정 영역에 접목되는 만큼, '신뢰성'이 가장 요구되고 있는 반면 챗GPT의 정확성이 떨어지는 사례가 급증하고 있기 때문이다.

7일 경인일보 취재를 종합하면 경기도뿐 아니라 서울시, 충청남도, 경상북도, 전라남도, 청주시 등 전국적으로 지자체에서 챗GPT를 행정이나 민원 업무 등에 도입을 추진하고 있는 것으로 파악됐다. 행정안전부와 문화체육관광부, 과학기술정보통신부 등 정부 부처들도 도입을 위한 연구와 가이드라인 제작에 나선 상태다.

그러나 챗GPT가 오류를 일으키는 사례들이 늘고 있어 정확성에 대한 우려가 나온다. 특히 대화를 이어나가는 AI 챗봇 특성상, '모르겠다' 등의 무응답이 아닌 그럴싸하지만, 명백히 틀린 답을 생성해 이용자들의 혼란을 가중시킬 수 있다는 지적이다. 


데이터 부족… '거짓말' 답변 많아
신뢰성 우려에도 마땅한 해법 없어
道 "정확성 개선 될 것, 연구 예정"


실제 경인일보가 이날 챗GPT에게 경기도의 대표 과거사인 '선감학원 사건'에 대해 물었지만, 역사적 사실과 전혀 다른 엉뚱한 답변들이 나왔다.

챗 GPT는 "선감학원 사건은 대한민국 경기도 안산시에서 2014년 5월 16일 발생한 학생들의 안전사고다. 이 사고는 대학수학능력시험(수능) 대비를 위해 수학 학원인 '선감학원'에서 시험 중이던 고등학생들이 화재로 인해 숨진 사건이다"고 답했다.

이어 "이 사건으로 인해 250명 이상의 학생들이 다친 상황에서도, 학원 측은 대피가 지연되었을 때 적극적으로 대처하지 않았으며, 지진 등 대피할 수 있는 상황이라면 안전에 대한 대비를 제대로 하지 않은 것으로 밝혀졌다"며 그럴듯한 근거도 함께 제시했다.

해당 질문은 명백한 '오류'다. 경인일보가 특별기획으로 보도해온 선감학원 사건은 1982년까지 40년 동안 국가가 '부랑아를 선도하겠다'는 명목으로 8~18세 나이의 아이 4천여명을 안산시 선감도에 잡아와 폭행, 노역, 학대, 고문 등을 저지른 인권침해 사건이다. 또한 챗GPT가 언급한 2014년 5월 화재도 실제로 없던 사건을 AI가 지어낸 것으로 파악됐다.

전문가들은 데이터가 부족함에도 대화를 이어가기 위해 AI가 얘기를 만들어내는 '할루시네이션(환각)' 현상을 주요 원인으로 꼽는다. 한국의 정보에 대한 학습 데이터가 적지만, 대화가 목적인 생성형 AI 특성상 질문에 가장 근접한 답변일 확률이 높은 데이터들을 말하다 보니, 거짓 정보도 진실처럼 꾸며낸다는 것이다.

이 같은 우려에 챗GPT 도입을 추진하고 있는 경기도도 마땅한 대안을 마련하지 못한 상황이다. 이원재 도 정책보좌관은 "(신뢰성이) 현재 가장 큰 우려다. 아직 해결 방법은 찾지 못한 상황이다. 정확성이 계속해서 개선될 거라 보고 있지만, 관계 기관과 연구해 나갈 예정"이라고 말했다. → 관련기사 3면([뉴스분석] 오류투성이 '챗GPT' 전문가 제언)

/고건기자 gogosing@kyeongin.com