만약 국가정보·안보·재난사용 AI시스템에
잘못된 정보·데이터 입력된다면 심각한 문제
불순의도 조작 오류가능성 없다고 장담 못해
자주 사용하는 휴대폰 내비게이션 앱도 AI 기반으로 활용된다. 실시간 교통 상황을 반영해 최적의 길을 안내하는 휴대폰 내비게이션은 언제나 만족스럽다. 무엇보다 새로 생긴 도로나 각종 교통 정보를 실시간으로 자동 업데이트하는 기능은 정말 마음에 든다. 비가 내리는 어느 토요일 오후. 서울 양재동의 한 결혼식장에서 나와 여느 때처럼 휴대폰 내비게이션 앱을 켜는 순간 악몽이 시작됐다. 결혼식장에서 나오는 도로는 꽉 막혀 있었고, 도로공사로 직진을 우회하게 하거나 우회해야 할 길을 막아 놓은 곳도 있어서 내비게이션은 정신을 차리지 못했다. 계속 직진하라 하는데 길은 막혀 있고, 어찌 돌아 다른 길로 돌아서면 왔던 길로 다시 가라고 했다. 일단 내비게이션을 무시하고 방향감각에 의지해 한강 방향으로 차를 몰았다. 일단 한강 쪽으로 가면 인천으로 가는 길을 쉽게 찾을 수 있기 때문이었다.
이래저래 도로표지판에서 한강에 있는 '대교'를 찾았다. 어느 대교인지는 중요하지 않았다. 한강에 있는 대교만 찾으면 충분했다. 공사 구간이 끝나고 큰길로 들어서면서 내비게이션이 길을 안내하기 시작했다. 50여분 뒤면 집에 도착한다는 메시지가 화면 하단에 떴다. 내비게이션은 북쪽 한강 방면이 아닌 남쪽을 가리켰다. 서울 길은 잘 몰라도 큰 사거리나 공공건물, 지하철역 이름쯤은 들어본 터라 운전하면서도 대충 여기가 어디쯤 되겠거니 했다. 그날 기억으로 내비게이션은 과천 쪽으로 안내했다.
과천 방향으로 가던 중 내비게이션은 갑자기 인천 반대방향으로 길을 안내했다. "AI 기반으로 하는 시스템이라 가는 길에 사고가 있거나, 교통체증이 심해 우회하나 보다" 생각했다. 화면 아래에도 도착 예정시간도 얼마 남지 않았다고 알려주니 조금만 돌아가면 되겠다 싶었다. 그런데 집에 도착하는 예정 시간은 얼마 남지 않았는데 정작 내비게이션은 인천 반대방향으로 안내하고 있었다. 아차 싶어 다시 목적지를 확인했다. 'OO 2차 아파트' 이름은 같은데 인천 미추홀구가 아닌 수원 권선구에 있는 같은 이름의 'OO 2차 아파트'였다. 혼자였기 다행이지 일행이 있었다면 엄청나게 구박을 받을 뻔했다.
"AI는 개뿔, 집도 못 찾아주는데." 처음엔 화가 나더니 나중에는 나 자신이 한심하게 느껴졌다. "나이도 얼마 되지 않았는데 벌써…." 곰곰이 생각해보니 내비게이션은 아무 잘못이 없었다. 처음부터 입력을 잘못했기 때문에 벌어진 일이었다. "전화번호 잘못 눌러놓고 전화기한테 화낼 수는 없지 않은가. 어쩐지 출발부터 정신없더라니…." 수원 인근에서 내비게이션 목적지를 인천 집으로 바꿔 입력했다.
그날의 일은 단순한 실수였지만 만일 국가정보나 안보, 재난에 사용하는 AI 시스템에 잘못된 정보와 데이터가 입력된다면 단순히 길을 잘못 찾는 일과는 전혀 다른 일이 벌어질 수도 있다는 생각에까지 미쳤다. 물론 그럴 가능성은 매우 낮다. 하지만 전체 정보 중 일부가 손상됐거나, 잘못된 데이터라면. 누군가의 실수로 그런 일이 벌어진다면. 반대로 불순한 의도를 갖고 AI를 조작한다면. AI도 사람이 입력한 정보와 데이터를 기반으로 작동한다는 점에서 오류가 발생할 가능성이 없다고 장담할 수 있겠는가. 내비게이션 잘못 입력해놓고 AI 조작설까지…. 오지랖이지 싶다.
/이진호 인천본사 사회부장