[경인 Pick] 딥페이크 선거운동 첫 금지
작년 지구촌 가짜영상 정치 관여
기술 발전에 단속 여부 의구심도
허용·규제 기준 모호 실효성 우려
AI를 활용한 딥페이크 선거운동이 올해 22대 총선부터 처음으로 금지되면서 기대와 우려가 공존하고 있다.
허위사실 유포 등 선거에 부정적 영향을 주는 사례가 전 세계적으로 늘며 규제 취지에 공감하는 목소리가 있는 반면, 기술이 고도화되며 현실과 분간이 어려운 수준에 도달한 딥페이크 영상이 제대로 단속될 수 있을지에 대한 의구심도 제기되고 있다.
24일 중앙선거관리위원회(선관위)에 따르면 딥페이크 영상을 활용한 선거운동이 오는 29일부터 금지된다. 선관위는 딥페이크 감별반을 편성 운영하고 있는데 AI 기술로 만든 '실제와 구분하기 어려운' 가상의 음향·이미지·영상 등이 주요 금지 대상이다.
지난달 공직선거법이 개정돼 이번 총선 처음 금지되는 AI 딥페이크 영상은 지난 2022년 대통령 선거 당시 적극적으로 활용됐다. 국민의힘 윤석열 후보는 유권자들의 궁금증에 대해 응답해주는 '위키윤'을, 더불어민주당 이재명 후보는 직접 방문하지 못한 지역의 공약을 전달하는 '재밍'을 선거기간 내내 제작 유포했다.
딥페이크 기술 초창기인 대선 당시엔 큰 논란이 발생하지 않았지만, 지난해부터 인공지능 산업이 크게 발달하며 허위사실 유포 문제가 전 세계적으로 불거져 규제 필요성이 제기됐다.
실제 지난해 5월 튀르키예 대선에선 테러단체가 야당 후보를 지지하는 내용의 영상이 급속도로 퍼져 여당인 에르도안 대통령의 승리에 영향을 줬지만, 선거 후 딥페이크로 만들어진 가짜임이 밝혀졌다. 같은해 조 바이든 미국 대통령이 성소수자를 비하하는 발언의 영상도 SNS를 통해 급격히 확산됐는데 모두 딥페이크 조작 영상이었다.
반면 극도로 발달한 AI 기술과 SNS 등을 통해 급속도로 유포되는 딥페이크 영상의 특성상 선관위가 제대로 단속할 수 있을지에 대한 의문도 전문가들을 중심으로 제기되는 상황이다.
선관위가 편성한 딥페이크 감별 체계는 총 3단계로 진행되는데, 전국 59명의 모니터링단이 1차로 감별한 영상을 감별 프로그램이 2차로 확인한 후 3명의 AI 전문가가 최종 위법 여부를 결정한다. 문제는 경기도의 경우 5~6명이 배치된 1차 모니터링단이 딥페이크뿐 아니라 사이버선거범죄 전반을 담당해 업무가 과중하며 최종 감별 단계인 AI 전문가도 상주하지 않고 사안 발생 때만 참여하는 임시직인 등 쏟아지는 정보에 비해 단속 인력이 충분치 않다는 점이다.
또한 포토숍·그림판은 허용되지만, '고급·전문가버전 등 인공지능 기술을 활용한 기능이 포함된 프로그램으로 만든 영상은 제한 대상'이란 규제 기준도 모호해 실효성에 대한 우려도 나온다.
김명주 서울여대 정보보호학과 교수는 "딥페이크 영상이 가장 우려되는 점은 유권자들이 본인도 진짜인지 가짜인지 구분하지 못한 채 순식간에 공유, 유포한다는 점"이라며 "후보의 정당이 홍보용으로 만든 게 아닌 제3자 혹은 열성 당원들이 상대 비방용으로 만든 영상들이 선거 막판에 급증할 수 있다. 선관위가 관련 조직을 만들어 모니터링한다고 하지만, 동시에 관련 신고가 급증하면 기능이 어려울 우려가 있다"고 제언했다.
/고건기자 gogosing@kyeongin.com
