그렇다면 AI는 선거 캠페인에서 어떻게 활용될까. 우선 선거에 드는 비용과 시간을 대폭 절감할 수 있게 된다. AI는 연설 원고나 선거 광고를 단시간에 작성할 수 있다. 또 지지자들에게 후원금을 모금하는 메일을 자동으로 보내는 것도 가능하다. 누구나 이미지 생성 AI를 통해 쉽게 선거 광고 등 정치적 콘텐츠를 만들 수 있다. 흔들리거나 마음을 정하지 못한 유권자에게 영향을 주는 선거 광고도 만들 수 있다.
내년 美 대선 AI 선거캠페인에 주목
비용·시간 절감 반면 허위정보 우려
진짜·가짜 구별 힘들땐 진실조차 의심
그러나 우려도 크다. 허위정보와 딥페이크(deepfake) 때문이다. 딥페이크란 AI 등을 사용해 만든 이미지나 동영상을 말한다. AI는 실제로는 일어나지 않았지만 현실성이 있는 가공의 이야기를 단시간에 간단히 대량으로 만들 수 있다. AI는 후보자의 목소리를 복제하여, 후보자를 가장한 선거 연설을 만들 수도 있다. 악의적으로 사실과 가짜 정보를 뒤섞어 정보를 유포한다면 선거를 혼란에 빠트릴 수 있다.
에릭 슈미트 전 구글 CEO는 2024년 미국 대선에서 가짜 정보가 넘쳐나면서 야기될 혼란을 경고하고 있다. 지난 4월 미국 공화당 전국위원회는 'Beat Biden'이라는 동영상을 공화당 공식 유튜브 계정에 공개했다. 해당 동영상에서는 '가장 약한' 바이든 대통령이 재선될 경우 어떻게 되는가. AI에게 묻고 답하도록 했다. AI만으로 만들어진 화상이 미대선 캠페인에서 선거 광고로 사용된 것은 최초다. 동영상에서는 중국의 대만 침략, 미국 경제의 혼란, 밀려오는 이민, 범죄의 증가 등 미국의 암울한 미래가 그려져 있다. 그 책임은 바이든 대통령에게 있다고 주장한다.
물론 이 시나리오는 픽션이다. 또 이 동영상에 등장하는 바이든 대통령과 해리스 부통령의 비주얼은 가짜다. 게시된 동영상에 작은 글씨로 AI에 의해 생성된 것이라는 면책사항이 기재돼 있다. 문제는 진짜와 가짜를 구별하기 어렵다는 점이다. 딥페이크가 실제 활용되는지와 상관없이 이런 종류의 콘텐츠를 만들 수 있다는 사실만으로 선거에 영향을 미칠 수 있다. 가짜가 넘쳐나면 진실한 정보조차 의심하게 된다. 사람들은 자신의 판단력이나 현실 사회에서 공유되는 것들에 대해 신뢰를 주지 않게 된다.
전자 워터마크·정치적 이용 제한도
전문가·법률가 지혜 모아 대책세워야
지난 5월 미국 민주당은 정치 광고에 AI를 사용했을 경우, 그 취지를 공개하도록 의무화하는 법률을 제안했다. 딥페이크 규제가 성범죄나 포르노 관련 영역에서 정치적 영역으로 확대되고 있다. 그러나 언론자유 보호 차원에서 딥페이크 규제에 반대하는 목소리도 있다. 미국은 수정헌법 제1조에 따라 표현의 자유 보장과 기업에 의한 선거광고를 포함한 선거운동에서의 표현의 자유를 보장하고 있기 때문이다. 무해한 딥페이크인 패러디나 다국어로의 더빙 등은 보호되어야 할 대상이라는 것이다.
하지만 'ChatGPT'를 만든 알트먼은 선거에 혼란을 주기 위해 AI를 이용하는 것은 중대한 문제이며, 정부의 규제가 필요하다고 주장한다. 이미 AI가 생성한 이미지에 전자 워터마크를 삽입하거나 서비스의 정치적 이용을 제한하는 기업도 있다. 더 큰 문제는 딥페이크가 국내에 국한되는 문제가 아니라는 점이다. 외국의 조직이나 외국인이 만든 딥페이크가 우리나라에서 허위정보를 확산시킬 수도 있다. 방송통신위원회는 가짜뉴스 근절을 내세우면서 언론사 등의 책임을 묻겠다고 한다. 그러나 선거에서는 악의적인 딥페이크를 어떻게 규제할 것인지가 더 중요하고 시급한 사안이다. 딥페이크가 선거는 물론 민주주의를 위협하는 수단으로 급속히 변화하고 있기 때문이다. AI 전문가와 법률가들이 지혜를 모아 서둘러 대책을 수립해야 할 때다.
/김민배 인하대 법학전문대학원 명예교수