전문가도 식별하기 힘들게 발전
선거에 악용되면 중차대한 범죄
유권자 판단 악영향… 결과 왜곡
SW공급망·모바일 기기·IoT 등
사이버공격·해킹 막을 대책 필요

김헌수-전략인재연구원대표.jpg
김헌수 전략인재연구원장·교수
올해는 우리나라를 비롯 세계 여러 곳에서도 주요 선거가 예정된 가운데 구글, 메타, 틱톡, 애플, MS 등 세계적인 테크들이 '생성형 AI(인공지능)'를 활용한 '딥페이크' 확산을 막기 위해 사용 제한에 주의를 기울이고, 국내 주요 포털에서도 이에 대한 대비책을 준비하고 있다. AI로 만들어진 이미지에 태그를 붙이거나 AI가 생성한 콘텐츠를 자동 감시하는 대응책을 개발하는 등의 여러 조치도 취하고 있으나 해외에 본사를 둔 글로벌 기업들에 대해서는 정부에서 손도 거의 못대고 있는 실정이다.

딥페이크(deepfake)란, 딥러닝(deep learning) 기술과 가짜(fake)를 합친 용어로, 영상이나 사진 등의 매체를 통해 실제로는 존재하지 않은 상황이나 말을 만들어 내는 기술을 가리킨다. 이는 일반적으로 인물의 얼굴을 합성하여 다른 사람으로 보이게 하거나, 원래 없던 상황을 만들어내는 등의 조작기술도 의미하며, 유권자의 판단력을 혼란스럽게 함으로써 개인 정체성을 왜곡하는 데 사용할 수도 있다. 이 기술은 전문가도 쉬이 식별하기 힘든 수준까지 발전했으며, 총선에 악용된다면 민주주의의 중차대한 범죄로 전환될 가능성이 농후하다.

지난 총선에선 사전투표에서 부정선거에 대한 이의제기를 한 사례가 있었으나, 오는 총선에선 후보자나 지인이 경쟁 후보자에 대해 가짜뉴스인 딥페이크를 숏폼으로 SNS에 전파하는 데에 우려스러움도 있다. 연초 공직선거법 개정으로 딥페이크를 활용한 선거운동은 더 이상 금지되었지만, 유권자가 종합적으로 판단하는 이 영역의 어딘가를 거짓으로 만든다면, 후보자의 정체성이 침해돼 유권자의 판단에 악영향을 미쳐 결과적으로 왜곡시킬 수도 있다.

총선에 생성형 AI에 대한 염려스러움과 어떠한 영향을 미칠지에 대해서도 자세히 알아보자. 인공지능의 한 분야인 생성형 AI는 주어진 데이터를 학습하여 새로운 콘텐츠를 생성하고 평가하는 능력을 갖춘 시스템으로 심지어 이미지 생성, 음성 합성의 영역에서도 활용되며 나아가선 그림 그리기나 음악 작곡을 비롯 창작작업의 수행도 가능할 정도로 진화됐다.

우리를 비롯 전 세계는 IT 기술이 빠르게 발전하면서 사이버 공격 역시 급변하고 있고, 마치 사람처럼 생각하고 학습하는 '생성형 AI'가 우리 산업 전반에 큰 영향을 미치면서 이를 교묘히 악용하는 공격도 오는 총선에 대비해야 된다. 특히 22대 총선에서 이와 관련한 사이버 공격이나 해킹이 이뤄지지 않는다는 보장도 없다. 가령 소프트웨어(SW) 공급망과 모바일 기기, 사물 인터넷(IoT)과 운영기술(OT), 제반 시스템을 모두 노린 공격도 예상해야 한다.

최근 '챗GPT'가 여러 사람으로부터 큰 호감을 얻음과 동시에 전 세계 사람들로부터 관심이 급증하고 있는 GPT도 생성형 AI의 한 분야면서 OpenAI에서 개발한 모델로, GPT는 대규모 텍스트 데이터나 문맥을 학습하고, 주어진 입력에 기반 여러 단어나 문장을 예측하고 응답을 생성하기도 하는 데에 사이버 공격자 역시 생성형 AI 기술 분야를 주목한 계기가 됐다.

특별히 습득한 기술은 공격과 선거현장에서 실제화하는 계기가 될 것이라 예측하면서 각 보안프로그램의 제로데이 취약점이나 SW 공급망에도 공격이 더 확대될 것이란 전망도 있다. '오는 총선에 딥페이크와 생성형 AI 대비책'은 제대로 마련돼 있는지 우려스럽다. 유권자는 총선에서 후보를 선택할 때 일반적으로 후보자가 제시한 정책과 공약, 지역사회에 기여한 정도를 비롯한 얼굴과 말투, 참신성 등 여러 사항을 판단하여 선택하는 것이 보편적이다.

그 외 후보자를 선택할 때 '개인'에 대한 능력과 인물, 도덕성과 정책, 공약과 공천한 정당의 고려를 3:3:3 정도로 분석하는 것이라 한다. 딥페이크나 생성형 AI 기술은 하루가 달리 급속도로 발전하고 있어, 이 기술이 총선에서 '후보자의 정체성'을 왜곡시키고 유권자를 오도하며 부정직한 인물을 선택하도록 유도하는 행위는 민주주의 근간을 심각하게 흔드는 중대한 범죄로, '딥페이크나 생성형 AI, 사이버 해킹' 등에 대한 철저한 대비책도 꼭 필요하다.

/김헌수 전략인재연구원장·교수