[이슈추적] "음란물 합성 범죄 그만"… 사건 터지자 뒷북 대응

활개치는 딥페이크… 입법은 여전히 지지부진

현실과 구분 어려울 정도로 발전
일반인 무료로 이미지 생성 가능
1~7월 성착취 범죄신고 총 297건

다수 IT대기업 도구엔 처벌 규정
사설 개발자 영상물은 제한 못해
오남용 대응할 기본법 국회 계류

구글의 이미지 AI 도구인 '이마젠3(Imagen3)'를 통해 생성한 이미지. '대한민국 수원에서 많은 사람들이 음식을 먹고 있다'는 텍스트를 입력해 생성된 결과로, 실제 수원의 남문시장과 유사한 모습의 이미지가 생성됐다. /이마젠3 제공

AI(인공지능) 이미지 기술력이 현실과 구분이 어려울 정도로 발전된 가운데, 이같은 기술력이 각종 딥페이크 범죄와 연계돼 막대한 사회적 파장을 불러일으키고 있다.



텔레그램과 X(옛 트위터) 등 SNS를 타고 피해자의 성적 허위 사진이 무차별적으로 퍼지고 있기 때문인데, 대통령까지 나서는 등 정부와 경기도가 대응에 나서고 있다.

그러나 고도화된 기술력에 비해, 그간 관련 입법이 지지부진해 재발 방지나 가해자 추적이 어려워 피해가 커질 것이란 우려가 깊어지고 있다.

경찰청에 따르면 지난 1∼7월 딥페이크 성 착취 범죄 신고는 전국에서 총 297건 접수됐다. 최근에도 텔레그램에서 지인 여성의 얼굴에 음란물을 합성한 허위 영상물이 생성·유포되는 단체 대화방이 대규모로 발견되며 논란에 불을 지폈다.

■ 10초면 뚝딱… '진짜' 구분 어려운 AI 이미지

인공지능 이미지는 챗GPT 등으로 생성형 AI가 화제되며 시장이 대폭 확대됐고, 그만큼 기술력도 빠른 속도로 증가했다. 지난해 9월 챗GPT 개발사인 오픈AI가 공개한 '달리3'와 일론 머스크가 X의 유료 이용자만 이용 가능하도록 개발한 '그록2'에 이어 지난 15일엔 최대 검색엔진 기업 구글이 '이마젠3(Imagen3)'를 발표했다.

이날 경인일보는 실제 '이마젠3(Imagen3)'에 '대한민국 수원에서 많은 사람들이 음식을 먹고 있다(Many people are eating food in Suwon, South Korea)'라는 텍스트의 이미지를 생성하도록 직접 의뢰해 봤다.

영문으로 텍스트 입력 후 '만들기'를 누르자, 10초 정도 '생성중'이란 안내가 나오더니, 한 전통시장 같은 곳에서 사람들이 장을 보거나 식사하는 이미지가 생성됐다. 언뜻 보면 수원의 명물인 남문시장 통닭거리가 연상될 정도로 실제 장소와의 구별이 어렵다.

이어 '지하철과 광역버스 등을 이용해 출근하는 경기도민들의 모습'을 이마젠3에 의뢰하자, 지하철역 출입구 양쪽으로 차들이 즐비한 모습의 이미지가 생성됐다. 이 역시 수원역 환승센터가 연상됐다.

구글의 이미지 AI 도구인 '이마젠3(Imagen3)'를 통해 생성한 이미지. '지하철과 광역버스 등을 이용해 출근하는 경기도민들의 모습'이라는 텍스트를 입력해 생성된 결과. /이마젠3 제공

■ 일반인도 제작 가능…규제 빈틈에 범죄 위험↑

앞선 구글의 이마젠3은 일반인도 무료로 이용할 수 있다. 물론 구글을 포함한 다수의 IT 대기업이 만든 AI 이미지 도구는 딥페이크 범죄 방지를 위해 유명 인사 등의 합성을 제한하거나 제작 배포 시 처벌한다는 책임 규정을 만들어 놓은 상태다.

문제는 사설(私設) 개발자가 이에 기반해 불법으로 제작한 소프트웨어가 딥페이크 영상물을 무분별하게 제작하고 있어도 국내법으로 제한할 방법이 없다는 점이다.

서울대와 인하대 등 100개 이상 학교에서 텔레그램 딥페이크 성범죄 피해가 드러난 텔레그램 방도 해외 개발자가 만든 봇(반복 작업을 수행하는 소프트웨어)으로 허위 사진이 제작되고 있는 것으로 드러났다.

현재 인공지능 이미지 등의 위험성 평가나 워터마크 생성, 처벌 규정 등 오남용에 대응할 'AI 기본법'은 국회에 계류 중인 상태다. 앞선 21대 국회에서도 관련 법안이 7개 이상 발의됐지만, 모두 문턱을 넘지 못해 폐기됐다.

■ 뒤늦은 대응… "입법 개선돼야"

방송통신심의위원회는 이날 긴급회의를 소집해 텔레그램 피해 신고 접수와 모니터링을 강화하고, 경찰 수사 의뢰 등 할 수 있는 모든 조처를 하겠다고 밝혔다. 방통위는 이미 지난해 총 7천187건의 시정 요구를 했고, 올해도 7월 말까지 전년의 90%에 달하는 6천434건에 대해 시정 요구를 결정한 바 있다.

경기도 역시 교육청, 경찰청, 도 젠더폭력통합대응단 등과 상황공유와 대응을 협의하기 위한 회의를 열고 대응단을 통해 불법 영상물 삭제와 모니터링, 수사 및 법률 지원에 나서기로 했다.

김명주 서울여대 정보보호학부 교수는 "AI 기본법뿐 아니라 저작권법, 정보통신망법, 아동청소년보호법 등 AI의 기술력이 발전하면서 개선해야 할 법들은 다양하다. 범죄 예방을 위해선 이 법들이 유기적으로 안전 보장을 위해 개정돼야 할 것"이라며 "AI 이미지 툴이 보급되며 청소년 등 호기심으로 사용하는 계층도 늘고 있다. 지인 합성 등은 범죄가 될 수 있다는 등의 교육도 뒷받침돼야 한다"고 강조했다. 

→ 관련기사 (경기도교육청 '말로만' 딥페이크 범죄 대응)

/고건기자 [e-mail]

• 이슈추적