딥페이크 성범죄

여학생 얼굴 나체 사진에 합성… ‘성 착취물’ 유포한 고등학생 재판행

사회관계망서비스(SNS)에서 딥페이크 기술로 제작된 성 착취물을 받아 유포한 고등학생이 재판에 넘겨졌다. 인천지검 여성아동범죄조사부(부장검사·정희선)는 아동·청소년의 성보호에 관한 법률상 성 착취물 소지·배포 등 혐의로 고등학생 A군을 불구속 기소했다고 3일 밝혔다. A군은 지난해 12월 사회관계망서비스(SNS)를 통해 받은 성 착취물을 유포한 혐의를 받고 있다. 그는 트위터를 통해 알게 된 남성으로부터 B양(10대)의 얼굴과 나체 사진을 합성한 성 착취물을 건네받고서 B양의 친구에게 보낸 것으로 파악됐다. A군과 B양은 서로 모르는 사이이며, B양 사진을 제공한 남성은 확인되지 않았다. 앞서 경찰은 A군에게 성폭력범죄의 처벌 등에 관한 특례법상 허위 영상물 제공 혐의로 적용해 송치했으나 검찰은 아동·청소년의 성보호에 관한 법률 성 착취물 소지·배포 등 혐의를 추가로 적용했다. 성폭력범죄의 처벌 등에 관한 특례법만으로는 배포할 의도 없이 허위 영상물을 제작·소지하면 관련자를 처벌할 수 없다. 반면 아동·청소년성보호법을 적용하면 아동·청소년을 대상으로 한 허위 영상물은 성 착취물에 해당해 배포 의도가 없었다 해도 처벌할 수 있다. 검찰 관계자는 “A군이 초범이고 소년범이지만, 사안의 중대성을 고려해 기소했다"며 “앞으로 허위 영상물을 이용한 디지털 성범죄에 엄정 대응하겠다"고 말했다. /변민철기자 bmc0502@kyeongin.com

2024-09-03 변민철
딥페이크 범죄 온상 전락… 경찰, 텔레그램 법인 내사 지면기사

성범죄 논란 여파가 커지고 있는 '딥페이크(허위 이미지 합성물)' 수사에 경찰이 속도를 내고 있다. 관련 성착취물이 주로 오고 간 텔레그램의 법인을 상대로 내사에 나섰고, 경기남부에선 올해에만 벌써 30건 넘는 딥페이크 피해 사건을 검찰에 넘겼다.우종수 경찰청 국사수사본부장은 2일 정례 기자간담회에서 "서울경찰청이 텔레그램 법인에 대해 입건 전 조사(내사)에 착수했다. 혐의는 이번 범죄(허위영상물 등 범죄) 방조에 대한 것"이라고 말했다. 그러면서 폐쇄형 사회관계망서비스(SNS)인 텔레그램의 수사가 쉽지 않지만 적합한 수사기법이나 국제기구 공조 등으로 최선을 다하고 있다고 설명했다.이날 오전 김준영 경기남부경찰청장도 기자간담회를 통해 올해 1월부터 7월까지 접수된 총 58건의 딥페이크 피해 사건 중 31건을 현재 수사하고 있다고 밝혔다. 이 중 23건은 피해자가 미성년자다. 과거부터 현재까지 경기남부 경찰이 피의자를 붙잡은 딥페이크 피해 관련 사건 수는 총 31건에 달한다. 경기남부 경찰은 딥페이크 범죄에 보다 효과적으로 대응하기 위해 최근 50명 이상 규모의 TF(태스크포스)를 설치해 운영하는 등 수사에 총력을 다하고 있다. /김준석기자 joonsk@kyeongin.com경기남부경찰청 전경. /경인일보DB

2024-09-02 김준석
학교 덮친 딥페이크 성범죄 '쏟아지는 피해신고' 지면기사

전교조, 실제 사례 517건 파악 최근 학교와 대학가를 덮친 '딥페이크 성범죄' 피해 규모가 구체화하고 있다. 딥페이크 성범죄는 지인의 사진을 음란물과 합성해 사회관계망서비스(SNS) 등에 유포하는 행위로, 피해를 입었다는 교사와 학생들의 신고가 쏟아지는 상황이다.전국교직원노동조합(이하 전교조)은 지난 27~28일 전국 초·중·고 교사와 학생을 대상으로 '학교 딥페이크 성범죄 긴급 점검 및 실태조사'를 실시해 2천492건의 신고를 접수했다고 29일 밝혔다. 전교조는 이 중 517건을 실제로 성범죄물이 제작·유포된 피해 사례로 파악했다.인천시와 경기도에서도 교사와 학생들의 피해 의심 신고가 잇따르고 있다. 인천 지역에서 이 기간 접수된 신고는 총 63건이며, 이 중 전교조가 파악한 실제 피해사례는 16건이다. 경기도에서는 총 376건의 피해 의심 사례를 접수했는데, 이 중 77건에 대해 성범죄물이 제작·유포된 사실을 확인했다. 인천 계양구 한 고등학교 교사 2명은 최근 피해 사실을 인지해 경찰에 진정서를 제출했다. 경찰은 같은 학교 학생 A군을 성범죄물 제작·유포자로 특정해 불구속 입건하고, A군 휴대전화에 대한 디지털포렌식 등 수사를 진행 중이다. 구체적인 범행 경위와 추가 피해 여부 등을 조사하고 있다. 앞서 전교조 인천지부도 자체 조사로 인천 한 고등학교 여학생의 피해 사실을 밝혀내기도 했다.전교조는 전국적으로 딥페이크를 활용한 성범죄 피해가 급격히 확산하는 만큼 정부 차원의 신속한 대응과 긴급 조치가 이뤄져야 한다고 주장했다. /김희연기자 khy@kyeongin.com전국교직원노동조합 관계자들이 29일 오전 서울 종로구 정부서울청사 앞에서 학교 불법합성물(딥페이크) 성범죄 실태조사 결과 발표 기자회견을 하고 있다. 2024.8.29 /연합뉴스

2024-08-29 김희연
경기도여성가족재단, 딥페이크 피해 긴급 대응에 ‘총력 지원’

경기도여성가족재단 경기도젠더폭력통합대응단이 최근 사회적 문제로 떠오른 딥페이크 불법 영상물 확산 저지에 나섰다. 대응단은 디지털성범죄 피해자 원스톱 지원센터를 통해 딥페이크 피해자를 위한 다양한 지원을 제공하는 한편, 피해사실 확인 후 전화(1544-9112)로 신고할 것을 당부했다. 경기도디지털성범죄피해자 원스톱 지원보고서에 따르면, 불법합성 및 도용 피해로 인한 지원 건수는 디지털성폭력 관련 피해 건수 대비 2021년 777건 중 21건(2.7%), 2022년 764건 중 25건(3.3%), 2023년 709건 중 36건(5.1%)으로 증가 추세다. 지난 28일 기준, 불법합성 및 도용 피해로 인한 지원 건수는 561건 중 23건으로 집계됐으며, 향후 딥페이크 피해 확인 정도에 따라 피해 지원 건수는 증가할 것으로 전망된다. 센터의 지원이 필요한 경우 불법 영상물 유포 상황에 대한 모든 자료를 수집해 전화(1544-9112) 및 카카오톡(031cut)으로 24시간 신고 및 상담을 받을 수 있다. 또 대응단 홈페이지(www.majubom.kr)의 챗봇을 통해 문의할 수 있으며, 핫라인(031-1366)을 통해 24시간 365일 상담도 가능하다. 이외에도 대응단 디지털성범죄 피해자 원스톱 지원센터는 불법 영상물의 삭제 및 모니터링(삭제지원:플랫폼에 삭제 요청, 모니터링:유포 위험이 있는 불법 영상물 유포 확인(텔레그램 제외))지원, 수사 및 법률지원, 전문 심리상담 지원 등 디지털성범죄 피해자를 위한 지원체계를 갖추고 있다. 대응단 관계자는 “딥페이크 등 디지털 성범죄 피해는 초기 대응이 가장 중요하며, 경기도의 초기 대응 매뉴얼을 숙지해야 한다"며 “대응단은 디지털 성범죄 피해를 예방하기 위해 가능한 모든 조치를 할 것"이라고 말했다. /유혜연기자 pi@kyeongin.com

2024-08-29 유혜연
딥페이크 성범죄 쏟아진다… 전교조 전국서 2492건 신고 접수

최근 학교와 대학가를 덮친 '딥페이크 성범죄' 피해 규모가 구체화하고 있다. 딥페이크 성범죄는 지인의 사진을 음란물과 합성해 사회관계망서비스(SNS) 등에 유포하는 행위로, 피해를 입었다는 교사와 학생들의 신고가 쏟아지는 상황이다. 전국교직원노동조합(이하 전교조)는 지난 27~28일 전국 초·중·고 교사와 학생을 대상으로 '학교 딥페이크 성범죄 긴급 점검 및 실태조사'를 실시해 2천492건의 신고를 접수했다고 29일 밝혔다. 전교조는 이 중 517건을 실제로 성범죄물이 제작·유포된 피해 사례로 파악했다. 인천시와 경기도에서도 교사와 학생들의 피해 의심 신고가 잇따르고 있다. 인천 지역에서 이 기간 접수된 신고는 총 63건이며, 이 중 전교조가 파악한 실제 피해사례는 16건이다. 경기도에서는 총 376건의 피해 의심 사례를 접수했는데, 이 중 77건에 대해 성범죄물이 제작·유포된 사실을 확인했다. 인천 계양구 한 고등학교 교사 2명은 최근 피해 사실을 인지해 경찰에 진정서를 제출했다. 경찰은 같은 학교 학생 A군을 성범죄물 제작·유포자로 특정해 불구속 입건하고, A군 휴대전화에 대한 디지털포렌식 등 수사를 진행 중이다. 구체적인 범행 경위와 추가 피해 여부 등을 조사하고 있다. 앞서 전교조 인천지부도 자체 조사로 인천 한 고등학교 여학생의 피해 사실을 밝혀내기도 했다.(8월 29일자 1면 보도) 전교조는 전국적으로 딥페이크를 활용한 성범죄 피해가 급격히 확산하는 만큼 정부 차원의 신속한 대응과 긴급 조치가 이뤄져야 한다고 주장했다. 특히 피해 사실 파악, 디지털 기록 삭제를 위한 행정·재정적 지원책 마련, 구체적인 피해자 지원 방안 마련 등 매뉴얼 수립이 시급하다고 보고 있다. 전교조 관계자는 “피해 신고에 대해 추가 검증 등을 추진하고 있지만, 아무래도 수사기관이 아니다 보니 조사에 한계를 느낀다"며 “불안감을 호소하는 교사와 학생이 많은 만큼 수사기관이 나서서 빠르게 피해를 확인하고 대응해야 한다"고 강조했다. /김희연기자 khy@kyeongin.com

2024-08-29 김희연
또래 여학생 ‘딥페이크’ 제작한 중학생 검찰행… 촉법소년 아니다

용인시에서 또래 여학생을 대상으로 딥페이크 이미지를 제작한 중학생이 검찰에 송치됐다. 용인서부경찰서는 아동·청소년의 성보호에 관한 법률 위반(성 착취물 제작) 혐의로 중학생 A군을 지난 20일 불구속 송치했다고 29일 밝혔다. A군은 음란물 합성 프로그램으로 같은 학교에 재학 중인 여학생 B양 등을 포함해 4명의 사진을 이용해 딥페이크 이미지를 제작한 혐의를 받는다. A군은 형사미성년자(만 14세 미만)에 해당하지 않아 촉법소년으로 분류되지 않는 것으로 확인됐다. 앞서 B양은 A군의 휴대전화에서 자신의 딥페이크 이미지를 발견해 지난달 1일 A군을 경찰에 고소했다. 경찰 조사과정에서 A군은 B양 외에도 3명의 여학생을 상대로 딥페이크 이미지를 제작한 사실이 드러났다. 다만 해당 이미지를 유포하진 않은 것으로 조사됐다. 경찰 관계자는 “A군의 혐의가 충분히 소명돼 불구속 송치했다"고 밝혔다. /김지원기자 zone@kyeongin.com

2024-08-29 김지원
“딥페이크 성범죄, 막을 순 없었나?” 전국 여성단체 디지털 성범죄 대책 마련 요구

한국여성단체연합이 딥페이크 기술을 이용한 성착취물 제작 등 디지털 성범죄를 막기 위한 종합대책을 마련하라고 정부에 촉구했다. 인천여성회, 인천여성연대 등 전국 84개 단체가 모인 한국여성단체연합은 29일 성명을 내고 “정부는 디지털 성범죄가 재발하지 않도록 종합적인 대책을 마련해야 한다"면서 “디지털 성범죄의 근본적인 원인인 여성혐오를 해결해야 한다"고 주장했다. 한국여성단체연합은 “2016년 폐쇄된 온라인 커뮤니티 '소라넷'에 주변 여성들을 모욕하기 위한 성착취물이 게시됐을 때 정부는 디지털 성범죄를 막기 위한 근본적인 대책을 마련했어야 한다"며 “지금 정부가 내놓고 있는 대책들은 이미 시행 중이었어야 한다"고 지적했다. 정부는 최근 디지털성범죄피해자지원센터와 경찰청이 연계해 피해 영상물을 삭제하고, 텔레그램과 직접 디지털 성범죄에 대해 논의할 수 있는 핫라인을 확보하겠다고 했다. 이들은 여성가족부가 성평등 컨트롤타워로서 디지털 성범죄 피해자 지원과 방지를 위해 나서야 한다고 강조했다. 이들은 “윤석열 정부는 구조적인 성차별은 없다며 여성가족부 폐지를 추진하고 있지만, 최근 이슈가 된 딥페이크 성범죄의 원인은 구조적인 성차별"이라며 “2023년 정부가 대폭 삭감한 여성폭력 피해자 지원과 방지를 위한 예산을 복원하고 여성가족부의 역할을 확대해야 한다"고 했다. 또 방송통신위원회와 방송심의위원회에 성착취물 생성과 유통을 예방하기 위한 온라인 플랫폼 규제 방안을 마련하라고 했다. 이와 함께 온라인 공간에 퍼져 있는 여성혐오 문화를 뿌리 뽑아야 한다고 강조했다. 이들은 “그동안 소라넷, 텀블러, 트위터 등 온라인 플랫폼에서 벌어진 디지털 성범죄가 여성혐오 범죄라는 것을 외면한 결과, 여성을 성적으로 착취하는 것이 온라인 공간에서 남성들의 놀이문화로 자리잡았다"며 “여성들을 동등한 인간으로 바라보지 않는 온라인 문화를 근절하기 위한 방안을 모색해야 한다"고 강조했다. /정선아기자 sun@kyeongin.com

2024-08-29 정선아
교사 얼굴로 ‘딥페이크’ 사진 만들어 유포한 인천 고등생 경찰 수사

인천 한 고등학생이 같은 학교 여교사들의 얼굴을 나체사진에 합성한 뒤 사회관계망서비스(SNS)에 유포해 경찰에 적발됐다. 인천남동경찰서는 성폭력범죄의 처벌 등에 관한 특례법 위반 혐의로 10대 A군을 불구속 입건했다고 29일 밝혔다. A군은 지난달 계양구 한 고등학교 교사 2명의 얼굴을 '딥페이크' 기술로 나체사진에 합성해 SNS에 유포한 혐의다. 앞서 해당 교사들은 합성물 유포 피해를 인지한 뒤 경찰에 진정서를 제출했다. 경찰은 수사를 벌여 성범죄물 제작·유포자로 A군을 특정했다. 경찰은 A군 휴대전화에 대한 디지털포렌식를 진행하는 등 구체적인 범행 경위를 확인 중이다. 작업을 마치는 대로 A군을 불러 조사할 예정이다. /김희연기자 khy@kyeongin.com

2024-08-29 김희연
전교조 "인천서도 여고생·교사 딥페이크 피해" 첫 확인 지면기사

시교육청 "사례없다" 하루만에지부, 21개 의심학교 자체 조사교육부, 전국 179건 수사 의뢰 사회관계망서비스(SNS)를 통해 유포하는 '딥페이크 성범죄'에 대한 불안감이 중·고등학교와 대학가를 중심으로 확산하는 가운데 인천에서도 관련 피해를 입은 청소년 학생이 있는 것으로 처음 확인됐다.28일 경인일보 취재를 종합하면 전국교직원노동조합(이하 전교조) 인천지부는 최근 인터넷 커뮤니티 등에서 인천지역 피해 의심 학교로 지목된 고등학교 18곳, 중학교 3곳의 학생, 교사, 교직원 등에 대한 자체 조사를 벌여 이 같은 사실을 파악했다.전교조 인천지부는 지인의 얼굴을 음란물과 합성해 공유하는 텔레그램 '능욕방'에 인천 한 고교 여고생의 사진이 유포된 것을 포착해 구체적인 피해 상황을 확인하고 있다.또 인천 부평 한 고교에서 교사가 관련 피해를 본 사례도 접수했다.인천시교육청이 최근까지 인터넷 커뮤니티에서 피해 의심 학교로 지목된 학교 20여곳에 대해 조사를 했지만, 별다른 피해 사례를 확인하지 못했다고 밝힌 지 하루 만에 전교조 인천지부가 첫 피해 사실을 공개한 것이다.전교조 인천지부 관계자는 "현재까지 파악한 중·고등학교 딥페이크 피해 사례는 2건 정도"라며 "29일까지 상황을 지켜본 후 대응 방안을 논의할 계획이지만, 피해자 개인정보 보호를 위해 구체적인 내용을 알려주긴 어렵다"고 말했다.인천지부와 별도로 전교조는 지난 27일부터 전국에서 진행 중인 딥페이크 피해 관련 긴급 실태조사에 대한 결과를 29일 발표할 예정이다. 인천시교육청은 딥페이크 범죄에 적극 대응하기 위해 30일부터 '딥페이크 관련 유관기관 협의체'를 운영하기로 했다. 인천시, 인천경찰청, 인천디지털성범죄예방대응센터와 함께 협의체를 구성해 학교 피해 사례 파악, 심리상담 지원, 수사 연계 등 대응 방안을 논의하고, 디지털 성범죄 예방 교육 자료를 각 학교에 제작·배포할 계획이다.인천시교육청은 또 28일 인천지역 모든 학교에 공문을 보내 '학교폭력 사안 처리 온라인 시스템'에 피해 사실을 신고할 수 있도

2024-08-28 변민철
현장 교사들에게도 엄습한 ‘딥페이크 공포’

여성 얼굴에 음란물을 합성한 '딥페이크' 불법 영상물 유포 피해를 겪었다는 신고가 학생뿐 아니라 교사들 사이에서도 나오면서, 경기도 내 현장 교사들의 불안감이 증폭하고 있다. 수원의 한 고등학교 교사 구모씨는 학생들의 딥페이크 피해 상황을 예의주시하면서도 스스로가 피해 당사자가 되진 않을지 걱정을 놓지 못하고 있다. 최근 몇 년 새 휴대폰과 태블릿PC 등 촬영이 가능한 전자기기가 수업시간에 잦은 빈도로 활용되면서 자신도 모르게 사진 등 개인 신상이 노출될 위험이 커졌다고 한다. 구씨는 “코로나19 이후 비대면 화상수업을 포함해 전자기기를 통한 수업이 늘어난 것은 마음만 먹으면 학생들뿐 아니라 교사의 모습을 불법으로 촬영할 수 있는 여건이 커진 것을 의미한다"며 “학교에서 딥페이크 피해 학생의 사례를 실제 접하기도 하면서 (나도) 얼마든지 피해를 겪을 수도 있겠구나 하는 생각을 하고 있다"고 했다. 어린 아이들을 마주하는 유치원 교사라고 딥페이크 피해에서 자유로운 건 아니다. 학부모 참여 행사가 많은 데다, 참여 학부모들이 행사에서 사진과 동영상 촬영을 일상적으로 하는 게 곧 신상 노출로 이어질 수 있다는 점을 걱정하고 있다. 화성에서 공립유치원 교사로 일하는 양모씨는 “행사 때마다 자녀들한테만 포커싱을 하게 하거나, 촬영을 최대한 자제하도록 말씀드려도 개의치 않고 무분별하게 사진과 동영상을 찍으시는 분이 많다"며 “교사에게 앙심을 품은 학부모들이 인터넷 카페나 유튜브에 신상을 박제하는 경우도 전해들었는데, 자연히 딥페이크 피해로 이어질 수 있다는 생각에 심리적으로 불안하다"고 토로했다. 28일 교육부에 따르면 전국 17개 시도교육청이 교육부에 제출한 올해 1월부터 지난 27일까지 학생·교원 딥페이크 피해 신고 건수는 총 196건에 달하며 이 가운데 교원 피해 신고도 10건 확인됐다. 교사와 학생 사이의 특수관계 등을 고려해 피해 사실을 알리기를 꺼리는 경우가 있고, 피해 사실 자체를 인지하지 못한 사례 등까지 포함하면 실제 피해 건수는 이보다 많은 것으로 추정된다. 최근 전교조 자체 점검 결과 비수

2024-08-28 조수현
학교까지 파고든 '딥페이크'… 대한민국, 얼굴을 들 수 없다 지면기사

학생들 불법 영상물 유포 피해 속일상적 촬영 사진·동영상 위험성교사들, 개인신상 노출될라 '벌벌'경기 교원단체들, 대책 마련 촉구 AI 기술발전과 함께 '딥페이크' 기술력이 각종 범죄와 연계돼 논란(8월28일자 1면 보도=[이슈추적] "음란물 합성 범죄 그만"… 사건 터지자 뒷북 대응)인 가운데, 딥페이크 공포가 사회 전반으로 확산되는 모양새다.특히 여성 얼굴에 음란물을 합성한 '딥페이크' 불법 영상물 유포 피해를 겪었다는 신고가 학생뿐 아니라 교사들 사이에서도 나오면서, 현장 교사들의 불안감이 증폭되고 있다.수원의 한 고등학교 교사 구모씨는 학생들의 딥페이크 피해 상황을 예의주시하면서도 스스로가 피해 당사자가 되진 않을지 걱정을 놓지 못하고 있다. 최근 몇 년 새 휴대폰과 태블릿PC 등 촬영이 가능한 전자기기가 수업시간에 잦은 빈도로 활용되면서 자신도 모르게 사진 등 개인 신상이 노출될 위험이 커졌다고 한다.어린아이들을 마주하는 유치원 교사라고 딥페이크 피해에서 자유로운 건 아니다. 학부모 참여 행사가 많은 데다, 참여 학부모들이 행사에서 사진과 동영상 촬영을 일상적으로 하는 게 곧 신상노출로 이어질 수 있다는 점을 걱정하고 있다. 28일 교육부에 따르면 전국 17개 시도교육청이 교육부에 제출한 올해 1월부터 지난 27일까지 학생·교원 딥페이크 피해 신고 건수는 총 196건에 달하며 이 가운데 교원 피해 신고도 10건 확인됐다. 교사와 학생 사이 특수관계 등을 고려해 피해 사실을 알리기를 꺼리는 경우가 있고, 피해 사실 자체를 인지하지 못한 사례 등까지 포함하면 실제 피해 건수는 이보다 많은 것으로 추정된다.최근 전교조 자체 점검 결과 비수도권 한 중학교에서 교사가 딥페이크 피해를 입은 데 이어, 불특정다수로부터 음란메시지를 받는 등 2차피해까지 겪기도 해 대책 마련이 시급하다는 지적이다.경기교총 등 도내 교원단체들은 학생과 더불어 교사들에 대한 딥페이크 피해 예방과 대응책 마련을 위해 교육당국이 적극적으로 나서야 한다고 한목소리를 내고 있다. 경기도의회 더불어민

2024-08-28 조수현·고건
[사설] 무방비 '딥페이크' 입법·실태조사 등 대책 서둘러야 지면기사

6년 전 오바마 전 미국 대통령의 '딥페이크' 영상이 세상에 모습을 드러냈을 때만 해도 인공지능 기술 발전의 결과물로만 여기며 흥미로워했던 게 다였다. 그랬던 이 가짜영상 합성기술이 이제 우리의 일상을 위협하는 거대 공포가 됐다. 추적단 불꽃의 일원으로 'N번방' 사건을 처음 공론화했던 박지현 전 더불어민주당 비상대책위원장이 지난 26일 자신의 SNS에 여성들의 SNS 사진을 이용한 딥페이크 성범죄물의 제작·유포 사실을 경고하며 국가적 재난 상황 선포를 촉구할 지경이 됐다. 중복 숫자를 합쳐 가해자가 22만명에 달한다고 했다. 급기야 윤석열 대통령이 국무회의에서 명백한 범죄행위로 규정하며 강력한 대응을 지시하기에 이르렀다.피해자는 대학생뿐만 아니라 중·고교생과 같은 미성년자, 주부, 교사, 군인에 이르기까지 다양하다. 특히 각급 학교 현장의 심각성이 더하다. 이달 20일 인하대에서 서울대 동문 딥페이크 사건과 유사한 사건의 신고를 접수한 경찰이 단체 대화방 운영자와 유포자 등을 쫓고 있는데 빙산의 일각일 뿐이다. 이미 전국의 각 지역·학교별로 여러 개의 텔레그램 대화방이 만들어진 사실이 확인됐다. 이들은 이른바 '겹지방'이란 걸 만들어 함께 아는 특정 여학생의 정보를 공유하고 얼굴과 나체 사진을 합성한 딥페이크 영상물을 제작하고 유포한다. SNS에 명단으로 떠돌고 있는 피해학교 수만 100곳이 넘는다.실제로 수원·화성·여주 등 경기지역 내 다수 고교와 대학에서 딥페이크 성범죄 피해를 주장하는 사건이 발생했다. 인천에선 중학교 4곳, 고등학교 18곳이 피해 의심 학교로 지목된다. 그런데도 경기도와 인천 교육당국의 대응은 미진하기만 하다. 경기도교육청은 관련 가정통신문만 발송했을 뿐이고, 인천시교육청은 학교 내부망에서 불법 이미지 생성 사이트에 접근할 수 없도록 조치를 취한 게 전부다. 이런저런 이유를 접고 실태조사에 즉시 착수해야 한다. 서울에서 지난 7월 말까지 초·중·고교 텔레그램 성착취 신고가 10건 접수됐고, 14세 이상 청소년 10명이 입건된 사실을 유념할 필요가 있다.무엇보다 국회가

2024-08-28 경인일보
인천시, 딥페이크 성범죄 초기 대응 지침 만든다… 주요 공공기관 공유

인천시가 딥페이크(Deepfake·이미지 합성 기술) 성범죄 확산에 맞서 피해 사실 확인 시 증거 확보 등 초기 대응 방안을 담은 지침을 만드는 데 나선다. 28일 인천시에 따르면 딥페이크 성범죄가 범죄행위라는 점을 알리고 피해 사실 인지 시 증거 확보 등 초기 대응을 명시한 지침을 수립한다. 딥페이크 성범죄는 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 수법이다. 최근에는 청소년을 중심으로 한 딥페이크 성범죄가 잇따르면서 중대한 사회문제로 떠올랐다. 이번 지침은 딥페이크 성범죄 피해를 최소화하고 수사 진행 시 생성·유포자 등을 신속히 파악하기 위해 마련된다. 주요 내용으로는 사회관계망서비스(SNS) 사진 게재나 인적 정보 노출을 자제하는 예방법부터 피해 상황 파악 시 제작·유포 정황을 캡처하는 등 증거를 확보하는 대처 방안 등이 담길 예정이다. 인천시는 지침을 10개 기초자치단체, 인천시교육청, 인천경찰청 등 지역 주요 공공기관에 공유하기로 했다. 인천시 관계자는 “딥페이크 성범죄는 피해 사실을 모르는 경우도 많기 때문에 관련 정보와 적절한 대처 방안을 제공하는 게 중요하다"며 “초기 대응과 수사 의뢰, 상담, 법률 자문 등 정보도 지침에 함께 포함할 것"이라고 했다. 인천에서는 딥페이크 범죄 발생 시 인천디지털성범죄예방대응센터에서 피해자 상담, 회복 지원 등 업무를 맡고 있다. 최근 성행하는 딥페이크 성범죄 탓에 전년 대비 상담 문의 등이 크게 늘었다는 게 센터 관계자 설명이다. 센터의 지난 1~6월 운영 실적을 살펴보면, 디지털 성범죄 상담 지원 2천250건으로 영상사진 합성 등으로 유포된 게시물을 삭제 요청하거나 모니터링한 건수는 21만7천여건으로 집계됐다. /박현주기자 phj@kyeongin.com

2024-08-28 박현주
인천도 ‘딥페이크 성범죄’ 피해 청소년 확인… 텔레그램 얼굴 떠돌았다

사회관계망서비스(SNS)를 통해 유포하는 '딥페이크 성범죄'에 대한 불안감이 중·고등학교와 대학가를 중심으로 확산하는 가운데 인천에서도 관련 피해를 입은 청소년 학생이 있는 것으로 처음 확인됐다. 28일 경인일보 취재를 종합하면 전국교직원노동조합(이하 전교조) 인천지부는 최근 인터넷 커뮤니티 등에서 인천지역 피해 의심 학교로 지목된 고등학교 18곳, 중학교 3곳의 학생, 교사, 교직원 등에 대한 자체 조사를 벌여 이같은 사실을 파악했다. 전교조 인천지부는 지인의 얼굴을 음란물과 합성해 공유하는 텔레그램 '능욕방'에 인천 한 고교 여고생의 사진이 유포된 것을 포착해 구체적인 피해 상황을 확인하고 있다. 또 인천 부평 한 고교에서 교사가 관련 피해를 본 사례도 접수했다. 인천시교육청이 최근까지 인터넷 커뮤니티에서 피해 의심 학교로 지목된 학교 20여곳에 대해 조사를 했지만, 별다른 피해 사례를 확인하지 못했다고 밝힌 지 하루 만에 전교조 인천지부가 첫 피해 사실을 공개한 것이다. 전교조 인천지부 관계자는 “현재까지 파악한 중·고등학교 딥페이크 피해 사례는 2건 정도"라며 “29일까지 상황을 지켜본 후 대응 방안을 논의할 계획이지만, 피해자 개인정보 보호를 위해 구체적인 내용을 알려주긴 어렵다"고 말했다. 인천지부와 별도로 전교조는 지난 27일부터 전국에서 진행 중인 딥페이크 피해 관련 긴급 실태조사에 대한 결과를 29일 발표할 예정이다. 인천시교육청은 딥페이크 범죄에 적극 대응하기 위해 30일부터 '딥페이크 관련 유관기관 협의체'를 운영하기로 했다. 인천시, 인천경찰청, 인천디지털성범죄예방대응센터와 함께 협의체를 구성해 학교 피해 사례 파악, 심리상담 지원, 수사 연계 등 대응 방안을 논의하고, 디지털 성범죄 예방 교육 자료를 각 학교에 제작·배포할 계획이다. 인천시교육청은 또 28일 인천지역 모든 학교에 공문을 보내 '학교폭력 사안 처리 온라인 시스템'에 피해 사실을 신고할 수 있도록 조치했다. 한편 교육부는 이날 17개 시·도교육청에서 올해 1월부터 최근까지 파악한 학생·교직원 딥페이크

2024-08-28 변민철
경기도의회 민주당 “딥페이크 뿌리뽑기 위한 모든 역량 기울일 것”

경기도의회 더불어민주당이 사회적 파장을 불러일으키고 있는 각종 AI 이미지 딥페이크 범죄(8월 28일자 1면보도)에 대해 대책 마련을 약속하며 도교육청에 강력한 대응을 요구했다. 도의회 민주당 전자영(용인4) 수석대변인은 28일 논평을 통해 “도의회 민주당은 관련 조례 개정 등 디지털 성범죄를 뿌리뽑기 위한 제도적 방안 마련에 당의 모든 역량을 기울일 것을 약속한다"고 밝혔다. 그러면서 청소년 피해 우려가 가장 큰 만큼, 임태희 도교육감을 향해 관련 대책 마련을 요구했다. 전자영 대변인은 “임태희 교육감은 이번 사건에 대해서 교육감직을 걸고서라도 디지털 성범죄 확산 방지, 피해 학생 지원과 예방책 마련을 위해 전방위적으로 전력투구해야 한다"며 “딥페이크 성범죄 피해자를 위한 선제적이고 즉각적인 조치, 도내 초중고교 대상 딥페이크 성범죄 전수조사, 디지털 기록 삭제를 위한 유관기관과의 협조체제 구축 등 강도 높은 대응책 마련을 촉구한다"고 강조했다. 이날 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 이달 25일까지 디지털성범죄피해자지원센터(디성센터)로부터 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)는 10대 이하였다. 전 대변인은 “경기도가 비상상황이다. 벌써 딥페이크 성범죄에 노출된 학생이 다니는 학교의 이름이 유포되고 있어 2차 피해가 우려되는 상황"이라며 “김포 모 고등학교에 재학 중인 여고생 2명이 딥페이크 성범죄에 노출됐다며 수사를 의뢰하는 진정서를 경찰에 접수한 상태다. 도의회 민주당은 극악한 폭력 행위인 딥페이크 성범죄를 뿌리뽑기 위해 제도적 방안 마련에 나설 것"이라고 강조했다. /고건기자 gogosing@kyeongin.com

2024-08-28 고건
'딥페이크 성범죄' 면전에서 바로 차단 지면기사

시교육청, 긴급 회의 파악 나서학교 내부망 불법 사이트 막아신고센터 설치 추진·가정통신문인천 초·중·고는 피해 사례없어방심위, 텔레그램과 핫라인 추진젊은 여성들 일상 사진 악용 불안대응센터 인력 6명… 충원 시급 최근 중·고등학교와 대학가를 중심으로 '딥페이크 성범죄' 불안감이 확산하자 정부와 교육 당국이 긴급 대책 수립에 나섰다. 딥페이크 성범죄는 사회관계망서비스(SNS) 등을 이용해 지인의 사진을 음란물과 합성해 유포하는 행위다.인천시교육청은 27일 오전 부교육감 주재로 긴급회의를 열어 인천지역 딥페이크 성범죄 피해 상황을 파악하고 대응책을 마련했다. 인천의 경우 인터넷 커뮤니티 등에서 중학교 4곳, 고등학교 18곳이 피해 의심 학교로 지목되고 있다.인천시교육청은 이날 회의를 통해 일선 학교 내부망에서 불법 이미지 생성 사이트에 접근할 수 없도록 했다. 졸업사진 등이 딥페이크 범죄에 악용될 가능성을 막기 위한 조치다. 인천시교육청이 인천경찰청 등과 함께 인터넷에 떠도는 피해 의심 학교를 중심으로 조사를 벌인 결과 인천 초·중·고등학교에선 아직 피해 사례가 없는 것으로 확인됐다.인천시교육청은 추후 피해 학생이 나올 경우에 대비해 인천디지털성범죄예방대응센터와 연계한 가칭 '딥페이크 피해 신고센터'(032-420-8482)를 설치하기로 했다. 센터에서는 피해 학생이 대처 방법과 심리 상담, 법률 지원 등 필요한 서비스를 받을 수 있다. 인천시교육청은 이날 디지털 성범죄 예방 교육 자료를 일선 학교에 공문으로 발송하고, 가정통신문을 통해 학생과 학부모들에게도 안내하도록 했다.방송통신심의위원회(이하 방심위)는 이날 긴급 실국장 회의를 소집해 대응 방안을 논의했다. 방심위는 홈페이지에 '딥페이크 음란물 피해 신고 전용 배너'를 신설하고, 관련 모니터링 요원도 기존보다 2배가량 늘려 실시간으로 대처하기로 했다. 또 이전에는 텔레그램 측과 전자우편으로만 소통했지만, 조만간 '핫라인'을 개설해 관련 피해 상황에 신속하게 대응하기로 했다.하지만 딥페이크 성범죄에 대한 여성들의 불안감은 여전하다.

2024-08-27 김희연·조경욱·백효은
[이슈추적] "음란물 합성 범죄 그만"… 사건 터지자 뒷북 대응 지면기사

활개치는 딥페이크… 입법은 여전히 지지부진 현실과 구분 어려울 정도로 발전일반인 무료로 이미지 생성 가능1~7월 성착취 범죄신고 총 297건다수 IT대기업 도구엔 처벌 규정사설 개발자 영상물은 제한 못해오남용 대응할 기본법 국회 계류AI(인공지능) 이미지 기술력이 현실과 구분이 어려울 정도로 발전된 가운데, 이같은 기술력이 각종 딥페이크 범죄와 연계돼 막대한 사회적 파장을 불러일으키고 있다.텔레그램과 X(옛 트위터) 등 SNS를 타고 피해자의 성적 허위 사진이 무차별적으로 퍼지고 있기 때문인데, 대통령까지 나서는 등 정부와 경기도가 대응에 나서고 있다.그러나 고도화된 기술력에 비해, 그간 관련 입법이 지지부진해 재발 방지나 가해자 추적이 어려워 피해가 커질 것이란 우려가 깊어지고 있다.경찰청에 따르면 지난 1∼7월 딥페이크 성 착취 범죄 신고는 전국에서 총 297건 접수됐다. 최근에도 텔레그램에서 지인 여성의 얼굴에 음란물을 합성한 허위 영상물이 생성·유포되는 단체 대화방이 대규모로 발견되며 논란에 불을 지폈다.■ 10초면 뚝딱… '진짜' 구분 어려운 AI 이미지인공지능 이미지는 챗GPT 등으로 생성형 AI가 화제되며 시장이 대폭 확대됐고, 그만큼 기술력도 빠른 속도로 증가했다. 지난해 9월 챗GPT 개발사인 오픈AI가 공개한 '달리3'와 일론 머스크가 X의 유료 이용자만 이용 가능하도록 개발한 '그록2'에 이어 지난 15일엔 최대 검색엔진 기업 구글이 '이마젠3(Imagen3)'를 발표했다.이날 경인일보는 실제 '이마젠3(Imagen3)'에 '대한민국 수원에서 많은 사람들이 음식을 먹고 있다(Many people are eating food in Suwon, South Korea)'라는 텍스트의 이미지를 생성하도록 직접 의뢰해 봤다.영문으로 텍스트 입력 후 '만들기'를 누르자, 10초 정도 '생성중'이란 안내가 나오더니, 한 전통시장 같은 곳에서 사람들이 장을 보거나 식사하는 이미지가 생성됐다. 언뜻 보면 수원의 명물인 남문시장 통닭거리가 연상될 정도로 실제 장소와의

2024-08-27 고건
경기도교육청 '말로만' 딥페이크 범죄 대응 지면기사

가정통신문·예방교육 진행에"전수조사를" 소극 대응 지적 지인 사진을 음란물과 합성한 뒤 사회관계망서비스(SNS)를 통해 유포하는 '딥페이크 성범죄'와 관련해 피해를 주장하는 학생들이 속출(8월27일자 7면 보도=SNS가 먹잇감… 음란합성물, 학생들 사진 노린다)하고 있지만, 정작 경기도교육청은 피해 규모 확인 등을 위한 전수조사에 나서지 않고 있어 대응에 소극적이라는 비판의 목소리가 나온다.도교육청은 지난 26일 '디지털 성범죄(불법 합성 및 유포) 대응 및 예방교육'이라는 제목의 가정통신문을 각 가정에 보냈다. 가정통신문에는 디지털 성범죄가 발생할 경우 즉시 피해 신고 기관에 도움을 요청해 피해 확산 및 2차 피해를 예방해야 한다는 내용과 함께 디지털 성범죄 유형 안내 등이 포함됐다. 또 도교육청은 다음 달 3일부터 5일까지 학부모를 대상으로 디지털 성범죄 예방 교육을 진행할 예정이다.하지만 사태가 일파만파 확산돼 정확한 피해 규모 파악이 우선시되는 상황임에도 도교육청은 안내와 예방에만 중점을 두고 있을 뿐, 아직 전수조사 계획은 없는 상태다. 이에 교원 노조를 중심으로 피해자를 안심시키고 이들에 대한 적극적인 지원을 위해 도내 학교 전수조사를 통한 선제 대응이 필요하다는 지적이 나오고 있다.전교조 경기지부는 27일 성명서를 통해 "경기도교육청이 경찰과 함께 피해 학교들이 있는지 계속 확인한다는 입장이지만, 불법에 임하는 기관의 책임치고는 너무 소극적"이라며 "피해 확인을 기다리지만 말고 적극적으로 초·중·고교 대상 불법합성물 성범죄 실태 파악 및 전수조사에 착수하라"고 요구했다. 경기교사노조 관계자 역시 "빠른 대응책을 마련하고 도교육청이 이 사태에 대해 경각심을 주기 위한 차원에서도 전수조사는 꼭 필요하다"고 했다. 이에 대해 도교육청 관계자는 "전수조사를 한다 해도 피해 학생들이 실명을 밝히지 않으면 그 학생에 대한 지원이 어려운 부분이 있다"며 "종합적으로 판단해 전수조사 여부를 판단할 것"이라고 밝혔다.한편, 임태희 도교육감은 이날 자신의 SNS를 통해 "

2024-08-27 김형욱
신고센터·사이트 차단… 딥페이크 성착취물 진압 나선 인천시교육청

최근 중·고등학교와 대학가를 중심으로 '딥페이크 성범죄' 불안감이 확산하자 정부와 교육 당국이 긴급 대책 수립에 나섰다. 딥페이크 성범죄는 사회관계망서비스(SNS) 등을 이용해 지인의 사진을 음란물과 합성해 유포하는 행위다. 인천시교육청은 27일 오전 부교육감 주재로 긴급회의를 열어 인천지역 딥페이크 성범죄 피해 상황을 파악하고 대응책을 마련했다. 인천의 경우 인터넷 커뮤니티 등에서 중학교 4곳, 고등학교 18곳이 피해 의심 학교로 지목되고 있다. 인천시교육청은 이날 회의를 통해 일선 학교 내부망에서 불법 이미지 생성 사이트에 접근할 수 없도록 했다. 졸업사진 등이 딥페이크 범죄에 악용할 가능성을 막기 위한 조치다. 인천시교육청이 인천경찰청 등과 함께 인터넷에 떠도는 피해 의심 학교를 중심으로 조사를 벌인 결과 인천 초·중·고등학교에선 아직 피해 사례가 없는 것으로 확인됐다. 인천시교육청은 추후 피해 학생이 나올 경우를 대비해 인천디지털성범죄예방대응센터와 연계한 가칭 '딥페이크 피해 신고센터'(032-420-8482)를 설치하기로 했다. 센터에서는 피해 학생이 대처 방법과 심리 상담, 법률 지원 등 필요한 서비스를 받을 수 있다. 인천시교육청은 이날 디지털 성범죄 예방 교육 자료를 일선 학교에 공문으로 발송하고, 가정통신문을 통해 학생과 학부모들에게도 안내하도록 했다. 방송통신심의위원회(이하 방심위)는 이날 긴급 실국장 회의를 소집해 대응 방안을 논의했다. 방심위는 홈페이지에 '딥페이크 음란물 피해 신고 전용 배너'를 신설하고, 관련 모니터링 요원도 기존보다 2배가량 늘려 실시간으로 대처하기로 했다. 또 이전에는 텔레그램 측과 전자우편으로만 소통했지만, 조만간 '핫라인'을 개설해 관련 피해 상황에 신속하게 대응하기로 했다. 경찰청 국가수사본부는 28일부터 내년 3월31일까지 '딥페이크 성범죄 관련 특별 집중단속'을 실시하기로 했다. 하지만 딥페이크 성범죄에 대한 여성들의 불안감은 여전하다. 인천 한 대학에 재학 중인 김영현(가명·24)씨는 “최근 학과 전시회를 준비하면서 참가자들의 얼

2024-08-27 김희연·조경욱·백효은
SNS가 먹잇감… 음란합성물, 학생들 사진 노린다 지면기사

고교·대학 '딥페이크 성범죄' 확산학번 등 피해자 개인정보 노출까지텔레그램 통해 유포… 남부청 수사학생회들 "사진 비공개 전환하길" 사회관계망서비스(SNS) 등을 이용해 지인의 사진을 음란물과 합성해 유포하는 '딥페이크 성범죄'가 범죄의 온상으로 떠오른 가운데, 경기도 내 고등학교와 대학을 중심으로 피해를 주장하는 사례가 잇따르면서 불안감이 확산하고 있다.26일 교육계에 따르면 이날 수원·화성·여주 등 지역 내 다수 고교와 대학에서 딥페이크 성범죄 피해를 주장하는 사건이 발생했다. 전날 인스타그램 등에선 다수의 고교 학생회 공식 계정에 "본교 학생들의 신상정보 및 불법 합성물이 텔레그램을 통해 유포되고 있다. SNS에 공개된 사진을 비공개로 돌리고 주의를 당부드린다"는 내용의 공지글이 게시됐다. 해당 게시글이 올라온 도내 한 고교의 교사는 "사실 이런 딥페이크 성범죄는 작년부터 나타났는데 최근 더 부각되는 것 같다"며 "과거 온라인에서 같은 반 학생 사진을 찍어 음란물에 합성을 의뢰한 학생을 학교폭력위원회에 회부한 사례도 실제로 있었다"고 했다.대학가도 상황은 마찬가지다. SNS 상에서 '딥페이크 범죄 피해 학교'를 제보받는 방에는 경기대와 아주대, 단국대 등 도내 대학 곳곳에서 피해를 주장하는 목소리가 다수 나타났다. 특히 한 대학에서는 피해자의 구체적인 학번 등 개인정보까지 노출돼 2차 피해 가능성도 제기됐다. 단국대 재학생(3학년) A씨는 "코로나19 이후 친구들을 다시 만나게 되면서 많은 사진을 찍었는데, 그 사진들이 누군가에게 악용되는 건 아닌지 불안한 생각이 든다"고 토로했다.경기도교육청은 이러한 사실을 인지하고 대응에 나선 상태다. 도교육청은 경찰, 개별 학교들과 협조해 신고 내용을 공유하고 관계 기관과의 협업으로 추가 피해를 막기 위한 선제적 조치에 나섰다. 도교육청 관계자는 "피해 예방을 위해 학생 지도 관련 공문을 각 학교에 발송하는 한편, 학교에서도 가정통신문 등을 통해 학생들에게 안내하도록 하고 있다"고 설명했다.경찰 역시 딥페이크 성범죄를

2024-08-26 김지원·김형욱