딥페이크 성범죄에 대해

딥페이크 성범죄

 

 

딥페이크 성범죄란?

 

인공지능 기술을 활용해,

음란물과 특정 인물의 사진을 합성하는 딥페이크 성범죄.

초중고등학생이 가해자나 피해자로 지목되면서,

학교폭력대책심의위원회, 이른바 학폭위로 가는 경우도 급격하게 늘고 있다.

 

가해자는 누구인가?

 

소비층은 1020세대라고 한다.

즉 딥페이크로 검거된 사람들의 87.2%는 1020 연령층이자

과반수가 10대에 집중된 것으로 확인되었다.

피해자는 114명으로 나타났으며 66명은 10대,

46명은 20대로서, 피해자들의 98.2%도 마찬가지로

1020 연령층이자 과반수가 10대에 집중되어 있었다.

방식

 

돈을 받고 사진을 의뢰받으면 음란물사진이나 동영상에

의뢰받은 여성의 얼굴을 합쳐 전달하거나 공유하는 수법,

또는 자신이 아는 여성 지인의 얼굴을 음란물에 입혀서

공유하는 수법이라고 한다.

 

피해자 

 

한국 여자 아이돌이나 연예인, 인플루언서,

여중생,여고생,여대생, 여교사, 가족,

또는 카카오톡이나 졸업앨법 등에서 물색하여

상대의 얼굴을 음란물과 합쳐 2차 피해를 주고 있다.

학폭과 딥페이크

 

지난 2020년 서울 지역에서 학폭위에 회부된 사건 중

딥페이크로 인한 피해는 단 한 건이었는데,

지난해엔 22건까지 늘어났다.

 

특히 올해는 지난 8월 기준으로도 이미 두 배가 늘어

학폭위에 접수된 딥페이크 신고는 45건에 이른다.

이 가운데 18건에는 학폭위 차원의 조치도 이뤄졌다.

 

지난주 교육부가 발표한 딥페이크 범죄 피해 신고 건수는 196건,

한국여성인권진흥원에 따르면 딥페이크 피해자는 올해 502명으로

이 가운데 10대 이하 미성년자가 절반 수준에 이른다.

 

이처럼 학교 안에서도 무차별적으로 딥페이크 성범죄가

발생할 수 있다는 공포가 번지는 상황으로 전개되고 있다.

 

대학생들 사이에 유행 

 

서울대와 연세대에서 여학생들의 사진이 음란물에

합성 및 유포되는 피해가 속출한 데 이어,

전국 각지의 중·고교에서도 가해 학생들이 경찰에 적발되고 있다.

 

특히 지난 26일 네티즌들이 만든 ‘피해학교 목록’이 확산되면서

학생들 사이에서 “나도 피해자가 될 수 있다”는 공포가 퍼지고 있다.

 

학생들은 인스타그램 등 소셜미디어(SNS)에 올렸던

사진들을 삭제하고 계정을 비공개로 전환하고 있으며,

학부모들도 자녀의 SNS를 단속하는 한편

카카오폭 프로필 사진 등에 올린 자녀의 사진을 삭제하고 있다.

 

딥페이크 성범죄가 한국에서 판치는 이유

 

딥페이크 성범죄 등을 수사하는

전국 사이버성폭력 수사팀 인력이 131명에 불과한 것으로 나타났다.

 

3일 서미화 더불어민주당 의원실이

경찰청으로부터 제출받은 자료에 따르면

지난 6월 5일 기준 전국 18개 시도 경찰청

사이버성폭력 범죄 전담 수사팀은 26개팀, 131명에 불과했다.

 

사이버성폭력 수사팀은 딥페이크 등

사이버상에서 벌어지는 성범죄를 전담 수사하기 위해

2018년 12월부터 구성되기 시작했다.

 

수사팀 인력은 2019년 21개팀 99명에서 131명으로 32명 증가했다.

반면, 디지털 성범죄발생 건수는 2019년 9430건에서

지난해 2만127건으로 급증했다.

 

수사 인력이 부족하다는 지적이 힘을 얻는 이유다.

 

서 의원은 "딥페이크 성범죄는 성평등 정책 후퇴에만 골몰하고,

디지털 성범죄 대책 마련에 소극적이었던 윤석열 정부가 초래한 참극"이라며

"정부는 신종 디지털 성범죄로부터 국민을 보호하기 위한

예산을 확대하고 전담 인력을 대폭 증원해야 한다"고 말했다.

 

 

텔레그램의 이용자 폭증이유

 

각종 범죄의 온상으로 지목된 모바일 메신저

'텔레그램'의 국내 이용자가 가파르게 늘어나고 있다.

특히 8월에는 30만명 이상 늘면서, 역대 최대치의 성장세를 과시했다.

 

지난달 딥페이크 음란물 제작·유포 논란이 거셌는데,

이용자들은 도리어 수사당국의 눈을 피해 음지로 파고드는 흐름이다.

 

N번방 사태 이후 디지털 성범죄 영상 유통을 막기 위한

'전기통신사업법 및 정보통신망법 개정안'이 시행됐는데,

대규모 부가통신사업자에게 불법 촬영물을

관리·감독하고 조치할 책임을 부여하는 내용이었다.

 

그러나 카카오톡 오픈채팅 등에서 전송되는

사진·영상·압축파일 등이 사전 검열된다는 불만이 터져나왔다.

실제로 일부 동영상과 움짤에서 불법촬영물이 아닌지

검토한다는 문구가 표시되기도 했다.

 

이를 정부 차원의 사적 검열로 받아들이는

여론이 고조되면서 '망명지'로 텔레그램을 선택하는 이들이 많았다.

이후 텔레그램 이용자가 폭증한 시기는 2022년 10월이었다.

전월 대비 MAU가 20만1585명(7.38%) 늘었다.

 

또한, 판교 SK C&C 데이터센터 화재 사고에 따른

카카오톡 오류 사태가 원인이 되기도 했다.

 

상당 기간 이어진 불통 사태로 지인과의 소통을 위해

카카오톡 외 다른 모바일 메신저를 찾는 사람이 늘어났으며

텔레그램 역시 수혜를 봤다.

 

앞선 텔레그램 이용자 증가 사례는

국내 독보적 1위 메신저인

카카오톡의 대체·보완재 성격이었지만,

지난달은 다른 양상이었다.

 

지난달에는 딥페이크 음란물이 사회악으로 떠올랐고,

해당 음란물의 주된 제작·유통의 현장으로

텔레그램이 지목됐음에도 이용자는 사상 최대 규모로 늘어난

역설적인 상황이다.

 

확실한 이유를 단정하기는 어렵다.

다만 딥페이크 음란물 논란이 정부 대책과 언론 보도 등을 통해

대중적으로 알려지면서 이용자들의 호기심을 자극했을 것이란 추정이 나온다.

 

또 모바일 업계 한 관계자는

"딥페이크 논란 이후 경찰 수사의 대처법을 공유하거나

'잡힐리 없다' '안심해도 된다'는 얘기를 하고 있지 않나"라며

"가해자들이 오히려 텔레그램을 안전지대로 여기는 것 같다"란 관전평도 내놓았다.

정부의 무관심에 쏟아지는 비판

 

딥페이크 공포가 일상을 덮쳤지만 굼뜬 정부대처에

불만의 목소리가 커지고 있다.

 

불법 이미지·영상 제작이나 유통에는

글로벌 테크기업이 관련돼 있지만

한국에선 규제 사각지대에 놓이면서다.

 

최근 프랑스가 텔레그램 창업자를 체포한 것도

유럽연합(EU)이 플랫폼 사업자에게 불법·유해 콘텐츠

제거 의무를 지게 하는 ‘디지털서비스법(DSA)’을 도입했기 때문이다.

 

한국엔 플랫폼에 책임을 지우는 법이 현재 없다.

플랫폼법 제정을 놓고선 부처간 이권다툼이 치열했지만,

정작 책임은 타부처에 미뤄왔던 결과다.

 

여성 연예인들이 딥페이크 성범죄 피해를 호소했을 때

정부가 강력한 대책을 마련했다면,

중학생들이 옆자리 여학생, 선생님, 가족 등을 대상으로

딥페이크 성범죄를 저지르는

최근 범죄 흐름을 조기에 막을 수도 있었을 테다.

 

전세계 딥페이크 음란물에 등장하는

개인의 53%가 한국인인 것으로 나타났다.

특히 여성 가수들이 주요 범죄의 대상이다.

최다 표적이 된 개인 10명을 꼽은 결과

그 중 8명이 한국 여자 가수였다는 건,

 

그간 정부가 얼마나 이 문제를 방치했는지 여실히 드러나는 부분이다.

그간 연예계에선 꾸준히 딥페이크 피해를 호소해왔지만

텔레그램을 통해 유포되거나

해외에 사이트가 있다는 이유 등을 들어

수사가 어렵다며 지지부진해왔던 게 사실이다.

관련 처벌도 솜방망이 수준이었다.

거기에 더해 AI로 더욱 딥페이크가 손쉬워지자

10대까지 광범위하게 범죄자군이 형성돼

결국 사회 문제로 떠오른 것이다.

 

이제야 딥페이크 성범죄가 문제가 된 게 아니라

꾸준히 있었지만, 정부 당국이 손을 놓고 있었기에

폭발적으로 급증한 것이 아닐 수 없다.

 

해외조사 결과

 

미국 전문지 롤링 스톤에 따르면

중국 K팝의 주요 소비국이며 한국 연예인의 딥페이크 영상은

대부분 중국에서 제작된다고 한다.

해외 조사 업체에 따르면 주요 인터넷 사이트 5곳에 25%가

한국 여자 연예인이고, 41%가 미국 여자 연예인이었다.

 

2021년 5월 2일 경찰청 국가수사본부가 발표한 내용에 따르면,

2020년 12월 한 달 동안의 집중수사를 통해

94명의 딥페이크 제작 및 유포자를 적발했으며,

그 중 65명이 10대, 17명이 20대로 나타났다.

 

국가별 딥페이크 포르노 피해는

 

한국 53%, 미국 20%, 일본 10%,

영국 6%, 중국 3%, 인도&대만 2% 순으로

한국이 압도적인 1위를 차지했다.

이는 대부분 중국에서 제작된

K-POP 여성 아이돌을 대상으로 한

딥페이크 포르노의 비율이 압도적이었기 때문.

피해자 성별은 99%가 여성이었다.

 

시큐리티 히어로의 2023 딥페이크 현황 보고서에 따르면

지난해 7, 8월 두 달간 올라온 영상을 분석한 결과인데,

딥페이크 음란물의 등장 인물이 53%가

한국인으로 나타났으며 딥페이크 성범죄에 가장 취약한 나라로 꼽혔다.

주된 피해자 직업은

 

가수(58%), 배우(33%), 소셜 미디어 인플루언서(3%),

모델&운동선수(2%)로 상위 10명 중 8명이 KPOP으로 위시된

한국 가수이며 피해자 94%가 엔터테인먼트 업계에 종사하고 있다.

 

롤링스톤은 한국 여자 연예인들이 딥페이크 영상 주인공의

25%를 차지하는 것에 대해 "케이팝이 50억달러(약 5조9740억) 규모의

세계적인 산업으로 성장하면서 케이팝 스타들이

딥페이크 영상의 피해자가 되고 있다"며 한류 열풍을 이유로 꼽았다.

 

한국 여자 연예인들 타켓이 된 이유

 

을 합성한 딥페이크 영상은 대부분 한국이 아닌 중국에서 제작됐으며,

이는 중국이 케이팝 주 소비국 중 하나인 만큼 관심도 많기 때문이라고 설명했다.

 

다른 나라의 대응

 

딥페이크 보급이 용이해지면서 공공연한 딥페이크가

음지 내에서 만연하는데 적발이 어려운 사태가 벌어졌다.

독일은 딥페이크를 적극적으로 활용해

가짜 아청물을 찍어내서 함정수사를 한다.

일본에서도 2020년에 연예인에 대한

딥페이크 포르노를 제작·공개한 혐의로 적발한 사례가 있다.

 

지인합성, 능욕합성의 등장

 

트위터나 텔레그램 같은 SNS상에서 링크를 통해

딥페이크 영상물을 사고파는 악성범죄가 자주 일어난다.

'지인 합성', '능욕 합성' 등의 키워드를 검색해보면

지인이나 가족 등의 사진을 영상,

19금 사진에 합성해준다는 계정이 굉장히 많다.

 

심지어 고등학생이 여교사 2명의 얼굴을 음란물과 합쳐

딥페이크해서 퍼트려 논란이 일어나고 있다.

연세대학생과 서울대학생도 동문과 후배들의 얼굴과 음란물을 합쳐

딥페이크하고 공유한게 알려져 공분을 사고 있다.

이렇듯 가까운 지인을 통한 본인 얼굴이

음란물로 등장하는 피해자들의 상처가 심각해지고 있다.

 

파장

 

딥페이크 성범죄물로 초·중·고가 다 초토화됐다.

교사들까지 교단이 서지 못하겠다고 한다.

카카오톡 프로필에 사진도 못 올린다.

맘카페에서는 자녀들의 졸업앨범을 중단하자는 움직임이 생겼고

미성년자 학생들과 이십대 여성들 사이에서는

온라인계정을 삭제하거나 카카오톡 프로필을 삭제하고 있다.

법적 처벌의 강화

 

해외 사례를 참고해 수사력과 형량을 강화해야 한다.

미국의 경우 '딥페이크 책임법'이 지난해 만들어져

 

성 관련 콘텐츠를 통해 모멸감이나 수치심을 주는 경우,

벌금형 또는 5년 이하의 징역형을 내린다.

캘리포니아주 민법을 보면 디지털 기술로 기만적인 영향 등을

제작·공개·유포 시 최대 3만 달러(약 4천만원),

악의적 불법행위는 15만 달러(약 2억원)까지

손해배상을 청구할 수 있게 돼있다.

 

한국도 실제 성착취물처럼 소지나 구입, 저장, 시청도 처벌해야한다

다수 피해자를 만들거나 재범인 경우 징역 이상의 형벌을 내려야 한다.

또한 해외 사례를 참고해서 온라인 플랫폼 책임을 강화하는 것이 중요하다.

 

해외 사례와 같이 플랫폼 규제를 통해

딥페이크 허위 영상물에 대한 규제 및 예방이 필요하며

AI와 같은 급진적으로 발전하는 기술에 대한 교육이 필요하다.

 

딥페이크 통제는 국가의 미래가 달린 일이다.

 

불안한 상태면 사람들은 사회적인 접촉을 끊고

이는 저출산과도 밀접한 연관이 있다며

처벌 강화는 당연한 것이고, 수사력을 강화해 위장수사를

성인 성착취물과 허위영상물로 확대하고,

피해자 수사 지원도 확대해야 한다고 전문가들은 진단한다.

 

정책토론회 결과

 

사후승인제도 신설하고 피해자보호 지원·관련 교육도 필요

딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책 토론회

 

위장수사 4년 차를 맞아 이를 더 활성화하고 수사과정에서 나타나는

공백을 보완하기 위한 제도 개선이 필요하다고 말했다.

피해자가 성인인 경우에도 선제적, 적극적 위장수사가 가능하도록

 

성폭력처벌법을 개정해서 대상범죄 범위를 확대할 필요가 있다면서

야간이나 공휴일에도 긴급한 경우 사전 승인을 받지 않더라도 신속히

신분비공개수사가 개시될 수 있도록 개선해야 한다고 주장했다.

 

예를 들어 공휴일에 성착취물을 유포하는

텔레그램방을 발견했음에도

신분비공개수사 사전승인을 받고자 대기하다가

해당 방이 없어지는 불상사가 일어나는 것을 막기 위해서다.

 

지금은 아동과 청소년 대상으로 하는 디지털 성범죄에 한정하고,

범의유발형 함정수사는 허용되지 않는다는 한계를 극복해야 한다는 취지다.

 

이 밖에도 학생과 학부모를 대상으로

딥페이크 성범죄 예방교육·홍보활동· 신종유형

범죄에 대한 첩보를 수집하고,

삭제나 차단 요청과 심리상담 지원 등

피해자보호 지원도 실시한다고 강조했다.

 

이번 기회에 전 국민이 공분할 수 있는 범죄에 대해서는

대책 마련에 강하게 드라이브 걸고, 추진하도록 하겠다고 말했다.

 

학교뿐만 아니라 가정에서도 이와 관련해 관심을 갖고

디지털윤리나 디지털리터러시 교육에 힘써야 한다고 밝혔다.

 

학교에서도 성착취물과 관련한 교육을 진행하지만,

공교육에 대한 신뢰와 권위가 낮아지며 제대로 된

교육 효과가 쉽게 나타나지 않고 있다

 

학교와 교사에 대한 신뢰 확보와 부모의 관심이 필요하다고 조언했다.

초등학교 때 코딩 교육, 봇기술 등을 아이들이 습득하는데,

우리나라 교육에서는 현재 기술만 전달하지 이같은 기술의 발달로

발생할 수 있는 최악의 결과물을 공유하지 않는다며

교육부에서도 교육이 기본적인 목적을 고민해봐야 한다.

국가적인 과제다 강조했다.

정치계와 법조계의 논의

 

국회 여야가 인공지능(AI) 기본법 제정에 속도를 내기로 합의했다.

AI 산업 진흥을 위한 기반 마련은 물론 최근 딥페이크 악용이

사회적 문제로 대두되면서 대응할 수 있는 법안 필요성에 공감대가 형성된 것이다.

 

AI 기본법은 AI의 건전한 발전 지원과

AI 사회의 신뢰 기반 조성에 필요한

기본적인 사항을 규정하는 내용을 골자로 한다.

정부가 AI 정책 방향을 수립하고 안전한 AI 이용을 위해

생성형 AI 저작물에 워터마크를 다는 등의 내용도 포함돼 있다.

 

앞서 21대 국회에서도 논의가 이뤄지긴 했으나

상임위를 통과하지 못하고 국회 회기 만료로 폐기됐다.

이와 달리 이번 22대 국회에서는 분위기가 달라졌다.

여야 모두 AI 기본법 제정의 시급성에 뜻이 모아진 것이다.

 

허위 영상물 처벌을 기존 징역 5년 이하를 7년으로 강화하기로 하고,

딥페이크 자율규제를 위해 텔레그램 측과 핫라인을 구축한다는 방침을 세웠다.

 

또 텔레그램 등에서 사람 얼굴에 음란물을 합성하는 허위 영상물

제작·유포 행위에 대한 처벌을 강화하고

앞으로는 소지만 해도 처벌하기로 했다.

이처럼 해외 사례를 참고해 형량·수사력 강화하기로 했다.

텔레그램 창업자 체포

 

프랑스 수사당국이 최근 텔레그램 창업자 겸 최고경영자

파벨 두로프 (CEO)를 마약 거래, 자금세탁 공모,

아동 음란물 유통 조장 등 12가지 혐의로 체포해 조사하기도 했다.

 

국민청원에 간 딥페이크

 

딥페이크 성착취물에 연루된 이들을

강력 처벌해야한다는 여론도 높아지고 있다.

딥페이크 성착취물 제작·유포 가해자를 강력 처벌해달라는

국민청원 2건에 대한 동의는 나흘만에 13만5000회를 돌파했다.

 

 

전문가들의 지적

 

텔레그램은 익명성 보장을 극대화한 메신저라

수사당국도 수사하기 까다로운 앱으로 꼽힌다.

이에 텔레그램은 마약 거래, 음란물 유통 창구 등으로 활용돼 왔다.

 

또 어떤 규제를 도입해도 개인이 범죄 수단으로 이용하기 위해

개발한 딥페이크 프로그램까지

워터마크 의무화 등을 강제하기 힘들다는 한계도 있다.

 

이번에 문제가 된 나체 사진 합성을 돕는

텔레그램 봇에도 워터마크를 강제로 부착시킬 가능성은 작다.

 

결국 생성형 AI 기술 악용에

대응하는 규제와 함께 기술을

안전하고 올바르게 쓰는 방법을

교육하는 게 병행해야 한다는 게 전문가들의 주장이다.

 

범죄인 줄 모르고 재미를 위해서

딥페이크를 썼다고 생각하는 사람이 있을 수 있다.

AI 도구가 긍정적인 방향으로 쓰일 수 있도록

교육이 같이 이뤄져야 한다.

 

생성형 AI의 물결을 막을 수 없다.

생성형 AI 시대에 취약계층이 (AI를)

잘 활용할 노력이 필요하다.

기술과 함께 제도, 교육 발전 같이 이뤄져야 한다고 지적하고 있다.