인공지능(AI) 기술을 활용해 이미지 합성으로 손쉽게 음란물을 만드는 '딥페이크 성범죄'가 학교 등 영역을 가리지 않고 확산하면서 고통을 호소하는 피해 사례가 속출하고 있다.
사회적 불안과 맞물려 집중 수사가 이뤄지고 있음에도 관련 텔레그램방에서는 이에 아랑곳하지 않고 보란 듯이 불법 합성물 공유가 이뤄지고 있는 것으로 파악돼 엄벌 필요성에 더욱 무게가 실리고 있다.
천사 같던 제자의 검은 요구…"저는 다시 교단에 설 수 있을까요"
충남권 지역의 중학교 교사인 A씨는 지난달 중순 한 인스타그램 계정 운영자로부터 충격적인 메시지를 받았다. 제자가 자신의 사진으로 딥페이크 불법 합성물 제작을 의뢰했다는 내용이었다.
메시지를 통해 전달된 캡처 화면에는 제자 B군(15)이 텔레그램을 통해 담임 교사인 A씨의 사진을 전송하면서 음란물 합성을 의뢰하는 내용이 담겨 있었다. B군은 A씨의 카카오톡 메신저 프로필 사진, 학교 외부 행사에서 찍은 단체 사진 등을 활용했다. 합성물에 반영될 신체 특징 등을 구체적으로 요구하는 내용도 있었다. A씨는 그 메시지를 본 날 조퇴를 신청하고 학교를 뛰쳐나왔다.
"손끝부터 진짜 하얘지면서 몸도 차가워지고 머리가 잘 안 돌아갔어요. 그날은 진짜 잊을 수가 없어요. 오열하면서 학교를 도망치듯 뛰쳐나왔어요. B군이 평소에 저를 잘 따르던 아이라 더 충격적이었어요. 스승의 날에 감사 인사도 써서 보내고 평소 응원의 말도 자주 했는데…."
학교 측은 지난달 18일 B군 사안을 지역교육지원청과 교권보호위원회에 보고했고, B군은 교권보호위원회 심의 결과 강제 전학 처분을 받았다. A씨는 지난 28일 성폭력범죄의 처벌 등에 관한 특례법 위반(허위 영상물 제작 및 반포), 명예훼손 등의 혐의로 B군을 경찰에 고소했다.
"지금도 너무 불안해요. 본격적인 수사가 시작되기 전에 얘가 휴대폰을 바꾸면 어떡하나, 내 사진이 어디선가 돌아다니고 있으면 어떡하나. 원래 두 달만 쉬고 다시 학교로 돌아가려고 했어요. 그런데 이제는 자신이 없어요. 학교로 돌아갈 수 있을지…."
집중 수사 강경 대응에도 버젓이 운영…"홍보 기회로 삼자"
이 같은 피해 사례들이 속출하고 대통령의 철저 수사 지시에 따른 수사기관의 강경대응도 이뤄지고 있지만, CBS노컷뉴스 취재 결과 지난 29일까지도 텔레그램에서는 이른바 '지인능욕방'이 운영되고 있었다.
심지어 앞선 A씨의 사례처럼 실제로 신상정보와 사진을 공유하면서 "지인을 능욕해 달라"는 의뢰가 이뤄지는 장면도 포착됐다. 지인능욕이란 지인 여성의 얼굴 사진을 포함해 실명과 전화번호, SNS 계정 등 인적사항을 올리면 딥페이크 프로그램을 통해 성 착취물을 만드는 행위를 말한다.
지난 28~29일 CBS노컷뉴스가 참가자가 최대 1449명이었던 딥페이크 링공방(링크 공유방)에 들어가 보니, 서울, 경기, 부산, 대전 등 지역별로 나눠진 대화방이 운영되고 있었다.
딥페이크 제작 의뢰는 사진 3장 이상, 이름, 주소 소속 학교 등 여성의 신상 정보를 올리는 방식으로 이뤄졌다. 이후 다른 참여자가 딥페이크 프로그램을 통해 성관계 등을 묘사한 사진, 영상을 합성해서 공유하면 피해 여성을 조롱하고 성희롱하는 2차 가해가 진행됐다.
지난 29일 딥페이크 성범죄 관련 텔레그램 방을 만든 운영자가 "국가가 텔레그램 지인능욕을 무료로 홍보해주고 있다"는 취지의 글을 올린 화면. 텔레그램 대화방 캡처이 대화방의 존재를 폭로하는 보도가 이뤄진 29일에는 운영자가 "국가에서 텔레그램 지인능욕을 무료로 홍보해 주는 만큼 이 기회를 뉴비(새로운 참여자)의 지인능욕 입문 기회로 삼자"는 공지글을 올리기도 했다.
해당 대화방은 일시적으로 사라졌다가 같은 이름으로 생겨나길 수차례 반복하며 29일 오후까지 운영됐다. 사라지기 직전까지도 다수의 여성을 대상으로 딥페이크 의뢰와 제작이 이뤄졌다.
딥페이크 성범죄에 가담한 것으로 추정되는 이들이 인터넷 카페에 모여 가해 정보를 공유하고 법률적 조언을 구하는 정황도 포착됐다.
네이버 카페 '학교폭력 딥페이크 대책본부'에는 29일부터 딥페이크 가해 정보를 공유하고 법률적 조언을 구하는 글이 수십 건 게재되고 있다. 해당 카페에는 서울 서초동의 한 법무법인 소개글도 공지사항으로 올라왔다.
현재 약 2만 명의 회원들이 모여 있는 이 카페는 본래 음주운전 대처법을 논의하는 카페였으나 지금은 주로 딥페이크 가해자로 추정되는 이들이 수사에 대한 대처와 법적 대응 방법 등을 묻고 답하는 글이 주를 이루고 있었다.
해당 카페의 한 회원은 "개인정보 유출, (딥페이크) 영상 제작, 협박만 했다"며 "만 15세라 큰 문제 없을 것 같은데 (경찰)조사는 받을까요"라고 묻는 글을 올렸다.
이밖에도 "지금 수사력으로 (텔레그램 상의 범죄는) 안 잡힌다", "합성한 걸로 5년형은 좀 너무하다고 생각함. 조 단위 코인 사기 친 대표는 3년인데", "딥페이크 이번에 너무 크게 터트리는 거 아닌가" 등 피해자와 수사기관을 조롱하는 듯한 글도 다수 작성됐다.
경찰, 딥페이크방 운영자 구속송치… 전문가들 "근본적 대책 시급"
특별 집중 단속을 벌이고 있는 서울경찰청 '딥페이크 등 허위 영상물 집중 대응 태스크포스(TF)'는 불법 허위 영상물을 제작·유포한 20대 남성을 지난 22일 긴급체포해 30일 청소년성보호법 위반 등 혐의로 검찰에 구속 송치했다고 밝혔다.
이 남성은 지난 5월부터 7월까지 텔레그램에 대화방을 개설한 후 SNS 홍보를 통해 유입되는 참여자들로부터 지인의 얼굴 사진·이름·나이 등 개인정보를 제공 받아 허위 영상물을 제작, 유포한 혐의를 받는다. 이 남성이 제작한 허위 영상물은 279개로, 피해자는 246명에 달한다.
전문가들은 강력한 수사와 처벌 못지않게 범죄를 예방할 수 있는 근본적인 대책 마련도 시급하다고 입을 모았다.
시민단체 '탁틴내일' 이현숙 대표는 "범행 주체가 미성년자일 경우 가볍게 끝나거나 전과 기록도 안 남는 경우가 있기에 이런 것들(텔레그램 등)을 범죄에 이용하기 좋은 환경"이라면서 "처벌 자체가 목적이 돼서는 안 되고, 범죄를 예방할 수 있는 기술을 개발하거나 성 교육을 하는 등 근본적인 대책이 필요하다"고 말했다.
한국형사정책연구원 장다혜 연구위원도 "초범인 경우에 집행유예가 나올 가능성이 굉장히 큰 게 현실이고, 음란물 관련해서는 특히 형량이 낮은 편"이라며 "피해자가 있는 범죄라고 잘 생각하지 못하는 경향이 있다"고 지적했다.
그러면서 "처벌 자체도 중요하지만 가해자들의 온라인 접근을 차단하거나 보호관찰을 하는 등 이들을 교정, 교화할 수 있도록 형벌을 다양화하려는 노력도 필요하다"고 조언했다.