노컷뉴스

익명의 딥페이크 범죄자들에 분노한 사람들 모였다[씨리얼] 텔레그램을 통한 딥페이크 성범죄가 전국적으로 확산되고 있습니다. '지인 능욕방', '가족방' 등 다양한 채팅방에서 불법 합성물이 제작되고 유포된 사실이 드러났습니다. 경찰청은 지난 11일에 전날 기준, 전국에서 불법합성물 성범죄 사건 513건을 수사중이라 밝혔습니다. 올해 1월부터 지난 10일까지 전국에서 불법합성물 성범죄로 검거된 피의자는 모두 318명에 달한다고 발표했는데요. 이 가운데 10대가 251명 (78.9%)으로 가장 많았으며 20대가 57명으로 두번째로 많았습니다. 온라인에는 전국의 중고등학교와 대학교가 특정되며 피해 리스트가 공유됐습니다. 윤석열 대통령은 딥페이크를 '익명의 보호막에 기대 기술을 악용하는 명백한 범죄행위'라 말했지만 여전히 수많은 대화방에서는 "얼굴에 사진 좀 붙인 것 가지고 왜 이렇게 난리", "내가 잡힐 것 같냐"는 익명의 범죄자들의 글이 올라오고 있습니다. 그래서 씨리얼팀은 익명에 기대 '가짜'를 만드는 사람들에게 일침을 가해줄 20여 명의 '진짜'들을 모았습니다. '얼굴을 드러내고' 딥페이크 사건에 대해 이야기해 보기로 했습니다. "딥페이크라는 기술이 새롭게 등장했을 뿐이지 이런 일은 계속 있었다고 생각해요" "이런 일이 또 터졌구나, 무력감이 가장 먼저 들었어요" "SNS에 사진을 내려라, 피해자가 조심해야 한다는 글을 보고 화가 났어요" 잡담회에 모인 사람들은 입을 모아 현재 딥페이크 성범죄 사건이 낯설지 않다고 말했습니다. 이들은 어떤 사건들을 보고 겪었기에 이번 사건이 익숙하다고 말하는 걸까요? 걷잡을 수 없이 커져버린 사건 앞에서 우리가 할 수 있는 일은 무엇일까요? 지금 바로 영상으로 확인해 보세요. 2024.09.14 10:05

딥페이크 '지인능욕방' 운영자 구속기소…피해자 천명 추가 확인 딥페이크 기술을 악용해 불법 합성 영상물을 만들어 텔레그램 이른바 '지인능욕방' 운영자가 구속 상태로 재판에 넘겨졌다. 서울중앙지검 여성아동범죄조사1부(김지혜 부장검사)는 13일 텔레그램 대화방 참여자로부터 피해자들의 개인정보를 넘겨 받아 성적 허위영상물을 제작·유포한 20대 남성 정모씨를 아동·청소년의성보호에 관한 법률 위반(성착취물제작 등) 혐의 등으로 구속기소했다고 밝혔다. 정씨는 지난해 9월부터 올해 8월까지 텔레그램 '지인능욕방' 참여자로부터 피해자들의 사진과 이름 등을 넘겨 받아 딥페이크 기술을 악용해 아동·청소년 대상 허위영상물 92개와 성인 대상 허위영상물 1275개를 제작하고 유포한 혐의를 받는다. 경찰 수사에서 확인된 피해자는 200여명이었으나, 검찰이 추가 포렌식 분석과 계좌 추적 등 보완수사를 통해 피해자 1천여명을 추가로 밝혔다. 검찰은 또 아동·청소년 성착취물을 유통하는 음란물 사이트 2개를 약 4년 동안 운영한 30대 남성 또다른 정모씨도 아동·청소년의성보호에 관한 법률 위반 혐의(영리목적 성착취물 판매 등)로 이날 구속기소했다. 검찰은 "앞으로도 경찰 및 피해자 지원 유관기관과 긴밀히 협력해 딥페이크 등 허위영상물 제조·유통사범에 대해 신속하고 엄정하게 대응하는 한편, 피해자 지원·보호 업무에 만전을 기하겠다"고 밝혔다. 2024.09.13 18:43

"놀이 아닌 중범죄"…'딥페이크' 총력 대응 나선 부천시 경기 부천시가 딥페이크 성범죄 근절을 위해 총력 대응에 나섰다. 13일 부천시는 전날 '딥페이크 긴급 대응 전담조직(TF) 회의'를 열어 관련 대책 등을 논의했다고 밝혔다. 디지털 성범죄 특성상 인터넷을 통해 합성 음란물이 급속도로 확산하는 만큼, 선제적으로 시민들을 보호하기 위한 취지다. 특히 시는 딥페이크 범죄의 가해자가 대부분 10대 청소년으로 학교폭력과의 연관성이 높다고 판단했다. 이에 딥페이크를 온라인 놀이로 생각하지 않도록 아동, 청소년을 대상으로 인식개선 교육과 캠페인을 진행하기로 했다. 시는 이 같은 교육·캠페인을 통해 타인의 사진을 이용해 음란물을 합성하고 편집·유포하는 것은 형사처벌 대상이 된다는 점을 강조하면서, 딥페이크 성범죄 피해 발생 시 대처방안 등을 안내할 예정이다. 부천여성청소년재단, 부천미래교육센터 등 지역자원을 연계해 학생 접점 장소에 피해 지원방안을 집중 게시하고, 디지털성범죄 전문강사 인력풀을 구성해 딥페이크 예방교육도 병행한다. 또한 시는 피해자의 일상 회복을 돕기 위해 의료비 지원, 전문심리상담 및 치료회복 프로그램 운영 등의 지원책도 마련했다. 조용익 부천시장은 "딥페이크 불법영상물로 피해를 보는 부천시민이 없도록 딥페이크 영상물에 대한 사전 예방 교육 등을 통해 경각심을 높이는 데 힘쓰겠다"고 말했다. 2024.09.13 09:13

조국혁신당 전북도당 "딥페이크 성범죄, 경찰 엄정 수사 촉구" 조국혁신당 전북특별자치도당은 12일 전북경찰청 정문 앞에서 기자회견을 열고 "딥페이크 성범죄 사태를 키워온 것은 윤석열 정부"라고 비판하며 경찰의 엄정 수사를 촉구했다. 조국혁신당 전북도당은 "경찰과 교육청 자료를 보면 도내 딥페이크 관련 불법영상물 발생건수는 37건으로 집계됐다"며 "지난 3년간보다 올해 1월부터 7월까지의 발생 건수가 급증하고 있다. 특히 미성년 피의자가 많다는 점이 큰 충격이다"고 밝혔다. 이어 "개인의 명예를 심각하게 훼손하는 범죄이며, 피해 학생들은 이로 인해 극심한 정신적 스트레스를 호소하고 있다"며 "전라북도는 물론 전국적으로 딥페이크 성범죄 피해가 증가하고 있으며, 이에 따른 신속한 대응이 절실한 상황"이라고 말했다. 조국혁신당 전북도당은 "윤석열 대통령은 대선 후보 당시부터 여성가족부 폐지를 선언하고, 여가부를 해체하겠다는 사람들을 장관에 임명했다"며 "이후 6개월 넘게 장관을 임명하지 않으면서 성평등의 가치와 목적을 실현하기 위한 정부 차원의 행정권을 무력화켰다. 이 또한 딥페이크 성범죄가 청소년들 사이에서 만연한 원인이 될 것"이라고 말했다. 그러면서 "디지털 성범죄는 기술적으로 빠르게 진화하고 있으며, 이를 근절하기 위해서는 경찰의 철저한 수사와 강력한 처벌이 반드시 필요하다"며 "경찰은 이러한 범죄가 발생하는 즉시 피해자 보호에 나서고 가해자를 추적해 엄정히 처벌해야 한다"고 말했다. 2024.09.12 15:50

전남경찰, 청소년 딥페이크 범죄예방 집중 전라남도경찰청(청장 모상묘 치안감)은 최근 딥페이크 범죄가 심각한 사회 문제로 여겨지는 가운데 사이버범죄 예방을 위한 다각적 대응에 나섰다.   전라남도교육청 등 유관기관과 함께 등굣길 캠페인을 동시다발적으로 개최해 학생들에게 딥페이크 범죄 및 도박 등 사이버범죄 예방 홍보를 주기적으로 전개하고 있다. 지난 9일을 시작으로 전남 22개 지역에서 목포 영화중 등 34개교 대상 캠페인을 진행했고 12일에는 무안 오룡초·오룡중학교 대상 전남도교육청, 전남도청, 전남자치경찰위원회, 무안경찰서 등 각 기관에서 참여하는 등굣길 캠페인을 벌였다.   또한, 많은 청소년과 학부모, 교사가 참여하여 사이버 이용의 윤리의식에 대해 논의하고, 딥페이크, 도박 등 사이버범죄 예방을 위해 함께 고민할 수 있는 이벤트를 마련했다. 청소년 참여 딥페이크 범죄 예방 숏폼 공모전을 오는 27일까지 개최하고, 청소년뿐만 아니라, 학부모, 교사와 함께 범죄 예방 구호를 만드는 ON 앤 OFF 구호 챌린지를 10월 31일까지 진행한다. 또한 청소년 정책 자문단(190명)을 대상으로 효과적인 딥페이크 범죄 예방 및 홍보 방안에 대한 아이디어 공모전을 실시할 계획이다. 전남경찰청 김종신 여성청소년과장(총경)은"호기심이나 장난으로 허위영상물을 제작·배포하는 행위는 타인의 평온한 일상을 해치는 중대한 범죄임을 우리 청소년에게 알리고, 더 이상 이러한 범죄가 발생하지 않도록 예방 활동에 더욱 노력하겠다"고 밝혔다. 2024.09.12 15:15

'딥페이크 방' 운영자, 아동 성착취물 9천개 갖고 있었다 30대 남성이 지인 여성들을 상대로 딥페이크 성 착취물을 제작하고 직접 운영하는 텔레그램 대화방에서 유포까지 한 혐의로 검찰에 넘겨졌다. 경찰 조사 결과 이 남성은 아동·청소년 성 착취물 약 9천개를 소지한 것으로도 드러났다. 서울경찰청 사이버수사과 허위영상물 집중대응 태스크포스(TF)팀은 12일 남성 A씨를 청소년성보호법 위반 등의 혐의로 구속 송치했다고 이날 밝혔다.   A씨는 지난해 12월부터 지난 7월 22일까지 직장동료 등 주변 지인 여성의 얼굴을 합성한 딥페이크 성 착취물 128개를 텔레그램 AI 합성 프로그램을 이용해 제작한 혐의를 받고 있다. 또 텔레그램에서 '딥페이크 교환용' 대화방을 직접 운영하며 성 착취물 154개를 유포한 혐의도 있다. 이 중에는 아동·청소년이 등장하는 성 착취물도 있었다.   A씨가 운영한 대화방 참여자는 100여 명에 이르렀다. 경찰 조사 결과 A씨는 텔레그램 등에서 다른 이들과 성 착취물을 교환하고 수집했는데, 그가 소지하고 있던 아동·청소년 성 착취물만 9789개였다. 불법 촬영도 22개나 발견됐다. 현재 서울경찰청은 지난달 28일부터 사이버수사과 허위영상물 집중대응 TF를 꾸려 딥페이크 성범죄에 대한 대대적인 수사를 벌이고 있다. 경찰 관계자는 "딥페이크뿐만 아니라 사람의 얼굴, 신체를 성적 형수치심이 유발되도록 편집·합성·가공하는 행위에 대해 엄정 대응하겠다는 방침"이라며 "텔레그램, 웹사이트 등을 불문하고 시민사회단체 등 협조할 수 있는 기관과 적극적으로 협력해 사이버 성폭력 범죄 척결을 위해 최선을 다할 것"이라고 밝혔다. 2024.09.12 11:20

김해중부서, 찾아가는 딥페이크 성범죄예방 특별교육 실시 경남 김해중부경찰서는 최근 사회적 문제가 되고 있는 청소년 허위영상물(딥페이크) 범죄 예방을 위해 선제적 특별예방교육에 나섰다고 12일 밝혔다.   김해중부서는 지난 9일 김해중앙여자고등학교를 시작으로 11일 김해삼방고등학교에 방문해 허위영상물 범죄 예방을 위한 특별예방교육을 실시했다. 이날 교육은 청소년 허위영상물 등 디지털 성범죄의 유형 소개, 대처방법 등 피해 예방 교육을 중심으로 이뤄졌다.   김해중부서는 향후 오는 25일까지 허위영상물 집중 예방교육기간을 맞아 관내 학교 12개 교를 선정해 허위영상물 등 디지털 성범죄 예방을 위한 특별예방교육을 실시할 예정이다. 특히 찾아가는 교육을 통해 허위영상물 범죄가 심각하고 중대한 범죄임을 청소년들에게 인식시키고 신종 유형의 청소년 범죄에 대한 경각심을 높일 수 있도록 교육에 중점을 둘 예정이다.   김해중부경찰서 관계자는 "딥페이크 범죄는 피해자에게 큰 고통을 주는 중대한 범죄이기 때문에 청소년들이 절대로 호기심이나 장난으로 상대방의 동의 없이 사진을 찍거나 합성·유포하지 않도록 각별한 주의를 당부드린다"고 말했다. 2024.09.12 10:25

울산 남부경찰서, 딥페이크 범죄 예방 합동 캠페인 울산 남부경찰서는 11일 오전 남구 중앙중학교 정문에서 딥페이크 범죄 예방·사이버도박 근절을 위한 등굣길 유관기관 합동 캠페인을 진행했다.   캠페인은 최근 청소년들을 대상으로 한 딥페이크 허위영상물 제작·유포, 사이버도박 행위가 심각한 문제로 대두됨에 따라 해당 행위가 범죄라는 경각심을 심어주기 위해 마련됐다.   이번 캠페인에는 남부경찰서 여성청소년과, 옥동지구대, 강남교육지원청, 중앙중학교 교사·학생 40여 명이 참여해 등교하는 학생들에게 리플렛과 홍보물을 배부하는 등 예방 활동을 진행했다.   박동준 남부경찰서장은 "딥페이크 허위 영상물 제작, 청소년 사이버도박 등 사이버범죄와 학교폭력으로부터 안전하고 즐거운 학교생활을 할 수 있도록 선제적인 예방 활동에 최선을 다하겠다"고 밝혔다. 2024.09.11 17:43

딥페이크 등 성범죄 예방…강릉시, 전 직원 대상 교육 실시 강원 강릉시는 최근 인공지능을 기반으로 이미지를 합성하는 '딥페이크(Deepfake)' 기술을 활용한 범죄가 사회적으로 심각하게 대두됨에 따라 예방 교육을 비롯한 대응책 마련에 나섰다.   강릉시는 우선 딥페이크를 포함한 디지털 성범죄 예방 강화를 위해 시청 전 직원을 대상으로 오는 26일부터 27일까지 예방 교육을 실시하고, 산하기관과 관련 단체에도 예방 교육 참여를 독려하기로 했다. 또한, 시민들의 인식 제고를 위해 온라인 홈페이지 '디클(Dicle, 아동·청소년 연령별 디지털 성범죄 예방 교육 플랫폼)'과 여성 가족부 누리집 콘텐츠들을 활용해 알기 쉽게 홍보하고, 유관기관과 합동 캠페인도 전개해 나갈 방침이다.   딥페이크 범죄 피해 대응을 위한 방안으로는 지역 여성 쉼터 등 여성 권익 증진시설과 청소년복지시설을 연계해 실제 피해상담이 이뤄질 경우를 대비해 음란물 삭제 조치, 신변 보호, 심리상담 (치료), 법률지원에 대한 대처 매뉴얼을 정비할 계획이다.   이채희 복지민원국장은 "딥페이크와 같은 디지털 성범죄의 예방과 근절을 위해 내실 있는 교육과 캠페인을 실시하는 등 지속적으로 노력하겠다"고 말했다. 2024.09.11 15:47

경찰 "딥페이크 성범죄 피의자 318명 검거…251명이 10대" 올해 들어 딥페이크 성범죄 피의자 318명이 경찰에 붙잡혔다. 경찰청은 11일 딥페이크 성범죄 사건 수사 현황과 관련해 "현재 513건을 수사 중이며 전날까지 318명의 피의자를 검거했다"고 밝혔다. 경찰에 따르면 올해 1월부터 전날까지 검거된 딥페이크 성범죄 피의자 318명 중 10대가 251명에 이른다. 이 가운데 만 14세 미만 소년범인 촉법소년은 63명으로 나타났다. 20대는 57명이며, 30대는 9명이다. 40대도 1명 붙잡혔다. 한편 경찰은 딥페이크 성범죄와 관련해 범죄 창구로 활용되고 있는 보안 메신저 텔레그램의 대표 등에 대해 혐의가 입증되면 입건은 물론 국제 공조를 통해 강제 수사에 나서는 방안도 검토 중이다. 현재 경찰은 텔레그램에 대해 성폭력범죄 처벌특례법상 방조 혐의 등으로 입건 전 조사를 진행하고 있다. 김봉식 서울경찰청장은 지난 9일 기자간담회에서 "(딥페이크 성범죄) 영상물이 유포되고 있는 텔레그램에 대해 입건 전 조사(내사)에 착수했고 현재 사실관계와 법리 검토를 진행하고 있다"며 "구체적인 혐의와 범죄 사실이 특정되면 입건으로 전환해 국제공조 등 필요한 절차를 진행할 예정"이라고 밝혔다. 내사 결과 혐의가 있다고 판단되면 텔레그램 대표 등도 입건할 수 있다는 설명이다. 2024.09.11 15:00

"딥페이크 성범죄 막아라" 부산경찰, 다방면 예방활동 총력 전국적으로 청소년 딥페이크 성범죄가 사회적 파문을 일으키고 있는 가운데, 부산경찰이 지역 내 딥페이크 성범죄 예방을 위해 다방면으로 나서고 있다.   부산경찰청은 지난 10일 오후 대학 내 딥페이크 성범죄 예방을 위한 경찰과 대학 총학생회 대표 간담회를 개최했다고 밝혔다.   경찰은 최근 딥페이크 영상물 제작·유포한 사건이 잇따라 발생하면서 청소년뿐 아니라 대학생 등 일반시민을 대상으로 한 예방 방안을 논의하기 위해 이날 자리를 마련했다.   이날 간담회에는 부산경찰청 여성보호계와 사이버범죄수사대 등 관련 부서와 5개 경찰서 성폭력범죄 담당자가 참석했다.   대학에서는 부산대와 부경대, 동아대 등 지역 내 8개 대학 총학생회 대표 등 21명이 자리를 채웠다.   참석자들은 익명커뮤니티를 활용한 예방·홍보활동과 학내 피해자 상담 홍보 부스 설치 등 대학과 경찰 간 협력을 통한 예방 방안들을 논의했다. 일선 경찰서들도 청소년 딥페이크 성범죄 예방을 위한 캠페인 활동에 적극 나서고 있다.   사하경찰서는 지역 내 CJ제일제당 부산공장과 협업해 '청소년 딥페이크 성범죄 예방' 대형 현수막을 제작해 설치했다.   부산서부교육지원청의 협조를 받아 관내 초·중·고 59개교 학생들을 대상으로 직접 특별예방교육을 실시하고, 전단지 배부를 통해 일반인 대상 홍보활동도 병행하고 있다.   영도경찰서도 지난 9일 영도 제일 중학교를 방문해 디지털성범죄 관련 '청소년 딥페이크 범죄' 예방을 위한 캠페인을 실시했다.   부산경찰청 관계자는 "주요 발생지인 초·중·고를 대상으로 특별예방교육을 발 빠르게 추진하고 있다"며 "동시에 경찰, 대학 간 네트워크를 통해 최신 범죄 예방 정보를 전달하고 피해 상담 채널을 상시 운영하면서 대학가 홍보 캠페인도 병행할 계획"이라고 말했다. 2024.09.11 14:42

광주자치경찰위, '딥페이크' 범죄 예방 캠페인 전개 광주시자치경찰위원회는 11일 광주시, 광주교육청, 광주경찰청, 광주서부경찰서, 광주여성단체협의회, 광주전남여성단체연합, 광주YWCA, 광주여성가족재단, 세이프온 등과 함께 서구 동명중학교 앞에서 첨단조작기술(딥페이크) 등 사이버범죄 예방 캠페인을 벌였다. 이날 캠페인은 최근 사회적 문제로 떠오르는 디지털 성범죄(딥페이크 등 성착취물)의 심각성 등을 알리고 이를 예방하기 위해 실시했다. 딥페이크는 딥러닝(Deep learning)과 '가짜'를 뜻하는 단어인 페이크(Fake)의 합성어로, 이미지·음성 불법 합성기술을 말한다. 캠페인은 청소년 대상 첨단조작기술(딥페이크) 성착취물이 명백한 범죄임을 인식할 수 있는 처벌 조항과 피해를 겪었을 때 연락할 신고 전화(112, 117), 삭제·심리지원 디지털 성범죄 피해자 지원센터(02-735-8994)를 홍보하고 홍보물품을 제공했다. 청소년(19세 미만)을 대상으로 첨단조작기술(딥페이크) 영상을 만드는 행위는 형법상 살인죄와 유사한 법정형인 무기 또는 5년 이상의 징역으로 처벌된다. 광주자치경찰위원회 안진 위원장은 "첨단조작기술(딥페이크) 성착취물 예방 및 근절을 위해 관계기관 등과 협업해 사회적 약자인 청소년들이 안전한 도시가 되도록 최선을 다하겠다"고 말했다. 2024.09.11 10:51

"10초면 딥페이크 탐지"…탐지율 높이는 건 '숙제' 10초도 안 걸렸다. 웹사이트에 딥페이크로 의심되는 이미지를 올리면, 곧바로 이미지가 실제 인물인지 교묘하게 합성이 된 인물 사진인지 결과가 나온다. ①안면의 어색함을 판단하는 모델, ②이미지 픽셀의 변화가 자연스러운지 판단하는 모델, ③학습된 데이터와 유사성을 보는 모델. 총 세 가지 모델로 '딥페이크일 확률'과 '정상일 확률'을 보여준다.   기자가 직접 실제 인물을 대상으로 만든 딥페이크 이미지 4장과, 실제 인물 이미지 2장을 프로그램에 넣어봤다. 6장 중 2장만 정확한 결과가 나왔다. 딥페이크 이미지 4장 중에서 세 모델 모두 딥페이크율이 높은 이미지는 1장뿐이었다. 실제 인물 이미지 2장 중에서 한 장은 100% 정상 사진이라고 판단됐지만, 나머지 한 장은 한 모델이 90%로 딥페이크일 가능성이 있다고 판단됐다.   영상물 위주로 관련 범죄가 확산하고 있기 때문에 영상 딥페이크 탐지 서비스가 없다는 점이 아쉬운 점으로 꼽힌다. 또 세 모델로 나뉘어 결과를 보여주기 때문에 궁극적으로 사용자가 딥페이크 이미지인지를 판단해야 한다는 점도 신뢰성 측면에서 보완해야 될 부분이다. 사용자가 판단하기 위해서는 딥페이크율 결과에 대한 자세한 설명이 추가돼야 할 필요도 있다. 무엇보다 탐지율을 높이는 게 관건이다.   "딥페이크 잡아"…보안·AI 업계 발 벗고 나서 딥페이크 범죄 확산에 따라 보안 업계는 '딥페이크 탐지'를 위한 기술 개발에 한창이다. 앞서 소개된 딥페이크 탐지 서비스는 샌즈랩의 '페이크체크(fakecheck)'다. 현재 웹사이트를 통해 무료로 서비스를 제공하고 있다. 샌즈랩 관계자는 "딥페이크 영상으로 수많은 피해가 발생하고 있어, 사회 공헌 차원에서 클라우드 서비스 비용도 자체적으로 부담하기로 했다"고 밝혔다.   지난 2020년부터 딥페이크 탐지 모델을 개발해 왔던 딥브레인AI는 의심되는 영상, 이미지와 음성을 업로드하면 영상을 프레임 단위로 나눠서 탐지솔루션이 가동된다. 구간별로 얼굴 생성(Face Generation), 립싱크, 얼굴 변화(Face Swap) 등 어떤 유형인지까지 판별해 낼 수 있다. 탐지결과, 변조율, 진위여부, 합성유형이 상세히 나온다.   보안 업체 라온시큐어는 10월까지 개인 모바일 백신 프로그램에 '딥페이크 탐지 솔루션'을 도입하겠다는 목표다. 라온시큐어 딥페이크 탐지 기술 역시 영상 속 인물의 입, 혈류, 피부, 안면의 윤곽의 자연스러움 등을 감지해 딥페이크 콘텐츠인지를 판별한다. 이 밖에도 씨유박스, 한빛소프트, 이로운컴퍼니 등 보안 업체들도 딥페이크 탐지 기술 개발에 뛰어들었다.   빅테크도 나서…딥페이크 탐지 기술로 "게시글·게시자 탐지"빅테크도 딥페이크 탐지 기술을 개발하고 있다. 인텔은 '페이크캐처'라는 딥페이크 탐지 기술을 개발해 조작된 동영상을 탐지하고 있다. 영상 속 얼굴에 드러나는 정맥 색의 변화를 1000분의 1초 단위로 감지하는 원리로 작동된다. 실제 인물의 경우 심장이 뛸 때마다 미세하게 정맥의 색이 변화한다는 점에 착안했다.   구글과 메타, 오픈AI는 딥페이크 영상 제작에서 사진이나 영상에 별도의 워터마크(식별표시)를 심는 방식을 적용했다. 워터마크는 일반 사용자들은 맨눈으로 볼 수 없지만 추후에 불법 딥페이크 영상을 분석하면 워터마크가 있는 이미지나 영상을 색출해 낼 수 있다.   단순히 딥페이크 자체를 방지하는 것을 넘어 게시자를 추적하는 기술도 발전하고 있다. 대구대 연구팀은 '능동형 다크웹 정보 수집 및 분석과 추적 기술'을 개발해 온라인 플랫폼상 게시 정보를 수집하는 방법을 고안하고 있다. 딥페이크 범죄 게시물과 관련된 정보들을 모아 유사성을 찾아내 게시자를 특정하려는 데 목표를 두고 있다.   "탐지율 더 높여야"…실제 범죄 예방 가능지난 2020년부터 딥페이크 제작물에 대한 위험성을 우려하며 업계에서도 지속적으로 기술 개발에 나서고 있다. 다만 업계에서는 아직 기술 개발 초기 단계에 있기 때문에 탐지 기술을 고도화하기 위해서는 더 많은 데이터를 학습해 정확성을 높여야 한다고 말한다.   한 업계 관계자는 "애초에 이미지를 구분하는 AI 기술은 많이 상용화 돼 있었다"면서 "다만 생성형 AI의 기술도 같이 고도화되면서 진짜와 가짜를 구분하기 위해서는 더 많은 데이터를 학습해 정교함을 높여야 하기 때문에 장기적인 관점에서 봐야 한다"고 말했다.   전문가들도 딥페이크 탐지 기술이 아직 상용화되기엔 역부족이라는 시선이다. 탐지 기술이 고도화되는 만큼 탐지 기술을 회피하는 기술도 개발되는 것도 넘어야 할 산이다. 김승주 고려대 정보보호대학원 교수는 "딥페이크 탐지 기술이 상용화되어 실제 환경에서 탐지 기능을 구동하게 될 지라도 딥페이크 기술이 또 발전할 수 있기 때문에 탐지율이 떨어질 수 있다"면서 "기술로 다 해결될 수 있다는 시각은 위험하다"고 지적했다. 2024.09.11 05:00

강원 여성단체들 "딥페이크 성범죄 법 개정" 촉구 강원지역 시민사회여성단체가 정부와 교육계를 향해 텔레그램 딥페이크 성폭력 근절을 위한 법 개정과 실태 조사를 실시를 촉구했다. 강원여성연대와 강원도학부모연합회, 강원지역 여성민우회 등 23개 단체로 꾸려진 텔레그램딥페이크성폭력대응 강원미투행동연대는 10일 오후 춘천지법 앞에서 기자회견을 열고 이 같이 밝혔다. 이들은 "22만 명이 참여한 텔레그램 채널에서 이뤄진 딥페이크 성폭력물 제작과 유포에 대한 분노로 사회가 들끌고 있다"며 "여성을 능욕하고 짓밟는 것을 놀이로 생각하고 자랑거리로 여기는 일부 남성들의 여성 혐오 문화에 분노하고 근절 대책을 요구하고자 이 자리에 섰다"고 강조했다. "딥페이크 범죄는 일부 대학에 그치지 않고 지역과 학교로 세분화해 전국 주요 대학 학생들, 심지어 중·고등학생 등 미성년자까지 범죄의 표적이 되고 있다"며 "실제로 지역의 학교명도 포함돼 있는 것으로 알려졌다"고 덧붙였다. 이들은 "이미지는 물론 음성까지 합성할 수 있는 딥페이크 기술을 활용해 여성 피해자 얼굴에 성적 이미지를 합성한 뒤 신상 정보와 함께 유포하고 이를 당사자에게 알려 심각한 정신적 고통을 가하는 성범죄는 피해 심각성에 비해 처벌 공백이 크다"고 지적했다. 성폭력처벌법의 경우 반포 목적 등을 요구하고 있어 배포할 목적이 없는 합성·제작 행위에 대해서는 처벌할 수 없다. 불법 촬영물과 달리 불법 합성은 단순 소지·저장·시청하는 행위에 대해 처벌하지 않는다. "허위 영상물 성범죄도 최소한 카메라 등 이용 촬영죄와 같은 수준으로 처벌해야 한다"며 "전기통신사업법 등을 개정해 한국 지사를 둔 해외 사이트들이라도 의무적으로 수사에 협조할 수 있도록 해야 한다"는 요구도 더했다. 또 강원도교육청 차원의 딥페이크 성폭력 피해 실태조사 실시와 피해자에 대한 보호대책 마련, 딥페이크 성폭력 예방 교육 실시 등을 주문했다.   딥페이크 성범죄 관련 수사에 나선 강원경찰청은 올해 현재까지 19건의 관련 신고를 접수해 이 중 9건을 종결하고 10건을 수사 중이다. 2024.09.10 17:11

딥페이크 대응 '스쿨핫라인' 만든다…오세훈 "4자 협력체계 가동" 딥페이크로 인한 범죄나 피해 사실이 확인될 경우, 학교에서 곧바로 서울시의 '24시간 삭제지원 시스템'으로 연계되는 '스쿨핫라인(School Hotline)'이 가동된다. 또 검찰과 경찰이 수사 과정에서 확보한 피해 정보를 신속하게 전달해, 피해 영상물 삭제를 지원하는 체계도 마련된다. 서울시는 10일 서울중앙지검, 서울경찰청, 서울시교육청과 함께 '아동·청소년 딥페이크 공동대응을 위한 업무협약'을 체결하고, 예방부터 피해 영상물 삭제, 피해자 회복까지 이어지는 통합 지원체계를 구축하기 위한 '4자 협력체'를 가동한다고 밝혔다. 먼저 이번 협약에 따라 '스쿨핫라인'이 본격 가동되면, 학교에서 발생하는 딥페이크 피해를 보다 신속하게 확인하고 대응할 수 있게 된다. 교사나 학교 전담 경찰관(SPO)이 피해 사실을 서울 디지털성범죄 안심지원센터에 즉시 의뢰하면, 피해 사진이나 영상물의 삭제를 지원받을 수 있다. 피해자가 원할 경우, 학교나 다른 장소로 피해지원관이 직접 찾아가 상담을 진행하는 '학교로 찾아가는 원스톱 통합지원'도 제공된다. 아울러 검찰과 경찰이 수사 과정에서 확보한 피해 영상물을 신속하게 삭제하기 위한 전달 체계도 마련됐다. 기존에는 수사기관이 확보한 피해 영상을 서울 디지털성범죄 안심지원센터로 전달하는 절차가 복잡했으나, 이번 협약을 통해 검찰·경찰과 서울시 간의 정보 전달이 신속하게 이뤄질 수 있는 시스템이 구축될 예정이다. 예방 교육도 강화된다. 딥페이크 성범죄는 특히 10대 청소년들이 주요 가해자와 피해자로 나타나고 있기 때문이다. 서울시는 경찰, 교육청과 협력해 딥페이크 예방 교육자료를 제작하고, 초·중·고등학교에서 집중 교육을 진행할 방침이다. 또 '스톱! 딥페이크(STOP! DEEPFAKE)' 캠페인을 추진하고, 서울 시내 1300여 개의 학교와 청소년 시설과 협력해 딥페이크의 위험성을 알리는 교육을 실시할 계획이다. 이와함께 딥페이크 성범죄로부터 피해를 입은 아동·청소년들을 위해 심리 상담, 법률 지원, 의료 서비스까지 통합적인 지원을 제공하는 방안도 추진된다. 피해자가 신속하게 일상으로 복귀할 수 있도록 법률 상담과 심리치료를 1:1로 제공하고, 필요하면 부모와 함께하는 전문적인 심리 상담도 지원하기로 했다. 오세훈 서울시장은 "우리 사회의 미래인 아동·청소년을 성범죄로부터 보호하고 그 피해를 최소화하는 노력은 아무리 강조해도 지나치지 않는다"며, "행정, 사법, 교육, 수사기관을 망라한 4자 협력체계를 가동해 딥페이크 범죄로부터 아동‧청소년을 지켜내는 사회적 방파제가 되도록 최선을 다하겠다"고 말했다. 2024.09.10 12:22