샌즈랩의 딥페이크 탐지 솔루션 '페이크체크'를 사용해 오바마 미국 전 대통령 딥페이크 영상 캡쳐본을 탐지해 본 결과. 페이크체크 홈페이지 캡처10초도 안 걸렸다. 웹사이트에 딥페이크로 의심되는 이미지를 올리면, 곧바로 이미지가 실제 인물인지 교묘하게 합성이 된 인물 사진인지 결과가 나온다. ①안면의 어색함을 판단하는 모델, ②이미지 픽셀의 변화가 자연스러운지 판단하는 모델, ③학습된 데이터와 유사성을 보는 모델. 총 세 가지 모델로 '딥페이크일 확률'과 '정상일 확률'을 보여준다.
기자가 직접 실제 인물을 대상으로 만든 딥페이크 이미지 4장과, 실제 인물 이미지 2장을 프로그램에 넣어봤다.
6장 중 2장만 정확한 결과가 나왔다. 딥페이크 이미지 4장 중에서 세 모델 모두 딥페이크율이 높은 이미지는 1장뿐이었다. 실제 인물 이미지 2장 중에서 한 장은 100% 정상 사진이라고 판단됐지만, 나머지 한 장은 한 모델이 90%로 딥페이크일 가능성이 있다고 판단됐다.
샌즈랩의 딥페이크 탐지 솔루션 '페이크체크'를 사용해 실제 사진을 탐지해 본 결과. 페이크체크 홈페이지 갈무리영상물 위주로 관련 범죄가 확산하고 있기 때문에 영상 딥페이크 탐지 서비스가 없다는 점이 아쉬운 점으로 꼽힌다. 또 세 모델로 나뉘어 결과를 보여주기 때문에 궁극적으로 사용자가 딥페이크 이미지인지를 판단해야 한다는 점도 신뢰성 측면에서 보완해야 될 부분이다. 사용자가 판단하기 위해서는 딥페이크율 결과에 대한 자세한 설명이 추가돼야 할 필요도 있다. 무엇보다 탐지율을 높이는 게 관건이다.
"딥페이크 잡아"…보안·AI 업계 발 벗고 나서
샌즈랩 페이크체크(fakecheck). 페이크체크 홈페이지 갈무리딥페이크 범죄 확산에 따라 보안 업계는 '딥페이크 탐지'를 위한 기술 개발에 한창이다. 앞서 소개된 딥페이크 탐지 서비스는 샌즈랩의 '페이크체크(fakecheck)'다. 현재 웹사이트를 통해 무료로 서비스를 제공하고 있다. 샌즈랩 관계자는 "딥페이크 영상으로 수많은 피해가 발생하고 있어, 사회 공헌 차원에서 클라우드 서비스 비용도 자체적으로 부담하기로 했다"고 밝혔다.
지난 2020년부터 딥페이크 탐지 모델을 개발해 왔던 딥브레인AI는 의심되는 영상, 이미지와 음성을 업로드하면 영상을 프레임 단위로 나눠서 탐지솔루션이 가동된다. 구간별로 얼굴 생성(Face Generation), 립싱크, 얼굴 변화(Face Swap) 등 어떤 유형인지까지 판별해 낼 수 있다. 탐지결과, 변조율, 진위여부, 합성유형이 상세히 나온다.
보안 업체 라온시큐어는 10월까지 개인 모바일 백신 프로그램에 '딥페이크 탐지 솔루션'을 도입하겠다는 목표다. 라온시큐어 딥페이크 탐지 기술 역시 영상 속 인물의 입, 혈류, 피부, 안면의 윤곽의 자연스러움 등을 감지해 딥페이크 콘텐츠인지를 판별한다. 이 밖에도 씨유박스, 한빛소프트, 이로운컴퍼니 등 보안 업체들도 딥페이크 탐지 기술 개발에 뛰어들었다.
빅테크도 나서…딥페이크 탐지 기술로 "게시글·게시자 탐지"
빅테크도 딥페이크 탐지 기술을 개발하고 있다. 인텔은 '페이크캐처'라는 딥페이크 탐지 기술을 개발해 조작된 동영상을 탐지하고 있다. 영상 속 얼굴에 드러나는 정맥 색의 변화를 1000분의 1초 단위로 감지하는 원리로 작동된다. 실제 인물의 경우 심장이 뛸 때마다 미세하게 정맥의 색이 변화한다는 점에 착안했다.
인텔 페이크캐쳐(FakeCatcher). 인텔 제공
구글과 메타, 오픈AI는 딥페이크 영상 제작에서 사진이나 영상에 별도의 워터마크(식별표시)를 심는 방식을 적용했다. 워터마크는 일반 사용자들은 맨눈으로 볼 수 없지만 추후에 불법 딥페이크 영상을 분석하면 워터마크가 있는 이미지나 영상을 색출해 낼 수 있다.
단순히 딥페이크 자체를 방지하는 것을 넘어 게시자를 추적하는 기술도 발전하고 있다. 대구대 연구팀은 '능동형 다크웹 정보 수집 및 분석과 추적 기술'을 개발해 온라인 플랫폼상 게시 정보를 수집하는 방법을 고안하고 있다. 딥페이크 범죄 게시물과 관련된 정보들을 모아 유사성을 찾아내 게시자를 특정하려는 데 목표를 두고 있다.
"탐지율 더 높여야"…실제 범죄 예방 가능
지난 2020년부터 딥페이크 제작물에 대한 위험성을 우려하며 업계에서도 지속적으로 기술 개발에 나서고 있다. 다만 업계에서는 아직 기술 개발 초기 단계에 있기 때문에 탐지 기술을 고도화하기 위해서는 더 많은 데이터를 학습해 정확성을 높여야 한다고 말한다.
한 업계 관계자는 "애초에 이미지를 구분하는 AI 기술은 많이 상용화 돼 있었다"면서 "다만 생성형 AI의 기술도 같이 고도화되면서 진짜와 가짜를 구분하기 위해서는 더 많은 데이터를 학습해 정교함을 높여야 하기 때문에 장기적인 관점에서 봐야 한다"고 말했다.
전문가들도 딥페이크 탐지 기술이 아직 상용화되기엔 역부족이라는 시선이다. 탐지 기술이 고도화되는 만큼 탐지 기술을 회피하는 기술도 개발되는 것도 넘어야 할 산이다. 김승주 고려대 정보보호대학원 교수는 "딥페이크 탐지 기술이 상용화되어 실제 환경에서 탐지 기능을 구동하게 될 지라도 딥페이크 기술이 또 발전할 수 있기 때문에 탐지율이 떨어질 수 있다"면서 "기술로 다 해결될 수 있다는 시각은 위험하다"고 지적했다.