진짜 같은 가짜, 딥페이크의 위협

진짜 같은 가짜, 딥페이크의 위협

• AhnLab
• 2021-11-17

요즘 SNS(인스타그램)에서 유행하는 앱이 있다. 중국에서 만든 페이스플레이(FacePlay)라는 이 앱은 딥페이크 기반 영상 합성 앱이다. 앱에 사진 한 장을 업로드하면 단 3초만에 다양한 영상에 자신의 얼굴을 합성해 준다. 사진 속에 내 얼굴이 무뚝뚝한 표정이더라도 웃는 얼굴의 영상을 만들어 준다. 신기하고 재미있는 앱이지만, 합성 영상으로 범죄에 악용될 수 있어 주의가 필요하다. 요즘 뜨고 있는 딥페이크 기술과 이를 악용한 사이버 범죄 사례에 대해 살펴본다.

 

진짜 같은 가짜, 딥페이크 기술

최근 인기를 끌고 있는 넷플릭스 드라마 오징어게임의 짤막한 영상에 이정재 얼굴 대신 손흥민 선수 얼굴이 합성되고 상대 배우 박해수 얼굴에는 해리 케인의 얼굴이 합성된 영상이 인스타그램에 올라와 화제가 됐다. 연예인 유병재, 가수 이특, 배우 김가연 등도 자신의 얼굴을 다른 사람의 얼굴에 합성한 영상을 인스타그램에 올려 이 앱의 인기를 실감케 했다. 모두 페이스플레이(FacePlay) 앱을 이용한 것들이다.

딥페이크 앱 페이스플레이는 중국 회사 이노베이션 테크놀로지스가 개발했다. 앱에서 제공하는 영상을 선택하고 자신의 휴대폰 앨범 속 사진을 고르면 자동으로 딥페이크 영상이 완성된다. 영상과 사진의 각도가 잘 맞으면 실제로 촬영한 영상처럼 보일 정도로 감쪽같다. 영상이 완성되면 곧바로 저장할 수 있고 다른 SNS로 공유할 수도 있다. 

딥페이크는 인공지능(AI)의 한 분야인 딥러닝(deep learning)과 페이크(fake)의 합성어로, 인공지능 기술을 이용해 만든 가짜 사진이나 영상을 말한다. 특히 최근에는 딥페이크 관련 앱이 늘어나면서 위 사례처럼 누구나 손쉽게 딥페이크 영상을 제작할 수 있는 환경이 됐다. 가장 대표적인 앱이 페이스플레이와 리페이스이다.

지난 8월 출시된 페이스플레이는 이용자 수가 출시 첫 달 2만 7,215명에서 9월엔 14만 186명으로 한 달 만에 5배 이상 급증했고 11월 현재 100만 다운로드를 넘어섰다. 페이스플레이는 한때 구글 플레이 스토어 사진 및 비디오 부문의 무료 앱 인기차트에서 인스타그램(2위)와 유튜브(3위)를 제치고 1위에 오를 정도로 높은 관심을 받았고 앱스토어 전체 무료 앱 인기차트에서도 1위에 올랐다. 

SNS에서는 이 앱으로 만든 딥페이크 영상을 게시하고 공유하는 놀이가 한창이다. 인스타그램에서 페이스플레이를 검색하면 본인의 사진으로 만든 딥페이크 영상을 재밋거리로 공유하며 즐기는 모습을 쉽게 발견할 수 있다. 손쉬운 사용에 재미까지 더해진 딥페이크 영상 제작이 SNS에서 유행처럼 확산하고 있어 11월 현재 인스타그램에서 #faceplay 해시태그를 단 게시물은 3만 7,000개에 달한다.

 

딥페이크, 사용 방식에 따라 '양날의 칼'

딥페이크 기술은 페이스플레이에서 보듯 우리 일상에 자연스레 스며들면서 MZ세대의 놀이로 자리 잡고 있는 분위기다. 문제는 딥페이크가 텔레그램 N번방에서 성착취물 영상 제작 등 범죄에 이용돼 논란을 일으킨 기술이라는 점이다. 페이스플레이가 사기, 협박, 성범죄 등 여러 가지 범죄에 활용될 수 있고 일반인들도 딥페이크 대상이 될 수 있다는 점이 간과되고 있다. 누구라도 범죄의 타깃이 될 수 있는 것이다.

앱 출시 초기에는 재미 위주의 단순한 딥페이크 영상들이 SNS에 올라왔다. 하지만 최근 들어 재미를 넘어 성적 허위영상들이 주로 올라오면서 사회적 문제 요인으로 지적되고 있다. 인터넷에서 일반인과 연예인 등 피해자들의 사진과 개인정보를 획득한 후 성적 허위 영상물을 제작해 유포하는 사례가 증가하고 있다. 방송통신심의위원회의 자료에 따르면, 올해 1~9월 딥페이크 성적 허위영상의 처리 건수는 1,408건으로 지난해 6~12월에 비해 256%나 증가했다. 

 

정부 산하기관인 디지털성범죄피해자지원센터에서 1만 1,891건의 성적 딥페이크 영상을 확인한 결과 아이돌 등 가수(71%), 배우(5.5%) 등 유명인의 피해가 컸지만, 학생·직장인 등 일반인을 대상으로 한 딥페이크 영상도 19.5%를 차지했다

딥페이크 범죄 대응하기 위한 사회적 노력 계속된다...

문제는 성적 수치심을 느낄 수 있는 딥페이크 영상을 제작해 유포할 경우 법적 처벌을 받을 수 있다. 지난해 6월 25일 이른바 딥페이크 처벌법으로 불리는 ‘성폭력범죄의 처벌 등에 관한 특례법’ 일부 개정안이 시행되면서 딥페이크 범죄에 대한 처벌이 강화됐기 때문이다. 지난 1월에는 불법 영상·딥페이크를 강력히 처벌해달라는 내용의 청와대 국민청원이 올라와 한 달만에 39만 명의 동의를 받았다. 이어 지난 5월 류호정 정의당 의원이 ‘딥페이크 성착취’ 영상 등을 소지만 하더라도 처벌할 수 있는 성폭력 처벌법 개정안을 대표발의하기도 했다.

개정안에 따르면 딥페이크 영상물을 제작·반포·상영한 자는 ‘5년 이하의 징역 또는 5,000만원 이하의 벌금’, 영리를 목적으로 정보통신망을 이용해 반포한 경우에는 ‘7년 이하의 징역’으로 가중 처벌받는다. 이처럼 처벌은 강화됐지만 딥페이크 범죄 적발 건수는 줄지 않고 있다. 특히 최근에는 가해자와 피해자 연령대도 낮아지는 추세다.

딥페이크 기술을 활용한 범죄는 갈수록 늘고 있다. 지난해 12월에는 연예인 얼굴을 편집해 불법 영상물을 유포한 10대가 구속되기도 했다. 해외 SNS를 통해 가수 150여 명의 얼굴을 불법으로 합성한 사진 3,039건을 유통, 판매한 사람들도 적발됐다. 지난 2020년 12월 1일부터 2021년 4월 30일까지 경찰청이 진행한 불법 합성물 제작·유포 집중 수사에 따르면 불법 합성물 제작으로 검거된 피의자 중 10대와 20대가 전체 피의자의 약 87%를 차지했다.

전문가들은 딥페이크 범죄 피해를 예방하기 위해 인스타그램, 페이스북과 같은 소셜네트워크서비스(SNS)에 개인정보 공개를 최소화해야 한다고 권고한다. 또한 딥페이크를 활용해 영상을 제작할 때 출처를 표시하는 워터마크나 해시태그 등을 넣어서 영상이 언론 왜곡, 비방, 모욕 등에 악용되는 것을 어느 정도 막을 수 있다고 제언한다. 마지막으로는 무엇이 딥페이크인지 구별하는 탐지 기술의 도입과 이를 사용하는 사용자 교육도 중요하다고 말한다.

딥페이크 개발 기술과 탐지 기술은 악성코드와 백신(안티바이러스) 프로그램과 같이 건전하고 안전한 디지털 생태계를 만들기 위해 함께 가야 하는 기술들이다. 가짜를 진짜처럼 만드는 '생성자(generator)'와 가짜와 진짜를 식별하는 '판별자(discriminator)'의 경쟁 속에서 딥페이크 기술은 더욱 고도화될 것으로 전망된다.

• 
• 콘텐츠기획팀

이 정보에 대한 저작권은 AhnLab에 있으며 무단 사용 및 도용을 금합니다.

단, 개인이 비상업적인 목적으로 일부 내용을 사용하는 것은 허용하고 있으나, 이 경우 반드시 출처가 AhnLab임을 밝혀야 합니다.
기업이 이 정보를 사용할 때에는 반드시 AhnLab 의 허가를 받아야 하며, 허가 없이 정보를 이용할 경우 저작권 침해로 간주되어 법적인 제재를 받을 수 있습니다. 자세한 내용은 컨텐츠 이용약관을 참고하시기 바랍니다.

정보 이용 문의 : contents@ahnlab.com