딥페이크 드라마: 한국의 텔레그램 AI 스캔들과 전쟁

[객원 에디터 8기/ 오민경 기자] 최근 몇 년 동안 한국에서는 AI 기술을 악의적으로 사용하여 합의되지 않은 노골적인 콘텐츠를 만드는 딥페이크 포르노 문제가 점점 커지고 있다. Telegram과 같은 플랫폼을 통해 이러한 불법적인 콘텐츠가 광범위하게 유포됨에 따라 이 문제는 국가 전체의 법적, 기술적, 윤리적 환경에 영향을 미치는 중요한 사회적 문제가 되었다. 

그렇다면 딥페이크란 무엇인가? 딥페이크(Deep fake)는 딥러닝(Deep learning)과 가짜(Fake)의 합성어로 딥러닝 기술을 이용하는 인간 이미지 합성 기술이다. 이 용어는 2017년 “deepfakes”라는 이용자 아이디를 갖고 있던 한 레딧(Reddit) 커뮤니티 이용자가 유명인 얼굴을 합성한 음란물을 게시하며 사용되기 시작되었다. 사람의 얼굴을 다른 사람의 얼굴이나 몸으로 조작하거나 대체하여 초현실적인 이미지를 만들 수 있는 이 기술은 매우 혁신적이었다. 일례로 AI 합성 콘텐츠를 제작하는 신서시아(Synthesia)에서 딥페이크를 이용해 데이비드 베컴의 말라리아 퇴치 캠페인 동영상을 중국어, 아랍어, 힌디어, 스와힐리어, 요루바어 등 9개 언어로 자막 처리 또는 더빙하기도 했다. 그러나 최근 들어 딥페이크는 사람들(주로 여성)이 참여하지 않은 노골적인 성행위로 묘사되는 충격적인 포르노를 만드는 도구로 악용되고 있다.

가장 악명 높은 사건 중 하나는 2020년 전국을 충격에 빠뜨린 N번방 사건이다. 이 범죄조직은 텔레그렘을 이용하여 여성과 미성년자의 성착취 영상을 비롯한 수많은 불법 음란물을 공유했으며, 그중에는 딥페이크 콘텐츠도 포함되어 있었다. 범죄자들은 익명성을 등에 업고 암호화된 플랫폼을 활용하여 법 집행을 피하며 불법 콘텐츠를 널리 퍼트렸다. 이 사건 이후 성폭령처벌법상 불법 영상물을 제작, 유포하는 행위에 대한 처벌은 최대 7년형으로 강화되었다. 그러나, 여기에서 끝이 아니다. 딥페이크는 N번방 사건 이후 지난 4년 동안 더 교묘하고 발전된 기술로 진화했다. 

몇 년 전까지만 해도 일정 수준의 시간과 비용이 필요했다면 이제는 AI 딥페이크 기술을 통해 사진 몇 장 만으로도 단 몇 초 만에 음란 합성물을 만들 수 있게 되었다. 

2024년 현재 전국 곳곳에서 성인, 미성년자를 가리지 않고 수백 명의 딥페이크 피해자가 나오고 있다. 전국교직원노동조합이 지난달 27일과 28일 이틀간 전국의 유치원, 초, 중, 고등학교를 대상으로 진행한 실태조사에선 약 2500건의 피해신고가 접수되었다. 조사 결과, 몇몇 대화방의 불법 딥페이크물 제작자들은 회원들에게 딥페이크의 대상이 될 사람의 이름, 나이, 거주 지역과 함께 여러 사진을 올리라고 요구했다. 굉장히 많은 서버가 존재하며 그중에서 회원 수가 무려 2000명이 넘는 대화방도 있었고, 같은 학교에 다니는 학생들이 모인 대화방도 여러 개 발견되었다.

해외에 서버를 둔 텔레그램은 강제 수사를 통한 자료 확보가 불가능해 콘텐츠 제작, 유포자를 추적하기 어렵다. 이뿐만 아니라 암호화 시스템, 비공개 초대 전용 채널 등 보안이 강력해 이미 올라와버린 불법 콘텐츠는 삭제하기도 쉽지 않다. 또한 텔레그렘방이 삭제된 경우에는 해당 방의 운영자를 찾기가 거의 불가능하다. 대부분의 범죄자들은 이러한 비밀화 시스템을 활용하여 쉽게 적발되지 않는다는 이유로 범죄에 참여한다. 가해자로 의심되는 상당수는 10대 청소년이다. 촉법소년의 경우 처벌이 불가능하고, 그렇지 않은 경우에도 허위 영상물에 대한 처벌 수위는 낮다. 현재로서는 N번방 사건 이후 성폭력처벌법상 불법 콘텐츠를 제작, 유포하는 행위에 대한 처벌은 최대 7년형, 허위 영상물 유포 행위는 최대 5년형에 불과하다. 또한 허위 영상물을 유포하지 않고 제작하기만 한 경우에는 처벌할 근거도 아직 존재하지 않는다. 

딥페이크 피해자는 심각한 정서적, 심리적 트라우마에 시달리는 경우가 많으며, 많은 이들은 아직도 자신의 이미지를 인터넷에서 삭제하는 데 어려움을 겪고 있다. 어떤 경우에는 딥페이크 동영상이 국내외 플랫폼에 널리 유포되어 많은 피해자에게 명예손상과 심각한 정신적 악영향을 끼치고 있다. 딥페이크 포르노의 증가로 인해 AI 기술의 영향에 대한 윤리적 우려도 제기되었다. AI는 혁신을 위한 엄청난 잠재력을 갖고 있지만, AI의 악용은 첨단 도구가 개인정보 보호와 존엄성을 침해하기 위해 무기화될 수 있다는 기술의 어두운 면을 보여 보여준다.

텔레그램의 창업자 파벨 두로프 CEO는 아동 음란물 유포와 마약 밀매, 조지적 사기 공모 등 텔레그램과 관련된 12가지 범죄 혐의로 지난달 26일 프랑스에서 체포됐다. 이의 체포와 동시에 텔레그램에 대한 관심은 폭발하여 다운로드 수는 오히려 증가했다. 

정부와 여당은 현행 최대 징역 5년인 ‘허위영상물’ 유포 등 형량을 ‘불법 촬영물’과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진할 계획이다. 특히 청소년들이 딥페이크 성범죄에 가해자인 것이 파악되면서 ‘촉법소년'(형사처벌을 받지 않는 10세 이상 14세 미만)의 기준을 낮추는 방안도 검토될 전망이다. 가해자의 상당수가 촉법소년인 만큼 처벌도 중요하지만 애초에 범행을 저지르게 않도록 하는 노력과 효과적인 교육이 필요할 것이다.