< 일러스트 FacePhi 제공 >
불법 딥페이크 잡기 위한 추경 예산 확보
[객원 에디터 9기 / 정호진 기자] 대선이 다가오고 대선 열기가 고조되면서, 특정 후보를 비방하기 위한 딥페이크 합성물도 사회적 문제로 떠오르고 있다. 딥페이크(Deepfake)란 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로, 인공지능 기술을 기반으로 제작된 가짜 이미지, 오디오, 영상 등을 의미한다. 선거판에서 딥페이크 합성물이 본격적으로 퍼지기 시작하면서, 불법 딥페이크에 대한 우려가 점점 현실이 되고 있다. 딥페이크의 확산 속도는 폭발적이며, 기술 역시 실물과 구분이 어려울 정도로 정교해지고 있다.
경찰청 국가수사본부(국수본)는 지난 19일, 대선과 관련해 총 276건, 363명을 수사 중이라고 밝혔다. 이 중 6명은 송치되었고, 7명은 불송치, 350명은 수사 중이다. 대선뿐 아니라, 지난해부터 사회적 문제로 대두된 딥페이크의 경우, 얼굴이나 신상 정보를 불법으로 합성해 이미지나 영상으로 제작되기 때문에, 기존의 텍스트 중심 탐지 시스템으로는 걸러내기에 한계가 있었다.
미국 또한 딥페이크 문제가 심각한 상황이다. 미국 연방수사국(FBI)은 고위 관료를 사칭한 인공지능(AI) 음성 메시지 사기 피해가 늘고 있다며, 미국 공무원들에게 경고했다. 미국에서는 지난해에만 약 7조 원 이상의 피해가 발생했으며, 노년층뿐 아니라 젊은 세대의 피해도 크게 증가한 것으로 나타났다. 딥페이크 기술이 더욱 정교해지면서, 유명 연예인을 사칭해 팬들에게 금전적 사기를 벌이는 사건까지 발생하고 있다.
이에 따라, 도널드 트럼프 전 대통령은 19일(현지 시간), 딥페이크 및 디지털 성범죄 금지에 관한 법률에 서명했다. 이 법안은 원본이든 AI가 생성했던, 동의 없이 노골적인 이미지를 배포하는 행위를 엄격히 처벌하며, 게시자뿐 아니라 소셜미디어 기업과 온라인 플랫폼도 피해자로부터 통보받은 후 48시간 이내에 해당 콘텐츠를 삭제해야 한다. 이미 많은 주에서 관련 행위를 금지하고 있었지만, 연방 정부가 나서서 인터넷 기업에 직접적인 제한을 가한 것은 이번이 처음이다.
우리나라에서도 개인정보보호위원회는 딥페이크 탐지 대상을 기존 텍스트 중심에서 이미지와 영상 중심으로 확대하고, 키워드 기반 탐지 시스템에 머신러닝 등 인공지능(AI) 기술을 접목하겠다고 밝혔다. 또한 위원회는 딥페이크 등 합성·편집물 탐지 시스템을 강화하기 위해 올해 제1차 추가경정예산으로 12억 9천6백만 원을 편성했다. 4일 개인정보위에 따르면, 이번 예산은 개인정보 유출 및 불법 유통 양상이 텍스트에서 비정형 데이터 중심으로 변화하고 있는 상황을 반영하여, 탐지 시스템을 고도화하는 데 투입될 예정이다.
개인정보위 관계자는 “확정된 추경 예산을 통해 이미지나 영상에 포함된 개인정보를 색출할 수 있는 시스템을 구축해, 개인정보 유출과 불법 유통을 최소화하고 2차 피해를 예방하겠다”라고 밝혔다. 또한 대선 후보자들 역시 불법 딥페이크 영상 유통 플랫폼에 대한 처벌 강화를 공약으로 내세우고 있어, 정책과 예산 편성이 기대된다.
