탐지 정확도 92%대 모델 도입… 가짜 영상·음성 확산 차단
< 이미지 출처: ChatGPT 생성 이미지 >
[객원 에디터 11기 / 이다인 기자]정부가 인공지능(AI) 딥페이크 기술을 활용한 선거 가짜 뉴스 확산에 대응하기 위해 관련 규제를 강화하고 탐지 기술 도입에 나섰다. 딥페이크를 이용한 허위 영상과 음성이 유권자의 판단을 왜곡하고 선거 공정성을 훼손할 수 있다는 우려가 커지면서, 기술적 대응과 제도적 규제를 병행하는 방식으로 대응 체계를 구축하겠다는 방침이다.
딥페이크는 특정 인물의 얼굴이나 음성을 인공지능으로 합성해 실제와 구분하기 어려운 영상이나 음성을 만들어내는 기술이다. 최근 생성형 AI 기술의 발전으로 이러한 조작 콘텐츠의 정교함이 크게 높아지면서 일반 시민이 진위를 구별하기 어려운 수준에 이르렀다. 특히 선거 기간 동안 후보자의 발언이나 행동을 조작한 영상이 확산할 경우 유권자의 판단을 왜곡하고 사회적 혼란을 초래할 수 있다는 점에서 문제로 지적된다.
정부는 우선 제도적 대응으로 선거에서의 딥페이크 활용을 제한하기 위한 법적 장치를 마련했다. 교육부에 따르면 교육자치법 개정안이 국회를 통과하면서 교육감 선거 과정에서 인공지능을 활용한 조작 영상이나 음성을 이용한 선거운동이 제한된다. 개정안에 따르면 선거일 90일 전부터 선거일까지 딥페이크 영상 등을 제작·편집·유포하거나 게시할 경우 징역 또는 벌금이 부과될 수 있다. 또한 해당 기간이 아니더라도 영상이 인공지능으로 생성된 가상 정보임을 명확히 표시하지 않을 경우에도 과태료 처분 대상이 된다. 이는 딥페이크 기술을 이용한 허위 정보 확산을 사전에 차단하고, 교육감 선거의 공정성과 신뢰성을 확보하려는 조치로 해석된다.
정부는 규제에 더해 기술적 대응도 병행하고 있다. 행정안전부는 국립과학수사연구원과 공동으로 개발한 ‘AI 딥페이크 탐지 분석 모델’을 지방 선거 현장에 적용할 계획이라고 밝혔다. 해당 모델은 영상과 음성 데이터를 동시에 분석해 조작 여부를 판별하는 기술로, 최근 검증에서 약 92% 수준의 탐지 정확도를 기록한 것으로 나타났다.
이 모델은 영상 전체 흐름을 분석하는 ‘전역 분석’과 얼굴, 입 모양, 음성 신호 등 세부 요소의 비정상적인 패턴을 탐지하는 ‘국소 분석’을 결합한 방식으로 작동한다. 이를 통해 기존보다 정밀하게 딥페이크 여부를 식별할 수 있으며, 최근 확산하고 있는 생성형 AI 기반 콘텐츠에도 대응할 수 있도록 설계됐다. 정부는 해당 탐지 기술을 활용해 선거 기간 동안 유통되는 의심 영상과 음성 데이터를 신속하게 분석하고, 허위 정보 확산을 조기에 차단하겠다는 방침이다.
딥페이크 기술이 고도화될수록 단순한 규제만으로는 대응에 한계가 있다는 지적이 나온다. 특히 선거와 같이 사회적 영향력이 큰 영역에서는 허위 정보가 유권자의 의사결정에 영향을 미치고 여론 형성 과정에 개입할 수 있어 기술적 대응이 병행되어야 한다. 또한 딥페이크 기반 가짜 뉴스는 실제 인물의 발언이나 행동을 조작하는 특성상 기존의 허위 정보보다 더 빠르게 확산되며, 정보에 대한 신뢰를 악화시킬 가능성이 크다. 이에 따라 딥페이크 문제는 단순한 기술 문제가 아니라 선거 공정성과 민주주의 신뢰를 위협하는 사회적 이슈로 확대되고 있다.
실제로 해외에서는 딥페이크 기술이 정치적·사회적 영역에서 악용된 사례가 보고되고 있다. 미국에서는 인공지능으로 생성된 음성을 이용한 자동 전화(robocall)가 정치인이나 유명인의 목소리를 모방해 유권자에게 혼란을 줄 수 있다는 문제가 제기되었다. 이러한 방식은 특정 후보에 대한 허위 정보를 전달하거나 투표 참여를 방해하는 데 활용될 수 있다는 점에서 우려가 커졌다. 이에 미국 연방통신위원회(FCC)는 2024년 이러한 AI 음성 기반 전화 행위를 불법으로 규정하고 대응에 나선 바가 있다.
정부는 향후 딥페이크 대응 체계를 한층 강화하기 위해 관계 부처 간 협력을 확대하고, AI 기반 범죄 대응 기술을 지속적으로 고도화할 방침이다. 이를 통해 선거 과정에서 허위·조작 정보로 인한 혼선을 줄이고 공정한 정보 환경을 유지하겠다는 계획이다.
