페이크의 시대: 생성 AI와 AI의 경쟁

딥페이크 탐지 기술 의료 분야의 딥페이크

[객원 에디터 8기 / 하지후 기자] 최근 생성 인공지능(AI) 기술을 활용한 이미지 합성 기술인 딥페이크가 많이 사용되고 있다. 음란물과 가짜뉴스의 확산으로 딥페이크 콘텐츠를 탐지하려는 기술 업체들과 가짜 콘텐츠의 신뢰성을 높이려는 기술 업체 사이에 경쟁이 치열해지고 있다. AI가 리얼한 영상을 생성하면, 다른 AI가 탐지하고, 또 다른 AI가 탐지를 피하기 위해 더욱 정교한 이미지를 생성하는 사이클이 반복되고 있다. 

현재 많이 사용되는 딥페이크 기술은 ‘적대적 생성 신경망(GAN)’이다. GAN은 가짜 콘텐츠를 생성하는 생성 AI와 이 콘텐츠의 사실 여부를 판별하는 판별 AI로 구성됐다. 생성 AI는 실제 이미지를 참고해 가짜 사진을 만들고, 판별 AI는 이 이미지가 진짜 이미지와 얼마나 유사한지를 평가한다. 

GAN을 활용한 딥페이크 기술은 각도, 색상 등을 분석해 점점 더 디테일한 가짜 이미지를 만들어낸다. 이와 함께 합성곱 신경망(CNN) 기술도 사용되어 이미지의 세부 요소를 분석하고 가짜와 진짜를 구분하는 데 돕는다.

딥페이크의 출현은 2017에 시작했다. 미국 웹사이트 레딧에서 사용자가 영화 ‘원더우먼’의 배우 갈 가도트의 얼굴을 포르노 배우에 합성한 영상이 공개되면서 시작됐다. 이후 딥페이크 기술은 유명인, 미술품에 적용된 이미지를 통해 온라인 커뮤니티에서 놀이 문화로 자리 잡았고, 미국 전 대통령 버락 오바마, 도널드 트럼프, 프란치스코 교황 등의 이미지로 사회적 논란을 일으켰다. 

딥페이크를 탐지하기 위한 기술도 계속 발전하고 있다. 생성 AI가 만든 콘텐츠의 어색함을 발견하는 데 초점을 맞춘 탐지 기술들이 연구되고 있다. AI는 눈꺼풀의 떨림, 눈 깜빡임, 말할 때의 입술 모양 등에서 자연스러움을 구현하는 데 한계가 있어, 이러한 어색함을 이용해 딥페이크를 구분할 수 있다. 또한, 고해상도 이미지에서는 AI의 어색함이 더욱 드러나며, 이를 분석하여 탐지하는 기술이 개발되고 있다. 

인텔의 ‘페이크캐처’는 영상 속 얼굴 표면의 정맥 색 변화로 딥페이크를 감지하는 기술을 선보였다. 이 기술은 심장이 뛸 때마다 정맥의 색이 미세하게 변하는 것을 감지하여 진위 여부를 판별한다. 국내에서는 딥브레인 AI가 10분 이내에 딥페이크를 식별할 수 있는 탐지 설루션을 제공하고 있으며, 샌즈랩은 다양한 기업 및 연구기관과 협업하여 생성 AI 역기능 억제 기술을 개발하고 있다. 정부는 내년에 딥페이크 탐지 및 억제 기술 개발에 20억 원을 투입할 예정이라 전했다.

하지만 지금 탐지 기술로는 딥페이크 콘텐츠를 완전히 구분하기 어렵다. 생성되는 콘텐츠의 품질이 좋아지면서 탐지 기술의 정확도는 80% 정도로 추정되고 있다. 

딥페이크 기술은 악용되는 사례 외에도 유익한 분야에서 활용됐다. 의료 분야에서는 GAN을 이용해 치아 신경망 사진의 품질을 개선하거나, 표정 파악이 어려운 환자들의 영상 분석을 돕는다. 문화 분야에서는 고인의 생전 모습을 재현하거나, 범죄자 및 테러범의 신원 확인을 위한 정확도가 좋아지고 있다. 

구글과 오픈 AI는 이미지 생성 기능에 워터마크를 적용해 가짜 콘텐츠를 구별할 수 있도록 하는 노력을 기울이고 있으며, 메타도 이와 유사한 기술을 추진하고 있다. 이러한 기술들이 딥페이크의 악용을 줄이는 데 기여할 것으로 기대된다.