무분별한 AI 생성 콘텐츠, 민주주의를 위협할 수 있다

딥페이크 사용으로 선거에 혼란을 줘

구글, 오픈 AI를 포함한 빅테크들은 콘텐츠 규제에 서명

AI의 악용을 막을 법안 또는 규제 필요

[객원 에디터 6기 / 이채은 기자] 딥페이크는 인공지능을 기반으로 한 이미지를 합성 기술이다. 인공지능 기술인 딥 러닝 (deep learning)과 가짜(fake)의 합성어이다. 딥페이크의 기술 도입 이후 특수효과, 더빙, 과거 재현 등이 더 쉽고 간편해졌다. 하지만 아직은 장점보다는 단점이 더 많이 부각되는 것은 사실이다. 딥페이크는 범죄에 사용될 가능성이 높으며 잘못된 정보 특히 상대방의 비방을 위해 사용될 가능성이 높다. 그러한 이유에서 여러 인공지능 빅테크들은 선거 관련 딥페이크에 공동 대응한다고 밝혔다.

지난 11월 미국 하원 선거 운동에서 처음으로 인공지능 로봇이 활용되기 시작했다. 인공지능 로봇은 자신을 애슐리라고 소개하며 단순히 후보의 정책 공약을 설명할 뿐만 아니라 유권자와 대화도 나눌 수 있다. 학습이 가능한 인공지능이기에 유권자와의 대화를 통하며 학습하여 질문에 답한다. 20개국 언어에 능통해 다양한 국적의 유권자와도 소통할 수 있다. 이렇듯 좋은 방식으로 사용되는 경우도 있다.

한국에서는 지난달 22일 중앙선거관리위원회가 4월에 있을 22대 국회의원 총선거를 앞두고 인공지능 기반 딥페이크 영상을 사용하는 선거운동을 금지했다. 세계적으로 딥페이크와 인공지능 사용의 악용 사례가 잇따르는 중이기 때문에 이것이 민주주의와 시민 권리를 위협한다는 것을 고려했기 때문이다. 

저번 대통령 선거 기간 동안 AI 이미지 생성기는 트럼프가 체포되는 이미지와 미국 국방부가 폭파되는 영상 등으로 정치 및 경제에 큰 영향을 미쳤다. 지금까지는 AI를, 텍스트를 분석해 주고 써주는 편리한 도구라고 생각해 왔지만, 악용한 사례는 우리의 편리함보다 더 큰 영향을 미칠 수도 있다는 점이다. 

따라서 어제인 2월 14일, 오픈 AI, 구글, 메타 등 주요 빅테크들이 선거를 앞두고 유권자를 속이고 민주주의에 악영향을 미치는 인공지능 콘텐츠에 공동 대응하기로 서명했다. 이 서명안은 오는 16일 뮌헨 보안 콘퍼런스에서 세부 사항을 확정해 발표하기로 했다. 또한 기업들은 AI로 생성된 이미지를 식별할 수 있도록 하는 교육과 AI의 위험성을 알리는 캠페인을 진행하는 조치도 취할 것으로 동의했다.

그 외에도 틱톡은 자발적으로 공인의 이미지를 이용한 AI 생성 콘텐츠가 정치적 또는 상업적 홍보를 위해 사용하는 것을 금지했다. 또한 페이스북, 인스타그램, 메타는 자사 플랫폼에 광고를 게시할 때 AI를 사용했는지 여부를 공개하도록 했다. 

AI는 인간에게 편리한 도구로 잘 사용하면 크고 빠른 기술적인 진보를 보여줄 수 있다. 하지만 현재로서는 무분별한 이미지 생성으로 대중들에게 큰 위협을 가하고 있다. 따라서 앞으로도 AI로 생성된 콘텐츠를 규제하는 법안 또는 기업에서의 규제가 더욱더 철저해야 할 것으로 보인다.