AI는 현대 장산범? 나날이 발전하는 보이스피싱

보이스피싱에 악용되는 AI와 딥페이크 기술

[객원 에디터 7기 / 정서현 기자] 최근 인터넷을 보면 ‘AI 커버’라는 영상들이 무수히 존재한다. 예를 들어 아이유가 다른 가수 비비(BIBI)의 노래 ‘밤양갱’을 부르는 영상처럼, 실제로 부르지 않았는데도 AI를 활용해 그 가수가 부른 것처럼 제작하는 방식이다. 실제로 들어보면 원 가수의 창법이 고스란히 담겼다는 걸 알 수 있다. 특정 사람의 목소리를 약 3초만 들어도 완벽하게 따라 할 수 있는 AI의 특징이다. 

그런 AI가 보이스피싱에 악용된다면 어떻게 될까? 만약 모르는 번호로 전화가 왔을 때 우리가 무심코 ‘여보세요’ 같은 답변을 하게 된다면, AI는 이 짧은 말로도 우리의 목소리 자체를 복사할 수 있다. 실제로 국내 대학생들이 사용하는 커뮤니티 ‘에브리타임’에는 한 학생이 모르는 번호로 전화가 왔었는데 교수님이 상대방이 아무 말도 하지 않는다면 목소리를 내지 말고 바로 끊으라고 하였는데 그 덕분에 학생은 보이스피싱을 막을 수 있다는 사례가 제보됐다. 

AI는 이런 목소리 복사 이외에도 딥페이크 기술도 사용할 수 있기 때문에 얼굴도 복사해서 목소리와 함께 사용한다면 피해자가 속지 않는 것은 어려울 수 있다. 2021년 아랍에미리트의 은행은 대기업 임원 목소리를 복제한 AI 범죄조직에 속아 3500만 달러를 보낸 사례가 있었다. 그러나 이런 발전하는 보이스피싱이 아예 대처가 불가능한 것은 아니다. 대부분의 보이스피싱은 금전적 요구를 하기 때문에 다른 보이스피싱과 별반 다르지 않다.

또한, 정부도 점점 다양해지는 보이스피싱에 대처하기 위해 대처법을 계속 연구 중에 있다. 예를 들어 금융감독원에서 운영하고 있는 웹사이트 ‘보이스피싱지킴이’는 사전예방법, 보이스피싱을 직접 체험할 수 있는 사이트, 보이스피싱을 당한 후 행동요령, 등등 다양한 서비스를 제공하고 있다. 게다가 정부는 강력한 수사와 단속을 통해 범죄단체를 연이어 소탕하고 있다. 정책브리핑에 따르면, 전국 검찰청과 정부합동수사단은 올해 상반기만 피싱사범 224명을 입건(구속 117명)하고 5개 대포폰 유통조직을 적발해 총책 5명과 조직원 22명을 모두 구속하는 등 큰 성과를 내고 있다고 전해졌다. 

이런 식으로 더 많은 범죄단체들을 계속 단속하거나 처벌하고 있지만, 피해자는 계속 생겨나는 추세다. 금융감독원이 발표한 ‘2023년 보이스피싱 피해현황 분석’ 자료에 따르면, 작년 보이스피싱 피해액은 아직 1965억 원으로 높은 수치를 유지 중이다. 피해자 수는 감소하였으나 피해억원은 작년에 비해 약 514억 원만큼 증가하였다. 피해액이 증가한 만큼 보이스피싱 범죄자들을 조금 더 강력하게 처벌하여 더 이상 피해자들이 나오지 않게 만드는 것이 중요하다.