생성형 AI를 이용한 가짜뉴스의 심각성

日 기시다 후미오 총리 가짜 동영상 소셜 미디어에서 확산

해당 동영상은 생성형 인공지능 (Generative AI)로 제작된 것으로 밝혀져

[객원 에디터 6기 / 배미루 기자] 일본에서 생성형 인공지능을 사용한 기시다 후미오 총리의 가짜 동영상이 소셜미디어(SNS)에 확산되며 논란이 일고 있다. 이 가짜 동영상은 기시다 총리가 성적 발언을 하는 것처럼 보이도록 제작되었으며, 실제 일본 민영 방송인 닛폰테레비(닛테레) 뉴스 프로그램과 유사한 로고와 자막이 표시되어 있어 혼동을 일으키는 것으로 보인다. 

이 가짜 동영상은 처음에는 3분 43초 분량으로 등장했지만, 나중에 30초 분량으로 줄여져 소셜미디어에 업로드되었으며, 조회수가 급속하게 늘어난 것으로 보고 있다. 현재 원본 영상은 삭제된 것으로 알려졌으나, 에스엔에스에서는 기시다 총리의 가짜영상을 볼 수 있다.

이 가짜 동영상을 만든 20대 남성은 오사카에 거주하며, 생성형 AI를 사용하여 기시다 총리의 목소리와 입모양을 조작하였다. 그는 이 가짜 동영상을 재미로 만들었다고 주장하며, 목적은 기시다 총리를 모욕하거나 공격하는 것이 아니라 유명인사의 이미지를 가리키기 위한 것이었다고 설명했다.

닛폰테레비는 가짜 동영상이 방송 및 프로그램 로고를 악용한 것을 용서할 수 없다고 밝히며, 필요한 대응을 앞으로 계획하겠다고 밝혔다.

이 남성은 이전에도 다른 정치인 및 유명인사의 가짜 동영상을 만들어 SNS에 업로드한 경력이 있다. 이와 같은 가짜 뉴스 및 가짜 동영상은 일본뿐만 아니라 다른 나라에서도 문제가 되고 있으며, 이러한 현상은 인공지능 기술의 발전과 함께 증가하고 있는 우려가 있다. 

최근, 가짜뉴스의 확산이 현대사회에서 큰 문제가 되고 있다. 가짜 뉴스는 신뢰를 훼손하고 사회적 신뢰 구조를 흔들어 놓을 수 있다. 사람들은 어떤 정보를 믿을지 고민하게 되며, 믿을만한 뉴스와 신뢰할 수 있는 매체를 찾는 것이 어려워진다. 거짓 정보나 조작된 사실로 인해 사람들은 혼란스럽고 불안한 상황에 처할 수 있으며, 이는 정치, 경제, 사회 등 여러 분야에 영향을 미칠 수 있다. 

또한 가짜 뉴스는 언론의 역할과 책임에 대한 질문을 던진다. 언론은 사실과 진실을 확인하고 공정한 보도를 제공해야 한다. 가짜 뉴스로부터 사회를 보호하고 진실을 전파하기 위한 언론의 역할이 더욱 중요해지고 있다. 

가짜 뉴스의 영향은 점점 더 심각해지고 있으며, 사회적 및 정치적 문제를 야기할 수 있다. 이 문제에 대한 대응은 국가, 언론, 기술 기업, 교육 기관, 그리고 개개인의 협력이 필요하며, 신뢰성 있는 정보 환경을 구축하기 위한 노력이 계속되어야 한다.