지난 7일(현지 시각), 인스타그램에 게시된 마크 저커버그(Mark Zuckerberg)의 영상 한 편에 많은 이들의 관심이 쏠렸다. 영상 속에서 마크 저커버그는 책상에 앉아 “수십억명의 데이터와 그들의 비밀, 생명, 그리고 미래를 완전히 통제하는 한 사람이 있다고 상상해보라”라며, “나는 이 모든 걸 “스펙터(Spectre)”에게 빚지고 있다. 스펙터가 내게 데이터를 통제하는 사람이 미래를 통제한다는 사실을 알려주었다”라고 말한다.
전 세계적인 음모가 공개되는 순간을 담고 있는 듯한 이 영상은 다행히 사실이 아닌 것으로 판명되었다. 이는 인공지능(AI)를 이용한 동영상 조작 기술인 딥페이크(Deepfake)를 이용한 것으로, 예술가인 빌 포스터(Bill Poster)와 다니엘 하우(Daniel Howe), 그리고 인공지능 스타트업 캐니AI(CannyAI)의 공동 작업물인 것으로 밝혀졌기 때문이다. 영상 속 마크 저커버그가 언급한 ‘스펙터’는 제임스 본드(James Bond) 시리즈에 등장하는 비밀결사의 이름인 동시에 빌 포스터와 다니엘 하우의 새로운 프로젝트의 이름이기도 하다.
하지만 이 영상이 딥페이크로 만들어진 거짓 영상이라는 것이 밝혀진 이후에도 많은 이들은 관심을 거두지 않았다. 얼마 전 낸시 펠로시(Nancy Pelosi) 미 하원의장의 딥페이크 영상이 페이스북을 통해 유포되었을 당시 페이스북 측이 “플랫폼 내 업로드된 정보가 반드시 사실이어야만 한다는 규정은 없다”라는 이유로 민주당의 삭제 요청을 거부한 바 있기 때문이다. 따라서 대중과 언론은 페이스북이 과연 자사 CEO의 모습이 담긴 영상도 동일한 기준으로 판단할 수 있을지 기대했다.
결국 페이스북은 지난 12일(현지 시각) 입장을 발표했는데, 이들은 플랫폼 사업자는 중립적이어야 한다는 기본 원칙을 고수하기 위해 마크 저커버그의 영상을 삭제하지 않기로 했다. 하지만 같은 날 이들은 자사가 사용하는 제 3자 팩트 체크 프로그램이 하나의 영상이 거짓 정보를 유포한다고 인식할 경우 인스타그램의 ‘탐색’이나 ‘해시태그’ 기능에서는 걸러질 수밖에 없을 것이라고 밝혔는데, 이후 실제로 이 영상의 배포가 제한되면서 논란은 더욱 커졌다.
페이스북의 조치에 큰 우려를 느낀 빌 포스터와 다니엘 하우는 즉각 두 번째 딥페이크 영상을 올렸다. 그들에 따르면 자신들의 영상은 거짓 정보를 유포하기 위한 목적으로 만들어지지 않았을 뿐 아니라, 예술을 통해 심각한 문제를 우회적으로 표현해내는 작품에 불과하기에 배포를 제한하는 것은 표현의 자유를 훼손하는 행위가 된다고. 딥페이크 영상 한 편으로 인해 불거진 이번 논란은 21세기에서 ‘거짓 정보 차단’과 ‘표현의 자유’ 중 어떤 것이 더욱 중요한 가치인지에 관한 끝없는 딜레마로 이어진다.
진실한 정보의 가치를 지키고자 하는 이들과 표현의 자유를 보장하고자 하는 이들이 첨예하게 대립하는 한편, 캐니 AI의 창립자인 오메르 벤-아미(Omer Ben-Ami)는 이번 사건이 대중들에게 인공지능의 활용 가능성을 알리며, 다음 단계를 상상해 볼 수 있는 기회가 될 것이라고 전했다. 그는 딥페이크 기술이 “모든 개개인이 자신의 디지털 카피(Digital Copy), 즉 범우주적이고 영원한 인간을 소유할 수 있게 되는 디지털 혁명”으로 가는 길이 될 것이라고 설명했다.
