지난해 연예인들의 얼굴을 합성한 19금 영상이 인터넷에 공개되면서 이슈가 된적이 있습니다. 해당 영상을 유포한 사람은 인공지능 기술을 이용해 해당 영상을 만드는 것은 크게 어려운 작업이 아니며 인터넷에 공개된 기술과 사진으로 제작이 가능했다고 밝혀 충격을 줬는데요.
영국 국영방송사 BBC에서는 인공지능을 이용해 사람들이 가짜뉴스를 만들어 배포한다면 큰 사회적 혼란이 발생할 수 있을 것을 우려, 해당 기술을 이해하고 조작된 영상을 감지할 수 있는 기술을 개발의 필요성을 인식하고 최근 재미있는(?) 실험을 했습니다.
BBC는 가짜뉴스를 감지하기 위해서는 해당 기술에 대한 이해를 먼저 해야한다면서 직접 가짜뉴스를 만들었는데요. 이들은 BBC 월드뉴스 앵커인 Matthew Amroliwala에게 20초 짜리 대본을 녹음하고, 다른 발표자에게 각각 다른 언어로 해당 대본으로 녹음했습니다.
이후 이 영상을 AI기업 Synthesia와 제휴를 통해 가짜뉴스를 만들었는데요. 먼저 Matthew Amroliwala의 얼굴 움직임을 학습시키기 위해 준비된 대본을 읽도록 해 Matthew 얼굴에 대한 사실적인 이미지를 만들어 내고 새로운 디지털 얼굴의 기초를 형성하도록 훈련시켰습니다.
마지막으로 디지털 얼굴을 생생하게 표현하기 위해 같은 대본을 녹음한 동료들의 얼굴 표정과 오디오 트랙을 새로운 디지털 얼굴로 옮기는 과정을 거쳤습니다. 이 과정은 디지털 인형극(digital puppeteering)이라 불립니다.
아래는 이 과정을 통해 완성된 가짜뉴스 영상입니다. Matthew는 실제로 영어밖에 하지 못하지만 영상에서는 스페인어, 힌디어, 중국어로 뉴스를 하는 모습을 확인 할 수 있습니다.
몇몇 부분에서는 아직 부자연스럽지만 전체적으로 봤을 때는 완성도과 꽤 높습니다. 눈여겨 보지 않는다면 사람들은 Matthew가 외국어로 뉴스를 하는 것으로 받아들일 가능성이 충분히 높다고 보여집니다.
BBC는 Deepfake와 같은 인공지능 기술로 저렴하고 신속하게 가짜뉴스를 만들수 있지만 지금 당장 이런 영상을 판별할 수 있는 기술 개발은 갈길이 멀다면서 당장은 대중들에게 이런 기술에 대한 정보를 전달 대중들이 스스로 인식할 수 있는 방안이 필요하다고 밝혔습니다.
과연 BBC가 어떤 답을 찾을지 모르겠지만, 가짜뉴스를 식별하는 기술도 결국 인공지능이 되지 않을까요?
