백과

딥페이크(deepfake)는 딥러닝(deep learning)과 페이크(fake)의 합성어다. 적대관계생성신경망(GAN: Generative Adversarial Network)이라는 기계학습(ML) 기술을 사용하여, 기존 사진이나 영상을 원본에 겹쳐서 만들어 낸다.

2017년 미국 대형 온라인 커뮤니티 ‘레딧’에 올라온 합성 포르노 영상을 딥페이크 시초로 본다. ‘Deepfakes’라는 아이디를 쓰는 이용자가 오픈 소스 소프트웨어(SW) 텐서플로(TensorFlow)를 활용해서 유명 연예인과 포르노를 합성한 영상을 올렸다. 이후 ‘FakeApp’이라는 무료 SW가 배포되면서 초보자도 쉽게 딥페이크 영상을 만들어 올리기 시작하였다. 기술이 고도화되면서 점차 진짜와 구분하기 어려운 수준까지 발전하였다.

딥페이크 기술은 많은 윤리 논쟁을 촉발하였다. 위조 포르노로 피해자가 늘고 있다는 점이 가장 큰 우려를 사고 있다. 갤 가돗, 엠마 왓슨 등 미국 할리우드 유명 여배우들이 딥페이크 포르노 영상으로 많은 피해를 입었다. 아시아 지역에서는 한국 케이팝 가수들을 타깃으로 하고 있다. 사이버 보안 연구회사 딥트레이스의 보고서에 따르면 2019년 유통되고 있는 딥페이크 영상 1만 4698점 가운데 96%는 포르노로 소비되었다. 얼굴 합성 피해자는 미국 ・ 영국 여배우가 46%, 한국 케이팝 가수가 25%로 많은 비중을 차지하였다.

딥페이크 가짜뉴스로 인한 위험성도 제기된다. 유명 정치인의 얼굴을 합성한 딥페이크 연설 영상은 텍스트로 된 가짜 뉴스와 비교하면 파급력이 더 클 것으로 예상한다. 조던 필 영화감독은 버락 오바마 전 미국 대통령이 “트럼프는 천하에 쓸모없는 놈”이라고 말하는 딥페이크 영상을 만들어 공개하였는데 이것은 딥페이크 기술이 내포한 위험성을 사람들에게 알리기 위한 목적이었다.