딥페이크(Deep fake)란?

딥페이크(Deep fake)란 의미, 역사,새로운 공포와 그 대책에 대해

AI를 이용해 만들어지는 가짜 동영상, 딥 페이크로 인해 우리 주변은 '정보의 신빙성'에 더 큰 의문을 가지고 있습니다. 그 이유는 딥 페이크가 보급됨으로써 올바른 정보와 잘못된 정보의 판단이 서지 않게 되어 있기 때문입니다.이번 글에서는 지금의 인터넷 SNS 시대를 살아가기 위해 딥페이크의 역사와 만들어내는 공포, 현재의 대책을 실례를 통해 자세히 설명하겠습니다.

---

딥페이크(Deep fake)란

 

고도의 화상 생성 기술을 사용하여 합성되어 가짜라고는

쉽게 알아차릴 수 없을 정도로 만들어진 가짜 동영상의 통칭

 

좀 더 자세히 설명하자면 딥페이크는 A씨의 얼굴을 수만점의 파트로 분해해 표정 하나하나에 AI(인공지능)가 딥러닝(심층학습)이라고 하는 수법을 사용함으로써 B씨의 얼굴을 A씨의 얼굴로 바꿔치기해 얼굴의 표정을 자연스럽게 움직일 수 있습니다.

 

단순히 얼굴의 정지화면을 잘라내어 동영상에 적용시키는 것이 아니라, 비치고 있는 사람의 표정에 맞추어 각각의 부품이 자유자재로 움직이기 때문에, 아무것도 모르는 사람이 보고 「가공된 동영상이다」라고 깨닫기는 어렵습니다.

---

딥러닝이란

기계 학습의 구현 기법의 하나로, 인간이 실시하는 태스크를 컴퓨터에 기억시켜 복잡한 문제를 해결하기 위한 기술
딥페이크(Deep fake)는 최근 사용되기 시작한 말로 아직 일률적으로는 정의되어 있지 않지만, '심층학습(deep learning)'과 '가짜(fake)'에서 파생된 말입니다. 원래는 영화 등에서 활용하기 위해 개발된 기술이라고 알려져 있습니다.

 

딥 페이크의 역사

얼마 전까지만 해도 동영상 가공과 위조는 힘든 작업이었고, 동영상 제작 전문가들도 아찔한 작업을 해야 했습니다.하지만 이제 AI를 통한 기계 학습으로 이 과정이 쉬워지면서 가공이나 위조된 동영상은 급속도로 늘어나고 있습니다.

딥페이크가 출현한 것은 2017년입니다. 인터넷에 딥페이크를 이용해 유명인사의 얼굴을 바꾼 포르노 동영상이 처음 등장해 화제를 모았습니다. 이후 딥페이크 알고리즘이 코드 공유 플랫폼, "Git Hub"에 일반 공개됨으로써 누구나 그 기술과 노하우를 습득할 수 있게 되었습니다. 어느날 딥페이크 영상이 한 번에 인터넷에 올라오게 됩니다

지금은 인터넷에서 250장 정도의 사진을 올리면 이틀 만에 딥 페이크 동영상을 만드는 온라인 서비스도 있어 편당 2.99달러(약 3000원) 정도의 저렴한 가격에 거래되고 있습니다. 게다가 중국의 얼굴 화상 교환 앱 '자오'도 매우 간편하게 딥 페이크를 만들 수 있다고 해 주목을 끌었습니다. 딥 페이크는 우리 사이에서 점점 가까워지고 있습니다.

개중에는 무해한 딥 페이크 동영상도 있지만 최근에는 딥 페이크 되는 타깃이 여성이나 유명인사들에게 집중되면서 악플 동영상이 급증하고 있습니다.

네덜란드의 사이버 보안기업 딥트레이스가 발표한 '딥페이크스의 현황, 위협, 그리고 임팩트' 보고서에 따르면, 2019년 이 회사가 인터넷에서 확인한 딥페이크 동영상은 1만 4,678건에 달합니다. 이는 전년도 2018년에 비해 84%나 늘어난 것입니다. 그 내역을 보면 96%는 유명한 할리우드 여배우 등의 얼굴을 넣은 포르노 동영상으로 포르노 이외의 동영상은 4%에 불과하다고 합니다.

이 데이터에서도 알 수 있듯이 딥 페이크를 이용한 여성에 대한 인권 침해는 계속 증가하고 있는 상황입니다.

---

딥페이크 공포

안타깝게도 딥 페이크는 좋은 의미로 주목받고 있는 것은 아닙니다.최근 특히 문제가 되고 있는 것이 딥 페이크를 이용한 유명 인사의 얼굴 바꿔치기 동영상입니다.

유명한 건 2018년 유튜브에 공개된 버락 오바마 전 대통령이 지껄이고 있는 영상입니다.

이 동영상은 딥 페이크의 무서움을 말해줍니다. 20초를 지나면서 '오바마 전 대통령'이 "트럼프 대통령은 구제불능이다(President Trump is a total and complete dipshit)"라고 전직 대통령으로서는 답지 않은 발언을 하고 있습니다.언뜻 보면 정말 오바마가 도널드 트럼프 대통령을 욕하고 있는 것처럼 보입니다.

하지만 동영상 마지막 부분에서는 화면이 양분할되면서 배우 겸 감독인 조던 필이 나타남으로써 이것이 가짜 동영상, 딥 페이크임을 알 수 있습니다. 동영상 속에서의 소재를 알리지 않았다면, 아무도 오바마 씨가 아닌 가짜가 지껄이고 있다는 것을 눈치채지 못했을 것입니다. 딥 페이크라는 기술은 생판 남을 사용하여 이토록 충실하게 진짜 사람을 재현할 수 있는 것입니다.

이런 딥 페이크 동영상은 세계 정치를 뒤흔들 수 있습니다. 딥페이크 동영상이 확산되고 시청자에게 진정으로 받아들여지면 경우에 따라서는 선거 결과를 크게 좌우하고 후보자의 평판을 크게 떨어뜨릴 가능성도 없지 않습니다. 이 동영상도 수백만번 재생되었고 이걸 진짜라고 믿는 사람도 꽤 많은걸로 알려져 있습니다.

문제가 되는 것은 딥 페이크를 이용한 페이크 동영상 그 자체보다 오히려 다른 점에 있다고 지적하는 사람도 있습니다.동영상을 활용하여 인권침해 고발 등을 추진하는 NPO 위트네스의 프로그램 디렉터 샘 그레고리 씨는 딥 페이크로 인해 다음과 같은 사태가 발생하고 있다고 말합니다.

이는 권력자에게 새로운 무기를 주게 된다는것: 즉 권력을 갖지 못한 사람들이 부패나 인권 침해를 밝히는 증거로 사용하려고 하는 것 에 대해서 "이건 딥 페이크다"라고 말할 수 있게 되는 것입니다.
즉, 딥페이크를 빌미로 사실적인 동영상의 신빙성을 의심하고 부정하는 권력자가 생겨나고 있다는 것입니다.

일례로 트럼프 당선인이 NBC 프로그램 녹화 현장에서 스타라면 시켜줄 수 있다.뭐든지 할 수 있다"는 등의 음담패설 발언을 했던 동영상이 2016년 대선 과정에서 발각된 문제가 있습니다. 처음에는 이 발언을 인정했던 트럼프 대통령이었지만, 대통령 취임 이후 상원의원 및 측근들에게 동영상은 가짜 딥 페이크였다고 공언하고 있습니다.

자신에게는 불편한 사실적인 동영상이 증거로 제시되었을 경우에 딥페이크를 빌미로 거짓말을 하는 도망갈 길을 권력자에게 주고 말았던 것입니다. 딥 페이크의 진정한 위협은 사실적인 정의와 정보의 신빙성을 흔드는 데 있는지도 모릅니다.

---

딥페이크 vs 표현의 자유

여러모로 좋지 않은 화제를 낳고 있는 딥페이크인데 과연 딥페이크 어디까지가 제한되고 어디까지가 허용되어야 할까요?

페이스북은 올해 딥페이크 일부를 삭제하겠다고 밝혔습니다.그러나 어디까지를 표현의 자유로 볼 것인지에 대한 판단이 어려우며, 규제는 한정적이어야 한다고 규정하고 있습니다.페이스북의 프로덕트 매니저인 안토니아 우드포드는 딥페이크에 대한 대책에 대해 사람들이 자유롭게 표현하고 의견을 교환할 수 있도록 하는 동시에 이용자가 보고 싶지 않은 내용으로부터 보호할 필요도 있어 이 균형을 어떻게 잡기가 어렵습니다라고 말했습니다.

딥 페이크 대책

 

현재 악질적인 딥 페이크에 맞서려고 다양한 연구팀이 움직이고 있습니다.뉴욕주립대학교의 류시웨이가 이끄는 팀은 AI를 이용해 딥페이크 동영상을 간파하는 기술 개발에 성공했습니다. 팀이 특히 눈여겨본 건 '눈싸움'의 기술 입니다.

사람들은 보통 2~3초에 한 번씩 자연스럽게 눈을 깜박거립니다. Deepfake 알고리즘은 입력된 이미지에서 동영상을 만들어 내지만, 이미지에 찍힌 사람은 보통 눈을 감지 않습니다. AI는 인간이 자연스럽게 발하는 생리학적 신호 모두를 완벽하게 재현할 수 없기 때문에 동영상의 인물은 좀처럼 눈을 깜빡이지 않게 됩니다.

그래서 연구팀은 딥 페이크를 이용한 동영상 내에서 깜박임이 없는 부분을 검출하는 AI 알고리즘 설계에 성공했습니다.류의 팀은, 이 기술을 한층 더 발전시켜, 눈 깜박임의 빈도나 지속 시간과 같은 복잡한 것을 습득시키는 방법에 임하고 있습니다. 가까운 장래에 호흡 등 다양한 자연적인 생리학적 신호를 검출할 수 있게 되는 것이 목표라고 합니다.

AI 기술에 의지하는 딥 페이크를 AI를 이용해 간파하는 공방전은 확실히, 「AI끼리의 대립」이라고 해도 좋을지도 모릅니다.

 

일본의 딥 페이크 대책

일본에서도 딥 페이크의 포르노 동영상 확산이 문제시되기 시작하고 있습니다.얼마 전 딥페이크 관련 사건으로 '명예훼손'과 '저작권 침해' 혐의로 2명이 구속되었습니다.일본에서 딥페이크 관련 사건으로 체포자가 나온 것은 첫 사례라며 언론 매체에 대체적으로 보도되었습니다.

붙잡힌 대학생(21)은 4050명의 연예인의 얼굴 사진을 이용해 250편의 동영상을 제작한 150편을 공개하기도 했습니다.대학생들에게 e메일로 기술적인 상담을 해 준 엔지니어(47)는 8090명의 연예인 얼굴 사진을 이용해 1000여 편의 동영상을 만들었으며, 이 중 250여 편을 공개하기도 했습니다. 진술에 의하면, 1인당 3만 장의 화상 데이터를 100만 번 학습시키는 것으로, 1주일 정도면 약 10분의 딥 페이크를 제작할 수 있었다고 합니다.

주목할 점은 이번 사건이 피해자측으로부터 '명예훼손'과 '저작권 침해' 혐의를 고소한 뒤 용의자 2명이 적발됐다는 점입니다. 일본에서는 딥 페이크 자체를 규제하는 법률은 없기 때문에, 현 시점에서 딥 페이크 동영상은 만들고 싶은 대로 만들고 있는 상황입니다. 딥페이크에 대해 어떤 법규제가 이루어지지 않는 한 앞으로도 딥페이크 악용으로 인한 유명인사 피해자가 발생할 것으로 예상됩니다.

좋든 나쁘든 딥 페이크라고 하는 기술을 최종적으로 활용하는 것은 인간입니다.우리 자신이 인터넷의 도덕성을 지키는 것은 물론, 올바른 정보와 잘못된 정보를 정확하게 판단하는 능력을 몸에 익힐 필요가 있습니다.딥페이크와 그 문제에 대한 이해를 높이는 것은 앞으로 인터넷 SNS 시대를 살아가는 우리에게 중요하다고 생각합니다.