딥페이크 기술과 영상, 문제점 완벽정리

---

딥페이크 기술과 영상, 문제점 완벽정리

---

딥페이크(deepfake)란?

딥러닝(deep learning)+거짓(fake)의 합성어입니다. AI 인공지능 기술을 활용하여 사람의 얼굴이나, 특정 부위를 합성하여 가공 제작한 영상입니다. 기존 인물의 영상이나 사진을 어색하게 합성하여 제작했던 과거와 달리 최근에 그래픽 기술과 인공지능의 발전으로 매우 정교하게 영상물을 제작하여 진짜와 가짜를 구별하기 힘들 정도입니다.

얼마전에는 드라마 방영을 앞두고 한 배우가 사회적 물의를 일으켰는데 사전제작 방식이라 중도에 수정할 수도 없어서 딥페이크로 해당 배우의 얼굴만 바꾸어서 드라마를 제작하기도 하였씁니다.

오바마 전 대통령이 트럼프 대통령에게 실제론 하지도 않은 말을 하는 가짜영상이 만들어져서 논란이 되기도 했습니다.

딥페이크 ｜ 특징

---

딥페이크 기술은 머리 외곽선 전체를 따서 합성하는 것이 아닙니다. 그럼 모습이 어색하고 우습겠지요. 딥페이크 구현 방법은 안면 윤곽 안쪽 부분만 피부색을 맞춰 바꾸는 것입니다. 바로 눈과 코, 입 부분만 합성하는 것이지요.

사람을 인식할 때는 헤어스타일과 안면 윤곽이 중요한 부분을 차지합니다. 하지만 합성 대상이 원본과 눈에 띄게 다른 안면 윤곽을 가지고 있다면 합성이 아무리 잘 되었어도, 다른 사람처럼 보일 수밖에 없습니다.

딥페이크 제작 원리는 합성하려는 인물의 얼굴이 주로 나오는 고화질의 동영상을 통해 인공지능이 학습하여, 타깃이 되는 동영상을 각 프레임에 합성하는 것입니다. 

AI기술을 적용한 합성 결과 (출처: Few-Shot Adversarial Learning of Realistic Neural Talking Head Models 논문)

AI 기술로 합성한 오바마 대통령과 박영선 장관의 영상 (출처: 버즈피드(좌) / MBC(우))

또한, 딥 러닝은 확실히 제공되지 않은 정보에 대해서는 제대로 표현하지 못합니다. 즉, 아무런 방해물이 없는 상태의 일반적인 표정은 잘 합성해내지만, 얼굴 인근에 다른 물체가 있다거나, 얼굴 자체가 프레임에서 일부 잘려 나갔거나, 상대가 매우 특이한 표정을 짓게 되면 합성 처리가 제대로 이뤄지지 않아 어색하고 이질감이 생기는 결과물이 출력됩니다. 최악의 경우는 오류가 발생하여 그냥 원본 얼굴이 출력되거나 흉측한 모습으로 나올 수도 있습니다.

딥페이크는 보이는 외모만으로 작업 됩니다. 음성은 그대로인데, 딥페이크 처리기술로 목소리와 표정을 정교하게 매칭 시켜 합성하기에 다른 목소리라 할지라도 입 모양이 발음과 일치하여 자연스럽습니다. 

이러한 딥페이크의 특성 때문에 합성 대상이 되는 사람과 비슷한 체형과 얼굴형을 가진 사람의 영상을 선택하고, 다른 물건이 없는 대상자의 표정을 인공지능이 학습한다면 놀랄 만큼 자연스럽고, 진본과 구별하기 힘든 거짓 영상물이 제작됩니다.

예전에 자주 쓰였던 2D 수동합성은 기술자의 역량에 좌우되었지만, 딥페이크의 경우는 좋은 처리 장치를 갖춘 시스템에서 기술을 입히고자 하는 대상에 적절한 학습을 해야 하기에 장비의 비중이 큽니다.

아이유와 토니스타크 합성한 모습

딥페이크 ｜ 문제점

---

아직은 전문 장비를 갖추지 않아, 저질스럽고 조잡한 영상들이 많아 누가 보더라도 가짜 영상임을 알 수 있습니다. 하지만 영상의 화질이나 처리되는 데이터의 질에 따라 딥페이크 영상과 원본 영상의 구분이 어려울 정도로 발전하고 있습니다. 

특히 유명인이나 연예인들은 온라인에 공개된 정보가 많이 있어 영상 합성에 유리합니다. 그렇기 때문에 딥페이크 포르노의 탄생에 크게 일조하였습니다. 그리고 전 세계적 음란물 공유 허브를 통해 많이 유통되었습니다.

비단 포르노뿐만 아니라, 유명 정치인들을 매장할 목적으로 고도의 딥페이크 합성 영상이 이용된다면 그로 인해 미칠 영향은 사회적으로 심각한 결과를 초래할 수 있습니다. 정치적 목적을 달성하기 위해 조작된 영상의 유포가 매우 위험한 것입니다.

대기업 CEO가 주식 가격에 영향을 줄 수 있는 발언을 담은 가짜영상이 유포된다면 그로 인한 손실액은 엄청날 것입니다.

유명인 뿐 아니라 SNS 발달로 일반인 역시 딥페이크 영상에서 안전하지 못합니다. 일반인들 중 갈등 관계가 있는 상대가 가짜 영상이나 합성 음란물을 만들어 큰 손해를 끼칠 수도 있습니다. 

이미 수많은 악용 사례가 나왔고 해외 유명 연예인들과 한국 여성 연예인들이 음란물에 얼굴이 합성되어 떠돌아 큰 파장을 불러일으켰습니다. 최근 들어 점점 더 빠른 추세로 일반인들에게 딥페이크 기술이 보급되고 이용하고 있는데, 딥페이크 기술 제작자는 갈수록 정교해진 기술로 인해 진짜와 가짜를 구분하기 어려워 질 거라며 하니 문제가 심각합니다.

<아이언맨> 톰 스타크 모습

딥페이크 ｜ 처벌법

---

만약 누군가 딥페이크 포르노 영상을 제작했을 경우 전 세계 모든 국가에서 초상권을 심각하게 침해하는 행위로 판단합니다. 또한 피해자로부터 고소를 당하면 심각한 타격을 받을 수 있습니다.

또한 국내에서 딥페이크를 제작하여 공유 사이트를 통해 배포했다면 정보통신망 이용촉진 및 정보보호 등에 관한 법률 70조에 의거해 처벌받을 수도 있습니다.

과거에는 딥페이크 음란물 제작을 직접적으로 처벌하는 조항이 한국 법에는 없었습니다. 그러나 딥페이크 음란물 제작을 처벌하는 방법이 존재합니다.

일방적으로 당사자를 성적 대상으로 삼는 행위이고 타인의 영상에 얼굴을 합성한 부적절한 행위이므로 허위사실 적시에 의한 사이버 명예훼손죄가 성립되고, 음란물 유포죄로 형사 처벌이 가능합니다.

그리고 당사자의 동의 없이 딥페이크 기술로 영상물을 제작하였으므로 초상권 침해로 인한 민사사건 처리가 가능합니다.

하지만 이런 식의 우회적 처벌이 아니라, 직접적으로 처벌할 수 있는 법 조항을 신설해야 한다는 목소리가 높아지면서 20년 3월 17일에 관련 법이 통과되었습니다.

딥페이크 ｜ 대응 방안

---

딥페이크의 위협이 심각하게 상황으로 이르니 국가와 기업에서 기술적 대응도 본격화되었습니다. 

페이스북은 최근 딥페이크 영상 탐지 기술 연구에 1천만 달러(약 120억 원)를 투입하고, 유명인 정치인 연예인 등 관련된 진본 영상과 이미지 10만 개를 데이터베이스화 중입니다. 진본을 구별하기 위한 데이터 확보 차원입니다.

구글은 문자를 음성으로 변환하는 자사의 기술을 활용하여 영상 속 인물의 발언이 진짜인 가짜인지 구별하는 기술을 개발 중입니다. 또한 19년 9월 자신들이 그동안 개발해온 딥페이크 동영상 3,000세트의 방대한 데이터베이스를 공개하기도 했습니다.

그래픽 소프트웨어업체 어도비는 사진이나 동영상, 뉴스 같은 콘텐츠의 원저작자와 원본을 찾을 수 있는 디지털 워터마크 기술을 도입했습니다.

딥페이크 기술은 대부분 악의적으로 사용합니다. 요즘 휴대폰으로 사람의 얼굴을 손쉽게 촬영할 수 있는데요. 고도의 안면인식 기술을 이용하여 지나가는 사람의 얼굴만 찍어도 즉시 분석하고 신상정보도 알아내며, 생체인식 시스템을 접근도 가능합니다. 

더 나아가 딥페이크 기술로 인한 프라이버시 침해와 보안 위험이 지금은 가장 큰 위험요소입니다.

딥페이크 기술에 대한 규제는 반드시 필요합니다. 기술이 아무리 발달해도 적절한 규제없으면 오히려 '해'가 될 수 있기 때문입니다. 

● 함께 읽어보시면 좋은 글입니다.

▶온누리상품권 사용처 10%할인 완벽정리(G마켓,옥션)

▶부부의 세계 재방송 무삭제판 보는 방법 4가지 완벽정리!

▶코로나 치료제 개발 현황(구충제 치료제등)분석!