상세 컨텐츠

본문 제목

새로운 디지털 기술, 딥페이크의 등장과 그 그림자

디지털콘텐츠/이슈리포트

by 디지털콘텐츠기업 성장지원센터 2021. 4. 23. 10:33

본문

사랑하는 사람, 조상 그리고 이전에 만난 적이 없는 사람들의 살아생전 모습을 볼 수 있다면 어떨까? 이것을 실현하게 해주는 기술, 딥페이크 기술에 대해 소개하고자 한다.

 

다음 제시된 이미지는 네티즌이 마이헤리티지 인공지능 딥페이크 기술을 활용하여 유관순 열사와 윤봉길 의사의 모습을 재현한 것이다. 이처럼 누구든 인공지능 딥페이크 기술을 활용하여 영상이나 사진을 쉽게 제작해볼 수 있게 되었다.

 

< 출처 : 온라인 커뮤니티 클리앙(clien) 제공, https://www.clien.net/service/board/park/15935514 >

 

깜빡이는 두 눈, 그리고 옅은 미소. 실제로 보지 못했던 인물들이지만 실제로 본 듯한 경험을 하게 한다. 그렇다면 이 사진 속에 쓰인 딥페이크 기술이란 무엇일까?

 

딥페이크(Deepfake)’란 인공지능 기술인 딥러닝(deep learning)과 가짜를 의미하는 단어인 페이크(fake)의 합성어로, 인공지능 기술을 이용하여 제작한 이미지나 영상물을 말한다.

 

Mnet 프로그램 다시 한번에서는 이러한 딥페이크 기술을 활용하여 가수 거북이의 터틀맨을 추억하는 팬과 동료, 그리고 그를 가장 그리워하고 있을 가족들에게 무대를 선보였다.

 

< 출처 : Mnet의 ‘다시 한번’ 거북이 딥페이크 무대, https://youtu.be/Jm0s0CEEd3Q >

 

뿐만 아니라 인플루언서 루이(RUI)는 버츄얼 유튜버로, 그의 얼굴은 딥페이크 기술을 통해 제작된 얼굴이다.

 

< 출처 : 유튜브채널 ‘루이커버리 RuiCovery’, https://youtu.be/cGycBsawTew >

 

한편, 이처럼 여러 분야에서 다양한 목적으로 활용 가능한 딥페이크 기술은 미디어 발전에 큰 발전과 영향을 미칠 것으로 보였으나 최근 들어 이를 악용 하는 사례가 늘고 있다.

 

K팝 아이돌 성적 대상화에 사용된 딥페이크 기술, 드리우는 그림자

< 출처 : freepik, https://www.freepik.com/premium-photo/woman-with-green-eyes-crying_5377843.htm#query=crying-woman&position=6 >

 

지난 2월 청와대 국민 청원 게시판에는 여성 연예인들을 고통받게 하는 불법 영상 딥페이크를 강력히 처벌해 주세요라는 청원 글이 올라왔고, 한 달간 청와대의 공식 답변 요건인 20만 명을 뛰어넘은 39만 명의 국민 동의를 받았다.

 

< 출처 : 각국 연예인이 등장하는 딥페이크 성인용 영상의 개수와 조회 수, 딥트레이스, https://diptrace.com >

네덜란드 딥페이크 탐지 기술업체 딥트레이스가 지난 2019년에 발간한 보고서 더 스테이스 오브 딥페이크에 따르면 딥페이크 영상 중 96%가 음란물이고 이 중 25%K팝 아이돌인 것으로 나타났다. 새로 업데이트된 2020년 보고서에서는 2019년 온라인 유포된 딥페이크 영상이 85,047건이며, 2018년 이후 딥페이크 영상은 매 6개월마다 두 배씩 증가 추세를 보인다고 전했다.

 

실제로 딥페이크 기술을 이용해 제작된 연예인 허위 영상물을 유포한 10대와 20대가 지난 2월 검거됐다. 이들은 일반인, 연예인을 가리지 않고 딥페이크를 이용하여 불법 허위 영상물을 제작했다.

 

BBC NEWS korea에 따르면 다수 불법 음란사이트에서 아이돌 대상 딥페이크 음란 영상물을 접하는 것이 어렵지 않다고 전했다. 심지어 한 사이트에서는 한국 연예인들의 영상을 모아볼 수 있는 항목이 따로 마련되어있는 것으로 알려졌다.

 

< 출처 : K팝 아이돌 딥페이크 영상 목록이 나열된 불법 음란사이트, BBC NEWS korea, https://www.bbc.com/korean/news-56358085 >

 

낮은 비용으로 누구나 쉽게 접근해 이용 가능한 딥페이크 기술이 디지털 범죄에 악용될 수 있다는 그림자가 드리우기 시작한 것이다.

 

발전하는 인공지능 영상 기술 속에서 우리가 취해야 할 대처

몇 년 사이에 AI를 통해 영상 속 인물을 다른 사람으로 재현 가능한 딥페이크 기술이 급격히 발전하였다. 빠르게 발전하고 있는 AI 기술을 더욱 올바르게 사용 가능하도록 악용방지를 위한 딥페이크 활용 영상 제작에 엄격한 규제가 필요하다.

 

또한 사람들은 동영상이 참된 증거가 아닐 수 있다는 인식을 가져야한다. 영상이라도 전부 진실이 아닐 수 있음을 인지하고 실존 인물의 얼굴을 딥페이크 기술로 악용한 영상 제작은 모두 불법임을 확실하게 알고 있어야 한다.

 

인공지능 기술이 발전하면서 여러 부작용을 양산하고 있지만, 딥페이크가 그림자만 가지고 있는 기술이 아니라는 것은 분명하다. 영상 제작에 있어 특수효과, 더빙, 과거 재현 등이 더 쉽고 간편해졌다. 한국처럼 IT 기술이 빠르게 발전하는 나라가 없는 만큼, 한국이 딥페이크 오용 사례에 어떻게 대응하느냐에 따라 전 세계의 선례가 될 수 있을 것으로 생각한다.

 

[출처]

- “AI의 순기능 다시 한번거북이 터틀맨 AI 복원으로 부활, 완전체 거북이 무대”, <미니쭌의 즐거운 공부생활 블로그>, https://minirecord.tistory.com/221 , 2020.12.14.

- “딥페이크 : AI기술에 드리운 빛과 그림자”, <BBC NEWS korea>, 2021.03.12.

- “논란의 딥페이크(Deepfake), 그 내막과 브랜드에 미칠 영향”, <Appier>, https://www.appier.com/ko/blog/%EB%85%BC%EB%9E%80%EC%9D%98-%EB%94%A5%ED%8E%98%EC%9D%B4%ED%81%ACdeepfake-%EA%B7%B8-%EB%82%B4%EB%A7%89%EA%B3%BC-%EB%B8%8C%EB%9E%9C%EB%93%9C%EC%97%90-%EB%AF%B8%EC%B9%A0-%EC%98%81%ED%96%A5/ , 2020.06.09.

- ”’용돈 벌려다 구속연예인 딥페이크 영상 판매한 10, 20대 구속” <Chosun Biz>, 2021.02.25. 

- “딥페이크 기술의 빛과 그림자”, <2019 KCA Media Issue & Trend 2019.12월호>, 2019.12.

- ““오래된 스틸 사진에 생동감을.AI 기술로 탄생”, The Dailypost Global News Media Channel, 2021.03.03.

 

관련글 더보기

댓글 영역