세명대 저널리즘스쿨

로그인 회원가입
2021.4.16 금
> 뉴스 > 단비현장
     
딥페이크, 사용방식 따라 ‘양날의 칼’
[제1회 팩트체크주간] 팩트체크와 딥페이크
2021년 04월 07일 (수) 13:13:40 윤재영 PD 강주영 기자 yjy62155@gmail.com

시청자미디어재단과 팩트체크넷이 공동 주최한 ‘제1회 팩트체크’ 주간 행사 두 번째 날인 6일의 주제는 '팩트체크와 딥페이크(Deep Fake)'였다. 행사는 모두 시청자미디어재단 유튜브 채널과 줌을 통해 온라인으로 이뤄졌다.

이번 세미나에는 경찰청 사이버범죄수사과, AI(인공지능) 기반 딥페이크 탐지 스타트업인 씨에틱(CYETHIC), 그리고 딥러닝(Deep Learning) 기술을 기반으로 가상의 얼굴을 가진 인물인 이른바 '버추얼 휴먼(Virtual Human)'인 '루이커버리(루이)'를 만든 디오비 스튜디오가 발표와 토론에 참여했다.

딥페이크 : 기술과 윤리의 끊임없는 경쟁

AI 기술에 기반해 딥페이크를 탐지하는 스타트업인 씨에틱(CYETHIC)의 홍민기 소장은 <AI가 만드는 사이버 월드, 보이는 대로 믿으시겠습니까>라는 제목의 발표를 했다. 사이버 공간(Cyberspace)과 윤리(Ethics)라는 의미를 담은 씨에틱(CYETHIC)은 딥페이크 탐지 브랜드다. '딥페이크'는 AI가 학습할 때 필요한 딥 러닝기술과 페이크(Fake)의 합성어로 AI를 기반으로 인간 이미지를 합성하는 기술이다. AI기술이 활발하게 적용되면서 새로운 기술로 떠오른 딥페이크는 사람의 눈으로 구분하기 힘들 정도로 나날이 정교해지고 있다. 진짜와 가짜를 구분하기 어려울 정도로 기술이 발전하면서 범죄에 악용되고 있는 것이다.

   
▲ AI 기반 딥페이크 탐지 스타트업인 씨에틱(CYETHIC)의 홍민기 소장은 발표 중 딥페이크로 만들어진 가짜인물과 실제 인물을 구분할 수 있는 사이트를 소개하고 있다. ⓒ 시청자미디어재단

홍 소장은 이번 콘퍼런스를 위해 로이터 통신의 딥페이크 전문기자인 라파엘 기자를 사전 인터뷰한 내용을 소개했다. 딥페이크 기술에 대해 라파엘 기자는 발전된 기술을 사용하는 것은 분명히 긍정적 측면이 있지만 범죄 문제로 연결되는 것은 심각한 문제라고 지적했다. 딥페이크가 처음 등장한 것은 지난 2017년 미국 커뮤니티 서비스인 레딧(Reddit)에 연예인을 합성한 포르노그래피였다. 음란 영상물에 유명 연예인의 얼굴을 합성하는 방식이다. 작년 국내에서 드러난 ’N번방 성착취물 제작 및 유포’ 사건에서도 딥페이크를 이용한 피해 사례가 나타났다. 걸 그룹을 포함해 상당한 숫자의 여성 연예인이 피해를 봤다.

딥페이크는 여러 방식으로 범죄에 활용돼 문제를 낳았다. 지난 1월엔 러시아의 한 미용실에서 방문한 적 없는 이용자의 얼굴을 사용해 거짓 리뷰를 작성한 일이 벌어졌다. 딥페이크를 이용한 리뷰 조작이었다. 작년에는 벨기에 정부가 정보 유출을 이유로 중국의 통신업체인 화웨이를 5G 사업에서 제외하자, 트위터에서 적어도 14개가 되는 딥페이크로 만든 트위터 계정들이 벨기에 정부를 공격하는 기사를 퍼나르기도 했다. 홍 소장은 이 기사가 기재된 언론 사이트도 조작된 것이었다고 말했다. 지난 1월 뉴욕타임즈 소속 아담 사타리아노 기술 전문 기자는 이 허위 트위터 계정들을 만든 게 모두 ‘화웨이’의 소행이라는 기사를 내놓아 진실 공방이 이어지고 있다.

홍 소장은 "딥페이크 기술이 가짜를 진짜처럼 ’만드는 자(Generator)’와 가짜와 진짜를 ‘식별하는 자(Discriminator)’의 경쟁 속에서 고도화할 것”이라고 설명했다. 이를테면 경찰이 딥페이크를 식별하기 위해 고도의 기술을 발전시키는 만큼 딥페이크로 위조지폐를 만드는 범죄자 역시 더 정교한 기술을 개발할 것이라는 말이다.

제3세계를 여는 딥러닝

딥러닝 기술을 기반으로 합성 영상을 만드는 스타트업인 ‘디오비 스튜디오’의 오제욱 대표는 딥러닝의 순기능에 대해 발표했다. ‘딥러닝 영상 제작 기술의 긍정적 활용’을 주제로 발표하며 그는 딥러닝이 앞으로 콘텐츠 산업 과정에서 혁신적인 역할을 할 것으로 기대했다. 그는 “코로나19 이후 온라인 활동이 활발해졌고, 최근 등장한 메타버스(Metaverse)의 등장은 딥페이크 기술 개발을 더 활발하게 했다”고 말했다. 최근 세계적으로 젊은층 사이에서 크게 확산하고 있는 메타버스, 초월, 추상을 의미하는 ‘메타(Meta)’와 현실 세계를 의미하는 ‘유니버스(Universe)’의 합성어로 3차원 가상세계에는 가상의 인물, 즉 버추얼 휴먼(Virtual Human)이 등장한다. 메타버스에서 활동하는 이 캐릭터는 가상세계와 현실 세계 구분을 넘는 인격체로 여겨진다. 현실에서 할 수 없는 사교활동, 심지어는 경제활동까지 하고 있다. 이런 가상의 인물 캐릭터는 엔터테인먼트와 광고 영역에서도 활발하게 적용되고 있다.

   
▲ 버추얼 휴먼 루이커버리(루이)의 특기는 노래, 춤, 중국어, 한국어 가르치기다. 현재 유튜브 채널을 운영 중이다. 한국새생명 복지재단의 홍보대사에 임명되기도 했다. ⓒ 디오비 스튜디오

오 대표가 속해있는 디오비 스튜디오는 ‘루이’라는 버추얼 휴먼(Virtual Human)을 만들었다. 오 대표는 버추얼 휴먼이 비용을 줄이고 생산력을 높일 수 있는 경쟁력이 될 것이라고 전망한다. 최근에 연예계는 과거 학교 폭력을 저지른 연예인들의 문제가 불거지면서 엔터테이먼트와 광고업계가 타격을 입기도 했다. 오 대표는 “광고주는 학교 폭력 문제가 있는 연예인 모델을 사용할 경우 예상치 못한 불매운동 등에 대한 부담이 있다”며 기업들이 딥페이크를 이용해 광고 맞춤형 모델을 만드는 것이 대안이 될 수 있다고 주장했다.

딥페이크 범죄 대응하기 위해 사회적 노력 필요

최종상 경찰청 사이버범죄수사과장은 기술의 발전으로 일반인들도 누구나 손쉽게 사진만으로도 합성물을 만드는 것이 가능해져 딥페이크 동영상이 꾸준히 늘고 있다고 말했다. 국내 딥페이크 영상의 대부분은 불법 합성물이다. 최 과장은 “초기에는 연예인을 대상으로 한 불법 음란물 형태로 만들어졌지만 최근에는 피해자 유형이 다양화하는 추세를 보인다”고 우려를 표했다. 성균관대학교 산학협력단의 ‘딥페이크 기술을 활용한 온라인 불법행위 대응방안 연구’에 따르면 2019년 7월 딥페이크 피해자의 99%가 연예인이었으나, 2020년 7월 기준으로는 연예인이 62%, 패션업계 종사자가 21.7%, 스포츠 종사자가 4.3%로 피해자들의 직업이 다양화하고 있다.

유명인을 대상으로 사진이나 동영상을 합성하여 허위사실을 생산하고 유포하는 경우 허위사실 공표에 따른 명예훼손이나 모욕죄에 해당할 수 있다. 국내에서는 지금까지 정치인을 딥페이크로 조작한 것은 확인되지 않았지만, 선거 관련해서 여론을 조작하는 것은 국민의 정상적인 선택을 방해하는 것이 된다고 지적했다. 또 사기 범죄로 처벌받을 수도 있다. 최 과장은 이런 딥페이크는 사회적 혼란을 야기하고 개인적으로도 경제적 피해를 줄 수 있으므로 신속한 신고가 필요하다고 말했다.

   
▲ 사이버범죄신고시스템(ECRM)에 접속하여 범죄피해 신고를 할 수 있다. 본인인증을 거쳐서 진술서 작성과 수사 의뢰를 하면 된다. 신고 외에도 사이버범죄 관련 상담을 지원하고, 제보도 가능하다. ⓒ 사이버범죄 신고시스템 홈페이지

경찰서를 가지 않고도 사이버범죄신고시스템(ECRM) 사이트를 이용해서 신고를 할 수 있다. 진술서 작성과 증거 자료 제출도 온라인으로 할 수 있다. 불법 사이트 게시물에 대한 전화 상담을 받을 수 있다.

디지털 콘텐츠도 원산지 표시가 중요

주제 발표에 이어진 토론에서는 딥페이크 영상을 제작할 때 딥페이크를 활용해서 만든 영상이라고 명기하는 것이 중요하다는 의견이 많았다. 홍민기 씨에틱 소사장은 딥페이크 영상에 출처를 표시하는 워터마크나 해시태그 등을 넣어야 한다고 주장했다. 홍 소장은 딥페이크 영상이 언론 왜곡이나 비방, 모욕 등에 악용되는 것을 막기 위해 “디지털 워터마킹을 연구해야 한다”며 “일단 벌어진 다음 해결은 어렵고, 피해가 발생했다고 바로잡는 과정은 느리다”며 워터마크의 필요성을 강조했다. 

오제욱 디오비 스튜디오 대표도 “워터마크가 콘텐츠 몰입을 방해하는 것을 최소화하면서 같이 가야 한다”고 말했다. 오 대표는 특히 “딥페이크 개발 기술과 탐지 기술은 바이러스와 백신의 관계”라며 건전한 생태계를 만들기 위해서는 “날카로운 칼이 어떻게 유용하게 쓰이느냐가 중요하다”고 말했다.

박창현 씨에틱 사업기획 담당자는 “무엇이 딥페이크인지 발견하는 기술뿐만 아니라 (미디어 리터러시) 교육도 중요하다”고 말했다. “(딥페이크 범죄) 예방은 어렵지만, 디지털 원산지 표시를 해야 한다”며 “민간에서 먼저 해보고, 주변 네트워크를 만들고 하나의 운동처럼 늘려나갈 수 있다”고 주장했다.

   
▲ 왼쪽 위부터 시계 방향으로 사회를 맡은 최원석 시청자미디어재단 연구원, 홍민기 씨에틱 소장, 최종상 경찰청 사이버범죄수사과장, 박창현 씨에틱 사업기획 담당자, 오제욱 디오비 스튜디오 대표. ⓒ 시청자미디어재단

제작자의 윤리가 중요하다는 지적도 빠지지 않았다. 딥페이크 영상의 대부분이 여성이라는 점을 지적한 질문에 오제욱 디오비 스튜디오 대표는 “콘텐츠의 스토리텔링이 부족하기 때문에 섹스어필을 하는 것”이라고 말했다. 특히 “꾸준히 콘텐츠를 만들어서 부가가치까지 연결되는 게 없어서 팬덤을 형성하기도 어렵다”며 섹스어필을 이용한 캐릭터의 한계를 지적했다.

이날 진행된 콘퍼런스는 시청자미디어재단 유튜브 채널을 통해 다시 볼 수 있다.


편집 : 김세훈 기자

[윤재영 PD]
단비뉴스 미디어콘텐츠부, 환경부, 시사현안팀 윤재영입니다.
연약한 자들의 목소리에 귀를 기울이겠습니다.
     관련기사
· 언론 징벌적 손배제 ‘졸속 입법’ 안 되려면…
· "대중의 선택이 팩트에 기반하길"
· 팬데믹 세상 팩트체크하는 IFCN
· 실시간 검증 가능한 AI, 한계도 있어...
· 모두에게 팩트체크 기회 제공하는 플랫폼
윤재영 PD 강주영 기자의 다른기사 보기  
ⓒ 단비뉴스(http://www.danbinews.com) 무단전재 및 재배포금지 | 저작권문의  

     
의견나누기(0개)
      자동등록방지용 코드를 입력하세요!   
 
 * [운영원칙] 욕설, 반말, 인신공격, 저주 등 기본적인 예의를 지키지 않은 글과 같은 내용을 반복해서 올린 글은 통보 없이 삭제합니다.
  
Follow danbi_news on Twitter

단비뉴스소개기사제보개인정보취급방침청소년보호정책이메일무단수집거부  
(27136)충청북도 제천시 세명로 65(신월동 579) 세명대학교 저널리즘스쿨대학원 413호|Tel 043)649-1557
인터넷신문등록번호: 충북 아 00192|등록일 : 2017-11-27|발행인: 이봉수|편집인: 심석태|개인정보관리책임자 : 심석태 | 청소년보호책임자 : 심석태
Copyright 2009 단비뉴스. All rights reserved. mail to danbi@danbinews.com |