엘리스 새뮤얼스는 사진과 동영상 같은 온라인 시각 자료를 분석해 탐사보도물을 만드는 피디다. 미국 <워싱턴포스트>에서 비주얼포렌식팀 선임 프로듀서로 일한다. 그의 업무 중 하나는 텔레그램, 틱톡 등 소셜미디어에서 화제가 된 영상이 인공지능(AI) 등으로 조작된 것은 아닌지 검증하는 일이다. 위성사진 등을 활용해 특정 장소에서 실제로 일어난 일인지 확인하는 ‘지오로케이션’, 여러 영상을 모아 해당 장면을 재구성하는 ‘동기화’ 등의 기법을 쓴다고 한다. 그는 지난해 11월 9일 한국언론진흥재단이 주최한 ‘2023 KPF 저널리즘 콘퍼런스’에서 도널드 트럼프 전 미국 대통령이 체포되는 사진들을 보여주며 ‘가짜 이미지 판별법’을 설명하기도 했다.

새뮤얼스 피디처럼 ‘AI 조작 정보’를 가려낼 수 있는 언론인은 2024년 새해에 더욱 바빠질 것 같다. 트럼프가 주황색 죄수복을 입고 교도소를 청소하는 사진 등 감쪽같은 ‘AI 조작 뉴스’가 2023년 소셜미디어를 뒤흔든 데 이어, 미국 대통령 선거가 있는 올해는 딥페이크(인물을 합성한 가짜 영상) 등이 더욱 극성을 부릴 것으로 보이기 때문이다. 시카고대 해리스공공정책대학원의 이선 부에노 데 메스키타 학장은 정치전문매체 <더힐> 인터뷰에서 “2016년과 2020년이 ‘소셜미디어 선거’였던 것처럼, 2024년은 ‘인공지능 선거’가 될 것”이라고 말했다. 2016년에는 ‘프란치스코 교황이 트럼프 지지를 선언했다’ 등 허위정보가 소셜미디어를 휩쓸며 선거판을 흔들었다. 올해는 챗지피티 등 생성형 인공지능으로 텍스트, 이미지, 음성, 동영상 등을 자유자재로 만들 수 있게 돼, 혼란이 더욱 클 것으로 예측된다.

메스키타 학장은 최근 다른 학자 5명과 함께 발표한 ‘2024년 선거에서 인공지능에 대응하기’ 백서에서 “그럴싸한 AI 딥페이크 영상이 선거 직전에 유포돼, 유권자를 혼란에 빠뜨릴 수 있다”고 경고했다. 그는 지난해 5월 튀르키예 대선을 예로 들었다. 레제프 타이이프 에르도안 대통령과 야당 후보 케말 클르츠다로을루가 접전을 벌였는데, 투표 직전 ‘테러 집단이 클르츠다로을루를 지지한다’는 AI 조작 영상이 퍼진 뒤, 에르도안이 승리했다. 영상의 영향이 컸다는 분석이 지배적이다. 백서는 언론에 ‘선거 직전의 미확인 대형 뉴스에 대비하라’ ‘기술혁신으로 허위정보를 신속히 검증하라’ ‘시민사회, 테크기업 등과 협력해 허위정보에 맞서라’ 등을 주문했다.

오는 4월 총선을 앞둔 한국도 발등에 불이 떨어졌다. ‘딥페이크 선거운동 금지’ 등을 담은 법이 생겼지만, 일부 문제만 대응할 수 있을 뿐이다. 선거 직전 유튜브 등에 메가톤급 ‘폭로’가 등장하고, ‘AI 조작이다’ ‘아니다’ 공방만 오간다면 유권자는 어떤 선택을 하게 될까. 선거 때마다 그런 일이 반복된다면, 과연 민주주의는 유지될 수 있을까. 한국 언론도 메스키타 백서의 주문에 귀 기울이고, 새뮤얼스와 같은 언론인을 많이 키워야 한다.

그런데 ‘인공지능만 잘 대처하면 되는가’ 하는 생각도 든다. 최근 배우 이선균 씨가 죽음에 이른 과정을 보면, 한국 언론의 본질적인 문제가 ‘AI의 위협’ 못지않다고 느껴지기 때문이다. 피의사실 공표가 법으로 금지돼 있고, 공익과 무관한 사생활 보도는 자제한다는 언론윤리 기준이 있는데, 기성 언론과 유튜브가 앞다퉈 선정적 보도를 했다. 특히 혐의 내용과 거리가 먼 고인과 유흥업소 종업원의 내밀한 대화 녹음을 ‘단독’이라며 방송한 것은 공영방송인 한국방송(KBS)이었다. 공영방송이 이 정도라면, 노골적으로 ‘조회수’ 경쟁을 하는 상업 매체들이 과연 선거판에서 ‘최선을 다해 검증하고’ ‘허위정보에 맞서는’ 노력을 보여주리라 기대할 수 있을까. 선거 때면 특히 언론이 진영을 나눠 ‘내 편’을 위해 뛰는, 정파적 보도가 심해지는 한국에서 말이다.

영국 런던정경대학(LSE) 찰리 베킷 교수는 ‘2023 KPF 저널리즘 콘퍼런스’에서 “인공지능 조작보다, 선거에서 저널리스트 자신이 허위조작정보에 영향을 받아 (잘못) 보도하는 것이 더 위험하다”고 말했다. 기술보다 사람이 문제라는 것이다. 한겨레를 포함한 한국 언론은 총선에서 ‘인공지능발 허위조작정보’ 공격을 신속한 검증으로 막아낼 준비를 하고 있는가. 정파성과 상업성을 넘어, 진실규명에 집중할 각오가 되어 있는가. 공정한 선거를 위해, 무엇보다 언론의 성찰이 절실한 때다.

*이 글은 <한겨레> 1월 2일 자 [시민편집인의 눈]을 신문사 허락을 받아 전재한 것입니다.