오늘 자 뉴욕타임스(6월 24일)는 딥페이크 석학의 고백을 다룬, 「딥페이크 전문가도 더 이상 자신의 눈을 믿을 수 없다, Deepfake experts no longer trusts his own eyes」란 제목의 기사를 실었다. 이 기사를 읽어보면 우리 시대가 마주한 진실의 붕괴가 어디까지 와 있는지 절감한다.
기사의 주인공은 20년 넘게 디지털 포렌식 분야의 세계적 권위자로 인정받아 온 캘리포니아 버클리 대학의 하니 파리드(Hany Farid, 60세) 교수. 정부와 인권 단체, 언론과 수사기관이 매일 같이 진짜와 가짜를 가려달라며 매달리던 최고 전문가다. 그런 그가 정작 “이제 내 눈과 귀조차 믿지 못하겠다”라면서 딥페이크에 대한 절망을 토로한 것이다.
그의 연구 결과에 따르면 인류의 대다수는 진짜 사진과 디지털 이미지, 진짜 목소리와 AI의 목소리, 진짜 영상과 정교하게 조작된 영상을 구분하지 못한다. 심지어 파리드 교수 본인이 고안한 최첨단 딥페이크 판별 테스트에서조차 스스로가 틀리기 시작했다. 딥페이크의 기술을 따라잡을 수 없기 때문이다. 이것이 인공지능이 진실을 가리고, 현실을 왜곡하며, 민주주의를 분열시키고 마침내 인간 정신마저 서서히 무너뜨리고 있다는 깊은 우려가 터져 나온 배경이다.
결국 그는 버클리 대학의 영상 과학자인 아내와 함께 실리콘밸리를 떠나 버몬트 시골의 외딴 농장으로 향했다. 딥페이크 대신 도끼와 톱을 쥐고 나무를 패는 아날로그적 삶에서 정신적 도피처를 찾으려 한 것이다. 그러나 기술의 습격은 시골 농가까지 추격해 왔다.
그는 처음으로 해커의 공격을 받았다. 해커는 그의 휴대전화를 도용했고, 단 몇 초의 샘플로 그의 목소리를 복제한 뒤 동료에게 전화를 걸어 기밀 정보를 요구했다. 딥페이크를 식별하는 소프트웨어를 개발하며 평생 가짜와 싸워온 장본인이 정작 AI 무기에 무력하게 찔린 셈이었다.
“기술은 이미 우리를 공격하는 무기가 되었고 믿을 수 없을 만큼 빠른 속도로 역을 떠난 기차처럼 질주하고 있다”라고 그가 대학 강단에서 학생들에게 밝힌 지금의 현실은 디스토피아 영화가 아니다. 수천 명의 북한 정보 요원들은 AI를 이용한 줌(Zoom) 화상 통화로 미국인 행세를 하며 미국 기업의 원격 근무 자리를 따내고, 그 급여로 핵무기 개발 자금을 댄다. 전문 지식이 없는 평범한 범죄자도 단 한 장의 정지 사진과 10초짜리 음성 클립만 있으면 온라인에서 그 누구든 흉내 낼 수 있는 시대다.
우리가 직면한 진짜 비극은, 이토록 무시무시한 광속의 기술 대전환기 속에서도 우리나라의 국가 시스템과 정치권은 의심스러울 정도로 태연하다는 점이다. 국회에서 진행되는 선관위 국정조사를 지켜본 국민의 마음은 참담함과 답답함으로 가득 차 있다. 국회의원들의 질의와 선관위의 답변은 수십 년 전과 다름없는 구태의연한 아날로그 방식이다.
기술적 메커니즘에 대한 깊이 있는 이해는커녕, 서류상의 행정적 착오나 절차적 미숙함을 따지는 수준에 그치고 있다. 물론 선거 관리의 부실이 고의성 없는 '단순한 부실'이나 '행정 편의주의'에서 비롯된 것일 수도 있다. 하지만 '하나를 보면 열을 안다'고 기본적인 시스템 관리와 보안 의식마저 부실한 조직이 인공지능과 딥페이크가 선거 제도의 근간을 뒤흔드는 초 고도화한 기술적 위협을 과연 방어해 낼 수 있겠는가? 안일함과 아날로그식 방어벽은 오히려 국민에게 부정선거 의혹이라는 거대한 불신의 불씨를 지피는 꼴이 될 수 있다.
세계 최고 전문가가 도끼를 들고 시골로 도망칠 만큼 AI 기술은 고도화되었는데, 대한민국의 민주주의를 지키는 최후의 보루라는 선관위와 이를 감시해야 할 국회는 여전히 서류 검사 수준에 머물러 있는 현실은 비정상적이다. 기술이 고도화될수록 부정의 방식도 고도화한다. 투표용지 몇 장의 행방을 쫓는 식의 조사는 지금의 초지능 사회에 아무런 해답을 주지 못할 것이다.
이제 선과위가 단순 부실이라는 변명 뒤에 숨지 않도록 '인공지능 시대답게' 시스템을 들여다보아야 한다. 서버의 무결성, 데이터 위·변조 방지 블록체인 기술의 도입, 딥페이크를 동원한 여론 조작 및 선거 개입을 실시간으로 추적·차단하는 AI 기반의 보안 인프라가 갖춰져 있는지 등을 송곳처럼 검증해야 한다. 그래서 국민이 선거 결과에 투명하게 승복할 수 있도록 만들어 줘야 한다. 그것이 선관위 국정조사의 본질적인 책무다.
