딥페이크 ‘홀란드’가 선거에 쓰이면 안 되는 진짜 이유

맨시티 홀란드가 선거 유세에 딥페이크로 동원되는 상상 

해외 축구를 잘 시청하지 않아도 최근 ‘홀란드’란 이름은 자주 듣습니다. 노르웨이 출신 잉글랜드 프리미어 리그 선수 엘링 홀란드 말입니다. 맨시티 소속 홀란드는 2022-23년 시즌 36경기에서 35골을 넣었고, 리그 역사상 처음으로 세 경기 연속 해트트릭을 기록한 괴물 같은 선수입니다. 22세 나이로 한 시즌을 휩쓴 실력 덕분에, 전세계 많은 사람이 그의 얼굴과 이름을 기억합니다. 아닌 게 아니라 홀란드는 북유럽 신화 속에서 튀어나온 듯한 인상적인 외모와 체형으로 유명합니다. MZ 코미디언 엄지윤이 ‘홀란드 닮은 꼴’ 패러디 콘텐츠로 인기를 끌 정도입니다.

한국에는 홀란드처럼 유명세 가진 사람을 정말 좋아하는 영역이 있습니다. 남녀노소가 얼굴 알아보는 인플루언서를 누구보다 갈망하는 집단, 바로 선거를 앞둔 정치권입니다. 한국의 정당은 국회 의석수를 하나라도 더 얻기 위해 선거철마다 새 인물을 영입하거나 기존 인물에게 힘을 실어줍니다. 지역구 출마자는 때가 되면 ‘충실한 일꾼’을 외치며 현수막을 곳곳에 내걸고, 이력을 끌어모아 만든 명함을 돌립니다. 하지만 부족한 인지도를 메우기 위해, 공식 선거 기간에 중견 정치인이나 유명인을 섭외하여 유세에 함께 나섭니다.

제 20대 대통령 선거 기간, 우리는 국민의힘 대선 주자였던 윤석열 후보의 복제판을 만났습니다. 이준석 당시 국민의힘 당대표는 세 가지 선거 필승 전략 가운데 하나로 이른바 ‘AI 윤석열’을 공개했습니다. 좋게 말하면 ‘인공지능’이지만, 더 일반적인 표현으로 바꾸면 ‘딥페이크 윤석열’이었지요. 윤 후보의 전략에 자극받은 것으로 보이는 이재명, 김동연 경쟁 후보 측에서도 황급히 딥페이크 영상을 내놨습니다. 그러나 기술적으로 ‘학습’과 ‘제작’에 비용과 시간이 걸리는 딥페이크 영상의 특성 때문인지, 뒤늦게 내놓은 영상은 품질이 조악한 편이었습니다.

딥페이크 활용 가능 여부를 둘러싼 논의가 일어나자, 당시 중앙선거관리위원회는 서둘러 기준을 제시했습니다. 후보가 동의하고, 딥페이크라는 사실을 영상에 명시하는 것을 조건으로 AI기반 합성 동영상의 선거 활용을 허락하는 선거법 운용기준을 발표했습니다. 딥페이크를 법적으로 동영상의 일종으로 보고, 선거운동을 할 수 있다고 해석한 것이지요. 흥미롭게도 『후보자 또는 제3자가 ‘실제 후보자’ 보다 좋은 딥페이크 이미지를 동영상에제작·활용할 수 있다』는 내용도 담겼습니다. 후보의 동의가 있는 한 영상 자체를 ‘허위 사실’로 볼 수 없으므로, AI후보가 실제보다 잘 생기든 날씬하든, 유별난 버릇 없이 말을 잘 하든 문제 삼지 않는다는 내용으로 볼 수 있습니다.

2024 총선에 딥페이크가 등장해도 괜찮을까? 

2024년 4월, 한국은 국회의원을 뽑는 선거를 치르게 됩니다. 몇 가지 이유로 우리 유권자는 이 선거를 눈여겨봐야 합니다. 우선, 지난 겨울 챗지피티(ChatGPT)를 필두로 각종 생성AI가 전세계를 휩쓴 상황에서 AI가 선거에 영향을 미치진 않을지 살펴봐야겠지요. 더 중요한 건 이런 논의 속에서 AI를 활용하는 윤리적, 제도적 기준을 사회적으로 제대로 논의하지 않은 상태라는 사실입니다.

이런 상황에서 총선을 앞둔 정치권이 우후죽순 AI 후보나 지지자를 온라인에 등장시키면 어떻게 될까요? 예를 들어 ‘딥페이크 홀란드’가 거액의 계약을 맺고 잠시라도 특정 후보를 지지하는 유세발언에 나선다면? 그 영상은 발언 내용의 사실 여부나 정치적 깊이와 무관하게 대중의 눈길을 사로잡을 겁니다. 홀란드가 아니라 다른 유명인을 모델로 등장시켜도 마찬가지겠지요. 지난 지방선거 때 서울시장 선거에는 ‘AI오세훈’이 등장해 온라인에서 유세활동을 했습니다. 실제 유권자를 만날 시간과 기회가 너무나 부족한 후보 처지에선, 딥페이크와 AI를 선거 운동에 활용하는 전략을 적극 검토할 수밖에 없었을 겁니다.

그러나 선거 활용성에만 집중하면, 딥페이크와 AI의 불공정 요소를 놓칠 수 있습니다. 딥페이크를 제작하는 일이 결국 돈(선거비용)에 달려 있기 때문입니다. 유권자를 설득할 수 있을 정도의 정교한 합성 영상을 만들려면, 시간과 품질에 비례에 막대한 제작비가 들어갑니다. 사이버 보안회사 캐스퍼스카이(Kaspersky)는 다크웹에서 1분짜리 정교한 딥페이크 영상을 제작 의뢰하는 데 최소 300달러, 최대 2만 달러에 이르는 비용이 든다고 분석합니다. 국내에서도 딥페이크 인간 제작비는 최소 500만 원에서 1천만 원가량으로 알려져 있습니다. 더 정교한 움직임, 더 자연스러운 목소리를 AI 학습하고 이를 유세용으로 몇 분 이상 제작하려면, 그 비용은 훨씬 커질 수밖에 없습니다. 현재 공직선거법 제121조가 정하고 있는 ‘선거비용 제한액’ 산정 기준은 AI 합성과 같은 최신 기술 사용 비용은 포괄하고 있지 않습니다. 선거자금이 넉넉한 후보일수록 딥페이크 제작 여력이 더 크므로, 상대적으로 재원이 부족한 신진 정치인은 유권자 노출도를 높이기에 불리한 구조입니다.

AI 후보로는 정치인 자질을 평가할 수 없다 

후보자 검증 가능성 측면에서도 딥페이크 선거 활용은 유권자에게 결과적으로 피해를 줄 수 있습니다. 합성 영상만으로는 어떤 후보가 정치인으로서 충분한 의사소통기술을 가졌는지, 지역 사회 현안을 얼마나 제대로 이해하고 있는지, 세대를 넘나들 수 있는 공감 능력이나 토론 태도를 지녔는지 등을 알 수 없습니다. 선거 토론회 TV 생중계를 통해 시민이 직접 질문하고 얻을 수 있던 정보를 얻기도 어렵습니다. 잘 짜인 원고를 입력해 자신보다 말 잘하는 ‘딥페이크 후보’를 내세울 수 있는 후보자에겐, 단점과 약점을 감출 수 있는 기회일 수 있습니다.

결론적으로, 앞의 사례를 통해 우리는 딥페이크가 선거에 쓰이는 일을 왜 면밀하게 검토하거나 가급적 막아야 하는지 알 수 있습니다. 지금 당장엔 획기적인 선거 캠페인 전략처럼 보일 수 있지만, 장기적으론 그 위험성이 유권자의 알 권리와 비판적인 판단을 위협할 가능성이 훨씬 큽니다. 또한 딥페이크에 들어가는 막대한 비용 문제는 가뜩이나 적은 자원으로 정치 활동에 참여하고 있는 2030세대 정치인에게 불리하게 작용합니다. 반대로 어떻게든 권력을 잡거나 유지하려는 쪽에서는 큰 비용을 들여서라도 온라인 곳곳에 말 잘하고 멀끔한 복제 후보를 내세우고 싶어 하겠지요. 결국, 딥페이크의 선거 활용이 한국의 선거제도, 나아가 민주주의를 위협할 수 있다고 보는 시각이 과도한 우려일까요?

AI는 우리 생활을 크게 바꾸고 있지만, 여전히 차근차근 논의해야 할 지점이 많은 주제입니다. 딥페이크 혹은 AI기반 영상 및 이미지 합성 서비스가 흔해질수록, 여기에 뒤따라오는 윤리적·사회적·정치적 그리고 기술적인 딜레마도 함께 고민해야 하는 시기입니다. 디지털 공론장에서 이 논의를 시작하고, 더 많은 영역에도 공유할 수 있는 기회로 이어지길 기대합니다.

최원석, 미디어 리터러시 교육 활동가, 전 YTN 기자 

*본 칼럼에 대한 의견을 캠페인즈 내에서 나누길 기대합니다. 이메일도 환영합니다.

medialiteracynetwork@gmail.com

(끝)