알고리즘, 인공지능이 결정하는 선거의 결과

혼란 속에 묻혀버린 '내 이슈' 시민 이슈 구조대가 꺼냅니다!

민중의 압도적 다수는 냉정한 숙고보다는 차라리 감정적인 느낌으로 사고방식이나 행동을 결정한다. - 히틀러 <나의 투쟁> 중에서 

총선이 채 일주일도 남지 않았다. 이번 선거에서 우리는 과연 인공지능으로부터 안전하게 자신이 원하는 정당과 후보에 표를 던질 수 있을까. 여기서 ‘안전하게’,  ‘자신이 원하는’이란 뜻은 무엇일까. 이것은 선거에 어떤 ‘위험’이 도사리고 있고, ‘자신의 의지와는 다르게’ 투표할 수도 있다는 의미처럼 들린다. 그리고 사실이 그럴지도 모른다. 선거가 얼마 남지 않은 지금, 유권자로서 ‘나’는 얼마나 준비되어 있을까, 재차 점검해 봐야 하는 시기인지도 모른다. 

1. 나의 결정은 알고리즘의 결정 ; 선택의 저변을 움직이는 SNS의 알고리즘 

https://youtu.be/CAMoPbj3jQE

다큐 <더 그레이트 핵(The Great Hack)>은 2019년 미국 선거와 브렉시트(Brexit)에 소셜 미디어 페이스북이 어떻게 얼마나 영향을 미쳤나를 보여준다. 아무 의미 없이 습관처럼 클릭해 보는 영상, 쇼츠, 검색어 등이 개인 정보화 되어 빅데이터로 쌓인다.  이것이 단지 개인적 취향에 대한 것이라면 크게 상관 없어 보이지만, 정치나 선거와 연관된다면 문제가 광범위해진다. 

곧 민주주의 체제 자체를 위협할 수 있다. 이 영화는 그 과정을 보여준다. 권력을 쥐고자 하는 자들이 기술과 새로운 매체를 이용하여 사람들의 행동을 바꿔 나가는 과정을.  SNS의 알고리즘은 사용자의 정치 성향을 파악하고, 그가 보고 싶어하는 세상만 무한 반복해 보여준다. 한 공간에 있어도, ‘한 사람’의 세계와 ‘다른 한 사람’의 세계는 우주만큼이나 떨어져 있을 수 있다.

우리는 어쩔 수 없이 하이데거 식으로  “세계-내-존재”이므로 자신이 속한 세계만을 진실로 받아들이고, 자신이 본 세계만을 전부로 인식한다. 그것이 감정적이고 자극적인 경우, 보다 쉽게 받아들인다. 그렇다면 물을 수밖에 없다. 나의 선택은 진정 ‘나’의 선택인지, 혹은 나를 둘러싼 쇼셜미디어 세계 속의 ‘편향된’ 선택인지. 

 2. 인공지능 딥페이크 기술 ; 메타휴먼, 진실과 거짓의 모호한 경계

https://youtu.be/pnaKyc3mQVk?si=Kov6l-VjHsFxkuen

SNS보다 한층 더 발전한, 인공지능 딥페이크 기술은 2024년 전 세계의 선거에 과연 얼마나 영향을 줄까. 이미 많은 이들이 SNS, 인공지능이 선거에 영향을 끼칠 것이라 염려하고 있으며, 이미 그 염려가 실제로 드러나고 있다.  

먼 나라의 예가 아닌, 당장 4월 10일 22대 국회의원 총선거를 앞두고, 정부도 이에 대해 대책을 내놓았다. 

• 한겨레 신문에 따르면 “중앙선거관리위원회가 오는 4월 22대 국회의원 총선거를 앞두고 ‘인공지능(AI) 기반 딥페이크 영상’을 이용하는 선거운동을 금지”시켰다.  또 “인공지능 기능을 가진 프로그램으로 만든 영상, 사진, 음향을 본인 당선이나 상대 후보 낙선을 위해 사용하는 것을 금지”했다. “제3자가 특정 후보 당선 혹은 낙선을 위해 조작된 영상, 사진, 음향을 제작해 배보해도 안된다.” (2024.02.01. 한겨레 <‘AI 딥페이크 영상’ 선거운동 금지…’민주주의의 적’은 인공지능뿐일까>

• 연합뉴스의 이보배 기자에 따르면, 정부도 이에 대한 대책으로 “22대 국회의원 선거(4월10)을 앞두고 유포되는 가짜 뉴스와 허위 선동에 대해 배후까지 밝혀 엄중하게 책임을 물을 것이라고 28일 밝혔다.” (2024. 03. 28. 연합뉴스, <정부 “총선 가짜뉴스 배후까지 규명…모든 불법행위에 무관용”>)

그러나 실상은 제재가 어려운 모양새다. 

• SBS에 따르면 인터넷에 링컨, 맥아더 등 외국 유명 인사들이 특정 당을 외치는 영상을 소개 하면서,  “중앙선거관리위원회는 어제(4월2일)까지 딥페이크 영상 등을 통한 선거법 위반행위 327건을 적발” 했다고 밝혔다. (2024.04.03. SBS뉴스 <링컨, 맥아더가 oo당 지지?... 총선 앞두고 ‘딥페이크’ 기승)

• 메트로신문의 김서현 기자 역시 정부나 포털 규제의 실효성을 의문하며, 제재 불가능성을 보여주고 있다. “정부의 다짐과 달리 딥페이크 관련한 가짜뉴스 유포를 원천적으로 차단할 방안은 사실상 없다시피 한 수준이다. 국내 양대 포털인 네이버와 카카오는 별도로 딥페이크와 가짜뉴스 확산 방지를 위한 조치를 단행했으나 실효성이 의심된다.” (2024.04.01. 메트로 신문 <공정선거 최대 위협으로 떠오른 인공지능(AI) 기술 "막을 수 없다">)

인간이 기술을 따라가기에 벅찬 만큼, AI 기술이 고속 성장하면서, 그것을 제재할 방도는 찾지 못하고 있다. 게다가 우리가 접하는 뉴스와 현실이 과연 참인가 거짓인가까지 뭉뚱그러지면서, 총선은 또 한번 AI기술의 시험대이자, 인간 윤리와 능력의 시험대가 될 것으로 보인다. 

우리가 제대로 된, 자신의 선택에 따른, 공정한 선거를 치루려면 오히려 원론적으로 각 정당과 후보들의 정책을 스스로 찾아 보고 직접 공부하지 않으면 안 되는 시대가 되었다. 패러디도 가짜뉴스화되고, 진짜뉴스조차 가짜로 만들어 버리는 혼돈의 시대 속에서 중심을 잡기 위해서는, 보다 적극적으로 정책과 후보에 다가서는 수밖에 없다.