허위정보라고 다 똑같은 허위정보가 아니니까

안전한 디지털 공간을 바라는 캠페이너들의 이야기를 모읍니다

허위정보의 통로이자 제작자인 ‘디지털 기술’

“코로나 바이러스가 폐로 가기 전까지 목에서 4일간 머문답니다. 이때 기침이 나오고 아프니 따뜻한 물을 많이 마셔주고 소금물이나 식초로 가글을 해주면 바이러스를 제거할 수 있다고 하니….” 

코로나19 팬데믹 초기, 모두들 비슷한 메시지를 받은 적 있을 것이다. 나 또한 친척 단체대화방에서 이 글을 봤다. 평소에도 어디서 퍼온 듯한 각종 건강 정보나 보이스피싱 주의사항이 공유되곤 하는데, 그런 차원의 ‘복붙’ 공유로 받아들였던 나는 대수롭지 않게 넘어갔던 것으로 기억한다. 

그러나 당시 이 정보를 믿었던 한 교회에서는 예배 전 소금물 분무기를 사용해 입 안을 소독, 이것이 오히려 바이러스를 공기 중에 퍼트리는 바람에 집단 감염이 되었다. 인터넷이나 유튜브엔 소금이 바이러스를 죽인다는 낭설이 널리 퍼져있었다. 디지털 기술이 허위정보를 널리 퍼트리는 역할을 할 수 있다는 우려가 현실에서 나타난 사례였다.

 디지털 기술은 허위정보를 더 빨리, 더 멀리 확산시키는 일에서 더 나아가 새로운 허위정보를 만들어주기도 한다. 대표적으로 문제가 되는 것이 ‘딥페이크(deepfake)’다. 딥페이크는 컴퓨터 스스로 학습하는 기술을 의미하는 ‘딥러닝(deep learning)’과 ‘가짜(fake)’의 합성어로, 인공지능(AI·Artificial Intelligence) 기술을 이용해서 만든 사람 이미지(사진, 오디오, 비디오 등)와 그 기술을 총체적으로 일컫는다. 

‘만들어낸’ 이미지란 의미가 강한데, 특히 사람의 얼굴이나 특정 신체 부위에 이미지를 합성해 실제처럼 보이게 만든다. 최근 논란이 된 ‘서울대 딥페이크 성범죄 사건’에서 쓰인 그 기술이다. 해당 사건 피의자는 대학 동문 등 여성의 졸업사진 또는 SNS에 올라온 사진을, 딥페이크 기술을 이용해 디지털성범죄물으로 만들어 소지하고 배포한 혐의를 받고 있다. 현재까지 이 사건으로 제작·유포된 디지털성범죄물은 각각 100여건·1700여건, 확인된 피해자만 61명으로 확인된다.

 

공존하는 장단점, 문제와 해결방안도 복잡

여느 기술이 그러하듯 디지털 기술 또한 순기능과 역기능이 공존하는 셈이다. 디지털 기술(컴퓨터 기술)이 처음 발명되었을 때 보다 쉽고 빠른 계산과 논리 전개를 기대했고, 그 위에 인터넷과 네트워크 기술이 얹혔을 때 시공간의 한계를 뛰어넘은 커뮤니케이션과 상호작용을 기대했다. 

그러나 디지털 기술이 사용되면 될수록 다양한 문제가 발견되었다. 인터넷과 네트워크상에 수많은 개인정보가 수집되고 저장되면서 개인 프라이버시 침해와 감시, 개인정보 유출 등이 일어났고 사이버 환경에서 가능한 해킹, 피싱, 랜섬웨어, 스팸메일 등 다양한 형태의 사이버 범죄도 증가했다. 인간 사회에서 일어나는 괴롭힘이나 폭력 또한 온라인에서 그대로 재현되었고, 온라인에의 과도한 의존은 디지털 중독과 정신 건강 문제로도 이어졌다. 위에서 언급한 허위정보와 사이버 범죄물의 손쉬운 확산도 대표적인 디지털 기술의 악영향이다.

당연한 말이지만 이렇게 디지털 기술로 인해 일어나는 다양한 문제들을 한 방에 해결할 수 있는 전지전능한 방책, 데우스 엑스 마키나는 없다. 위에서 언급한 두 사례만 해도 디지털 기술의 존재가 두 허위정보의 제작 및 확산을 악화시켰다는 공통점이 있을 뿐, 근본 문제 원인으로 볼 만한 것은 수도 없이 많으며 당연히 제시할 수 있는 해결방안 또한 다양하다. 

미디어의 역할, 사회적 인식 변화 모두 필요

먼저, 코로나19 팬데믹 상황에서의 허위정보 유통, 이른바 ‘인포데믹(Infodemic·‘정보(information)’와 ‘전염병(epidemic)’의 합성어)’은 크게 다섯 가지 특징을 보인다(이완수, 2021). 1) 건강과 관련된 이슈에 집중되어 불안과 공포가 더욱 커보인다는 점 2) 그러다 보니 공포 심리를 타고 비이성적 과열 양상을 낳는다는 점 3) 그러한 양상이 소셜미디어(뉴미디어)와 전통미디어 모두에 의해 확산된다는 점 4) 동일한 정보에 반복 노출되다 보니 부정적 정서가 물결처럼 파장을 일으킨다는 점(물결 효과·ripple effects) 5) 오히려 정보가 과잉돼 정보 진위 여부를 더욱 알기 어렵다는 점 등이다.

이 경우 중요한 것은 사회가 아직 정확히 알지 못하는 미지의 영역이라는 존재다. 미지의 영역이 사람들에게 공포감을 심어주고, 결국 허위정보 확산을 더욱 부추긴다. 이때 중요한 것은 무엇이 정확한 사실인지, 또한 아직 밝혀지지 않은 사실은 무엇인지 제대로 알려주는 일일 것이다. 이는 정부, 언론, 시민사회 모두의 역할이다. 특히 인포데믹 상황에서 전통미디어와 뉴미디어 모두 허위정보 확산에 영향을 줄 수 있다는 점이 중요하다, 

전통미디어의 경우 코로나19 발생에 대해 보도 과열 양상을 보이거나, 자극적이고 선정적인 묘사나 표현을 사용하여 사람들로부터 과도한 위험 감정을 이끌어냈다(김경희, 2020; 김태종, 2020). 소셜미디어의 경우, 현재에는 많은 사람들이 소셜미디어에서 정보를 소비하기 때문에 자연스레 허위정보 확산의 핵심 매개체가 된다. 전통미디어의 보도 양상 수정, 소셜미디어의 플랫폼으로서의 책임 제고가 해결책으로 뒤따른다.

딥페이크를 이용한 디지털 성범죄물의 경우 더욱 근본적인 문제, 즉 여성에 대한 성적 대상화가 주 원인이다. 딥페이크 성범죄물은 ‘기술매개 성폭력’이라는 표현으로 정의될 수 있다. 새로운 기술을 이용한 여성 대상의 성적 공격 행위를 뜻하는 이 용어에는 텔레그램 성착취 범죄 사건, 버닝썬 사건, 성관계 불법촬영, 카카오톡 또는 소셜미디어 메시지를 이용한 성희롱 등이 포함된다(김애라, 2024). 

디지털 성범죄에 대한 인식 부족 또한 따라붙는 문제다. 디지털 성범죄를 처벌할 수 있는 법과 제도가 미비하고, 이를 취재·보도해서 문제를 공론화해야 할 언론의 문제 인식 수준 또한 낮다. 서울대 딥페이크 성범죄 사건을 MBC 단독 보도 이전부터 보도한 독립언론 ‘셜록’의 기자는 처음 제보를 받게 됐을 때 든 생각을 묻는 인터뷰 질문에 “굉장히 질 나쁜 범죄지만, n번방 사건과 같은 충격을 주는 사건은 아니다’라는 생각이 스쳤다. 단순히 사건만 보도하기엔 부족한 부분이 있다고 봤다”라고 답했다(물론 이후 반전되는 대답을 했다! 글을 끝까지 봐달라!). 

기존 저널리즘에서 말하는 ‘뉴스 가치(news value)’ - 흔히 영향성, 시의성, 근접성, 일탈성, 희소성, 화제성 등등 - 가 떨어지는 아이템이라고 보았다는 의미이다. ‘그다지 충격적인 것은 아니다’와 같은 시각이 딥페이크 디지털 성범죄물 제작과 유포의 핵심 원인이자, 사회적 문제라고 정의되기 조차 힘든 이유라고 할 수 있다. 이는 인식의 전환을 이끌어낼 다양한 영역에서의 변화 - 법, 제도, 교육, 문화 등 – 가 동반되어야 함을 말해준다.

중요한 점은 셜록의 기자가 이내 다음과 같이 대답했다는 점이다. “하지만 사건을 취재하고, 셜록 내외부의 사람들과 이야기를 나누면서 생각이 바뀌게 됐다. 셜록 고문 변호사의 말이 인상적이었는데, 단순히 파급력을 기준으로 사건을 바라봐선 안 된다고 조언해줬다. 딥페이크 사건은 피해를 경험하지 않은 남성들이 문제의식을 느끼지 못하는 경우가 많다는 거다. (중략) 내가 처음 가졌던 생각, 딥페이크 범죄를 가볍게 여기는 것 자체가 사건 해결을 어렵게 만드는 걸림돌이었다.” 마지막 문장은 우리 사회 전반에 적용되는 말이기도 하다.

 

당신에게 ‘디지털 안전’이란 무엇인가요?

디지털 생태계의 안전은 복잡한 사회 문제만큼이나 단순하게 성취되지 않는다. 간단하게 스위치 하나 눌러 해결될 수 있는 성질의 것이 아니다. 오히려 개별 사안마다 문제 원인을 뜯어보고 각각의 해결책을 마련하는 방식으로 접근해야 한다. 이때 가장 중요한 것은 각자 바라는 ‘디지털 생태계에서의 안전’이 무엇을 의미하는지 논의하는 것이라고 본다. 

안전의 반대말을 위험이라고 한다면, 우리는 디지털 세계를 살아가면서 무엇으로부터 위험을 느끼는가? 현대를 설명하는 개념으로 ‘위험사회’를 제시한 독일의 사회학자 울리히 벡(Ulrich Beck)은 위험이란 것은 갑자기 발생하지 않고 사회의 맥락 속에서 발생한다고 주장했다. 그러면서 이를 해결하기 위해 ‘성찰적인 근대성’을 제시했는데, 쉽게 말해서 대중들이 더 많이 말하자는 주장이다. 기존 근대에선 국가와 전문가가 위험을 포함한 모든 제도를 독점하고 대비했다면, 성찰적 근대에서는 시민들이 소통하고 대화하면서 공론의 장을 만들어 사회 문제를 해결하자는 제안인 셈이다. 그러면서 벡은 ‘하위 정치(sub-politics)’의 필요성, 사회 운동을 통한 일반 공중의 조직화 등을 구체적 예로 들었다.

언젠가 누군가가 나에게 자신은 인스타그램 게시물을 조심스럽게 올린다고 한 적 있다. 자신이 어디에서 무엇을 했는지 쉽게 추적될까봐 그러하다는 설명과 함께. 또 어느 날 누군가는 자신은 카카오톡 프로필 사진을 잘 안 걸어둔다고 했고, 또 누군가는 유튜브 섬네일에 아주 큰 글씨로 과도한 표현이 쓰여 있으면 눌러보지 않는다고 했다. 다들 이러저러한 디지털 세계에서의 위험을 체감하고 있는 듯 했다. 당신이 원하는 디지털 생태계에서의 안전은 무엇인가? 우리는 어떠한 디지털 세계를 바라는가?

 

김경희. (2020, 2, 13). 한국 언론 ‘코로나19’ 보도 어땠나···“과장·추측성·생중계식 보도 안 돼”. <한겨레>. https://www.hani.co.kr/arti/society/society_general/928127.html 김애라. (2024). 2024 한국여성학회 춘계학술대회 : 기술매개성폭력의 ‘실질적’ 피해와 그 의미. 참조 <한겨레21>. https://h21.hani.co.kr/arti/society/society_general/55681.html 김태종. (2020). 뉴스 빅데이터를 활용한 코로나19 언론보도 분석: 토픽모델링 분석을 중심으로. <한국콘텐츠학회논문지>, 20권 5호, 457-466. 윤수현. (2024, 5, 30). 서울대 딥페이크 사건, MBC ‘단독’ 이전에 셜록이 있었다. <미디어오늘>. https://www.mediatoday.co.kr/news/articleView.html?idxno=318332 이완수. (2021). 코로나 19 “인포데믹” 현상에 대한 이론적 고찰: 커뮤니케이션학과 행동과학의 통합 적용. <커뮤니케이션 이론>, 17권 3호, 306-375.

---

안전한 디지털 공간을 바라는 캠페이너들의 이야기를 모읍니다