11월 23일 저녁, ‘n번방에 분노한 사람들’(이하, n분사)이 주최하는 <텔레그램, 이대로 써도 되는걸까?> 토론회가 열렸습니다. 오경미 오픈넷 연구원이 패널로 참여했습니다. 토론회에서 논의한 주요 질문에 대한 오연구원의 대답을 정리한 내용을 공유합니다.
1. 국경 없는 딥페이크 성착취 문제 해결을 위해 국제적 합의를 마련할 필요가 있다고 본다?
해외 시민사회단체는 주로 여성인권운동가나 여성기자를 대상으로 하는 젠더화된 허위정보의 심각성을 공론화하고 대응하기 위해 적극적으로 연대하고 있다. 국제행사에 참가해 상황의 심각성을 알리고 국가별 상이한 사회적 맥락을 세심하게 짚어내면서 세션을 기획하고 관련보고서를 작성하는 등의 활동을 함께 하고 있다.
여성단체들의 국제적인 연대와 활동은 유엔이나 주요 국가들이 해당 주제를 정책 단계에서부터 고민하게 만들도록 유도하는 등의 성과를 이끌어내고 있다. 언론사들이 언론 보도행태를 성찰하게끔 유도하기도 했다. 기자들이 의도하지 않았음에도 젠더화된 허위정보 확산에 기여한 바가 있었다고 성찰하게 만들었고, 보도방식에 대해 스스로 재점검하도록 만들기도 했다.
딥페이크 성범죄의 발생 빈도와 규모는 단연 한국이 압도적인 것으로 짐작된다. 얼마나 정확할 지는 알 수 없으나 Security Hero라는 사이버보안업체는 작년에 발간한 2023 State of Deepfakes에서 딥페이크 포르노그래피에서 포착되는 53%의 여성이 한국의 가수와 배우로 가장 빈번하게 타게팅되는 그룹이라고 적시하고 있다. 그렇지만 해외 디지털인권 관련 시민사회단체 활동가들은 동남아시아 지역에서도 딥페이크 성범죄가 증가하고 있는 추세라고 우려하고 있다. 논의의 장을 만들어 어떻게 연대할 수 있을 것인지, 단기적 해결책과 장기적 해결책은 무엇인지, 문제 해결을 위한 테이블에 반드시 참여해야 할 주요 행위자가 누구인지 의견을 모아갈 필요가 있겠다.
2. 딥페이크 성착취를 예방하는 포괄적 성교육 도입 및 확산이 필요하다고 본다?
정말 필요한 해결책이다. 포괄적 성교육 뿐만이 아니라 미디어리터러시 교육도 이루어져야 한다. 미디어리터러시 교육에 포괄적 성교육을 접목하자는 제안도 있다.
3. 딥페이크 성착취물 생성에 사용될 가능성이 있는 AI 기술 자체에 대한 규제가 필요하다고 생각한다?
현재의 AI기술에 문제가 많다고 생각한다. 기술이 취약계층에 이로울 수 있도록 맹점을 보완하면서 발전시켜 나가려는 노력은 필요하다고 생각한다. 기술 상용화 전후 영향평가 등 기술개발 주체가 기술의 개선을 촉진할 수 있도록 제도나 장치를 구축하도록 강제할 필요가 있다.
그런데 어떤 규제를 만들면 이 인공지능이 직접적으로 성범죄물을 생성하지 못하게 만들 수 있을 것인가라는 질문은 꼼꼼하게 되물어봐야 한다. AI 기술이라는 것은 인간의 지능과 문제 해결 능력을 기계가 대신해 시뮬레이션할 수 있도록 돕는 기술이다. 즉 이용자가 명령하면 사람의 능력으로는 처리할 수 없을만큼의 대규모 정보를 추려 이용자의 마음에 가장 들법한 결과물을 산출해 주는 기술이다. 그러니 이미지, 영상, 언어 등의 정보를 기반으로, 표현물을 생성하는 인공지능은 모두 사실상 딥페이크 범죄물을 생성할 가능성을 모두 가지고 있다고 간주해도 무방할 것이다. 칼도 어떻게 쓰느냐에 따라 요리를 위한 도구가 되기도 하고 사람을 죽이는 범죄도구가 되기도 한다. 칼이 어떤 것을 수월하게 베기 위한 용도로 만들어졌기 때문이다. 인공지능 기술 역시 이처럼 사고해야 한다고 생각한다.
그럼에도 불구하고 악용될 가능성을 염려해 규제만이 답이라고 한다면 실상 방법은 인공지능의 학습데이터로 사용되는 정보, 즉 사람들, 특히 여성들의 나체 이미지나 나체를 묘사할 수 있는 표현을 인터넷 상에서 모두 삭제하는 것 뿐일 것이다. 그런데 이 방법이 현실적으로 가능한가? 그리고 딥페이크 성범죄물에 의한 피해는 여성의 성이 남성의 성과 비교해 사회적으로 매우 취약하기 때문인데, 여성의 성과 관련한 모든 것을 삭제해버리는 방법이 궁극적으로 여성들의 성적 취약성을 해결하는 방법이 될 수 있을 것인가?
4. 딥페이크 성착취를 막기 위한 플랫폼에 대한 국가적 규제가 필요하다고 생각한다?
실존하는 이들의 얼굴을 이용해 만들어진 딥페이크물은 명백한 불법 영상/이미지물이다. 불법콘텐츠는 당연히 규제 해야한다. 한국은 정보통신망법, 아청법, 성특법, 형법 등으로 불법콘텐츠를 규제하고 있다. 또 이번 딥페이크 사건을 계기로 성특법에 딥페이크 관련 조항을 추가했고, 카카오톡도 불법촬영물 필터링 기술이 적용되어 있다. 플랫폼들은 정보통신망법에 의해 불법콘텐츠를 인지 즉시 삭제해야 할 책임을 지고 있다.
다만 규제만이 문제 해결의 유일한 방법으로 논의되고 있는 것 같아 우려스럽다. 플랫폼과 관련한 범죄가 발생하면 플랫폼 규제에 대한 논의가 가장 먼저 이루어진다. 그렇지만 플랫폼규제가 모든 문제를 해결하는 만능키가 아니다. 사건을 다면적으로 분석할 필요가 있지 않겠나. 예를 들어, 딥페이크 성범죄를 가능하게 한 사회적인 배경은? 피해자들의 회복을 불가능하게 하거나 어렵게 하는 구조적인 문제는 없는가? 등 말이다.
플랫폼의 책임성을 강화해야 한다는 문제의식에는 동의하나 플랫폼 규제를 지속적으로 강화하는 것에도 부작용이 있다.
규제의 강화는 플랫폼에서 유통되는 모든 콘텐츠에 대한 플랫폼의 사전/사후 검열을 의미한다. 운영 경비의 증가와 직결되므로 새로운 사업자의 시장 진입을 불가능하게 한다. 규제의 강화는 이미 시장에 성공적으로 정착해 높은 수익을 올리고 있는 한 두 개 플랫폼의 생존으로 귀결될 수 있다. 플랫폼의 독점화를 초래하게 될 것이다.
또 디지털인권 활동가들이 가장 우려하는 건 플랫폼 규제가 개인정보수집으로 이어질 가능성이다. 2021년 공정거래위원회가 “전자상거래 등에서의 소비자보호에 관한 법률” 전부개정안을 입법예고한 바 있다. 해당 개정안에서 공정거래위원회는 개인간 전자상거래에서 소비자 보호라는 명목으로 플랫폼 운영사업자에게 개인판매자의 신원정보 확인을 강제하고, 분쟁 발생시 소비자에게 개인판매자의 신원정보를 제공하지 않거나 신원정보가 사실과 다른 때에는 연대책임을 지우고자 했다. 해당 개정안이 통과되었다면 사업자는 책임을 지지 않기 위해서 모든 개인판매자의 신원정보를 확인한 뒤 수집‧보관하게 될 수밖에 없었다. 오픈넷은 해당 개정안이 정보매개자를 포함하는 플랫폼사업자에게 이러한 의무를 지우게 한다면 사실상 위헌적인 인터넷 실명제로 작동할 가능성이 높다며 반대의견을 낸 바 있다.
플랫폼이 이용자들의 정보를 가지게 된다면 또 다른 상황이 발생할 수 있다. 만약 정부가 이 정보를 다른 나쁜 목적으로 취득하고자 한다면 어떻게 될 것인가? 취약 계층 보호라는 당위성을 위해 이 정도의 규제는 사회가 감수해야 하는 문제라고 하며, 이러한 우려를 윤리적인 차원의 문제로만 치부하기에는 한계가 분명히 있다. 베트남 등 동남아시아 국가가 시민들을 통제하기 위해 다양한 방식으로 플랫폼 기업들에게 규재를 강제하는 가를 많이 접한다. 특히 구글이나 페이스북처럼 치외법권에 의해 서비스하는 국가의 법률에서 자유로운 국외 플랫폼들의 경우 베트남은 트래픽 속도를 의도적으로 낮추어 기업들이 정부에 순응하도록 간접적으로 압박해왔다. 드러나지 않는 방식으로 플랫폼을 압박하며 원하는 정보를 취할 가능성을 고려하지 않을 수 없다.
5. 경찰이 방통위를 거치지 않고 플랫폼에 디지털 성폭력 콘텐츠의 삭제 요청을 할 수 있어야 한다?
경찰이 불법물을 발견했을 때 플랫폼에 고지하는 것은 전혀 문제가 없을 것이다. 다만 시민사회가 우려하는 문제는 경찰 요청을 신속하게 따르지 않는다고(불법여부 판단을 위해) 해서 플랫폼에 민형사책임을 지우려할 수도 있다는 것이다. 행정기관이 불법여부 판단의 주체가 되어서는 안된다. 경찰이 제2의 방통심위가 되어서 국가검열을 강화할 위험에 대해 생각해봐야 한다. 즉 경찰의 역할은 플랫폼에의 정보제공에 그쳐야 한다.
행정기관에 의한 표현물에 대한 강제적인 심의 및 제재는 매우 위험하다. 물리적 해악은 행정기관이 나서서 빨리 막아야 하지만 문화적 사상적 현상을 행정기관이 나서서 유해하다고 막으려고 하는 것은 중립성을 벗어날 위험이 높다. 류희림 방통심위를 보면 알 수 있다. 경찰이 제2의 방통심위가 되어서 국가검열을 강화할 위험에 대해 생각해봐야 한다. 즉 경찰의 역할은 플랫폼에의 정보제공에 그쳐야 한다.
6. 삭제 요청에 응하지 않은 플랫폼은 국가적으로 접속을 차단해야 한다?
플랫폼이라 함은 자신의 콘텐츠가 아니라 수많은 이용자들의 콘텐츠를 받아주는 플랫폼을 의미한다. 즉 소수의 불법콘텐츠가 있다고 해서 플랫폼 전체를 차단한다는 것은 수많은 합법적인 콘텐츠들이 같이 차단됨을 의미한다. 위민온웹 사건 설명. 인도에서는 위키피디어에 명예훼손적인 내용이 있다고 해서 법원이 위키피디어에 게시자 IP주소를 요구하고 이를 제공하지 않자 위키피디어 전체를 인도 내에서 차단하겠다고 해서 비판을 받은 바 있다. 브라질에서도 과거에 특정 왓츠앱 이용자가 금융범죄에 연루되어 있다며 이용자 식별 정보를 법원이 요구하였는데 페이스북(지금의 메타)이 이를 거부하였고 이를 이유로 법원은 왓츠앱 전체를 차단하였다. 이 사건은 대법원까지 올라갔는데 차단명령이 ‘브라질 국민들의 정보접근권을 비례적이지 않은 방식으로 침해한다’며 파기하였다.
텔레그램을 사용하지 않는다고 문제가 해결될 것인가? 텔레그램 다운을 일시적으로 중단시키자?: 여성단체를 포함한 시민운동단체의 활동에 끼칠 영향을 고려하지 않을 수 없다. 논의의 프레임이 “디지털인권(혹은 시민사회단체의 이익) vs 여성보호”로 맞춰지면 곤란하다. 이런 식의 프레임화는 문제 해결은 요원하게 하고 갈등만 심화시킬 뿐이다. 텔레그램 사용은 여성인권단체에게도 매우 중요한 수단이다. 텔레그램 접속 차단을 단순하게 특정 어플리케이션에 대한 접근 불가에 따른 불편으로 치부할 수 있을 것인가? 텔레그램을 소통의 주요 채널로 사용하고 있는 시민사회단체의 입장에서 텔레그램 사용을 아무런 준비없이 하루아침에 중단하는 것은 현실적으로 어렵다. 몇 년간의 활동 자료가 채팅방에 축적되어있다. 또 새로운 활동가를 채용했다고 가정하자. 접속차단으로 텔레그램 다운로드나 사용이 어렵게 된다면 그 활동가는 일하게 된 시민사회단체의 텔레그램 방으로 초대될 수 없다. 딥페이크 사건은 디지털인권보호를 위해 활동하는 시민사회단체 활동가에게도 쉽지 않은 문제였다. 또 여성으로서 굉장한 무력감을 느끼게 한 사건이기도 하다.
그렇지만 디지털인권에는 여성의 디지털인권 역시 포함된다는 사실을 간과하지 말아야 한다. 이 관점에서 디지털인권 보호를 위한 원칙을 훼손하지 않으면서도 어떻게 여성의 존엄을 보호할 수 있을 것인가 고민하고 있다. 급진적인 답이 될 수 있겠지만, 우리 사회를 벗은 여성의 몸을 수치스럽게 생각하지 않는 사회로 만드는 것도 고려해볼 수 있겠다. 앞에서도 언급했지만 딥페이크 성범죄는 여성의 성이 남성의 성과 비교해 사회적으로 매우 취약하기 때문에 가능한 범죄이다. 그러니 이 취약성의 근원적인 해결 방법 역시 우리 사회가 함께 고민해야 한다.
7. 운동사회에서 텔레그램을 보이콧해야한다?
보이콧은 가능한 전략일 수 있다. 보이콧 가능한 상황이라면 자료 이동 등 다른 채널로 이주하기 위해 필요한 시간을 확보할 수 있을 것이다. 보이콧이 가능하려면 더 많은 수의 플랫폼이 있어야 한다. 플랫폼의 다양성이 강화되어야 한다는 말이다. 텔레그램과 카카오톡만 옵션으로 있는 상황이라고 가정해보자. 이런 상황에서는 현실적으로 보이콧이 어렵다. 그나마 시그널 등 다른 옵션이 있으니 보이콧 가능하다. 트위터가 일론 머스크에 의해 인수되기 직전에도 이미 트위터를 둘러싸고 많은 말들이 있었다. 그러나 트위터만이 가지고 있는 장점이 있었어서 사람들은 계속 트위터를 사용해왔다. 하지만 일론 머스크가 인수한 뒤 X로 이름이 바뀌고 기존에 유저들이 지적해왔던 문제들이 해결되기보다는 심화되자 많은 사람들이 대안 플랫폼으로 이주하고 있다. 업무 과정에서 알게 된 미디어리터러시 전문가에 따르면 국내외 관련 전문가들이 일론 머스크의 X 인수를 계기로 대안을 모색하다가 링크드인으로 옮겼다고 한다. 이렇듯 보이콧이 가능하려면 대안이 여러 개가 있어야 한다. 대안은 앞에서 언급했듯 플랫폼의 다양성 확보로 가능하다. 규제 우선주의의 접근으로는 좋은 의도와 사업모델을 가진 새로운 행위자의 시장 진입을 어렵게 한다.
더욱 중요한 것은 텔레그램으로 왜 시민사회단체들이 이주를 했냐는 것이다. 시민사회단체들은 카카오톡을 정부가 검열하면서 텔레그램으로 이주한 것이다. 텔레그램이 프라이버시를 중요하게 생각하는 사람들에게 인기있는 이유와 텔레그램에서 딥페이크가 많이 나타난 이유는 동일하다. 텔레그램을 보이콧해도 이를 대체하는 앱이 나타날 것인테 텔레그램처럼 해외에 서버를 두어 국가의 검열이나 압수수색이 어려운 앱이 될 것이다. 그렇다면 텔레그램을 쓰지 않는다고 해서 딥페이크 문제는 절대로 해결되지 않을 것이다.
또 보이콧이 성적인 폭력을 행하는 가해자들의 숫자를 줄이는 데 미치는 영향을 미미할 것이라는 사실도 우리는 알고 있어야 한다. 선량한 의도로 텔레그램을 사용하는 사람들이 보이콧을 선언하면서 텔레그램을 떠난다고 해도 가해자들은 텔레그램을 떠날 이유가 없기 때문이다. 보이콧을 병행하면서 우리는 비자발적으로 가해자들이 운영하는 텔레그램 방에 끌려들어온 사람들이 가해자를 신고할 수 있는 용기를 가질 수 있도록, 성적인 폭력의 피해자들에게 연대하는 이들이 늘어날 수 있도록 성교육과 미디어리터러시 교육을 강화해야한다.
코멘트
0