11월 23일 저녁, ‘n번방에 분노한 사람들’(이하, n분사)이 주최하는 <텔레그램, 이대로 써도 되는걸까?> 토론회가 열렸습니다. 오경미 오픈넷 연구원이 패널로 참여했습니다. 토론회에서 논의한 주요 질문에 대한 오연구원의 대답을 정리한 내용을 공유합니다. 1. 국경 없는 딥페이크 성착취 문제 해결을 위해 국제적 합의를 마련할 필요가 있다고 본다? 해외 시민사회단체는 주로 여성인권운동가나 여성기자를 대상으로 하는 젠더화된 허위정보의 심각성을 공론화하고 대응하기 위해 적극적으로 연대하고 있다. 국제행사에 참가해 상황의 심각성을 알리고 국가별 상이한 사회적 맥락을 세심하게 짚어내면서 세션을 기획하고 관련보고서를 작성하는 등의 활동을 함께 하고 있다.  여성단체들의 국제적인 연대와 활동은 유엔이나 주요 국가들이 해당 주제를 정책 단계에서부터 고민하게 만들도록 유도하는 등의 성과를 이끌어내고 있다. 언론사들이 언론 보도행태를 성찰하게끔 유도하기도 했다. 기자들이 의도하지 않았음에도 젠더화된 허위정보 확산에 기여한 바가 있었다고 성찰하게 만들었고, 보도방식에 대해 스스로 재점검하도록 만들기도 했다. 딥페이크 성범죄의 발생 빈도와 규모는 단연 한국이 압도적인 것으로 짐작된다. 얼마나 정확할 지는 알 수 없으나 Security Hero라는 사이버보안업체는 작년에 발간한 2023 State of Deepfakes에서 딥페이크 포르노그래피에서 포착되는 53%의 여성이 한국의 가수와 배우로 가장 빈번하게 타게팅되는 그룹이라고 적시하고 있다. 그렇지만 해외 디지털인권 관련 시민사회단체 활동가들은 동남아시아 지역에서도 딥페이크 성범죄가 증가하고 있는 추세라고 우려하고 있다. 논의의 장을 만들어 어떻게 연대할 수 있을 것인지, 단기적 해결책과 장기적 해결책은 무엇인지, 문제 해결을 위한 테이블에 반드시 참여해야 할 주요 행위자가 누구인지 의견을 모아갈 필요가 있겠다.  2. 딥페이크 성착취를 예방하는 포괄적 성교육 도입 및 확산이 필요하다고 본다? 정말 필요한 해결책이다. 포괄적 성교육 뿐만이 아니라 미디어리터러시 교육도 이루어져야 한다. 미디어리터러시 교육에 포괄적 성교육을 접목하자는 제안도 있다.  3. 딥페이크 성착취물 생성에 사용될 가능성이 있는 AI 기술 자체에 대한 규제가 필요하다고 생각한다? 현재의 AI기술에 문제가 많다고 생각한다. 기술이 취약계층에 이로울 수 있도록 맹점을 보완하면서 발전시켜 나가려는 노력은 필요하다고 생각한다. 기술 상용화 전후 영향평가 등 기술개발 주체가 기술의 개선을 촉진할 수 있도록 제도나 장치를 구축하도록 강제할 필요가 있다.  그런데 어떤 규제를 만들면 이 인공지능이 직접적으로 성범죄물을 생성하지 못하게 만들 수 있을 것인가라는 질문은 꼼꼼하게 되물어봐야 한다. AI 기술이라는 것은 인간의 지능과 문제 해결 능력을 기계가 대신해 시뮬레이션할 수 있도록 돕는 기술이다. 즉 이용자가 명령하면 사람의 능력으로는 처리할 수 없을만큼의 대규모 정보를 추려 이용자의 마음에 가장 들법한 결과물을 산출해 주는 기술이다. 그러니 이미지, 영상, 언어 등의 정보를 기반으로, 표현물을 생성하는 인공지능은 모두 사실상 딥페이크 범죄물을 생성할 가능성을 모두 가지고 있다고 간주해도 무방할 것이다. 칼도 어떻게 쓰느냐에 따라 요리를 위한 도구가 되기도 하고 사람을 죽이는 범죄도구가 되기도 한다. 칼이 어떤 것을 수월하게 베기 위한 용도로 만들어졌기 때문이다. 인공지능 기술 역시 이처럼 사고해야 한다고 생각한다.  그럼에도 불구하고 악용될 가능성을 염려해 규제만이 답이라고 한다면 실상 방법은 인공지능의 학습데이터로 사용되는 정보, 즉 사람들, 특히 여성들의 나체 이미지나 나체를 묘사할 수 있는 표현을 인터넷 상에서 모두 삭제하는 것 뿐일 것이다. 그런데 이 방법이 현실적으로 가능한가? 그리고 딥페이크 성범죄물에 의한 피해는 여성의 성이 남성의 성과 비교해 사회적으로 매우 취약하기 때문인데, 여성의 성과 관련한 모든 것을 삭제해버리는 방법이 궁극적으로 여성들의 성적 취약성을 해결하는 방법이 될 수 있을 것인가? 4. 딥페이크 성착취를 막기 위한 플랫폼에 대한 국가적 규제가 필요하다고 생각한다? 실존하는 이들의 얼굴을 이용해 만들어진 딥페이크물은 명백한 불법 영상/이미지물이다. 불법콘텐츠는 당연히 규제 해야한다. 한국은 정보통신망법, 아청법, 성특법, 형법 등으로 불법콘텐츠를 규제하고 있다. 또 이번 딥페이크 사건을 계기로 성특법에 딥페이크 관련 조항을 추가했고, 카카오톡도 불법촬영물 필터링 기술이 적용되어 있다. 플랫폼들은 정보통신망법에 의해 불법콘텐츠를 인지 즉시 삭제해야 할 책임을 지고 있다. 다만 규제만이 문제 해결의 유일한 방법으로 논의되고 있는 것 같아 우려스럽다. 플랫폼과 관련한 범죄가 발생하면 플랫폼 규제에 대한 논의가 가장 먼저 이루어진다. 그렇지만 플랫폼규제가 모든 문제를 해결하는 만능키가 아니다. 사건을 다면적으로 분석할 필요가 있지 않겠나. 예를 들어, 딥페이크 성범죄를 가능하게 한 사회적인 배경은? 피해자들의 회복을 불가능하게 하거나 어렵게 하는 구조적인 문제는 없는가? 등 말이다.  플랫폼의 책임성을 강화해야 한다는 문제의식에는 동의하나 플랫폼 규제를 지속적으로 강화하는 것에도 부작용이 있다. 규제의 강화는 플랫폼에서 유통되는 모든 콘텐츠에 대한 플랫폼의 사전/사후 검열을 의미한다. 운영 경비의 증가와 직결되므로 새로운 사업자의 시장 진입을 불가능하게 한다. 규제의 강화는 이미 시장에 성공적으로 정착해 높은 수익을 올리고 있는 한 두 개 플랫폼의 생존으로 귀결될 수 있다. 플랫폼의 독점화를 초래하게 될 것이다.  또 디지털인권 활동가들이 가장 우려하는 건 플랫폼 규제가 개인정보수집으로 이어질 가능성이다. 2021년 공정거래위원회가 “전자상거래 등에서의 소비자보호에 관한 법률” 전부개정안을 입법예고한 바 있다. 해당 개정안에서 공정거래위원회는 개인간 전자상거래에서 소비자 보호라는 명목으로 플랫폼 운영사업자에게 개인판매자의 신원정보 확인을 강제하고, 분쟁 발생시 소비자에게 개인판매자의 신원정보를 제공하지 않거나 신원정보가 사실과 다른 때에는 연대책임을 지우고자 했다. 해당 개정안이 통과되었다면 사업자는 책임을 지지 않기 위해서 모든 개인판매자의 신원정보를 확인한 뒤 수집‧보관하게 될 수밖에 없었다. 오픈넷은 해당 개정안이 정보매개자를 포함하는 플랫폼사업자에게 이러한 의무를 지우게 한다면 사실상 위헌적인 인터넷 실명제로 작동할 가능성이 높다며 반대의견을 낸 바 있다.  플랫폼이 이용자들의 정보를 가지게 된다면 또 다른 상황이 발생할 수 있다. 만약 정부가 이 정보를 다른 나쁜 목적으로 취득하고자 한다면 어떻게 될 것인가? 취약 계층 보호라는 당위성을 위해 이 정도의 규제는 사회가 감수해야 하는 문제라고 하며, 이러한 우려를 윤리적인 차원의 문제로만 치부하기에는 한계가 분명히 있다. 베트남 등 동남아시아 국가가 시민들을 통제하기 위해 다양한 방식으로 플랫폼 기업들에게 규재를 강제하는 가를 많이 접한다. 특히 구글이나 페이스북처럼 치외법권에 의해 서비스하는 국가의 법률에서 자유로운 국외 플랫폼들의 경우 베트남은 트래픽 속도를 의도적으로 낮추어 기업들이 정부에 순응하도록 간접적으로 압박해왔다. 드러나지 않는 방식으로 플랫폼을 압박하며 원하는 정보를 취할 가능성을 고려하지 않을 수 없다.  5. 경찰이 방통위를 거치지 않고 플랫폼에 디지털 성폭력 콘텐츠의 삭제 요청을 할 수 있어야 한다? 경찰이 불법물을 발견했을 때 플랫폼에 고지하는 것은 전혀 문제가 없을 것이다. 다만 시민사회가 우려하는 문제는 경찰 요청을 신속하게 따르지 않는다고(불법여부 판단을 위해) 해서 플랫폼에 민형사책임을 지우려할 수도 있다는 것이다. 행정기관이 불법여부 판단의 주체가 되어서는 안된다. 경찰이 제2의 방통심위가 되어서 국가검열을 강화할 위험에 대해 생각해봐야 한다. 즉 경찰의 역할은 플랫폼에의 정보제공에 그쳐야 한다. 행정기관에 의한 표현물에 대한 강제적인 심의 및 제재는 매우 위험하다. 물리적 해악은 행정기관이 나서서 빨리 막아야 하지만 문화적 사상적 현상을 행정기관이 나서서 유해하다고 막으려고 하는 것은 중립성을 벗어날 위험이 높다. 류희림 방통심위를 보면 알 수 있다. 경찰이 제2의 방통심위가 되어서 국가검열을 강화할 위험에 대해 생각해봐야 한다. 즉 경찰의 역할은 플랫폼에의 정보제공에 그쳐야 한다.    6. 삭제 요청에 응하지 않은 플랫폼은 국가적으로 접속을 차단해야 한다? 플랫폼이라 함은 자신의 콘텐츠가 아니라 수많은 이용자들의 콘텐츠를 받아주는 플랫폼을 의미한다. 즉 소수의 불법콘텐츠가 있다고 해서 플랫폼 전체를 차단한다는 것은 수많은 합법적인 콘텐츠들이 같이 차단됨을 의미한다. 위민온웹 사건 설명. 인도에서는 위키피디어에 명예훼손적인 내용이 있다고 해서 법원이 위키피디어에 게시자 IP주소를 요구하고 이를 제공하지 않자 위키피디어 전체를 인도 내에서 차단하겠다고 해서 비판을 받은 바 있다. 브라질에서도 과거에 특정 왓츠앱 이용자가 금융범죄에 연루되어 있다며 이용자 식별 정보를 법원이 요구하였는데 페이스북(지금의 메타)이 이를 거부하였고 이를 이유로 법원은 왓츠앱 전체를 차단하였다. 이 사건은 대법원까지 올라갔는데 차단명령이 ‘브라질 국민들의 정보접근권을 비례적이지 않은 방식으로 침해한다’며 파기하였다.     텔레그램을 사용하지 않는다고 문제가 해결될 것인가? 텔레그램 다운을 일시적으로 중단시키자?: 여성단체를 포함한 시민운동단체의 활동에 끼칠 영향을 고려하지 않을 수 없다.  논의의 프레임이 “디지털인권(혹은 시민사회단체의 이익) vs 여성보호”로 맞춰지면 곤란하다. 이런 식의 프레임화는 문제 해결은 요원하게 하고 갈등만 심화시킬 뿐이다.  텔레그램 사용은 여성인권단체에게도 매우 중요한 수단이다. 텔레그램 접속 차단을 단순하게 특정 어플리케이션에 대한 접근 불가에 따른 불편으로 치부할 수 있을 것인가? 텔레그램을 소통의 주요 채널로 사용하고 있는 시민사회단체의 입장에서 텔레그램 사용을 아무런 준비없이 하루아침에 중단하는 것은 현실적으로 어렵다. 몇 년간의 활동 자료가 채팅방에 축적되어있다. 또 새로운 활동가를 채용했다고 가정하자. 접속차단으로 텔레그램 다운로드나 사용이 어렵게 된다면 그 활동가는 일하게 된 시민사회단체의 텔레그램 방으로 초대될 수 없다. 딥페이크 사건은 디지털인권보호를 위해 활동하는 시민사회단체 활동가에게도 쉽지 않은 문제였다. 또 여성으로서 굉장한 무력감을 느끼게 한 사건이기도 하다.  그렇지만 디지털인권에는 여성의 디지털인권 역시 포함된다는 사실을 간과하지 말아야 한다. 이 관점에서 디지털인권 보호를 위한 원칙을 훼손하지 않으면서도 어떻게 여성의 존엄을 보호할 수 있을 것인가 고민하고 있다. 급진적인 답이 될 수 있겠지만, 우리 사회를 벗은 여성의 몸을 수치스럽게 생각하지 않는 사회로 만드는 것도 고려해볼 수 있겠다. 앞에서도 언급했지만 딥페이크 성범죄는 여성의 성이 남성의 성과 비교해 사회적으로 매우 취약하기 때문에 가능한 범죄이다. 그러니 이 취약성의 근원적인 해결 방법 역시 우리 사회가 함께 고민해야 한다. 7. 운동사회에서 텔레그램을 보이콧해야한다? 보이콧은 가능한 전략일 수 있다. 보이콧 가능한 상황이라면 자료 이동 등 다른 채널로 이주하기 위해 필요한 시간을 확보할 수 있을 것이다. 보이콧이 가능하려면 더 많은 수의 플랫폼이 있어야 한다. 플랫폼의 다양성이 강화되어야 한다는 말이다. 텔레그램과 카카오톡만 옵션으로 있는 상황이라고 가정해보자. 이런 상황에서는 현실적으로 보이콧이 어렵다. 그나마 시그널 등 다른 옵션이 있으니 보이콧 가능하다. 트위터가 일론 머스크에 의해 인수되기 직전에도 이미 트위터를 둘러싸고 많은 말들이 있었다. 그러나 트위터만이 가지고 있는 장점이 있었어서 사람들은 계속 트위터를 사용해왔다. 하지만 일론 머스크가 인수한 뒤 X로 이름이 바뀌고 기존에 유저들이 지적해왔던 문제들이 해결되기보다는 심화되자 많은 사람들이 대안 플랫폼으로 이주하고 있다. 업무 과정에서 알게 된 미디어리터러시 전문가에 따르면 국내외 관련 전문가들이 일론 머스크의 X 인수를 계기로 대안을 모색하다가 링크드인으로 옮겼다고 한다. 이렇듯 보이콧이 가능하려면 대안이 여러 개가 있어야 한다. 대안은 앞에서 언급했듯 플랫폼의 다양성 확보로 가능하다. 규제 우선주의의 접근으로는 좋은 의도와 사업모델을 가진 새로운 행위자의 시장 진입을 어렵게 한다.  더욱 중요한 것은 텔레그램으로 왜 시민사회단체들이 이주를 했냐는 것이다. 시민사회단체들은 카카오톡을 정부가 검열하면서 텔레그램으로 이주한 것이다. 텔레그램이 프라이버시를 중요하게 생각하는 사람들에게 인기있는 이유와 텔레그램에서 딥페이크가 많이 나타난 이유는 동일하다. 텔레그램을 보이콧해도 이를 대체하는 앱이 나타날 것인테 텔레그램처럼 해외에 서버를 두어 국가의 검열이나 압수수색이 어려운 앱이 될 것이다. 그렇다면 텔레그램을 쓰지 않는다고 해서 딥페이크 문제는 절대로 해결되지 않을 것이다.   또 보이콧이 성적인 폭력을 행하는 가해자들의 숫자를 줄이는 데 미치는 영향을 미미할 것이라는 사실도 우리는 알고 있어야 한다. 선량한 의도로 텔레그램을 사용하는 사람들이 보이콧을 선언하면서 텔레그램을 떠난다고 해도 가해자들은 텔레그램을 떠날 이유가 없기 때문이다. 보이콧을 병행하면서 우리는 비자발적으로 가해자들이 운영하는 텔레그램 방에 끌려들어온 사람들이 가해자를 신고할 수 있는 용기를 가질 수 있도록, 성적인 폭력의 피해자들에게 연대하는 이들이 늘어날 수 있도록 성교육과 미디어리터러시 교육을 강화해야한다.

한국 정부는 국제인권기준에 부합하는 인터넷 자유 보장 조치 마련해야 올해 10월 프리덤하우스가 발표한 2024 세계 인터넷 자유 지수(Freedom on the Net)에서 한국은 또 다시 ‘부분적 자유(Partly Free)’의 지위밖에 인정받지 못했다. 심지어 지난해와 비교해 지수가 67점에서 66점으로 강등되기까지 했다. 사단법인 오픈넷은 2023년 한국 정부의 온라인자유연대(Freedom Online Coalition, FOC) 가입에 즈음하여 국내외 시민사회단체와 함께 한국 정부가 회원국가로서 국격을 갖출 수 있도록 개선점을 요청하는 공개서한을 작성해 한국 정부와 FOC에 보낸 바 있다. 오픈넷은 2024 세계 인터넷 자유 지수 하락이 지난 공개서한에 담은 우려를 증명한 결과로 간주하며 한국 정부가 신속히 개선을 위한 행동에 나설 것을 촉구한다. 한국 인터넷 자유 지수 하락에 기여한 문제점은 그간 오픈넷이 지속적으로 지적해왔던 문제점과 정확하게 일치한다.  2024 세계 인터넷 자유 지수 보고서는 언론사와 통신섹터를 관장하는 방송통신위원회(이하, 방통위)와 인터넷 콘텐츠의 윤리기준을 모니터링하는 방송통신심의위원회(이하, 방심위)가 극심한 정치적 편향성을 띠게 된 상황을 문제로 지적했다. 윤석열 대통령이 국회의 동의를 얻지 않고 이동관을 위원장으로 임명한 사건, 이후 방통위가 야당 인사의 공석 상황에서 운영된 점, 비정상적인 체제 아래에서 방통위가 YTN의 유진그룹 인수를 허용한 점, 방심위 내부 직원이 류희림 위원장의 청부민원 사실을 내부고발한 사건 등 방통위와 방심위를 둘러싼 정치적 상황을 자세하게 기술하고 있다.  2024년 5월 행정법원이 방심위의 위민온웹 사이트 전체 차단 행정명령을 유지한 판결 역시 인터넷 자유도 하락에 기여한 사건으로 거론되었다.  또 보고서는 한국의 콘텐츠 제공자들에게 가혹하게 높은 인터넷접속료를 초래한 발신자종량제와 정치적 목적을 위해 언론사를 옥죄고자 벌금을 부과하는 등의 금전적인 제도나 규제가 인터넷 자유에 영향을 미치고 있다는 사실도 지적했다. 관련한 사건으로 방심위가 총합 1억 2천만원의 벌금을 MBC, KBS, YTN, JTBC에 부과한 사건, SNU 팩트체크센터가 정치적 상황에 압박을 느낀 후원사들의 후원철회로 운영을 중단하게 된 경위, 2023년 12월 트위치가 한국에서 사업을 철수한 건을 거론했다. 한국 시민들의 인터넷 활동이 국가보안법, 공직선거법, 명예훼손죄, 518민주화운동등에관한특별법 등으로 인해 국제인권기준에 부합하지 못하고 있다는 점도 낮은 점수에 기여한 요인으로 거론되었다. 또한 현 정권이 기자와 언론사를 상대로 한 다수의 명예훼손 소송의 근원지임을 자세하게 기술했다. 서울의 소리를 상대로 한 국민의힘의 명예훼손 고소, 정부비판적 기사를 생산한 뉴스타파와 JTBC 압수수색 건, 윤석열 대통령을 풍자하는 양심고백 영상 제작자와 유포자에 대한 수사, 배드파더스 구본창 대표에게 명예훼손 유죄를 확정한 판결 등을 연관성 있는 사건으로 거론했다.  오픈넷은 위민온웹 사이트 차단, 방심위의 사이트 차단과 콘텐츠 삭제, 발신자종량제, 배드파더스 명예훼손죄 유죄판결, 명예훼손죄를 이용한 언론탄압 등에 대해 각종 소송과 입법활동으로 대응(아래 관련 글)해 왔기에 인터넷 자유를 훼손하는 윤석열 정부의 반민주주의적 행보를 강하게 규탄하는 바이다. 인터넷 강국이라는 수사에 걸맞는 국격과 품위를 갖출 것을 윤석열 정부에 요구한다.  2024년 10월 29일사단법인 오픈넷 [관련 글]위민온웹과 오픈넷, 지연된 임신중지 권리에 대한 조치를 촉구하다 (2024.05.03.)방통심의위의 대통령 심기 보호 위한 풍자 영상 차단을 규탄한다 (2024.02.23.)오픈넷, ‘배드파더스’ 대표 대리해 정보통신망법 사실적시 명예훼손죄 헌법소원 청구 (2024.02.05.)트위치 한국 서비스 철수에 담긴 경고: 콘텐츠 다양성 훼손과 인터넷의 파편화, 발신자종량제 상호접속고시 폐지로 망중립성 복원해야 (2023.12.11.)유엔 자유권위원회, 한국 정부에 형사 명예훼손죄의 폐지 및 반대 언론 탄압 수단으로 사용하지 말 것 권고 (2023.11.07.)인공임신중단 정보제공 사이트 차단에 대한 행정소송 패소: 낙태죄 효력이 상실되어 아무런 제한없이 낙태가 가능하다? (2023.10.26.)대한민국 정부와 Freedom Online Coalition에 보내는 공개서한 (2023.08.09.)2016 인터넷: 위로부터의 억압, 아래로부터의 분출 (2017.01.04.)

정보 공유 위축시켜 임신중지 절실한 여성 더욱 취약하게 만들 것  수사 중단하고 보다 빠르고 안전한 임신중지 가능하도록 법과 의료 체계 만들어야 36주 임신중지에 관여한 이들에 대한 무리한 경찰 수사는 어렵게 성취한 임신중지 비범죄화를 일순간에 퇴행시켰다. 이번 수사는 ‘태아보호법을 발의해야 한다’, ‘큰 아기 낙태 근절, 의협이 합니다’라는 퇴행적 논의 혹은 선언으로 이어지고 있다. 이미 비범죄화된 행위를 다시 범죄화하는 이번 경찰의 수사는 생명과 직결된 정보 공유를 위축시킨다는 점에서도 문제적이다. 사단법인 오픈넷은 경찰에 혐의없음으로 해당 수사를 종결시킬 것을, 보건복지부에 임신중지의 상황을 개인에게 전가하지 않고 지금보다 안전하고 빠르게 여성들이 접근할 수 있는 임신중지 체계를 조속히 구축할 것을 촉구한다.  경찰의 이번 수사는 취약 계층이 가까스로 얻은 권리를 행정기관이 얼마나 ‘창의적’으로 박탈할 수 있는가를 보여주는 충격적인 사례다. 보건복지부는 2019년 ‘낙태죄’ 헌법불합치 판결이 내려진 후 지금까지 임신중지가 필요한 여성들을 방치하다 사람들을 자극할 만한 일이 일어나자 기다렸다는 듯이 즉각적으로 대응하고 있다. 악질적인 지점은 태아를 사람으로 간주하는 법적 조항도 없고, ‘낙태죄’가 폐지되어 임신중지로 처벌할 수도 없으니 보건복지부가 처벌 가능한 사례를 찾고 찾아 임신 34주 여성에게 임신중지 시술을 한 의사가 신생아 살인죄로 유죄 판결을 받았던 2021년 판례를 바탕으로 경찰에 수사를 의뢰했다는 것이다. 굳이 살인으로 수사 의뢰를 하고 2차례에 걸쳐 병원을 압수수색하는 과도한 수사는 윤리적인 책임을 묻는 화살이 되어 여성에게로 되돌아간다. 보건복지부의 살인죄 수사 의뢰는 2024년 8월 20일 “큰 아기 낙태 불법 근절”이라는 이름으로 대한의사협회의 의사 직업윤리 및 대국민 신뢰회복을 위한 ‘범죄와의 전쟁’ 첫 과제로 선정되기에 이른다. 결국 보건복지부의 수사 의뢰는 폐지된 ‘낙태죄’를 우회해 임신중지를 규제할 수 있는 발판을 마련할 빌미로 이어진 것이다.  경찰 수사를 동원한 엄포는 임신중지가 절실한 여성들을 더욱 더 취약하게 만들 뿐이다. 인터넷 게시물을 표적삼고 공권력을 동원해 수사를 벌이는 행태는 여성들이 정보를 공유하고 얻을 수 있는 가능성을 차단하고 위축시킨다. ‘낙태죄’는 폐지되었으나 여전히 임신중지에 대한 부정적 인식과 낙인이 한국 사회를 강하게 지배하고 있다. 이런 상황에서는 병원의료 서비스의 품질, 시술 가격에 대한 정보, 후유증과 대처법 등 임신중지를 계획하고 있는 여성들이 정작 절실하게 필요로 하는 정보가 자유롭게 유통되기 어렵다. 더군다나 임신 말기에 가까워질수록 여성이 감수해야 하는 위험도 높아져 더 많은 병원들이 시술을 거부하므로 말기의 경우 참고할 수 있는 정보의 양이 많아야 한다. 그러나 현재 한국 사회는 정확하게 반대 방향으로 향하고 있다.  오픈넷은 위의 맥락에서 방송통신심의위원회의 행정명령으로 전체 사이트가 차단된 위민온웹의 행정소송을 지원하고 있다. 여성의 성과 재생산 권리에 관한 방대한 정보 제공과 함께 임신중지 서비스에 접근하기 어려운 전 세계 여성들에게 유산유도제를 배포해온 위민온웹은 보건복지부가 유산유도제의 도입을 미루고 있어 한국에서 유통되지 않는다는 이유로 하루아침에 불법의약품을 유통하는 사이트로 낙인 찍혔고 방송통신심의위원회에 의해 일방적으로 전체 사이트가 차단되었다. 유산유도제는 WHO가 그 안전성을 입증해 수많은 국가에서 필수의약품으로 도입되고 있다. 그러나 법원은 방심위의 사이트 차단 행정명령이 적법하다고 판단했다. 이해할 수 없는 법원과 방심위의 판단에 의해 여성들은 성과 재생산 권리에 관한 유용하고 절실한 정보를 제공하는 출처를 상실했다.  그간 수많은 여성연구자들이 ‘낙태죄’의 폐지와 임신중지 권리의 보장이 여성들의 ‘무분별한’ 임신중지로 이어지지 않았다는 사실, 여성들이 임신중지를 택하는 이유는 태아의 생명을 경시해서가 아니라 출생 이후 태아와 자신의 삶을 총체적으로 고려하였기 때문이라는 점 등 임신중지를 둘러싼 우리들의 통념이 오해에 기반하고 있다는 사실을 밝혀냈다. 임신중지를 원하는 여성들에게 우리 사회가 잘못된 통념에 갇혀 과도한 비난을 퍼붓고 있는 것은 아닌지 깊은 성찰이 절실하게 필요한 시기이다. 무엇보다 헌법불합치로 결정된 사안에 대한 책임을 명명백백하게 방기함으로써 사회적 혼란과 불안을 야기하고 있는 보건복지부는 억지스러운 노력으로 시간을 역행하지 말고 서둘러 여성의 안전을 보장할 수 있는 제도를 마련해야 할 것이다.  2024년 8월 22일사단법인 오픈넷 [관련 글] [캠페인] 위민온웹X오픈넷, 엑세스 잠금 해제: 온라인 임신중지 정보를 해방하라 언제까지 여성들의 성과 재생산 권리 침해를 묵인할 것인가? (2024.05.17.)위민온웹과 오픈넷, 지연된 임신중지 권리에 대한 조치를 촉구하다 (2024.05.03.)

AI 디지털교과서 개발과 보급에 관한 기대와 우려가 공존하는 상황입니다. 오픈넷은 AI 디지털교과서 사용이 초래할 수 있는 개인정보유출 문제에 주목해 왔습니다. 아래의 논평은 지난 5월 20일 교육부가 AI 디지털교과서 적용을 위한 교사연수 준비 과정에서 교사들의 개인정보를 '실수'로 유출한 사건에 맞춰 AI 디지털교과서의 개인정보보호 대책을 촉구하기 위해 작성되었습니다.  1만명 교사 개인정보 유출한 교육부, 개인정보보호 대책 없으면 AI 디지털교과서 개발 유예해야 지난 5월 20일, 교육부 주최로 개최된 AI 디지털교과서 적용을 위한 교사연수 준비 과정에서 교육부의 실수로 연수대상자로 선정된 교사 1만 여명의 성명, 학교, 휴대폰 번호가 포함된 개인정보가 유출되는 사고가 일어났다. 방대한 양의 개인정보 수집을 필요로 하는 AI 디지털교과서 개발과 실행의 총책임을 맡고 있는 부처로서 자격미달을 스스로 증명하는 사건이다. 사단법인 오픈넷은 교육부가 AI 디지털교과서의 상용화를 개인정보보호 대책을 완비한 이후로 유예할 것을 촉구한다. AI 디지털교과서는 서책형 교과서를 디지털화한 것이 아닌 학생과 교사와 학부모가 함께 사용하는 ‘교육용 플랫폼’이다. “AI에 의한 학습 진단과 분석”을 하고 “개인별 학습 수준과 속도를 반영한 맞춤형 학습”을 제공하는 “학생의 관점에서 설계된 학습 코스웨어(Courseware, 교과과정(Course)과 소프트웨어(Software)의 합성어)”로 정의하고 있는 AI 디지털교과서는 공공(교육부와 한국교육진흥원 등)이 제공하는 AI 디지털교과서 포털과 민간(AI 디지털교과서 개발업체)이 제공하는 교과별 AI 디지털교과서 그리고 학습데이터 허브로 구성된다. 포털은 학생과 교사가 디지털교과서로 접속할 수 있는 통로이자, 학생 개인의 교과목과 시간표를 확인할 수 있는 책장이면서, 학생은 개인별 맞춤 학습 지원을 받을 수 있고 학부모는 자녀의 학습현황을 파악할 수 있고 교사가 수업을 설계하고 학생을 지도할 수 있는 통합 대시보드로 기능한다. 통합 대시보드에서 제공하는 정보는 학생이 교과서를 활용하며 학습하는 과정에서 발생하는 학습데이터를 분석한 결과물이다. 학습데이터는 학습데이터 허브로 보내져 민간 개발업체에 의해 데이터 분석과정을 거쳐 포털의 통합 대시보드로 전송된다. 디지털교과서는 학생, 학부모, 교사는 물론 민간 개발업체와 교육부, 한국교육학술정보원 등의 다양한 주체가 접근 가능한 소프트웨어 플랫폼인 것이다. 한국교육학술정보원은 2023년 발간한 「AI 디지털교과서 개발 가이드라인」(이하 가이드라인)에서 디지털교과서의 개발 방향을 “국가적 차원에서 데이터 기반의 교육 의사결정을 가능하게 하는 플랫폼의 기능을 충족함으로써 전체적인 교육의 질 향상에 기여”하는 것이라 밝히기도 했다. 플랫폼으로서 AI 디지털교과서의 핵심 구동 요건은 학생이 학습 과정 중에 생산하는 학습데이터, 즉 개인정보이다. 교과서가 수집할 학습데이터는 학습 시간, 콘텐츠 수행도, 콘텐츠 메타데이터, 학습계획 달성도, 접속시간, 형성평가 성취도, 추가 학습 진행도, 질의응답 정도, 커뮤니티 참여도, 학습 정서, 학생의 전학 등의 항목으로 구성될 것이라 가이드라인은 밝혔다. 가이드라인에 따르면 수집된 학생들의 개인정보는 1. 학생들의 학습 이해도의 특성 분석을 기반으로 현재 수준을 진단하고 개인의 능력, 목표에 맞는 적절한 학습 콘텐츠를 추천하고 학습경로를 제시하기 위한, 2. 학생들의 학습 패턴(관심사, 선호도 등) 및 수준 등을 종합적으로 분석해 적절한 학습 콘텐츠를 제시하기 위한, 3. 학생들의 개념 이해도를 높이기 위한 AI 튜터 기능을 제공하기 위한, 4. 학습 패턴 및 활동 분석으로 추가 학습 요소 등의 맞춤형 서비스를 제시하기 위한 분석 데이터로 활용된다.  디지털교과서로 수집할 학습데이터의 범위와 함께 수집은 최소한을 원칙으로 한다고 가이드라인은 밝히고 있다. 그러나 이번 교육부의 교사 개인정보 유출 사건이 벌어진 이상 AI 디지털교과서가 상용화되었을 때 발생할 수 있는 아동의 개인정보 유출 및 오남용의 가능성을 염려할 수밖에 없다. 교육환경에서 수집되는 아동의 개인정보는 디지털인권과 직결되는 문제이므로 성인의 개인정보보호보다 더 세심한 주의를 필요로 한다. 지난 3월 20일 오픈넷이 제3차 민주주의 정상회의에서 주최한 세션 “AI 디지털교과서 개발 정책의 프라이버시와 감시 이슈”에서 발제를 맡은 정현선 교수는 “AI 디지털교과서의 서비스에 포함된 정보 가운데, 특히 ‘학습 태도’, ‘관심사, 선호도’, ‘학습활동 상태’, ‘학업 정서’ 분석은 교육 환경에서 사람의 감정을 추론하는 AI 시스템을 작동하는 것으로, EU 「인공지능법」에서는 고위험(high-risk)으로 분류되는 민감 정보에 해당”하므로 취급에 각별한 주의를 기울여야 함을 지적했다. 토론을 맡았던 손주은 역시 ‘아동의 신원, 학습 활동, 위치, 의사소통, 감정, 건강, 사회적 관계에 대해 수집한 데이터는 가명화, 익명화 등의 비식별처리를 하더라도 조합을 통해 특정 아동을 정확하게 식별’할 수 있음을 지적했다. 가이드라인에 의하면 디지털교과서는 학습자(는 물론 교사와 학부모)가 디지털교과서 포털에 간편하게 로그인하기 위해 지문과 안면 이미지 역시 수집할 것으로 예상된다.  AI 디지털교과서의 상용화는 필연적으로 정부부처가 민간업체를 통해 국가의무교육의 대상인 전체 아동의 개인정보를 수집하게 될 것임을 뜻한다. 이에 따라 전문가들은 개인정보보호 감시감독 체계가 교과서의 개발과 병행해 수립되어야 하고 그 절차 역시도 투명하게 대중에게 공개되어야 한다고 조언해왔다. 정현선 교수는 위의 발제에서 ‘아동의 개인정보보호를 위한 구체적이고 실효성 있는 시행령 등 법규 마련 및 개발사에 대한 관리 감독과 규제 장치를 마련하고 시행해야’ 하고, ‘이를 위한 조사 연구, 학생과 학부모, 교사 및 일반 국민을 대상으로 한 공청회, 예산과 인력 확보가 시급히 요구’되며, ‘조사 연구와 입법 및 관리 감독은 독립적인 기관에서 시행할 수 있도록 인력 및 예산을 확보’해야 한다고 제언했다. 가이드라인은 한국교육학술정보원을 기술 점검, 기술 관리의 주체로 명시하고 있을 뿐, 구체적인 시스템(소관 부서, 업무 내용, 필수 인력의 수 등)에 관해서는 언급하고 있지 않다. 이번 교사들의 개인정보 유출 사건을 계기로 형성된 국민들의 우려를 잠식시키기 위해서라도 교육부와 한국교육학술진흥원은 디지털교과서가 수집할 개인정보 관리와 감시, 감독 체계에 대한 청사진을 미리 공개할 필요가 있다.  교육부는 AI 디지털교과서의 상용화로 그 역할에 있어 큰 전환을 맞게 될 것이다. 교육부는 개인정보처리자로서 개인정보 및 정보보안 체계를 감시감독할 책임이 있다. 학생과 교사, 학부모의 개인정보가 없이는 구현이 불가능한 AI 디지털교과서의 상용화는 학습 포털에 방대한 양의 학생과 교사, 학부모의 개인정보가 축적되고 가공, 편집 등의 처리가 불가피하다. AI 디지털교과서가 수집하는 개인정보의 양은 지금까지 교육부나 일선 학교가 그간 수집해왔던 정보의 양과 비교하지 못할 양일 것이다. 늘어나는 개인정보의 규모에 따라 교육부의 책임은 앞으로 더욱 강화되어야 것이다. 그럼에도 교육부는 미숙한 업무처리로 1만 여명에 달하는 개인교사들의 민감한 정보를 유출하고 말았다. 이 사건은 교육부가 AI 디지털교과서의 개인정보보호 체계를 감시감독할 능력이 있는가를 근본적으로 의심하게 만든다. 오픈넷은 교육부가 학교 현장을 안심시킬 수 있도록 개인정보보호의 확실한 대책을 마련하고 투명하게 공개하기 전까지 AI 디지털교과서의 개발을 유예할 것을 촉구한다. 사단법인 오픈넷2024년 6월 7일

미 대법원은 지난 7월 1일, 플랫폼이 이용자 제작 콘텐츠를 심의하여 차단·삭제하는 것을 금지하는 텍사스·플로리다법에 대하여, 절차법상의 이유로 하급심에 환송하면서도 위헌성 판단에 대한 명확한 기준을 제시했다. 대법원은 “자신의 관점에 따라 이념적 균형을 추구하기 위해 사적주체의  표현 행위를 제한”하려는 각 주 정부의 시도는 그 목적이 “정당하지 않다”고 환송 취지를 분명히 했다.  사단법인 오픈넷은 올해 초 Article 19, UC 어바인 로스쿨 국제사법클리닉과 공동으로 위 사건에 대해 의견서를 제출한 바 있다. 전직 대통령 트럼프가 2020년 11월 미국 대선 결과에 불복하여 반란행위를 선동했고, 결국 2021년 1월 6일 미 의사당 습격 사태로 이어지자 페이스북과 트위터가 트럼프의 계정을 삭제했다. 트럼프 계정 삭제에 반대하는 차원에서 공화당이 주도하는 텍사스와 플로리다 주 의회에서 문제의 주법이 통과됐다. 이에 따라, 주법에 대한 헌법 소송이 제기되었다.  오픈넷은 수년간 여성의 의료적 임신중단 또는 북한에 관한 객관적 정보와 같은 소수자의 표현물을 억압하는 데에 악용되어 온 한국 방송통신심의위원회의 행정검열에 맞서 싸워왔다.  정부가 콘텐츠를 직접 차단·삭제하든 플랫폼의 자율심의에 개입하든, 이는 “위법성이 명백하지도 사회적 해악이 뚜렷하지도 않은 표현”(2002년 불온통신금지 헌재결정)에 대한 정치화된 억압을 동반한다. 따라서 오픈넷은 수차례 “중립성”이라는 구실 하에 검색 결과와 콘텐츠 추천에 대한 플랫폼의 큐레이션 능력을 제한하는 국내 법안에 반대해 왔다. 오픈넷은 정치화된 온라인 검열에 대한 경험과 연구를 의견서에 담아 텍사스와 플로리다 법의 검열 효과를 입증했다. 물론 이 법률들의 주요 내용은 법원의 명령을 통해 집행되지만, 이미 미 연방 대법원은 Near v. Minnesota 사건에서 모호한 기준에 따른 검열은, 설령 법원에 의해 집행되더라도 사전 억제를 초래할 수 있다고 판시한 바 있다. 특히 플로리다주법은 선거관리위원회가 법원을 통하지 않고 직접 소셜미디어 기업에 벌금을 부과할 수 있어 정치화된 검열의 위험이 더욱 높았다.  플로리다주법과 텍사스주법을 심리하고 있는 각 항소법원은 대법원의 환송취지에 따라 각 법을 위헌으로 최종판정할 가능성이 높다. 우리나라에서는 방송분야에서의 공정성 심의가 정부에 비판적인 방송, 특히 MBC 보도에 대한 집중견제로 이어지는 사태가 발생하고 있고 법원에서 이와 같은 공정성 명목의 제재의 위법성이 재차 입증되고 있다. 인터넷을 통해 방송의 독점력이 희석된 상황에서 방송에서의 공정성심의를 유지할지에 대해서도 위 대법원판결은 참조자료가 된다고 하겠다. 판결문 보기