AI 윤리 뉴스 브리프 2024년 10월 넷째 주by 🍊산디 1. 규제 사각지대 나무위키와 심연의 아카라이브 나무위키의 하위 커뮤니티 사이트 ‘아카라이브’가 성착취물 유통의 온상으로 지적되었습니다. AI로 만든 성착취물도 활발히 거래되는 것으로 파악됩니다. 아카라이브는 서버가 파라과이에 있으며, 한국어로 콘텐츠를 제공함에도 불구하고 해외 IP로 우회 접속하도록 하여 국내 규제를 피하고 있다는 비판을 받고 있습니다. 한편, 방송통신심의위원회(이하 방심위)는 모 인플루언서에 대한 나무위키 페이지의 접속차단을 의결했습니다. 해당 나무위키 페이지가 사생활 침해라는 주장을 받아들여 통신사로 하여금 인터넷 이용자가 해당 URL로 접속하지 못하도록 주문한 겁니다. 방심위는 인플루언서를 공인이라 보기 어렵다고 판단하고 이들의 사생활을 보장할 필요를 고려한 것으로 보입니다. 방통심위 인터넷피해구제통합시스템에서 개인정보의 유포, 인격권을 현격히 침해하는 내용의 정보, 명예훼손 정보 등 권리침해정보에 대한 삭제, 접속차단을 신청할 수 있습니다. 방심위의 이번 결정이 검열을 강화하는 것 아니냐는 우려가 제기됩니다. 방통심위의 통신심의가 세계적으로 유례없는 규모의 온라인 행정 검열이라는 비판은 예전부터 있었죠. 딥페이크 성착취물로 인한 피해를 막기 위한 노력과 온라인 검열 사이에는 아주 얇은 선이 놓여있을 뿐입니다. 표현의 자유와 인격권을 두고 권리의 천칭이 혼란하게 흔들리는 요즘입니다. 균형은 어디에 있을까요? 🦜더 읽어보기- 텔레그램 건국 설화: 자유의 이름으로 세탁된 자본(2024-10-16) 2. AI 디지털 교과서, 커지는 신중론 국회 교육위원회 국정감사에서 AI 디지털 교과서에 대한 ‘신중론’이 제기되었다는 보도가 눈에 띕니다. 충청권 교육감들을 대상으로 한 질의에서 교육감들이 ‘신중하게 확대해야 한다’는 입장을 보였다는 것이지요. 한편 국회입법조사처는 AI 디지털 교과서가 내년부터 도입될 경우 향후 4년간 전국 17개 시도교육청이 최소 1조 9천억원에서 최대 6조 6천억원의 재정을 추가로 부담해야 한다는 예측을 내놓았습니다. AI 디지털 교과서의 책당 가격은 올해 12월에 정해질 예정으로, 시도교육청의 예산 편성 일정과도 어긋나 예산 확보가 어려울 수 있다는 우려도 함께 제시했습니다. 재정적 지속 가능성, 심지어는 법적 근거마저 불비하다는 지적이 이어집니다. 교육의 효과성은 미지수입니다. 현장에서는 개인정보보호 조치에 대한 우려의 목소리가 큽니다. AI 디지털 교과서로의 이행이 과연 불가피한 것인지, 최선의 절차가 이것뿐이었는지 의문스럽습니다. 3. 정체를 드러내는 각국 AI 안전연구소들 지난 5월 열렸던 AI 서울 정상회의. 대한민국 외에도 호주, 캐나다, 유럽연합, 프랑스, 독일, 이탈리아, 일본, 싱가포르, 영국, 미국이 참여했습니다. 당시 채택된 ‘AI 서울 정상회의 서울선언’에는 참여국들이 AI 안전연구소(또는 그와 비슷한 기능을 수행하는 기관)를 설립하고 해당 단체 간 네트워크를 육성하여 협력한다는 내용이 포함되어 있습니다. AI 안전연구소(AI Safety Institute, AISI)를 설립한다는 각국의 약속이 점차 실현되는 모습입니다. 비영리 공익 싱크탱크 국제미래세대센터(International Center for Future Generation, ICFG)는 각국의 AI 안전연구소 추진 현황을 점검하여 보여줍니다. 정상회의에 참여했던 국가들 간에도 접근 방식이나 자금 규모에서 상당한 차이가 관찰됩니다. 영국은 2030년까지 1억 파운드의 예산이 확보된 반면, 미국은 자금이 불확실합니다. 일본과 싱가포르, 프랑스는 규제보다는 R&D에 초점을 맞추고 있다고 하네요. 각국의 AI 안전연구소 중 유일하게 EU의 AI 오피스만 규제 기능을 갖고 있습니다. 한국도 다음달 AI안전연구소가 문을 엽니다. AI 안전 정책, 평가, 기술분야 등 세 개 연구실로 운영된다고 하네요. 이들 기구가 인공지능의 위험 관리와 신뢰 형성에 어떤 역할을 해줄지 지켜보아야겠습니다. #feedback 오늘 이야기 어떠셨나요?여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

텔레그램 건국 설화: 자유의 이름으로 세탁된 자본 by 🍊산디 텔레그렘은 매혹적인 건국설화를 갖고 있습니다. 기개와 시련, 용기, 망명, 이상향을 모두 담고 있죠. 설화는 러시아에서 시작됩니다. 미래에 텔레그램을 설립하게 되는 청년 파벨 두로프(Pavel Durov)는 2007년, 브콘탁테(VKontakte)를 창업합니다. 사실상 페이스북을 모방한 서비스였죠. 브콘탁테는 단숨에 러시아 최대 규모 소셜 네트워크로 발돋움합니다. 2012년 초, 위기가 닥칩니다. 러시아에서 반 푸틴 운동이 벌어진 것이죠. 두로프는 시위 참여자들이 브콘탁테를 활용해 블라디미르 푸틴에 대항한 시위를 조직하는 것을 제한하지 않았고, 반-푸틴 정치인 알렉세이 나발니의 블로그를 폐쇄하라는 요구에도 불응했습니다. 우크라이나에서 벌어진 친러시아 대통령에 대한 반대 혁명(유로마이단 혁명) 참가자 정보를 제공하라는 러시아 당국의 요청도 거부합니다. 일련의 결정으로 파벨 두로프는 영웅으로 떠오릅니다. 동시에 시련 또한 시작됩니다. 크렘린과 연관되어 있는 인사들이 브콘탁테의 경영권을 조금씩 잠식해오기 시작한 것이죠. 2014년, 그는 만우절 농담이라며 사의를 밝혔고, 이후 사의를 철회했으나, 만우절 농담은 현실이 되어 그는 경영자로서의 지위를 잃습니다. 어쩔 수 없이 자리에서 물러난 그는 러시아를 떠나 서방세계에 입성합니다. 두로프는 언론사와의 인터뷰에서 “내가 당국에 협조하는 것을 공개적으로 거부한 이후 모든 것이 돌이킬 수 없게 되었다. 그들은 나를 견딜 수 없다”라며 표현의 자유를 제한하려는 자들로부터 자신이 받은 박해의 경험을 공유합니다. 나아가 “불행히도, 그 나라(러시아)는 현재 인터넷 사업과 양립할 수 없다”고 말하며 자유로운 인터넷 공간의 비전을 드높이죠. 당시 그의 용기는 ‘깨끗한 양심’이라 불리며 큰 울림을 전했습니다. 이런 울림은 2013년 감시 자본주의의 속내를 폭로한 에드워드 스노든의 내부고발을 배경으로 합니다. 마이크로소프트, 트위터, 구글 등 빅테크가 미국의 적대국뿐만 아니라 미국의 우방국, 심지어 자국민까지도 포함한 전세계 시민을 대상으로 통신 정보를 수집하고 있으며 이를 미국 국가안보국(National Security Agency, NSA)에 제공한 사실이 드러나 전지구적 충격에 휩싸인 시기였죠. 9.11 테러 이후 반테러리즘에 기댄 감시 국가의 부상과 자본주의의 결탁 속에서 파벨 두로프의 결단은 자유의 등불과 같았습니다. 독일 망명 후 그는 본격적으로 텔레그램을 서비스하기 시작했고, 세계는 그의 다음 도전에 주목했습니다. 그렇게 위대한 자유의 공간 텔레그램이 건국됩니다. 이러한 건국 설화를 배경으로 텔레그램은 빠르게 이용자를 모으는 데 성공합니다. 텔레그램은 ‘지구상 모든 사람을 위한 자유’라는 아이디어 그 자체였습니다. 두로프는 자유의 선봉에 있는 신비로운 사람이었죠. 실제로 텔레그램은 반체제 인사들이 감시로부터 자유로울 수 있는 피난처로 기능합니다. 많은 한국 이용자들도 통신 자유를 위해 텔레그램으로 ‘망명’했죠. 그가 망명길에 떠난지 10년여가 지난 지금, 텔레그램은 딥페이크 성착취물 문제를 증폭하고 해결을 어렵게 한 기업이 되었습니다. 텔레그램이 약속한 ‘통신의 자유’는 비밀 채널에서 아동성착취물(Child Sexual Abuse Material, CSAM)을 비롯한 성착취물의 거래를 사실상 방조했습니다. 스탠포드 인터넷 감시소(Stanford Internet Observatory, SIO)는 텔레그램이 사적 채널을 통해 아동성착취물 거래를 암묵적으로 허용하고 있음을 지적합니다. 개인 간 통신에 대한 텔레그램의 정책은 다른 빅테크 플랫폼에 비해 너무도 자유로워서, 아동성착취물 유통과 어린이에 대한 성애화, 그루밍 등에 대해 아무런 제재도 이루어지지 않습니다. 텔레그램은 익명성과 보안, 사법 공백을 적극 활용해 수익을 좇는 이용자를 만들어냈습니다. 프랑스 당국은 아동 포르노물 유포, 유해 콘텐츠 방치뿐만 아니라 조직범죄 활동 공모, 마약 밀매 조장 등의 혐의로 두로프를 수사하고 있습니다. 무엇보다, 국가 권력의 감시에서 자유로운 공간이라는 이상은 여성 인권을 적극적으로 희롱하는 이용자들의 피난처로 전락했습니다. 혹자는 범죄를 저지른 이용자의 잘못을 텔레그램에게 돌릴 수 없다고 항변할지 모릅니다. 하지만 통신 자유는 텔레그램이 성장할 수 있는 기폭재이자 수익 모델이기도 했습니다. 텔레그램은 광고 시스템을 도입하고, 활성화된 방의 개설자에게 광고 수익의 50%를 주었습니다. 통신 내용에 대한 규율은 없었습니다. 다국적 해외 사업자로서 국가의 관할권을 교묘히 이용하며 적극적으로 사법 공백을 만들어냈습니다. 두로프는 텔레그램을 통해 20조원이 넘는 부를 얻은 것으로 추정됩니다. 그의 부는 자유의 이름으로 세탁되었습니다. 2018년. 두로프는 인스타그램에 “진정으로 자유로워지려면 자유를 위해 모든 것을 걸 준비가 되어 있어야 한다”고 포스팅했습니다. 자유를 구하기 위해 내달리는 백마 탄 왕자가 되고자 했던 텔레그램의 신화는 허물어지고 있습니다. 자유를 내세워 쌓아 올린 그의 나라는 여성과 아동에 대한 성착취의 구조 위에 쌓아 올린, 철저히 체계적인 억압에 지나지 않다는 사실을 전세계가 목도하고 있기 때문입니다. 자유에 대한 그의 이상은 무너지고 있고, 무너져야 합니다. 🦜 더 읽어보기- 산업화하는 딥페이크 성착취물(2024-08-26)- 딥페이크 성착취물 논의, 어디로 흘러가는가(2024-09-02)- 사진 내리기 말고 할 수 있는 일: AI 기업에 요구하기(2024-09-04)- 정말로 대안이 없을까?(2024-09-11)- 처벌법 개정, 딥페이크 성범죄를 끝낼 수 있을까(2024-10-02) 💬 댓글- (🤔어쪈) 자유라는 가치는 결코 유일하거나 모든 것에 우선하지 않습니다. 이번에 일어난 딥페이크 성범죄와 같은 문제에 대해 텔레그램과 같은 메신저 또는 소셜미디어 플랫폼의 책임이 언급될 때마다 종종 표현·통신의 자유를 강조하며 사전 검열, 과잉 규제 등을 우려하는 주장을 접하곤 합니다. 하지만 그 자유가 누구를, 또 무엇을 위한 것인지와 함께 다른 가치를 추구하기 위해 이용되거나, 또 다른 가치를 훼손하지는 않는지 고민이 필요합니다. #feedback 오늘 이야기 어떠셨나요?여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.