딥페이크 성착취물 제작유통망의 존재가 드러나며 전국이 충격과 분노를 겪은 것이 지난 8월 말. 정치권에서는 관련 법령 보완을 위한 논의와 입법이 급하게 진행되어, 9월 말에는 ‘딥페이크 성착취물 소지·시청 처벌법’(성폭력범죄처벌특례법 개정안)이 국회 본회의를 통과했다. 디지털 성범죄를 보다 효과적으로 처벌할 수 있도록 제도가 보완된 것은 환영할 일이지만, 이는 문제 해결로 나아가는 한 걸음일 뿐이다.
딥페이크 성착취물과 같은 디지털 성폭력 문제는 범죄를 저지른 가해자의 처벌만으로 해결되지 않는다. 가해자의 처벌은 물론 중요하지만, 가해자는 사회적, 기술적 맥락과 무관하게 갑자기 툭 튀어나오는 것이 아니기 때문이다. 딥페이크 성착취물이 사실상 산업으로 성장한 배경에는 제도적 미비뿐만 아니라 여성혐오·성차별·젠더 폭력이 만연한 사회적 조건, 성폭력 가해의 진입장벽을 낮추는 방향으로 발전해온 기술산업의 작용이 있다. 이 사안을 해결하고 디지털 윤리를 정립하기 위해서는 딥페이크 성착취물이 그 자체로도 문제지만 보다 구조적인 문제의 증상이기도 하다는 점을 인식하고 다각도의 노력을 기울여야 한다.
그러나 처벌법 개정 불과 이틀 전 "딥페이크 영상 속 내가 더 매력적이라면, 진짜 나와의 갭은 어떻게 줄일 수 있을까요?"라는 질문을 참가자에게 던진 미스코리아 선발대회 사례는 N번방 사태와 이번 사태를 겪고도 디지털 성착취물 문제에 관한 인식과 공감대조차 부족한 현실을 보여준다. 인식을 어떻게 전환할 것인가? 딥페이크 성범죄 피의자 중 10대가 83%인 상황에서 중요한 개입 지점 중 하나는 교육일 것이다.
AI는 사회와 무관한 중립적 도구가 아니다. 딥페이크 성착취물에서 AI 기술은 여성 신체 이미지를 생성하는 기능을 한다. 그 AI 시스템은 어떻게 여성 신체를 재현하는 기능을 갖게 되었나? 훈련 데이터에 이미 성착취물 등 인터넷에 존재하는 수많은 여성 신체 이미지가 포함되었기 때문이다. 기술의 개발 자체가 성착취물에 의존하고, 그 기술이 다시 성착취에 활용된다. 딥페이크는 성착취를 재생산하는 순환 구조를 공고히 한다.
딥페이크 성착취물 산업은 기술이 자주 여성 혐오를 반영하며, 빅테크가 주장하는 기술의 ‘중립성’은 결코 용납할 수 없는 착취의 명분에 불과함을 다시 한 번 드러낸다. 표현의 자유와 기업의 사적 영리 활동을 보호해야 하기 때문에, 해외 사업자가 매개되어 있기 때문에 어쩔 수 없다는 말은 단순한 포기를 넘어 방조와 오용, 적극적인 가담의 의지로 이해되어야 한다. 기술의 이면에는 그것을 기획, 설계하고 제작하는 기업이 존재한다.
불법 합성물 성범죄 과정 및 관련자 요약, AI 윤리 레터 소소 작성
“딥페이크 성폭력 박멸을 위한 긴급토론회”에 참여한 교사 김수진은 현행 디지털성범죄 예방교육이 "왜 성범죄의 피해자의 대다수는 여성인지, 디지털 성범죄는 '젠더 기반 폭력'인지 말하지 않는다"고 지적한다. 딥페이크 성착취물과 같은 AI 기술 활용 범죄를 경고해야 할 AI 윤리 관련 교재 역시 젠더 관점에서 허술한 것은 마찬가지다. 네이버 커넥트재단이 제작한 교사용 <생성형 인공지능 윤리> 교재를 보자. 딥페이크 이미지의 위험을 설명하는 대목에서 "타인의 인권을 침해한다면 이것은 타인만의 일이 아니라 언젠가는 나의 인권이 침해되는 결과로 돌아올 수" 있다거나 "이 사진을 생성한 사람은 이러한 사회적인 영향을 생각해보았을까요? 실제로 생각해보았다면, 이러한 이미지를 쉽게 생성해서 유포하지는 않았을 것" 등 '인권을 존중하자' 수준의 안일한 인식을 확인할 수 있다.
이것이 왜 안일한 인식인가? 김수진이 지적하듯 "딥페이크 사태는 친구의 의사를 '존중'하지 않아서 생긴 일이 아니다. 오히려 같은 반 여학생을, 선생님을, 가족을 '능욕'할 목적으로 저지른 일이다." 딥페이크 성착취 가해자들은 여성을 공동체 구성원에서 밀어냄으로써 도덕을 어기는 ‘배덕감’을 ‘즐겼다’. 이들에게 성착취물은 여성을 인간 상호작용의 규범 밖으로 밀어내며 자신의 권력을 확인하는 유쾌한 수단이었다. 피해자의 인격, 존엄은 매우 적극적인 고려 대상이었다. 이를 짓밟는 것이 가해의 목적이었기 때문이다. ‘딥페이크’라는 용어 자체도 여성 연예인의 얼굴을, 성적 촬영물에 등장하는 여성 신체에 합성하여 유명해진 게시판 이용자 닉네임에서 유래한 것이다. 텔레그램은 활성화된 방의 개설자에게 암호화폐로 수익을 배분하며 배덕감을 한층 ‘유쾌한’ 산업으로 만들었다.
우리에게는 이들에 저항하고 비판할 권리가 있다. AI 윤리 레터는 지난 9월 11일 사회적협동조합 빠띠와 <딥페이크 성범죄, 우리가 함께 할 수 있는 일을 찾아서>를 공동으로 주최하고 시민들과 함께 딥페이크 성착취물 문제의 해결방안을 모색했다. 논의를 통해 우리에게 기술과 산업의 이면을 들여다보고, 악순환을 끊을 교육이 필요하다는 데에 의견을 모을 수 있었다.
출처: 딥페이크 성범죄, 우리가 함께 할 수 있는 일을 찾아서 현장사진
AI 윤리 레터 프로젝트를 운영하고 있는 AI 윤리 북클럽에서는 초등학생 대상 AI윤리 수업을 준비하는데 필요한 자료집 및 가이드라인을 정리하고자 한다. 현직 초등학교 교사들과의 인터뷰 결과, 기존 AI 윤리 교육 관련 자료들은 성착취가 만연한 사회구조와 그를 용이하게 만드는 기술산업이 만나는 현재의 사회-기술적 맥락을 충분히 다루지 못한다고 파악이 되며, 이같은 맥락의 보완을 중요시할 것이다. 또한 AI의 의인화를 최대한 배제하고, 현재 AI와 동의어처럼 사용되는 거대언어모델(LLM)을 구분하는 방식 등을 통해 학생들의 올바른 기술 이해를 돕고자 한다. 이 작업이 교육 현장에서의 AI 윤리 관련 활동을 한결 수월하게 하고, 격무에 시달리는 교사들의 부담을 덜어내어 관련 교안을 만드는 데 도움이 되기를 기대한다. 예컨대 아웃박스의 디지털성범죄예방교육 자료 <딥페이크는 성착취물이다> 같은 자료가 더 많이 만들어지는 데 이 작업이 기여한다면 더할 나위 없을 것이다.
AI 기술을 비판할 수 있는 권리를 위해, 기술과 사회의 관계를 함께 고민하는 AI 윤리 교육을 위해 AI 윤리 교육 자료집 제작에 공감하는 마음을 담아 서명해주세요.
교육 자료가 보다 적극적으로 활용될 수 있도록 1000명의 지지 서명을 구하고 있습니다. 딥페이크 성착취물 문제를 비롯한 AI 윤리 문제가 교육 현장에서 보다 활발히 논의될 수 있도록 주변에 널리 알려주세요.
AI 윤리 교육 자료는 2024년 12월 중 캠페인 서명 참여자들에게 이메일로 전달 예정입니다. 관련 소식을 받아보실 분은 “서명하기”에 참여해주세요.
* 커버이미지 출처: Clarote & AI4Media / Better Images of AI / AI Mural / CC-BY 4.0
서명 현황
현재 69명이 참여하였습니다.
