민-군 모두의 이중 용도 기술 AI by 🎶소소 “군사 목적으로 AI를 활용하는 게 왜 문제인가요? 국방 기술력이 곧 국력이고 방위 산업은 수출 효자 산업인데 더 많이 투자해야죠.” 최근에 이런 질문을 받았습니다. 이 질문을 듣는 순간, 깊은 불편함이 몰려왔습니다. 얼버무리듯 답을 했지만, 그 후로 마음 한구석이 계속 찜찜해 이렇게 레터를 빌려 다시 답해보려고 합니다. 지금 이 순간에도 전쟁은 수많은 사람을 죽음으로 몰고 가고 있습니다. 그리고 전쟁에서 AI와 같은 첨단 기술은 군사력을 높이는 데 중요한 역할을 합니다. 더 정확하고, 빠르게 사람들의 목숨을 앗아갑니다. 우크라이나에서는 조종 신호가 끊겨도 자율 폭격이 가능한 AI 드론이, 가자지구에서는 이스라엘이 개발한 AI 폭격기가 초고속으로 표적을 찾아내며 효율적으로 살상을 가속화하고 있습니다. 흔히 AI 기술이 그 자체로 특정 용도에 국한되지 않는 '범용 기술'이라고 말합니다. 그렇다면 군사 안보 분야는 다양한 AI의 활용 분야 중 하나일 뿐일까요? AI 기술은 범용 기술이지만 동시에 이중 용도 기술(Dual-Use Technology)임을 지적하고 싶습니다. 역사적으로 볼 때 많은 기술이 군사용으로 개발되어 민간으로 확산되거나, 그 반대의 경로를 거쳤습니다. 대표적인 예로 군사 통신용으로 개발된 ARPANET이 오늘날의 인터넷으로 발전했죠. 거의 모든 기술이 이중 사용의 잠재력을 가지고 있지만, 의도하지 않은 해로운 결과를 초래하는 일반적인 영역과 "의도적인 오용"은 다릅니다. 미국 국방부는 이중 용도 기술을 상업적 용도와 군사적 용도로 모두 사용될 수 있는 기술이라 정의합니다. 미국 국립보건원에서는 생물학 분야의 연구 중 공중 보건, 개인 안전 또는 국가 안보에 대한 위협이 될 수 있는 연구를 우려할 만한 이중 용도 연구(Dual-Use Research of Concern, DURC)로 분류하고 위험을 최소화하기 위해 별도 관리합니다. 예를 들면, 병원체나 물질의 해로운 독소를 증가시키거나, 병원체에 대한 면역이나 예방 접종 효과를 방해하는 등 통제할 수 없는 위험을 야기할 수 있는 연구는 사전에 분류하여 관리합니다. 유럽연합은 이중용도 품목을 지정하여 수출, 운송, 중개, 기술 지원을 통제하고 추가적인 안전장치를 요구합니다. 대량살상무기 혹은 인권 침해와 관련된 품목도 통제 대상입니다. 핵확산금지조약, 화학 및 생물무기금지조약 등에 따른 조치이며, 국제 평화와 안보에 기여하고 대량살상무기의 확산을 방지하기 위함입니다. 미국 바이든 정부 AI 행정명령에서는 “이중 용도 파운데이션 모델(Dual-use foundation model)”을 별도로 정의했습니다. 정의에 따르면 이 모델은 광범위한 대량의 데이터로 학습되고, 일반적으로 자체 감독을 사용하며, 최소 수백억 개의 파라미터를 포함하고, 광범위한 맥락에서 적용 가능하며, 안보, 국가 경제, 공중 보건, 안전 등에 심각한 위험을 초래하는 작업에 높은 수준의 성능을 발휘하거나 발휘할 수 있습니다. 모델의 위험성을 고려해 개발자는 상무부에 AI 안전 테스트 결과를 포함한 핵심 정보를 보고해야 합니다. 그러나 대단한 규모의 AI가 아니더라도, AI 기술은 기존의 그 어떤 기술보다 자유롭게 민간과 군사 분야를 넘나들며 전쟁에 활용되고 있습니다. 최근의 이스라엘, 팔레스타인, 우크라이나, 러시아 전쟁은 AI가 현대 전쟁에서 어떻게 활용되고 있는지를 보여주는 생생한 사례입니다. AI는 드론 작전, 사이버 전쟁, 정보 분석 등 다양한 군사 영역에서 활용되고 있습니다. 이스라엘은 팔레스타인을 실험실로 활용해 개발한 감시 기술을 세계 각국에 수출하고 있습니다. AI의 군사적 활용이 가져올 수 있는 위험은 분명합니다. 그럼에도 불구하고 국가안보라는 미명 아래 AI를 전쟁에 투입하는 상황은 피할 수 없는 현실일지도 모릅니다. 우리에게 필요한 것은 이미 AI는 언제든 무기로 사용될 수 있음을 인정하고, 적절한 관리 체계를 구축하는 것입니다. 🦜 더 읽어보기- 전쟁 기술 만들기를 거부하는 이들(2024-04-15)- 죽음의 기술과 효율성(2024-04-08)- 전쟁과 죽음의 기술(2023-10-30)- 자동화된 아파르트헤이트(2023-05-15) #feedback 오늘 이야기 어떠셨나요?여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

일본군성노예제 문제해결을 위해 내가 무엇을 할 수 있을까 고민하다가 2018년즈음 일본군성노예제문제를 다루는 전쟁과여성인권박물관에서 자원활동을 했던 적 있습니다. 온라인 문서 사용이 익숙하지 않던 시절에 당시 활동가들이 손으로 쓴 성명서와 가위로 잘라 모아둔 언론 기사 모음을 스캔하는 작업이었죠. 그때 마주했던 한 주먹의 종이뭉치가 준 위로와 충격은 지금까지도 제가 활동가이자 연구자로 활동할 수 있는 동력이 되었습니다. 정말 어마어마한 자료였어요. 2000년 여성국제법정에 앞서 열린 2000년 학생법정 당시에 제가 만난 자료는 2000년에 열린 학생법정의 이야기를 담은 기사와 준비자료습니다. 흔히 ‘2000년 법정’ 혹은 ‘2000년 여성국제법정’이라고 부르는 역사적인 사건과 관련되어있죠. 이 법정의 전체 이름은 ‘2000년 일본군 성노예 전범 여성국제법정’이에요. 2000년 12월 8일부터 12일까지 일본 도쿄에서 아시아 10여 개국이 참가해 2001년 12월 3일과 4일에 네덜란드 헤이그에서 최종판결이 내려졌습니다. 이 역사적인 사건에 앞서 여성 대학생들은 2000년 학생법정을 기획합니다. 1998년 8월에 기획에 들어가서 1999년 4월에 2000년 법정보다 먼저 학생들끼리 법정을 운영한 것이지요. 이유지님(당시 22세, 경기대 영문과 4학년)과 민승해님(당시 24세), 정은정님이 각각 임시위원장과 준비위원장을 맡아 행사를 운영했습니다. 서울대학교, 이화여자대학교. 홍익대학교, 명지대학교 등 국내 50여 대학 여학생 모임과 각 대학 총여학생회가 주축이 되어 이 행사를 이끌어나가기 시작했죠. 2000년 여성국제법정 한국위원회를 담당했던 양미강님의 글을 보면 2000년 학생법정의 운영에 대한 이야기 조각들을 찾을 수 있습니다. (2000년 여성국제법정: 전쟁의 아시아를 여성과 식민주의 시각에서 불러내다, 경인문화사, 2021년 33~35쪽) 학생법정은 원래 전국 5개 대학에서 개최하려고 했지만 호응도가 매우 좋아 이화여대, 조선대, 부산대, 창원대, 동아대, 경희대, 해양대, 원광대, 서원대, 한신대, 전주대, 서울대까지 전국 11개 대학에서 각자 학생법정이나 문화제를 개최하는 것으로 확장됩니다. 릴레이 수요시위를 열기도 하고 각자 지역단체들과 연대해 독자적인 행사를 만들기도 했지요. 일본의 오비린대학교 학생들과 함께 전쟁과 여성인권 캠프를 운영하기도 했습니다. 그야말로 글로컬 연대를 보여주는 장면이지요. 여학생이 만들고 이끌어간 운동의 역사 1990년대부터 2000년대 초반까지 각 대학 총여학생회와 여성위원회는 여러 여성인권행사를 개최했고 일본군성노예제문제는 그 가운데 하나의 축이었습니다. 예컨대 1999년 10월 26일부터 2주간 이화여대 여성위원회는 성폭력 관련 행사를 진행했는데요. 이때 일본군성노예제 문제와 광주 민주화운동, 한국전쟁, 동티모르 사태 등 여성 성폭력 피해 사례를 고발하기도 했습니다. 이 때 이화여대 여성위원회는 문제해결을 기원하며 일본군’위안부’피해자 강덕경님의 초상을 완성하는 행사를 진행했고 이 지문 초상을 2000년 모의 학생 법정에서 사용했습니다. 이렇듯, 2000년대 초반까지 정신대문제대책협의회와 함께 전국여대생대표자협의회, 이화여대 여성위원회,홍익대학교 여성모임 ‘딴짓’등 이전부터 여학생 운동을 하고 있던 단위들은 적극적으로 운동을 도모합니다. 수요시위를 주도적으로 이끌기도 하고 각 대학의 총여학생회에 문제를 제기하며 2000년 학생법정을 홍보하기도 했지요. 일본군성노예제문제에 심각성을 느끼고는 있었지만 제 또래의 페미니스트들은 일본군’위안부’문제보다도 다른 문제들에 관심이 더 많았습니다. 당시 저는 어떤 외로움의 감각을 많이 느꼈던 것 같아요. 그런데 기사를 읽다보니 시대를 거슬러 계속 청년 여성들이 이 운동에 결합하기도 하고 서로 끌고 밀면서 나아갔구나 생각이 들더라고요. 자료의 발견은 저에게 잔잔한 위로였습니다. 단절되어있다는 감각으로부터 벗어나 이들의 발자취를 찾아야겠다고 생각했어요. 2000년 학생법정, 90년대부터 이어진 여성운동의 감각을 기억하는 사람들은 각자의 위치에서 일본군성노예제문제해결 운동을 하고 있더군요. 운동의 지속성을 여기에서 찾았습니다. 여학생들은 누가 기록했나 일본군성노예제 문제해결운동에 이렇게 적극적으로 개입했던 여학생들을 추적하는 연구는 아직 부재한 상황입니다. 하지만 운동에 개입했던 사람들은 시간이 지나도 이 문제를 각자의 자리에서 기억하고 고군분투하며 함께 하고 있더라고요. 누군가는 후원으로, 누군가는 교육으로, 누군가는 활동가로서요. 지난 주 수요일(2024년 10월 9일) 1669차 수요시위가 열렸습니다. 한 연대발언자가 이런 말을 했습니다. 시위 발언문을 준비하며 걱정이 되어 엄마에게 조언을 구했는데, 엄마도 대학생 시절 수요시위 현장에 있었다고요. 시위에 참여했던 한 사람이 엄마가 되고, 그 사람의 아이가 다시 학생이 되어 수요시위에 나올때까지의 시간이었습니다. 세계에서 가장 긴 시위는 여전히 이어지고 있고 일본군성노예제문제는 아무리 지우려는 사람들이 많아도 지워지지 않았습니다. 시간이 오래된 만큼, 누군가는 낡고 오래된 이야기라고 생각하겠지요. 그래도 계속하는 사람들이 있었고, 또 있을 겁니다. 저는 이 운동에 함께하는 모든 이들이 외롭지 않으면 좋겠어요. 그래서 저는 20대 여성들이 만들어낸 일본군성노예제문제해결 운동을 역사화할 계획입니다. 2000년 학생법정은 저의 첫 시작이 될 거에요. 여학생들을 기사로 쓰지 않던 시대를 거슬러 그들이 손으로 남긴 메모, 오려붙인 종이들, 고민의 흔적이 느껴지는 회의록들을 들춰볼 생각입니다. 그리고 10년이 걸리던, 15년이 걸리던 이 운동에 참여했던 20대 여성들의 이야기를 오롯이 담아내고자 합니다. 제가 외롭지 않게 운동하고 싶어서라는 이기적인 이유에서 시작한 연구입니다. 하지만 언젠가 또 다른 누군가에게는 제 연구가 응원과 위로가 될 수도 있지 않을까 기대도 해봅니다. 문제해결운동은 혼자 하는 것이 아니니까요. 일본군성노예제문제해결을 위한 수요시위는 이번 주에 1670차를 맞습니다. 길에서, 박물관에서 언젠가 독자 여러분을 만날 수도 있지 않을까요. 만나면 반갑게 인사해주세요. 그 마음이 사람과 운동, 연구를 이어가는 힘이 되리라 믿어 의심치 않아요. 저는 다음 칼럼으로 돌아오겠습니다!