형사 가제트와 실뜨기 하는 세계 - AI의 무기화

 *이 글은 피스모모의 대안언론 '더슬래시 Theslash.online' 에서도 읽으실 수 있습니다. 

2020년 11월 말, 이란의 핵과학자 중 최고 권위자가 사망했다. 그의 이름은 모센 파크리자데, 가족과 함께 자신의 집으로 가던 길이었다. 그의 차 앞뒤로 경호차량이 수행했는데, 그의 집을 얼마 앞두지 않은 곳에서 갑작스러운 총격이 시작되었다. 총 15발의 실탄이 발사되었고, 그 중 3발이 정확히 그의 얼굴을 조준하여 발사되었다. 모센 파크리자데는 그렇게 사망했다. 당시 현장에서는 어떤 범인도 발견되지 않았다. 총격이 발생한 지역 주변을 비추는 CCTV도 모두 먹통이어서 그 당시 정황에 대한 영상기록은 남지 않았다. 현장에서 발견된 것은 주차되어 있던 파란색 닛산 트럭과 그 트럭에 적재된 건축 자재 사이에 있던 원격 제어 로봇이었다. 이 로봇에는 저격용 기관총이 달려있었다. 이 트럭은 총격이 이루어진 후 자동으로 폭파되었다. 

기시감이 들었다. 자동으로 폭파되는 트럭 왜 익숙하지? 어릴 때 보던  중에 형사 가제트라는 애니메이션이 떠올랐다. 팔이 길어지는 형사 가제트에게 미션 수행을 안내하는 쪽지가 비밀리에 도착하는데 그 쪽지는 메시지를 전달하고 나면 자동폭파된다. 그때는 잘 몰랐지만 이제사 깨닫게 된 것은 그 형사 가제트도 기계였다는 것이다. 

2021년 아마존에서 한 권의 책이 출간되었다. <인간-기계 팀: 세상을 혁신할 인간과 인공지능의 시너지 창출 방법(The Human-Machine Team: How to Create Synergy Between Human and Artificial Intelligence)>이라는 제목의 책이다. ‘Y.S.준장’이라는 필명의 저자는 현직 유닛 8200의 사령관으로 알려졌다. 유닛 8200(Unit 8200)은 이스라엘 방위군의 정보기관의 이름이다. 

유닛 8200의 주된 업무는 서안지구와 가자지구의 팔레스타인 사람들을 감시하는 것인데, 감시하는 대상은 ‘대중’, 즉, 불특정 다수를 의미한다. 유닛 8200은 모든 통신을 감청하고 개인과 집단을 가리지 않고 모든 정보를 수집한다. 이런 활동이 이루어지는 장소는 ‘우림(Urim) 기지’, 네게브 사막 한 가운데 있는 군사기지이다. 우림 기지는 “세계 최대 규모의 신호정보 수집기지”로 알려져 있다.*

*엔터니 로엔스틴 지음, 유강인 옮김, <팔레스타인 실험실>, 소소의 책,  p.125. 

Y.S.준장은 그의 책에서 미래의 국가안보는 “인간과 기계가 완벽하게 한 몸을 이루어 ‘국가안보의 위협과 도전’을 해결하고 ‘전쟁에서 승리를 이끌며, 인류를 위한 성장 엔진 노릇’을 할 것”이라고 전망했다. 인간과 기계의 구분이 모호해지는 미래, 이미 그 미래는 올지도 모르는 미래가 아니라 곧 오게 될 미래로 호명되고 있다. 미래는 언제 도착하여 현재가 되는가? 

모센 파크리자데의 죽음은 완벽한 기계와 인간의 결합인가 아닌가? 생성형 인공지능에게 검색의 수고와 각종 다양한 문서의 초안작성을 요구할 수 있고, 인공지능이 제법 그럴듯해 보이는 초안을 몇 초만에 내어주는 세상에서 기계와 인간의 결합은 이미 진행되었고 ‘완벽성’을 기하는 것만 남은 것일까? 인간과 기계의 결합은 인간의 미래인가, 미래여야 하는가, 미래가 아닐 수도 있는가? 

“인간과 기계의 결합”이라는 이 사건은 하나의 고정된 사건이 아니다. 계속해서 이루어져왔으며 이루어져갈 무엇으로써 경계를 흐리고 또 흐리는 무엇이다. 토머스 필벡(T. Philbeck)은 포스트 휴머니즘을 혼종적이고 유동적이며 중층적인 인간 정체성을 규명하여, 근대 휴머니즘을 넘어서는 인간에 대한 새로운 이해의 틀을 제시하는 것이라고 설명했다.*

*필벡 토마스(2021), <인간과 포스트휴머니즘>, 이화여자대학교출판부  

모센 파크리자데는 원격 제어 로봇에 의해 사망했다. 이것은 기계에 의한 죽음인가, 인간에 의한 죽음인가? 모센 파크리자데의 죽음보다 조금 앞선 2020년 5월에는 리비아 내전 중 튀르키예가 공급한 AI 드론이 반군 세력을 추격하면서 도망치는 군인들을 자폭 공격하여 살해하는 일이 벌어졌다. 기계 뒤의 인간이 기계를 제어하여 표적을 암살한 이 사건은 기계와 인간의 어떤 결합인가? 

2024년 초, 우크라이나 118기계화여단은 새로운 인공지능 유도 드론의 시험비행을 진행했다. 테스트 대상은 러시아 병사였고 즉시 사망했다. 이 드론은 인간에 의해 조종되지 않았다. 스스로 표적을 찾고 표적을 향해 이동했으며 그 표적을 살해하기 위해 자폭했다. 

2023년 1월, 미국 국방부는자율무기체계를 “한 번 작동하면 운영자의 추가 개입 없이 표적을 스스로 선정하고 교전할 수 있는 무기체계”로 정의하면서 자율무기가 인간의 의도와 다르게 행동할 가능성을 최소화해야 한다는 지침을 내놓았다.* ‘최소화’한다는 것은 무엇을 의미하는가? 인간의 의도와 다르게 행동할 것이라는 사실은 기본값이며 그 인간의도를 벗어난 기계의 행동이 최대화될 수 있으니, 그 가능성을 최소화해야 한다는 것 아닌가? 이 ‘최소화(minimize)’라는 것은 마치 어떤 안전장치처럼 보이는 효과가 있으나 결국은 부수적 피해(collateral damage)로 귀결될 더 많은 죽음을 의미하는 것과 다르지 않다.

* DoD Directive 3000.09 Autonomy in Weapon Systems 

2024년 9월, 서울에서 인공지능의 책임있는 군사적 이용에 대한 고위급회의(REsponsible AI in the Military domain Summit 2024)라는 것이 열렸다. REAIM 이라고 줄여서 부르는 이 회의는 한국 정부가 주최한 행사로 네덜란드, 싱가포르, 케냐, 영국이 공동주최국으로 참여했다. 어떤 이야기들이 오고가는지 듣고자 동료들과 함께 공개된 회의들에 참여했다. AI가 국제 안보 환경, 특히 분쟁 역학과 대량살상무기(WMD) 확산에 미칠 수 있는 잠재적인 영향에 대한 논의들이 오고갔고, AI의 군사적인 이용이 가져올 혜택과 위험에 대해 이야기 나누었지만 복잡하고 고도화된 기술영역에 대해 잘 알지 못하는 내가 받았던 인상은 비교적 간단하다. 윤리에 대한 규제를 얼른 만들고 기술의 진보에 집중하자. 

한국과 케냐 등 공동주최국의 국방부장관들과 군수산업체 록히드마틴의 데이터 AI 최고책임자, 국내 군수산업체 한화시스템 우주연구소의 부소장은 라운드테이블에서 인공지능의 군사적이용이 가져올 변화에 대해 많은 이야기들을 쏟아냈다. 모두가 인공지능이 가져올 전장의 변화가 자국의 군인들의 피해를 줄여줄 것이며, 자원의 낭비를 줄여줄 것이고, 예측능력을 높여 국가안보에 기여할 것이라는 방향성에서 이야기했다. 유일하게 미래학 교수 한 사람이 인간다움에 대해 질문하는 것 같았지만 그도 강하게 주장하지는 않았다. 자신의 전문분야에 대한 긴 이야기 끝에 모두가 약속한 것처럼 한 마디를 덧붙였다. 그러나 윤리적인 문제에 있어 해결해야 할 것들이 아직 많다고. 

Y.S.준장은 인간과 기계의 완벽한 결합으로 더 단단해질 국가안보를 이야기한다. 하지만 먼저 짚어봐야 할 것이 있다. 그리하여 더욱 단단해질 그 국가안보란 대체 무엇인가? 그 국가안보를 이유로 이미 수없이 많은 존재들이 목숨을 잃고 있는 현실에서 만들고자 하는 ‘이후(post)의 세계’는  무엇인가? 내가 참여했던 REAIM 세션 중 하나에서는 인공지능의 편견에 대해 우려하며 그에 대한 이야기를 나누었다. 그리고 그들이 내놓은 대안은 ‘교육’이었다. 즉, 인공지능을 다루는 전문가들이 어떤 데이터를 인공지능에게 제공하는지가 중요하므로 그 인공지능을 다루는 인간들의 편견을 다루어야 하고 그를 위해서는 ‘교육’이 중요하다고. 

토론 시간에 나는 그들에게 이야기했다. ‘교육’은 마술봉이 아니라고(Education is not a magicstick, we all know that). 그들도 알고 있다. 그러나 그들은 ‘교육’에 모든 것을 떠넘기지 않으면 인공지능의 군사적 이용에 속도를 낼 수 없다는 사실도 알고 있다. 인류는 또 한 번의 멍청한 무책임의 순간들을 목도하고 있다. AI 유도 드론을 두고 어떤 이들은 오펜하이머 모멘트라고 말하기도 한다. 오펜하이머는 그래서 인류에게 무엇을 남겼지? 그는 정말 멈출 수 없었을까? 그도 멈출 수 있는 순간이 있었지만 멈추지 않았다. 그리고 인류는 또 한 번 멈출 수 있음에도 멈추지 않는 선택을 하고 있다. 

가자지구는 팔레스타인 실험실이라고 불린다. 매일 수백수천명의 사람들이 목숨을 잃는 그 곳을 실험실이라고 부를 수 있는 세계에 나는 살고 있다. 인간과 기계의 완벽한 결합을 꿈꾸며 부수적 피해를 어쩔 수 없다고 말하는 이들에게, 더 많은 사람이 죽는 것이 자신의 삶에 큰 영향을 주지 않는다고 생각하는 이들에게 도나 해러웨이의 문장들을 선물하고 싶다.* 우리는 보편성과 개별성이 아니라 부분적이고 불완전한 연결을 가지고 세계들을 결합하고 변형하는 방법을 다시 배워야 한다. 도나 해러웨이는 이 지구위 존재들의 삶을 ‘실뜨기’라고 보았다. 서로 얽혀있는 직물, 하나가 풀리면 같이 풀려나가는 직물. 그렇기에 “인간들은 함께 비통해야 한다. 왜냐하면 우리는 이 풀리는 직물의 일부이기 때문이다. 지속적으로 기억하지 않으면 우리는 영혼과 함께 사는 것을 배울 수 없고, 그래서 사유할 수 없다.” 비통함이 사라지는 세계, 이제는 이 실뜨기에 기계를 초대해야 하는지도 모른다. 아니 이미 기계와 함께 실뜨기를 하고 있는지도 모른다. 그러면 인간다움은 무엇으로 이야기 되어야 하는가? 이 질문에 대해 깊이 사유하지 않고 너무 빨리 다음 페이지로 넘어가서 보고 싶은 세계는 대체 무엇인가? 

*도나 해러웨이 지음, 최유미 옮김(2021),  <트러블과 함께하기>, 마농지 

 

 /

문아영 

2012년 9월, 평화와 교육, 평화와 일상을 연결하는 플랫폼, 피스모모(PEACEMOMO)를 동료들과 함께 창립했다. 사회혁신의 궁극은 이 세계에서 전쟁이 그치는 일이라 생각하며 자본과 소비를 중심으로 구성된 세상이 조금이라도 덜 나빠지는데 작은 힘이나마 보태고 싶어하는 사람, 실천적 사유에 관심이 많으며 한나 아렌트를 좋아하고 북한산이 보이는 집에서 새촘, 우아, 레오, 라라, 네 마리의 고양이와 함께 산다.