‘AI 기술실업’에 맞서 지켜야 할 것
고아침1) AI윤리레터2) 필진, AI 연구자
AI발 기술실업의 본격화
지난해 말 KB국민은행이 콜센터 협력업체를 줄이면서 상담사 240여 명이 해고 위기에 몰렸다.3) 인공지능(AI) 상담이 늘고 콜센터 콜수가 줄었다는 이유다. AI 시스템 도입에 따른 기술실업의 전개 방식을 보여주는 사건이다. 골자는 이렇다.
1) 기존 상담사 업무를 (일부) 자동화하는 AI 시스템을 도입한다.
AI 시스템 위주로 사용자 경험을 설계하고 상담원 연결은 어렵게끔 한다.
2) 콜 수가 줄어들었으므로 상담사 인력을 감축한다. 향후 AI 자동화가 예상되는 분야일수록 인력 충원을 삼간다.
3) 상담사의 상담 기록을 언어 데이터 삼아 AI 시스템을 개선한다. 상담사의 데이터 제공은 평가와 연동하여 거부하기 어렵게 한다.
AI 자동화를 매개로 하는 불안정노동 확산 속에서 노동자는 이중의 불이익을 당한다. 우선 자동화 도입의 영향으로 일자리를 잃거나 노동이 불안정해진다. 위 사례에서 상담사들은 노동조합과 여론의 압박 덕에 고용승계가 되었지만, 급여 조건이나 근무환경이 악화하였다.4) 한편, AI 시스템 구축에 활용되는 데이터를 노동자가 제공함에도 불구하고 그 수혜를 입는 것은 노동자가 아니라 시스템을 도입한 고용주다. AI 시스템 오작동의 불편이 소비자 및 노동자에게 전가되는 것은 덤이다.
생성형 AI 기술의 부상과 자동화 도입의 유행 속에서 기술실업도 잦아지고 있다. 언어 학습 서비스 듀오링고는 생성형 AI 도입을 추진하는 가운데 올해 초 계약직 직원 약 10%를 해고했다.5) 드롭박스, IBM, 구글 등 테크업체들이 경쟁하듯 AI 도입을 명목으로 대량 해고를 감행하는 가운데, AI 기술을 만드는 노동 또한 위태로운 것은 마찬가지다.6) 구글의 모기업인 알파벳은 호주 데이터 라벨링 업체 에펜에 ‘전략적 검토’를 이유로 계약 해지를 통보했다. 7) 수천 명의 하청 근로자가 영향을 받으리라는 것이 알파벳 노동조합의 의견이다.
AI의 일자리 대체는 필연적인가?
인간에 준하거나 인간을 능가하는 AI가 등장하여 인간 노동을 대체하는 것이 기정사실인 듯한 분위기 속에서 기술실업 소식은 더욱 자주 들려올 것이다. 기술실업은 정말로 어쩔 수 없는 흐름일까? 여기에는 AI 기술 발전에 대한 상당한 낙관론, 기술이 등장한 이상 노동력 대체는 불가피하다는 기술결정론적 가정이 함께 작용하고 있다. 두 가정 모두 비판적 거리를 두고 바라볼 필요가 있다.
2022년 한 승객은 에어캐나다 웹사이트에 적용된 챗봇에 할인 규정을 문의했다가 챗봇이 지어낸 잘못된 규정을 안내받아, 예정에 없던 비싼 비행깃삯을 냈다. 그는 민사 소송을 냈고, 항공사는 보상 명령을 받았다. 8) 생성형 AI에 기반한 자동화는 언제나 오류의 가능성을 가지며, 언제 어디서 오류가 나타날지 예측하기도 어렵다. 불확실한 기술을 믿고 기존 인력을 대체하는 것은 현명한 판단일까. 에어캐나다는 결국 해당 챗봇을 웹사이트에서 제거했다.
위와 같은 오류는 생성형 AI 기술이 절대적 정확성보다는 통계적인 그럴싸함을 추구하기 때문에 나타나는, 이른바 ‘환각 hallucination’ 현상이다. 기술 발전을 낙관하는 이들은 ‘앞으로 AI 환각 문제가 해결되면···’으로 시작하는 문장을 곧잘 구사하지만, 현재 기술 패러다임에서 그 문제가 반드시 해결되리라는 보장은 없다.
데이터를 학습해 인간이 쓴 것 같은 글을 생성하거나 복잡한 자료 속에서 패턴을 찾아내는 AI 기술을 과소평가할 필요는 없지만, ‘자동화’의 복음은 언제나 얼마간의 과장광고와 함께 찾아온다. 식당 키오스크나 소셜미디어 필터링 알고리즘처럼, 겉보기에 그럴싸한 자동화 기술이 실제로는 뒤에서 인간 노동의 보조를 받아야만 작동하는 ‘가짜 자동화’는 기술의 역사에서 곧잘 찾아볼 수 있다.9) 기술적 성취를 과대포장하고 인간의 노동을 비가시화하는 경향은 노동자의 지위를 약화하고 자본에 유리하게 작용하는, 일종의 이데올로기로 기능한다.
현재의 AI 기술에서 ‘가짜 자동화’는 어떤 형태를 띨까? 우선 AI 모델을 학습시키는 데 필요한 방대한 양의 데이터를 라벨링하고, 모델 성능을 향상하기 위해 출력 데이터를 필터링하는 수많은 ‘유령 노동자’가 있다.10) 알파벳이 계약 해지한 에펜의 근로자도 여기에 해당하며, 이러한 노동은 남반구의 저임금 노동 인력에 의해 수행되곤 한다.
AI 모델은 학습 시점의 데이터에 고정되기 때문에 최근 자료를 반영하려면 데이터 노동을 지속해서 필요로 한다. 더구나 요즘의 거대 생성 모델은 상상하기 어려울 만큼의 컴퓨터 자원과 전력을 소모한다.
모델을 구축하는 데도, 모델을 사용하는 데도 막대한 에너지가 쓰이고 모델을 구동하는 데이터 센터가 소모하는 냉각수의 양도 만만치 않아, 생태적 영향 또한 요주의 대상이다. 11) 기술적 진전이 현재의 속도를 언제까지나 유지하리라 섣불리 확신하기 어려운 이유다.
소수만 이득 보는 기술실업, 그에 맞서는 새로운 흐름
AI 기술이 순탄히 발전하여 인간을 대체할 정도의 능력을 갖추더라도, 그 기술을 적용하는 과정은 여러 사회적 관계 속에서 점진적으로 진행될 것이다. 기술실업 또한 저절로 발생하는 불가피한 자연현상이 아니라, 사회 구성원들이 취하는 구체적 행동에 달려 있다. 그러면 우리는 누구를 위해 기술을 도입할 것인가? 모두의 상생과 공영을 위하는 쪽인가, 아니면 노동자의 몫을 없애 기업의 이익을 늘리는 쪽인가?
안타깝게도 현재 보이는 양상은 후자에 가깝다. 하지만 노동자에 적대적인 방향으로 AI 기술이 적용되는 현재의 흐름에 대항하는 움직임 또한 등장하고 있다. 소수 카르텔에게 이권을 가져다주고 다수에게 손해를 끼치는 기술에 저항하는, 일종의 신-러다이트 운동이다. 2023년 미국 작가조합(WGA)과 배우조합(SAGAFTRA)이 각각 진행한 파업은 애초 처우 개선을 두고 시작했으나, 갈수록 생성형 AI 기술이 중요한 쟁점으로 부각되었다.12) 파업에 참여한 이들은 작가들의 대본이나 배우들의 움직임 등 노동의 결과물이 AI 학습 자료로 쓰이거나, 인간이 창작을 주도하는 대신 AI로 생성한 초안을 수정하는 보조적 역할로 밀려나는 처우 악화를 경계했다.
긴 파업 끝에 각 조합은 합의안을 통해 AI 기술 활용 시 준수해야 할 규범을 이끌어냈다. 작가조합의 합의안에는 AI 생성물에 크레딧을 부여하지 않고, 제작사가 작가에게 AI 사용을 강요할 수 없으며, 대본 등을 AI 학습 데이터로 사용할 수 없다는 등의 내용이 담겨 있다.3) 배우조합의 경우에는 AI 활용시 명시적 동의 및 알 권리 보장, 고용 축소를 목적으로 하는 AI 활용 금지, 기술 이슈에 관한 정기적 논의에 배우가 참여하는 등의 합의안을 도출했다.4)
프리랜서 노동자인 작가와 배우들이 AI를 매개로 노동권을 약화하고자 한 제작자연합을 상대로 벌인 투쟁은, 인간 노동자와 AI 사이의첫 본격적인 싸움이었던 셈이다. 이를 통해 도출된 구체적인 활용 방식에 관한 합의도 인상적이지만, AI를 업무에 활용하는 데 있어 노동자의 목소리를 반영해야 한다는 원칙을 남긴 중요한 선례이기도 하다.
그뿐만 아니라 생성 AI 기업을 상대로 창작자들이 집단 소송을 제기하는 등 AI의 노동 위협에 대한 저항은 폭넓게 퍼져가는 모양새다. AI 도입이 단지 노동자를 희생양 삼아 비용 절감을 추구하는 식으로 이루어진다면, 저항의 전선 또한 맹렬히 확대될 수밖에 없을 것이다. 기술 도입이 노동자의 권익을 약화하지 않도록 상생을 실천할 것, 그리고 도입 과정의 논의와 의사결정에 노동자가 참여할 것. 앞으로 마주할 ‘기술실업’의 전망 앞에서 우리 사회가 힘써 지켜야 할 사항들이다.
1) https://scalarvectortensor.net
2) https://ai-ethics.stibee.com
3) 주영재, 「업무만 가르치고 빠져라? AI발 해고 ‘올 것이 왔다’」, 『경향신문』, 2024. 1. 7.
https://www.khan.co.kr/national/national-general/article/202401070900021.
4) 김온새봄, 「국민은행 콜센터노동자들 “AI로 업무강도 높아져···고용불안도 여전”」, 『참여와혁신』, 2024. 2. 14. https://www.laborplus.co.kr/news/articleView.html?idxno=33288
5) 김서현, 「편의로 소환한 AI에 자리 뺏긴 사람들」, 『메트로신문』, 2024. 1. 15.
https://www.metroseoul.co.kr/article/20240115500614.
6) Lakshmi Varanasi, "Big Tech jobs are on the line after Google, IBM, and Dropbox say they're leaning into AI", Business Insider, 2023. 5. 6.
https://www.businessinsider.com/dropbox-ibm-google-big-tech-companiesai-in-layoff-memos-2023-5
7) 조재용, 「"챗봇 할인 안내, 항공사 책임" 결정에…에어캐나다, 차액 보상」, 『연합뉴스』, 2024. 2. 16. https://www.yna.co.kr/view/AKR20240216053600009.
8) Astra Taylor, "The Automation Charade", Logic(s) 5, 2018. 8. 1.
https://logicmag.io/failure/the-automation-charade/
9) 이송희일, 「[이송희일의 견문발검] 챗GPT와 디지털 식민지」, 『미디어오늘』, 2023. 2.26. https://www.mediatoday.co.kr/news/articleView.html?idxno=308715.
10) 곽노필, 「대화 한 번에 ‘생수 한 병씩’…챗GPT의 불편한 진실」, 『한겨레』, 2023. 5. 3.
https://www.hani.co.kr/arti/science/technology/1090180.html.
11) 곽노필, 「대화 한 번에 ‘생수 한 병씩’…챗GPT의 불편한 진실」, 『한겨레』, 2023. 5. 3.
https://www.hani.co.kr/arti/science/technology/1090180.html.
12) 박재령, 「끝맺은 할리우드 파업이 우리에게 남긴 것」, 『미디어오늘』, 2023. 11. 16.
https://www.mediatoday.co.kr/news/articleView.html?idxno=313842.
코멘트
2기술의 혁신이 노동시장에 영향을 주는 것은 늘 있던 일이지만 인공지능은 그 여파가 굉장히 크다는 생각이 드네요.
사실 인공지능은 전지전능하지 않으니 우리 사회를 어떻게 다룰지에 대한 의사결정에 당사자들이 적극참여해야 할 것 같습니다.
국민은행 콜센터의 사례를 듣고 저도 황당했던 기억이 나네요. (그리고 캠페인즈에서 활동하고 있는 AI 윤리 레터의 필진을 이렇게 또 만나게 되니 반갑네요)