우리에겐 새로운 '러다이트'가 필요하다

얼마 전 네이버웹툰에서 연재를 시작한 한 웹툰이 'AI로 자동 생성한 이미지를 사용한 것 아니냐'는 의혹을 받았다. 독자들은 웹툰의 컷을 하나하나 캡처하여 게시물에 첨부하면서, 작화가 부자연스럽게 일그러지거나 표현이 생략된 부분을 지적했다. 논란이 일자 제작사 측에서는 해당 웹툰의 1화 말미에 해명문을 덧붙였다. 'AI로 그림을 그린 게 아니라 후보정에만 AI를 사용한 것'이라는 내용이었으나 비판 여론은 수그러들지 않았다.

국내에서 인공지능 윤리가 뜨거운 감자로 촉발된 건 2021년 이루다 AI가 등장하면서였다. 당시 스캐터랩에서 개발한 이루다 AI가 공공연하게 차별과 혐오 표현이 포함된 메시지를 발신하면서 인공지능 윤리가 화두로 떠올랐다. 그때까지만 해도 인공지능 윤리는 AI 서비스를 개발하는 개발사의 몫이었다. 개발한 AI 서비스가 차별, 혐오 표현을 발신하는지 검수하는 것, 개인들의 데이터를 AI 학습에 사용할 때 충분한 동의를 받았는지 확인하는 것 등이 'AI 윤리'로서 논의되었다.

2022년 인권위에서 발표한 <인공지능 개발과 활용에 관한 인권 가이드라인>도 △인간의 존엄성 및 개인의 자율성과 다양성 보장, △투명성과 설명 의무, △자기 결정권의 보장, △차별금지, △인공지능 인권 영향평가 시행, △위험도 등급 및 관련 법제도 마련 등 대체로 개발사들이 준수해야 하는 항목을 명시하고 있다.

사용자에게로 확대되는 AI 윤리

그러나 최근 인공지능의 윤리적 이슈는 그보다 훨씬 더 넓은 범위에서 제기되고 있다. 이 글의 서두에 언급한 웹툰 사례만 보아도 그렇다. AI 서비스를 이용한 웹툰 제작사는 AI 개발사가 아니라 AI 서비스를 활용한 사용자에 해당한다. 그럼에도 불구하고 독자들은 AI를 사용하여 작품을 창작한 것 아니냐는 의혹을 제기하고 비판 여론을 형성한다. AI 윤리는 확실히 기존까지 흐르던 방향과 다소 다른 흐름으로 전개되고 있다. 오늘날 AI 윤리는 비단 AI 서비스를 개발하는 테크 기업만 감당해야 하는 것이 아니다. AI 서비스를 사용하는 사용자들도 그 활용 목적과 범위에 따라 AI 윤리를 요구받는다.

AI 서비스의 사용자는 매우 다양하다. 그저 재미 삼아 AI 서비스를 돌려보는 개인일 수도 있고, AI 서비스를 통해 수익을 창출하는 사람일 수도 있으며, 혹은 AI 서비스를 이용해 인건비를 절감하려는 고용주일 수도 있다. AI를 누가, 언제, 어떻게 사용하느냐에 따라 AI 윤리는 제각기 다른 양상으로 논의가 이뤄져야 한다. 물론 다른 양상이라 해서 경중마저 다르게 매겨지는 건 아니다. 개인이라 하더라도 AI 서비스를 이용해 심각한 수준의 범죄를 저지를 수도 있다. 예를 들어 지인의 얼굴 사진을 이용해 성 착취물을 제작하여 유통하는 딥페이크 범죄 등이다. 이는 물론 윤리만이 아니라 명확히 사법적으로 다뤄져야 하는 영역이지만, 이 외에도 미드저니 등 이미지 생성 AI를 통해 여성에 대한 성적 대상화 이미지를 무분별하게 생성하는 것 등 윤리적 차원에서 논의가 필요한 이슈가 많다.

그중에서도 사회적 논의가 절실한 영역은 AI 서비스를 통해 고용의 영역을 축소하는 사업주에 대한 윤리다. 한 뉴스 기사에 따르면, 중국에 위치한 게임 회사는 생성형 AI 서비스의 출시에 따라 사내 일러스트레이터들을 대거 해고했다고 한다. 해고 대상이 된 일러스트레이터는 AI로 인해 해고되었다는 내용을 명확히 밝히고 있다. 지난 5월 2일 할리우드에서 활동하는 미국작가연합(WGA)이 돌연 파업을 선언한 일도 이와 관련이 있다. 파업 안건 중 하나가 ‘AI 사용에 대한 가드레일을 만들 것'이기 때문이다. 제작사가 시놉시스나 시나리오를 AI로 먼저 제작한 후, AI의 결과물을 수정하도록 지시할 것을 염려한 것이다. 창작 전반을 담당했던 이전과 달리 수정만을 맡게 되면 노동의 범위가 축소될 뿐만 아니라 보수 역시 더 낮아진다.

AI 서비스를 이용해 작업물의 기초 안을 만든 후 창작자들에게 수정을 요구하는 일은 국내에서도 비일비재하게 발견된다. 근래 연구를 위해 진행하는 질적 인터뷰의 참여자 중 일부는 이미지 생성 AI 미드저니로 제작한 일러스트를 수정해 달라는 일감을 의뢰받았다고 답변했다. 본래 일러스트레이터가 전체적으로 그림을 기획하고 만드는 작업이었는데, 기획 단계는 미드저니를 통해 제작사에서 수행하고 이후 그림을 매끄럽게 만드는 수준의 작업만을 청탁받았다고 했다.

기술로 인한 노동 대체? 기술을 내세운 해고

AI 서비스를 이용해 특정한 프로덕트를 만들어 내는 사업주에 대한 윤리는 아직 모호하다. 실제로 일감이 축소되거나 해고하는 사례가 SNS에 계속 공유되고 있지만, ‘기술로 인한 노동 대체'라는 용어로 사업주의 책임 소재는 교묘하게 가려지고 있기 때문이다. 게다가 이런 현상에 비판하는 이들에게는 (기계를 파괴하는) ‘러다이트 운동가냐'는 비아냥이 따라붙곤 한다.

물론 이 시점에서 러다이트를 호출해야 할 필요성은 있다. 그러나 러다이트를 그저 ‘기계 파괴자'로 호명하는 건 아니다. The NewYorker에 Ted Chiang이 기고한 칼럼처럼, 러다이트는 반기술 운동(anti-technology)가 아니라 경제적 정의를 위한 사회 운동이었다. 그의 칼럼 일부를 소개한다.

The Luddites did not indiscriminately destroy machines; if a machine’s owner paid his workers well, they left it alone. The Luddites were not anti-technology; what they wanted was economic justice. They destroyed machinery as a way to get factory owners’ attention. The fact that the word “Luddite” is now used as an insult, a way of calling someone irrational and ignorant, is a result of a smear campaign by the forces of capital.

러다이트는 기계를 무차별적으로 파괴하지 않았고, 기계의 소유주가 노동자에게 충분한 임금을 지급하면 기계를 내버려 두었습니다. 러다이트는 기술에 반대하는 것이 아니라 경제적 정의를 원했습니다. 그들은 공장주들의 관심을 끌기 위해 기계를 파괴했습니다. '러다이트'라는 단어가 비이성적이고 무지한 사람을 부르는 모욕적인 표현으로 사용되는 것은 자본의 세력에 의한 명예훼손 캠페인의 결과입니다

‘기술로 인한 노동 대체'라는 말은 현재의 노동 변화를 마치 기술을 통해 효율성을 추구하는 ‘객관적이고 자연스러운' 일처럼 여겨지게 한다. 그러나 지금 물밀듯 들어오는 AI 서비스는 개개인들에게 불안과 공포를, 사업주에게는 이를 명분으로 한 자유로운 해고 권한을 쥐여주었다. 언젠가 ‘대체'될 노동이라 하더라도, 노동자에게는 이후를 준비할 시간과 공적 안전 장치가 필요하다. 사업주에게 ‘AI 윤리'를 요구해야 하는 것도 바로 이 지점이다.

인공지능 시대, 우리에게는 새로운 ‘러다이트'가 필요하다. AI 서비스의 안전한 착륙을 위해 해야 할 일은 더 신속한 기술 발전이 아니라 기존 노동자들의 안전한 존속과 이동을 돕는 것이다. 지금 우리에게 필요한 ‘AI 윤리’는 노동 윤리와 떼어 낼 수 없다.