‘AI가 노동자의 노동강도, 임금을 결정한다’는 말을 들으면 어떤 기분이 드시나요? 왠지 먼 미래에 기계가 인간을 지배하는 디스토피아 세상의 이야기 같은데요. 예상외로 우리 주변에서 벌어지고 있는 현실입니다.
2022년 11월 라이더유니온은 토론회 ‘플랫폼 알고리즘, 어떻게 볼 것인가?’를 개최했습니다. 이날 토론회에서는 배민라이더 116명을 대상으로 진행한 AI배차와 일반배차 비교 실험 결과가 발표됐는데요. 쉽게 말하면 배달의 민족의 AI가 추천한 일감과 배달 노동자가 직접 선택한 일감에 어떤 차이가 있는지 비교한 겁니다. 발표된 실험결과가 흥미로운데요. 같이 확인해보시죠.
먼저 실험에서는 아래와 같이 3개의 그룹을 비교했습니다.
1. 일반 배차만 진행
2. AI 배차 100% 진행
3. AI 배차 선택 진행
실험에서는 각 그룹이 시간당 몇 건을 배달했는지, 배달에 얼만큼의 시간이 걸렸는지, 수익은 어땠는지 등을 분석했는데요. 분석 결과 AI 배차 비율이 높을수록 시간당 주문 건수는 많고, 건당 소요시간은 짧고, 시간당 수익이 높은 것으로 확인됐습니다.
특히 시간당 수익은 일반 배차만 진행(14,110원)과 AI 배차 100% 진행(19,353원)이 약 5천 원 정도 차이를 보였습니다. 주행거리당 수익 역시 AI를 이용한 쪽이 더 높았습니다. AI가 노동자의 수익(임금)을 결정하는 경우가 실제 존재하는 셈입니다.
실험 결과만 놓고 보면 AI를 이용하는 것이 수익을 올려주는 좋은 방법 같지만 배달 노동자들의 인식은 달랐습니다. 사후 설문조사 결과 배달 노동자들은 AI 배차 100%, AI 배차 선택 시 자신감과 결정권이 높다고 답했지만 이에 따라 업무 스트레스도 증가한다고 답했습니다. 특히 플랫폼으로부터 존중받는다고 느끼는 정도는 일반 배차만 진행한 경우가 가장 높았습니다.
연구를 수행한 카이스트 박사과정 김연수 학생은 실험의 결론에서 “라이더들이 AI100% 조건 하에서 AI선택과 같은 거리 당 수익 성과를 내기 위해서는, 더욱 높은 피로도와 업무 강도를 감수 해야만 한다”고 지적했습니다. (보다 자세한 내용은 정의당 이은주 의원실이 공개한 자료에서 확인하실 수 있습니다)
앞서 확인한 것처럼 AI가 노동자의 노동강도, 임금을 결정한다는 주장엔 구체적인 실험결과가 존재합니다. AI가 노동자에게 영향을 끼치는 산업은 배달 노동뿐만이 아니죠. 카카오를 중심으로 한 다양한 택시, 대리운전 서비스 등 플랫폼 산업의 확산과 함께 AI와 알고리즘에 영향을 받는 노동자가 매우 다양하게 늘어났습니다.
자연스레 문제 해결과 알 권리 보장을 위해 알고리즘 공개에 대한 논의가 이어졌는데요. 2021년 6월 정의당 류호정 의원은 ‘방송통신위원회 산하 알고리즘투명성위원회 설치’, ‘이용자 등이 서비스 제공자에게 알고리즘에 대한 설명 요구 가능’을 주 내용으로 한 정보통신망법 개정안을 대표발의했고요. 플랫폼 노동자 단체들에선 알고리즘 공개를, 플랫폼 기업에선 비공개를 주장하고 있습니다.
플랫폼 기업의 알고리즘 공개해야 한다
류호정 정의당 의원은 알고리즘에 대한 설명권이 담긴 법안을 발의하며 “디지털 시대를 살아가는 시민에게 '설명을 요구할 권리'는 사실상 기본권과 같다”, “알고리즘을 포함한 인공지능의 영향력이 앞으로 더욱 커질 것을 감안하다면, '인공지능=만능'이 아닌 '설명이 가능한 AI'로 사회적 합의가 모아져야 한다”라고 주장했습니다.(2021.08.09. 법률신문)
박정훈 라이더유니온 위원장은 “우리의 임금, 일감, 노동조건을 규정하는 알고리즘은 당연히 노동자에게 공유돼야 하고, 불리하게 바뀌지 못하도록 규제 받아야 한다”라고 주장했습니다. 박 위원장은 코로나19 이후 배달산업 후퇴기에 알고리즘의 공개가 더 중요하다며 “한정된 일감을 배분하는 기준, 앱에 접속한 라이더의 숫자와 주문량, 배달료 산정 기준 등 정보가 투명하게 공개되어야 배달노동자들이 판단할 수 있다”라고 설명했습니다.(2022.11.22. 플랫폼 알고리즘, 어떻게 볼 것인가? 토론회)
플랫폼 기업의 알고리즘은 비공개해야 한다
중앙일보가 취재한 익명의 모빌리티업계 관계자는 “알고리즘의 방향성에 대한 사회적 합의가 없는 상태에서 기업의 기술 자산인 알고리즘을 공개하고 검증하자는 요구는 우려스럽다”고 말했습니다.(2022.09.29. 중앙일보)
소비자가 만드는 신문이 취재한 익명의 업계 관계자는 “알고리즘 기준이 노출되면 기업의 영업 기밀이 노출되는 거나 다름없기 때문에 공정한 경쟁을 저해하는 것과가 같다”, “현재 배달앱 같은 경우도 일부 라이더들이 AI 알고리즘 추천과 상관없이 GPS를 조작해 단가가 높이거나 거리가 가까운 콜을 가져가는 악용 사례가 있다고 들었는데, 알고리즘 방식까지 공개되면 약용하는 이용자들이 분명 생길 것이다”라고 주장했습니다.(2021.12.16. 소비자가 만드는 신문)
💁🏻♀️플랫폼 기업의 알고리즘 공개 필요할까요? 여러분의 의견을 들려주세요!
💡플랫폼 기업의 알고리즘 공개 어떻게 생각하시나요?
📑선택지 중 하나를 고르고 댓글에 의견을 남겨 주세요!
🤔고민 되나요? 질문이나 기타 의견이 있나요? 댓글로 자유롭게 남겨주세요!
📌투표 전 함께 읽어보면 좋은 자료들
‘플랫폼 노동의 개념과 쟁점’(2021.이영주 노동문제연구소.민주주의 이슈와 전망)
‘플랫폼노동…종사자를 어떻게 보호할 것인가?’(2022.KDI 경제정보센터 자료연구팀)
‘알고리즘 투명화법과 설명요구권에 관한 연구 - 알고리즘 투명화법안의 검토를 중심으로 -’(2021.이영우 광주여자대학교.한국컴퓨터정보학회논문지)
‘플랫폼 알고리즘은 알고 계신대, 누가 ‘말 잘 듣는’ 라이더인지···‘(2022.11.02. 경향신문 조해람 기자)
코멘트
14“한정된 일감을 배분하는 기준, 앱에 접속한 라이더의 숫자와 주문량, 배달료 산정 기준 등 정보가 투명하게 공개되어야 배달노동자들이 판단할 수 있다” 라는 의견에 전적으로 동의합니다.
알고리즘을 비공개하는 것이 당연한것으로 여겨진다면 앞으로의 미래에는 우리의 개인프라이버시는 설 곳이 없을 것입니다. 기본적이며 당연한 권리입니다.
'AI가 노동자의 노동강도와 임금을 결정한다.' 이 말은 정말 섬뜩할 정도로 무서운 말인 것 같습니다. 이전에 배달 라이더 분과 이야기를 나눈 적이 있는데요. 제 시간에 배달을 가지 못하면, 이후에 배당률이 떨어져서 그 때문에라도 거절하지 못하고 위험을 감수하면서까지 빨리 달린다고 하더라구요. 실제로 이 때문에 가벼운 접촉사고도 있었다고 해요.
물론 기업의 지적재산권도 존중해야 하고, 이용자의 입장도 중요하지만, 사람의 목숨보다 중요한 게 있을까요? AI는 도구일 뿐, 결코 인간의 우위에 설 순 없습니다. 그리고 이건 AI의 문제만이 아니라 AI를 도구로 사용하는 플랫폼 기업과 이용자, 우리 모두가 간과해선 안 되는 문제라고 생각합니다.
알고리즘은 플랫폼 기업의 핵심입니다. 한 기업의 알고리즘이 공개된다면 경쟁 관계에 있는 기업은 그 알고리즘을 보면서 본인의 기업 알고리즘을 개편할 것이라는 걱정이 드는데요, 그런데 지금 나타나는 문제점들을 보면 분명 해결방법은 필요하기에 한 항목을 선택하기가 어렵네요.
이제는 AI가 인간의 효율적인 노동 시간까지 계산하는 시대라니 정말 놀랐어요. 그리고 그 과정에서 라이더의 과중한 노동 책임이 생길 수 있다는 문제도 있군요!
이렇게 AI의 개입과정에서 라이더들에게 과도한 업무량이 가는 것은 문제라고 생각하지만 그렇다고 기업의 알고리즘을 공개해야하는지까지는 아직 잘 모르겠어요. 기업의 이익과 관련된 부분이기도 하고, 아직 이런 AI 기술에 대한 논의가 충분히 이루어지지 않은 상황이라 조금 고민이 필요할 것 같습니다.
만약 그 과정에서 노동자들에게 업무에 대한 부담이 가진다면 먼저 알고리즘을 공개하기보다는 해당 플랫폼 차원에서 책임감을 가지고 노동 책임이 부과되지 않도록 새로운 해결책을 내놓아야 할 것 같아요.
그니까요;; 당연 공유해야하는 문제 같은데, 또 플랫폼이 노다지인게 돈 뿐 아니라 데이터셋들도 자산화하고, 데이터를 처리하는 방식도 자산화하고 있어서, 구글이나 메타 같은 곳도 그렇고, 아주 저런 생각이 상식이어서 '굳이 내가 왜 공유해야함, 우리 기술임'이라는 답이 아주 쉽게나오는 것 같아요. 그래서인지 카카오모빌리티 같은 곳도 비슷한 논란을 알고리즘 공개가 아니라, 배차알고리즘을 그들이 설립한 학회, 정확히는 카카오가 세운 재단이었나요... 그 곳의 연구진들을 통해서 검증하는 것이었죠? 허허;; 결국 공개되지는 않은거죠.
문제제기에 충분히 공감합니다. 하지만 기업 입장도 이해해보려고 합니다. 기업의 자산이자 영업비밀인 알고리즘을 공개한다고 했을 때 해당 기업이 받을 손실이 우려될 것이고, 해당 알고리즘을 기반으로 한 다른 기업이 시장에서 더 나은 경쟁력을 얻는다면 손실만 더 커지는게 아닐까요? 따라서 공개는 하되 어디까지 할 것인지를 노동자와 기업이 논의해야한다고 생각합니다.
기업 측에서는 알고리즘을 통해 소비자들의 소비를 빅데이터화하고 수익을 얻고 있는데, 그게 영업기밀로만 치부되고 소비자와 노동자의 권리보장 측면에서는 아무 정보도 얻을 수 없는 상황이 이해가 잘 안 가네요...심지어 그 알고리즘으로 배달 노동자들을 관리감독하고 수익구조까지 파악할 수 있는 상황인 것으로 알고 있는데, 제제님 말씀처럼 적어도 어떤 알고리즘을 통해 노동자들이 통제되고 있는지 정도는 공개되어야 한다고 생각합니다(이미..소비자 소비패턴 빅데이터는 대부분의 기업에서 정보를 가지고 있기 때문에...)
투명하고 공개하면 플랫폼 이용자도 편하고, 운영자들도 분쟁의 소지가 줄어들어서 편할 것 같은데 왜 안 할까요...?
사회적 합의가 없는 상태에서 기업만 그 정보들을 가져야 하는지. 사회적 합의가 없다면 빨리 정보를 공개해서 공론화를 시키든 아니면 사회적 합의를 하자고 기업이 나서든 해야할텐데. 소비자들의 정보만 몰래 빅데이터화 시켜서 사용하고 수익 창출하는데 사용하겠죠.
중앙일보에 언급된 저 답변은 아주 오만한 태도네요.
수익이 발생하는 곳에는 책임이 따릅니다. 알고리즘을 통해 일하는 사람을 관리 및 중개하고 그 결과로 수익이 발생합니다. 그런데 알고리즘을 공개하지 않는다면, 결국 알고리즘으로 인해 발생하는 수익만 취하고 책임은 부담하지 않는 것이 아닐까요? 알고리즘을 전부 공개할 수 없겠지만, 일하는 사람의 상황을 통제하는 내용은 공개해야 한다고 생각합니다. 기업에서 취업규칙을 노동자가 볼 수 있도록 게시해야 하는 것과 마찬가지입니다.
플랫폼 기업에게 있어 알고리즘은 핵심적인 지적재산인 만큼 전면적으로 공개할 것을 요구하는 건 무리지 않을까 싶습니다. 그러나 배달료 산정 기준 등 노동조건과 관련된 내용의 경우 노동권과 공정성의 측면에서 구체적으로 정보를 공개할 필요가 있다고 생각합니다.
첨부된 자료를 읽어보니 EU에서는 이미 플랫폼 알고리즘과 관련한 논의가 이뤄졌네요. 전면 공개가 아니더라도 이용자인 시민과 플랫폼에 노동을 제공하는 노동자가 확인할 수 있도록 공개가 필요하다고 생각합니다.
플랫폼은 모든 시민들의 핵심 소통 수단이 되는 독점적 성격을 지니게 되는 경향이 있습니다. 그 말은 곧 개인과 집단의 행위가 플랫폼으로부터 자유롭지 못하고 종속되는 경향이 발생한다는 것입니다. 그런데 플랫폼은 대부분 자본이 소유하고 있으며 이윤의 논리, 그 외의 소수의 숨겨진 의도에 의해 돌아가게 됩니다. 플랫폼의 알고리즘에 그중에서도 핵심적인 것입니다. 이러한 관점에서 대부분의 시민들이 사용하는 플랫폼의 알고리즘을 시민들이 알 수 없고 시민들에 의해 선출된 국가권력이 통제 할 수 없게 된다는 것은 반민주주의적인 방향으로 간다는 것과 다름이 없습니다. 때문에 알고리즘은 공개되어야 합니다. 다만 이 주장은 구체적인 맥락들을 고려한 것은 아니기 때문에, 어느정도를 어떤 방식으로 공개하고 운영해야 하는지에 대해서는 사회적 논의가 더 필요할 것 같습니다.