해외 소셜 미디어 플랫폼 기업의 ‘혐오산업’이 가능한 구조적 이유

2023.09.27

647

참여연대는 특정 정치세력이나 기업에 종속되지 않고 오직 시민의 힘으로 독립적인 활동을 하는 시민단체입니다. 정부지원금 0%, 오직 시민의 후원으로 투명하게 운영됩니다.

청년참여연대 2023 바위치기 팀에서는 해외 플랫폼 기업의 혐오산업에 대응하는 활동을 전개합니다! 더 많은 시민들에게 문제를 알리기 위해 만화, 영상, 뉴스 기사 콘텐츠를 제작하고 있는데요, 오늘은 뉴스 기사를 준비했습니다!

해당 기사는 오마이뉴스와 청년참여연대 홈페이지에서도 확인할 수 있습니다.

해외 소셜 미디어 플랫폼 기업의 ‘혐오산업’이 가능한 구조적 이유

유튜브 시장이 나날이 활성화되고 있다. 남녀노소 세대를 불문하고 유튜브를 시청하는 만큼 유튜브의 인기는 공고해졌으며 유튜브는 어느 순간 우리의 ‘필수템’으로 자리 잡았다.

7월 26일, 와이즈앱·리테일·굿즈가 발표한 안드로이드, iOS앱 사용자를 대상으로 조사를 진행 후 <2023년 모바일 앱 결산>을 발표했다. 발표에 따르면 국내 최다 이용 어플은 1위, 카카오톡, 2위 유튜브, 3위 네이버다. 그러나 가장 오래 사용한 어플로는 유튜브가 1위를 차지했다. 사용 시간은 월평균 971억 분으로, 카카오톡(347억 분)보다 2배 가까이 높다.

유튜브는 사용자가 많은 만큼, 혐오표현, 사이버불링, 가짜뉴스 등 문제되는 콘텐츠 또한 많다. 유튜브 내 약자를 대상으로 한 자극적이고 선정적인 혐오 표현이 수익을 창출하는 구조로 자리 잡았다. “튈수록 돈을 번다, 자극적이어여 수익창출이 된다” 라는 미명하에 유튜브 내 혐오표현은 거리낌없이 사용되고 있다.

2022년 11월 발표한 청년참여연대 ‘유튜브 감시 보고서’에 따르면 실시간 스트리밍한 콘텐츠 120개에서 여성 혐오·선정성 이미지 또는 문구·욕설·소수자혐오 등이 포함됐다. 이 중 59개 영상에서 6877만 633원의 수익(실시간스트리밍 수입) 발생이 확인됐다.

출처=청년참여연대 <유튜브 감시 보고서>

특히 지난 8월 31일, 김민정 한국외국어대학교 미디어커뮤니케이션학부교수는 청년참여연대와의 서면 인터뷰를 통해 “1)혐오표현 공격 대상이 되는 집단에 속한 개인의 인권, 존엄성을 심각하게 침해할뿐만 아니라 2)그 집단이나 그 집단의 구성원에 대한 차별과 폭력행위(증오범죄 등)를 정당화, 조장, 강화하는 효과를 낳을 수 있다. 또한 혐오표현은 3) 사회적 신뢰를 저하하고 4) 사회 갈등을 고조시키며 5) 다양성과 포용성 증진을 방해하여 6) 민주주의 작동을 불가능하게 만든다”라고 했다.

대안 마련을 위한 국내 입법 동향, 문제상황 직면

이와 관련해 정치권은 다양한 법안을 제시했다. 더불어민주당의 윤영찬 의원은 2020년 정보통신망법 개정안 발의했다. 법안의 핵심은 피해자들이 유튜버에게 손해배상을 청구할 수 있도록 하자는 것이 골자다.

특히 정보를 생산한 유튜버에게 고의·중과실이 없음을 입증하도록 하고(증명책임의 전환), 배상액은 손해액의 3배까지 결정하도록 하는 것(징벌적 손해배상)이 핵심인 법안이다. 하지만 법안은 현재 상임위원회에서 계류 중이다.

이태규 국민의힘 의원이 1월 정보통신망법(정보통신망 이용촉진 및 정보보호 등에 관한 법률) 개정안을 대표로 발의했다. 국가·인종·성별·연령·직업 등을 이유로 차별하거나 편견 또는 혐오감을 유발하는 정보의 유통을 방지하는 것이 이 법안의 골자다. 그러나 발의는 4일 만에 철회됐다.

그러나 두 법안 모두 혐오표현을 사용하고 유통한 개인을 처벌하는 내용일 뿐이다. 이용자 개인 처벌 방식은 플랫폼 기업의 구조적인 혐오산업 문제를 해결하기 어렵다. 결국 혐오콘텐츠를 방관하고 이로써 수익을 얻는 플랫폼 구조를 변화시켜야 한다.

외국의 경우는 어떠할까?

유럽은 디지털서비스법(DSA)을 지난 2022년 11월 16일 공식 채택했다. 이 법안의 경우 빅테크 기업(대형 IT 기업)이 혐오 발언, 테러 선동, 아동에 관한 성적 학대 등 유해 콘텐츠를 잡아내지 못하면 글로벌 매출의 최대 6%에 달하는 벌금을 부과한다.

독일의 경우 ‘소셜네트워크 내 법 집행 개선을 위한 법률’을 제정, 2018년부터 사회관계망서비스(SNS) 상 혐오표현에 대해 온라인 플랫폼 기업에 관리책임을 부여하고, 게시물 작성자를 처벌하는 규제를 시행하고 있다. 이는 페이스북이나 유튜브 등 SNS에 특정 대상을 증오하는 내용이 담긴 ‘혐오 콘텐츠’가 올라오면 업체 쪽이 의무적으로 삭제해야 하는 법이다.

답답한 국내 입법 상황 속 하루빨리 혐오산업 규제법이 통과하기 위해선 국민의 지지는 필수적이다. 어떻게 하면 혐오산업 규제법이 국민의 지지를 받게 얻어 낼 수 있을까?

김민정 교수는 “대중에게 혐오 표현의 위험성, 규제의 필요성을 널리 알리는 교육/인식 캠페인을 진행하고, 특히 실제 사례를 통해 혐오 표현이 실제 생활에 미치는 영향을 보여줌으로써 이해와 지지를 얻어낼 수 있다. 소셜미디어 캠페인, 사회적으로 영향력이 있는 인물이 지지를 표명하도록 하는 것 등도 효과적일 것이다”라고 설명했다.

또한 “여러 단체가 혐오 표현규제법의 필요성을 주장하는 연대, 공동 운동을 조직하고, 혐오표현규제법이 모든 개인의 권리와 안전을 보호하는 방안임을 강조해야 한다”라고 역설했다.

청년참여연대는 2020년도부터 온라인 플랫폼 기업의 혐오와 차별 콘텐츠에 대응하는 활동을 전개했다. 활동을 할 수록 느끼는 것은, 온라인 공간에서 유통되는 혐오와 차별은 지극히 구조적인 문제라는 것이다. 혐오표현으로 자극적인 콘텐츠를 생산하는 것도, 알고리즘을 통해 이런 콘텐츠를 접하는 것도 모두 플랫폼 생태계의 구조 속에서 일어난다.

플랫폼 구조가 그런 모습을 유지하고 있는 이유는 이것이 기업 입장에서 ‘수익’이 되기 때문이다. 이용자 개인 처벌 방식은 플랫폼 기업의 구조적인 혐오산업 문제를 해결하기 어렵다. 결국 혐오콘텐츠를 방관하고 이로서 수익을 얻는 플랫폼 구조를 변화시켜야 한다.

*다음 글에서는 국정감사에 구글코리아의 태도, 그리고 자율규제의 허술함을 다룰 예정입니다.