2023년 11월 21일 화요일 저녁, 참여연대에서 “알고리즘이 지배하는 자동화 시대의 미디어와 공론 형성”이라는 주제로 시민사회단체들이 모여 논의했습니다. 이번 논의는 ‘대담한 대화’ 주최로 참여연대, 사회적협동조합 빠띠, 진보네트워크센터 구성원들이 함께 했습니다. 활동가와 변호사, 연구자 등이 모여 알고리즘을 통한 자동화가 우리 삶에 어떤 영향을 끼치고 있는지, 이를 해결하기 위해 어떤 대응이 필요한지 논의하는 시간을 가졌습니다. 현장에서 나온 이야기들을 더 많은 시민과 나누기 위해 논의 내용을 간략하게 정리했습니다.
자동화된 의사결정, 시민이 확인할 수 있어야
우리가 인식하지 못하는 사이에 알고리즘은 우리의 삶에 깊숙이 들어왔습니다. 유튜브, 넷플릭스의 콘텐츠 추천부터 티맵, 카카오맵 등 길 찾기 애플리케이션까지 많은 분들이 사용하고 계실 텐데요. 일상에서 자주 마주하는 이 일들에는 알고리즘이 우리의 결정에 영향을 끼치고 있습니다. 이런 경우를 ‘자동화된 의사결정’이라 부를 수 있습니다.
그렇다면 우리는 어떤 알고리즘들이 어떻게 우리의 삶에 영향을 미치는지 정확하게 알고 있을까요? 애석하게도 그렇지 않습니다. 시민들이 인식하고 있지 못한 ‘자동화 된 의사결정'들이 민주주의를 점차적으로 좀먹어 가고 있다는 문제의식을 가져야 할 필요가 있다는 것입니다. 이번 논의에서는 알고리즘에 의해 자동화된 의사결정 사례들을 공유하고, 어떻게 시민들에게 알릴 수 있을지를 함께 고민했습니다.
논의 과정에서 우리가 인지하지 못한 자동화된 의사결정의 사례들이 언급됐는데요. 대표적으로 소셜커머스 기업 쿠팡의 가격정책이 있습니다. 쿠팡은 자사의 멤버십 서비스 쿠팡와우를 구독하고 있는 이용자와 그렇지 않은 이용자에게 같은 물건을 두고 다른 가격으로 판매해 논란이 되었는데요. 멤버십 서비스를 구독하지 않은 이용자에게는 가입을 유도하기 위해 낮은 가격을 제시하고, 이미 멤버십 서비스를 구독한 이용자에겐 높은 가격을 제시하는 사례가 발견됐기 때문입니다.
이뿐만 아니라 자동화된 의사결정이 알고리즘, 인공지능의 등장 이전에도 존재했다는 의견도 나왔습니다. 예를 들어 자동차 보험의 경우 연령이 낮은 남성에게 더 비싸게 적용되는 사례가 있습니다. 논의를 통해 자동화된 의사결정은 우리 삶의 여러 분야에서 영향을 끼치고 있다는 공통된 문제의식이 생겼고, 이를 해결하기 위해선 실제 사례를 정리해 알고리즘 팁스와 같이 ‘시민들이 자동화된 의사결정 목록을 확인할 수 있도록 해야 한다’고 의견을 모았습니다.
알고리즘은 영업 비밀일까?
반면 상반된 반응이 나오는 주제도 있었는데요. 바로 기업의 알고리즘을 어떻게 볼 것인지에 대해서입니다. 알고리즘이 기업의 영업비밀에 해당한다는 의견과 해당하지 않는다는 의견으로 나뉘었습니다.
‘영업비밀에 해당한다’는 의견은 기업의 알고리즘은 영업 비밀일 수 있지만 언제나 무조건적으로 보호받아야 하는 것은 아니라는 주장이었습니다. 알고리즘이 시민들의 삶에 영향을 미치고 있기에 적절한 범위 내에서 공개할 수 있도록 제도를 마련해야 한다는 것입니다. 일본의 독점 플랫폼 규제법 등 세계적인 알고리즘 규제가 투명성과 공정성을 중심으로 이뤄지고 있기 때문에 한국에서도 투명성을 확보하기 위한 의무를 부과하는 방향의 접근이 필요하다는 설명이 이어졌습니다.
‘영업기밀에 해당하지 않는다’는 의견은 알고리즘 자체만으로는 영업 비밀로 볼 수 없고, 알고리즘을 기업의 영업 비밀로 규정할 경우 문제점을 확인하기 어렵다는 문제의식이 주요 내용이었습니다. 현재도 개인정보, 영업비밀 등의 이유로 정보공개청구, 소송 등에서 공개하지 않는 정보들이 있는데 알고리즘을 영업 비밀로 규정할 경우, 알고리즘으로 인해 발생하는 문제를 확인할 수 없다는 점이 핵심이라는 시각이었습니다.
알고리즘을 기업의 영업 비밀로 봐야 하는지에 대해서는 결론을 내리지 못했습니다. 하지만 두 의견 모두 기업의 알고리즘으로 인해 발생하는 문제들이 있다는 점에 대해서는 공감대를 형성했습니다. 어떤 방식으로 해결해 나갈 수 있을지 사회적 논의가 시급합니다.
급속도로 발전하는 기술을 어떻게 규제할 것인가
챗 GPT를 비롯한 생성형 인공지능의 등장은 우리 삶에 새로운 기술이 어떻게 영향을 미칠 수 있는지를 보여주고 있는데요. 동시에 인공지능으로 인해 발생할 수 있는 문제들을 어떻게 규제해야 할 것인지에 대해 전사회적으로 시급하게 논의해 나가야 한다는 문제의식이 대두했습니다. 이번 논의에서도 디지털 기술의 규제에 대한 이야기가 나왔습니다.
규제에 대한 논의는 현상을 분석하는 것부터 시작하는데요. 이번 논의에서는 규제의 도입 이전에, 인공지능, 알고리즘의 발전 속도를 고려해서 접근할 필요가 있다는 주장이 나왔습니다. 현재의 기술이 급속도로 발전하고 있고, 심지어 기술을 개발하는 기업조차 예측이 불가능한 상황임을 고려해야 한다는 건데요. 이를테면 검색 알고리즘을 개발해 도입한 기업에서도 특정 키워드의 검색 결과를 예측할 수 없다는 것을 예로 들 수 있을 것입니다.
기업의 알고리즘 공개와 관련해서도 비슷하게 볼 필요가 있다는 의견도 있었습니다. 알고리즘을 개발하고 있는 기업에서도, 알고리즘이 발전해 나가는 과정에서 여러 알고리즘들이 얽히고 복잡해지기 때문에 알고리즘을 모두 이해하지 못하는 상황이 된다는 것입니다. 그렇다면 알고리즘을 투명하게 공개하더라도 해석하는 것이 불가능해진다는 우려였습니다.이와 같은 고민들을 바탕으로 알고리즘과 인공지능에 대한 규제 방향이 논의되어야 한다는 의견입니다.
이는 앞서 이야기 된 논의와도 관련지어 고민 할 필요가 있습니다. 기술 발전 속도는 빠르지만 제도의 규제는 느리기 때문에 발생하는 문제들을 고려 했을 때, 시민들이 자동화된 의사결정을 인지할 수 있도록 하는 것을 우선해야 한다는 주장입니다.
이번 논의를 진행하며 여러 관점의 차이에도 불구하고 현재 상황에서 보다 많은 시민사회 구성원들이 디지털 기술의 발전에 따른 사회변화를 함께 톺아보며 연결과 협력을 만들어 갈 필요가 있다는 것에 의견을 모았습니다.
알고리즘 등은 디지털 세상에 살고 있는 시민의 일상에 많은 영향을 주고 있고 정치, 사회, 문화 현상으로 드러나고 있지만, 기업은 기술적 측면만을 고려하는 경향이 확연히 강화되고 있기 때문입니다. 반면 시민사회에서는 기술적 이해 없이 디지털 변화에 따른 정치사회적 문제들을 따라잡기 어려워하는 상황에 처해 있기도 합니다. 학계와 언론 및 미디어뿐만 아니라 시민사회가 알고리즘과 인공지능 등 디지털 기술에 대해 이해하고 관련하여 발생하는 문제들에 대해 시민들에게 알리는 시민사회의 역할에 있어 다방면의 협업이 이루어져야 한다는 것입니다.
이 한 번의 논의로 바로 정답을 얻을 수는 없겠지만 새로운 디지털 기술의 등장과 발전에 학계와 언론계, 시민사회가 함께 기민하게 대응할 필요가 있다는 문제의식을 다시 한 번 확인하게 됩니다.
코멘트
2