[후기] AI 시대, 민주주의 위기인가? 기회인가?

챗GPT 등장 이후, 디지털 기술의 발전, 특히 생성형 인공지능 발전으로 인해 변화 될 사회에 대한 기대감과 불안이 교차하고 있습니다. 알고리즘 정치와 정치 양극화, 구별하기 어려운 딥페이크와 허위정보의 확산, 기업의 플랫폼 및 데이터 독점, 플랫폼 노동의 확산과 일자리의 양과 질 문제 등 다양한 사회문제가 발생할 것으로 예상됩니다. 그리고 AI를 활용하여 수많은 일들을 더욱 빠르게 효과적으로 할 수 있고, 인간은 AI를 활용하여 그 이상의 일을 할 수 있을 것이라는 기대가 됩니다.

이러한 새로운 변화로 인해 민주주의의 형식과 내용에 대한 커다란 도전이 될 것이라는 우려와 도움이 되도록 활용할 수 있을 것이라는 기대가 공존하고 있는 상황은 시민사회가 디지털 기술 변화에 대해 이해하고 시급히 대응 방안을 모색해야 할 과제를 던져주고 있습니다. 

이에 생성형 AI 기술의 발전의 시대, 디지털 기술에 기반한 시장의 확장에 따른 사회변화를 이해하고, 이 변화가 민주주의에 미칠 영향과 그에 대한 대응을 공유하고 논의하는 자리를 만들었습니다. 노무현재단, 노회찬재단, 사회적협동조합 빠띠, 세교연구소, 지리산이음가 함께 모여 사회의 담대한 전환을 이뤄내고자 하는 논의의 자리들을 만들어가는 ‘민주주의랩'에서 주최한 “위기의 시대, 담대한 전환" 컨퍼런스가 11월 14일부터 5일간 진행되었습니다. “AI 시대, 민주주의 위기인가? 기회인가?”는 그 중 한 세션으로 빠띠가 주관한 세션을 기록으로 남깁니다. 

🧊🌌아이스브레이킹

우리 사회의 여러 문제를 해결하려면, 어쩌면 우리는 다른 사람들의 이야기들을 더 많이 들어야할지도 모릅니다. 그러기 위해서는 대화를 하기에 앞서 서로 편견을 가지거나, 미워하기보다는 마음을 열고 존중할 수 있어야 하겠지요. 각기 다른 사람과 무리들의 공존과 더불어 함께 더 나은 사회를 만들어 가기 위해서는 공론장은 반드시 필요합니다. 이처럼 각기 다른 별, 별무리가 모여 은하가 되듯이 캠페인즈 은하 체험을 통해 처음 만난 동료 시민과의 유대감을 만들었습니다.  

생성형AI시대, 디지털 생태계 위기와 시민사회의 대응

이광석 서울과학기술대 교수는 “AI의 열풍을 넘어서 범용적 영향력, 기술 취약성과 위험사회적 실체를 파악하고 대비할 필요가 있습니다. 또한 자원 배치와 관계의 큐레이션, 사유와 탐구의 탈숙련화라는 경향을 갖게 되었다."며 “AI는 자동화된 거대 ‘리믹스 자판기’와 흡사한데, 창의성이 섞여있지만 대체로 주류 구범과 표준화된 세계관이 반복될 가능성이 높기 때문입니다.” 또한 “여기서 발생하는 문제로는 약자와 소수 의견이 보이지 않는 것, 인간 사유 과정이 퇴화되는 것 AI 의존형 인간이 형성되는 것 그리고 노동과 환경에 영향을 미치는 반생태주의가 발생할 수 있다는 것입니다.”, “이에 시민사회의 대응으로는 AI 시민권리 공동 선언, AI 데이터 시민 공유 권리 모색, 약자 타자와 함께 하는 AI 마지막으로 기후위기 대응이 필요합니다.”라며 발제를 마쳤습니다.  발제자료 다운로드(이광석 교수)

AI시대, 민주주의를 위한 새로운 사회계약

윤형중 LAB2050 대표는 “AI 리터러시는 비판적 평가를 넘어 이를 활용할 수 있고, 개념을 알고 구현, 활용할 수 있는 능력과 변화된 사회문화를 비판적으로 인식할 수 있는 능력입니다.”, 또한 노동 등 다양한 문제가 발생하고 있는 상황에서 “전환적 사회보장, 소득분배체계, 사회보험, AI 활용 교육, 소수자 보호, 커뮤니케이션 문화, AI 규범 위한 국제적 협력체계 구축이 필요합니다."라며 인공지능으로 발생하는 문제에 대한 대안을 제시했습니다. 발제자료 다운로드(윤형중 대표)

생성 인공지능과 민주주의-탈진실사회의 디지털 시민성

구본권 사람과디지털연구소 소장은 “(지금은) 가장 많이 배운 사람들이 사는 탈진실의 시대이자 허위정보를 많이 생산하는 정치인이 인기가 높은 시대이자 디지털 기술을 활용해 누구나 쉽게 믿을만한 허위정보는 생산할 수 있는 시대입니다.”라며 “지금은 알고리즘이 보편화된 알고리즘 사회인데 눈에 잘 보이지 않습니다. 설계자와 운영자의 의도대로 작동하고 있고 알고리즘은 편향적입니다.”, “탈진실의 시대에는 너무 많은 정보가 제공되고 편향의 영향 확대되고 있습니다. 가상이 현실을 압도하는 시대입니다.”, “이에 AI 시대의 새로운 시민성, 디지털 시민성이 필요합니다. 그 해답은 교육과 제도의 변화에 있습니다.”라는 제언을 남겼습니다. 발제자료 다운로드(구본권 소장)

인공지능의 시대, 민주주의의 미래 만들기 

권오현 사회적협동조합 빠띠 이사장은 "인공지능 시대가 다가오면서 두려움과 우려가 생기고 있습니다. 민주주의가 공격받고 있고, 민주주의를 자동화 해볼까 하는 사람이 늘어나고 있습니다. 자동화에 따른 다양한 대중과 소수자가 배제 될 가능성이 있습니다.”라며 현재의 상황을 진단했습니다. 또한 “가짜뉴스가 비일비재하게 퍼지고 있는데, 이를 거짓말쟁이의 배당금이라고 할 수 있습니다. 허위정보만 문제가 아니라 진실도 허위정보로 취급하는 현상이 발생하게 됩니다. 거짓말을 하는 사람들이 배당금처럼 이익을 얻을 수 있다는 것입니다.”, “이에 대응하기 위해서 여러 행동이 필요한데, 허위조작 정보의 공격에 대응, 정책 결정의 자동화/보조적 사용을 감시, 디지털 리터러시에 대한 관점 확대와 시민 역량 확보, 집단지성과 인공지능의 역할에 대한 공론장, 민주주의에 대한 근본적이 고민, 실질적인 기술 통제력 확보를 위한 공동체의 디지털 자산화가 중요합니다.”라며 발제를 마쳤습니다.  발제자료 다운로드(권오현 이사장)

동료 시민들과 나눈 이야기

발제 후 세션에 참여한 시민들도 ‘AI, 민주주의 위기인가? 기회인가?’에 대한 토론을 나눴습니다. 참여한 시민들은 “기술 자체에는 긍정적이고, 가짜를 만드는 기술을 늘면 검증하는 기술도 늘 것. 혼란의 시기라고 생각합니다.”, “대의민주주의에서 표를 통해 의사결정하는데, 그 행위마저 AI 영향에 들게 된다면 위기가 될 것 같아요.”, “자스민혁명. 아랍의 봄 현상. 기폭제가 트위터였는데요. (인공지능이)직접 민주주의의 도구이자 새로운 민주주의가 새롭게 형성될 것이라는 큰 기대가 있습니다.”, “인공지능이라고 하는 건 기술이자 매체이기 때문에, 매체 그 자체가 민주주의라고 하는 가치를 직접적으로 구현하는 것은 아니라고 생각합니다.”, “공교육에서 성인이 되기 전, 이해관계가 생기기 전에 미리 의무교육 단계에서 기술을 통해 사회의 민주주의를 발전시킬 것인지 이야기해고 싶어요.”라는 이야기를 나눴습니다.

캠페이너 여러분은 인공지능이 민주주의의 위기라고 생각하시나요? 기회라고 생각하시나요? 댓글로 논의를 이어가주세요. 

*김재경 캠페이너의 후속 토론을 소개합니다. [AI, 민주주의의 위기인가? 기회인가?] 를 듣고, [AI, 민주주의의 '기회']를 얘기해보기