인공지능시대 민주주의는 어떤 변화를 하게 될까?
인공지능 시대 시민참여 민주주의 강화를 위한 모색
매일 진화하는 인공지능 시대를 맞이하는 것이 두려운 이유는 그동안 공론장으로 소셜네트워크가 자본에 예속된 속성으로 인해 많은 극단화 현상을 만들어 가는 것을 보면서 우리는 또 다른 갈등을 보게될까 두렵기 때문이다. 인공지능 기술의 발전은 필연적으로 우리 시대 공론장 및 민주주의 시스템(입법, 사법)에 영향을 미칠 가능성이 높다. 그런 시대가 오더라도 우리는 어떤 원칙을 가지고 인공지능 시대를 맞이해야 하는가에 대한 주제를 담고자 한다.
꿈꾸는 통신노동자 김 철회
민주주의도구로서 디지털 정보기술의 우려와 기대
디지털 정보기술은 인간에게 민주주의 도구에 적합한가? 라는 의문을 가지게 된다.그리고 현재 우리 시대는 정보기술에 의해 긍정적 측면과 부정적 측면 모두를 경험했다.
그러한 긍정적 측면에는 인터넷 기술을 통해 소통이 많아졌다는 것이고, 이러한 소통을 활성화에 따라 광고수익을 올리는 소셜미디어 기업의 경우 알고리즘기반 데이터 버블을 형성하다 보니 양 극단으로 나눠진 여론지형과 갈등상황이 극대화 된다.
이러한 현상으로 나타난 또 다른 특징은 주류언론과 반대성향 언론이 활동할 지대가 소셜미디어를 통해 형성된다는 점이다. 재미있는 현상은 기성언론이 독재권력에 충실한 국가에서는 민주화를 위한 수단으로써 역할을 하기도 하지만, 반대로 기성언론이 일정 역할을 하는 국가에서는 그 반대 극단주의를 확산하는 수단으로 작동하게 된다. 이러한 현상은 각국에서 유사하게 나타나며 갈등요소로 확대되고 있다.
또한, 이러한 소셜미디어에 대한 여론 왜곡에 대한 이슈에 대응도 못할 사이 우리는 Chat GPT-3을 만나게 되었고, 개발자들 조차 인공지능에 두려움을 느끼게 되었다. 그러나 우리는 피할수 없는 변화속에 놓여 있는지 모른다.
인간과 인공지능 간 협업
인공지능과 인간은 어떤 인식체계 속에서 협력할 수 있을까? 인간의 역할과 인공지능의 역할은 어떻게 구분되고 인간은 어느 수준까지 인공지능에 의존하는 것이 적정할까?
이러한 단초를 우리는 아래와 같이 인간 의식구조 피라미드를 통해 생각해 볼 수 있다. 의식 구조 피라미드에서 인식 및 기억, 지식 영역에 대해서는 현재 기술 기반 인공지능으로 구현이 가능한 영역이다.
이러한 정보를 통해 어떤 개인들은 주관성의 영역에서 그동안 개인의 경험 축적으로 인해 정보를 해석하는 각자의 관점이 형성된다.
이것이 바로 가치관과 비전과 같은 영역으로 확산되며, 현재로서는 수많은 사람들의 다양한 관점들이 나타나는 영역이라고 이해하면 좋을 것 같다.
객관성 영역은 그동안 소위 전문가 영역으로 알려졌던 것이지만 이러한 영역은 최근 인공지능으로 구현 가능한 영역이 되어 가면서 정보의 진실성이 중요해졌다. 정보가 왜곡되는 경우 잘못된 지식으로 왜곡되는 경우 왜곡된 주관성을 가지게 된다.
인공지능이 아무리 발전된다고 하더라도 진실 분별에는 한계가 있어 보인다. 따라서 정보 학습에서 왜곡을 방지하기 위한 인간의 개입이 필요하고 이를 통해 나온 지식을 기반으로 판단하는 주체도 인간이어야 한다.
즉 우리는 인공지능을 통해 지식영역에 대한 도움을 주는 수준이 되어야 하고 이들 지식에 대한 검증 역시 인간이 해야 한다. 그래서 인공지능 기술에서 설명 가능한 인공지능이라는 개념이 나온다.
우리가 의식구조 피라미드를 통해 우리가 그동안 주로 지식엘리트 층의 역할로 본 영역이 실은 인공지능에 의해 대체될 상황에 놓여 있다. 이 분야에는 주로 변호사, 판사, 기자와 같은 영역과 직종이 해당할 수 있다.
그러나 그보다 상위계층에 해당하는 영역이 인간 주관성 영역이라고 볼 때 인공지능 시대를 맞이하면서 인간은 좀 더 인문학적 가치와 인간성회복을 지향을 해야 한다는 것을 알수있다.
또한, 이러한 의사결정에 영향을 미치는 왜곡된 가짜 정보에 대해 경계하고 진실을 찾아내는 역할은 여전히 인간이 해야 할 몫이다.
인공지능 사법시스템
인공지능이 지식영역에서 가지는 강점 때문인지 벌써 인공지능 변호사, 인공지능 기자, 퍼실리테이터 등 과 같은 분야에 인공지능 적용 시도가 나타나고 있다. 이중 인공지능 기술은 비용대비 효과가 큰 영역에 빠른 도입이 될 가능성이 높아졌다. 특히, 변호사 비용이 부담스러운 사람들에게는 큰 기대가 아닐 수 없다.
이런 지식 기반 인공지능 기술은 특징은 뜻하지 않는 변화를 불러올 가능성이 높아졌다.
우리나라 사법제도가 유럽처럼 시민참여 재판이 도입된다면 변호사 뿐 아닌 판사 영역에도 적용될 수 있다.
특히, 미국 혹은 유럽사회에 해당하는 이야기 이지만 직업판사가 아닌 시민이 참여하는 재판에서 시민판사(게르만 모형 제도) 혹은 배심원 제도(앵글로색슨 모형 제도) 국가에서는 인공지능 도움을 받아 재판에 참여하는 시민법관 또는 배심원을 도와주는 역할로서 시민 법감정을 함께 고려한 판결을 위해 제도화 되어있다.
사실 한국사회에서 이러한 기술이 제대로 사용 되기 위해서는 제도 변화가 선행되어야 한다. (기술보다 제도 변화가 본질이다.)
유럽에서 참심제(시민이 재판장이 되는 제도) 국가에서 시민판사들이 있고, 미국 같은 배심원제국가에서 배심원으로 참여하는 시민들이 많고 시민들의 법감정이 사법판결에 반영하기 위한 선진 사법제도라고 할 수 있다.
한국에서 인공지능이 도입되기 전에 제도 선진화가 이뤄져야 하고 제도 선진화 이후 인공지능이 도입된다고 하더라도 최종적으로 인간의 책임하에 판단되고 결정이 되어야 한다는 것을 전제로 운영되어야 한다.
사법제도 측면에서도 긍정적 변화 구조를 생각해 본다면 억울한 약자에 속한 시민들에게도 공정한 사법 시스템을 생각해 볼수 있다. 예를 들어 우리 아파트 경비노동자 박 씨 아저씨가 시민판사로 겸직을 하면서 억울한 소시민들의 재판에서 판결을 하는 구조로 전환을 생각해 볼수 있다. 그분의 오랜 사회 경험이 오히려 판결에 도움이 될수 있기에 비록 법과대를 나오지 않아도 시민판사로서 인공지능 도우미에 의해 도움을 받는다면 약자들에게도 공정한 사법정의를 이룰 수 있다. 그러나 분명한것은 인공지능은 어디까지나 보조수단이고 제도의 본질은 시민참여가 보장된 사법 시스템이어야 한다는 전재를 두고자 한다.
숙의 민주주의(deliberative democracy)와 인공지능
'숙의민주주의'라는 단어는 공론장에서 민주적 절차를 기반한 의사결정을 제도화하기 위한 방안이다.
이러한 민주적 의사결정방법은 이미 일상생활 속 기업과 학교, 사회 활동단체 등 에도 사용되고 있으며 보통 퍼실리테이션(Facilitation)이라는 과정을 통해 다수 의사를 모아서 통합하고 결과를 도출하는 데 활용되고 있다.
최근 인공지능을 활용한 퍼실리테이션이 시도되고 있다. 이를 시도하고 제안하려는 OpenAI의 얼라인먼트 팀 리드인 얀 라이커(Jan Leike)는 사회적 가치 도입을 위한 제안으로 거대 언어 모델로 일관성 있게 추론 가능한 의지(CEV)를 구현하는 제안을 했다.
얀 라이커는 집단 선호도에 대한 의견을 인공지능시스템을 통해 의견을 모을 경우 실제로 인간성을 포함하는 프로세스를 설정해야 한다고 주장한다. 그렇지 않을 경우 상업적 인센티브, 즉 가장 많은 돈을 버는 조건에 의해 결정될 위험에 처할 수 있다고 한다.
따라서, 그가 주장하는 것은 인공지능을 통해 답을 구하는 것이 아닌 가치 질문에 대한 더 나은 답을 도출할 수 있는 프로세스를 제안한다. 이를 위한 핵심 아이디어로 거대 언어 모델을 숙의(熟議) 민주주의 모방 학습에 사용한다. 숙의 민주주의는 무작위로 선정된 소수의 대중이 명시적으로 숙의하는 의사 결정 또는 정책 결정 과정으로 구성원들은 복잡한 가치가 담긴 주제(예: 국가 정책 질문)에 대해 학습하고, AI 지원을 사용하여 세부 사항을 이해하고, 서로 토론하고, 궁극적으로 의사 결정에 도달한다.
이때 사람들이 가치 있는 질문을 명시적으로 숙의하는 것을 기록함으로써 이러한 숙의에 대해 대규모 언어 모델을 학습시킨 다음, 다양한 관점을 조건으로 한 모델을 통해 새로운 가치 질문에 대한 토론을 시뮬레이션할 수 있다. 이처럼 토론 시뮬레이션이 필요한 이유는 중요한 의사 결정에는 항상 사람이 참여해서 시뮬레이션을 검토 후 인간이 결정해야 하기 때문이다.
얀 라이커는 이 제안의 목표는 인간의 의사 결정이나 민주적 제도를 대체하는 것이 아니라 훨씬 더 비용이 적게 드는 근사치를 통해 의사결정을 도와주는 것이라고 한다.
이러한 얀 라이커의 주장처럼 시민들의 집단적 의사결정을 도와주는 기능은 시민의회와 같은 구조를 가지고 시민참여를 늘리는 구조에서 직접민주주의를 강화시키는 효과를 만들 수 있다.
한국사회에서도 유럽처럼 시민의회 도입과 함께 시민들의 숙의과정에서 나온 많은 토론과 의사결정 내용을 인공지능이 정리하고 요약해 주는 과정과 그 집단에서 의지를 학습하여 이를 제도 및 정책에 반영하는 형태로 직접민주주의 구조를 만들 수 있다.
민주주의의 제도에서 시민은 모든 의사결정의 주체이며 그 결정에 대해 책임을 져야 한다는 기본 사상은 변하지 않는다. 따라서 민주주의 시민은 인공지능이 학습하는 정보에 대한 편향성에 대한 관리 주체로서 의무가 있으며, 시민들의 다양한 의견을 모으는 과정에 인공지능 활용이 가능하며, 인공지능의 판단이 최종 결과가 아닌 중간 참조할 자료로서 검토 및 채택 등 결정할 부분은 최종적으로 인간이 해야 한다. 그래야만 그 결정에 대해 책임을 질 주체가 생기기 때문이다.
참고문헌 :
A proposal for importing society's valuesBuilding towards Coherent Extrapolated Volition with language modelsaligned.substack.com (https://aligned.substack.com/p...)
