[AI, 민주주의의 위기인가? 기회인가?] 를 듣고, [AI, 민주주의의 '기회']를 얘기해보기.

2023년 11월 15일 저녁 7시부터 노무현시민센터 다목적홀에서  '[민주주의랩] AI, 민주주의의 위기인가? 기회인가?' 라는 내용으로 컨퍼런스가 진행되었다. 필자 역시 직접 참여하려고 신청하였으나 환절기 감기로 참여하지 못해 아쉽지만 유튜브 생중계 형태로 참여하였고, 후속 토론을 캠페인즈에 올리고자 한다. 이번 컨퍼런스 발제들의 핵심 주장을 굳이 한 문장으로 요약해보자면 'AI는 민주주의에 주로 여러 위기를 가져올 수 있으며, 이를 위해 같이 해결책을 논의하고 협동해야 한다'이다. 즉, 컨퍼런스 제목에 대한 대답은 이미 AI는 민주주의에 위기로 결론이 났다. 

나 역시 대체로 이 내용에 동의한다. 인터넷의 발전 - SNS의 발전으로 이어져온 기술 발전의 짧다면 짧고 길다면 긴 역사에서도 확인할 수 있는 내용이고, 가짜 뉴스에 대한 내용, AI가 재생산할 기존 인간의 편향 등을 고려해도 민주주의에 큰 위협이 될 것으로 보인다. 하지만 네 분의 발제에서 AI가 민주주의에 가져올 기회에 대해 덜 다루어진 것 같아, 소수 의견으로 보완해보고자 한다.

1. 사유와 탐구의 탈숙련화 강화, 뒤집으면 비숙련의 보완도 가능하다.

첫 번째 발제자이신 이광석 서울과학기술대학교 교수님께서 인공지능이 가져올 문제점 중 하나로 '사유와 탐구의 탈숙련화'효과에 대해 말씀해주셨다. 쉽게 풀어서 설명하면, 'AI에게 물어보고 나오는 대답을 비판 없이 그대로 받아들이게 될 것이기 때문에, 사람들의 생각하는 힘이 약해지지 않을까?'라는 문제제기다. 

필자 역시 이 문제제기에 동의한다. 하지만 직접 ChatGPT를 포함한 생성형 AI를 활용하는 입장에서, '사유와 탐구의 탈숙련화'를 가져오게 할 수도 있지만, 반대로 '비숙련된 분야의 사유와 탐구 숙련화'에 도움을 줄 수도 있다. 예를 들어, 지난번 필자가 캠페인즈에 올린 '고도로 발달한 AI는 인간으로 볼 수 있을까요?' 글을 작성하는 과정에서, 부족한 철학 분야의 지식을 ChatGPT와의 대화로 보충하였다. 다만, 교수님이 지적하신대로 '사유와 탐구의 탈숙련화'가 일어날 것을 우려하여, 일부러 한 번씩 ChatGPT가 제시한 철학자들의 이름을 검색해보는 검증 과정을 거쳤다. 비록 AI의 출력물을 검증의 과정을 거쳤지만, '사유와 탐구의 탈숙련화'를 경계하면서 '비숙련 분야에서 사유와 탐구의 숙련화'를 AI가 도와줄 수 있다고 생각한다. 

2. AI의 '속도가 문제', 하지만 '속도가 장점'

발제자들이 지적한 '가짜뉴스의 확산', '환각 현상', '편향의 재생산'등은 사실 AI 이전에도 인간 사회에 문제가 되었던 내용들이다. 가짜 뉴스는 삼국유사에 기록되어 있는 '서동요'에서도 나온다. 현대 시대의 정치인, 연예인을 두고 가짜뉴스로 스캔들을 낸 것과 다름이 없다.

 “선화공주님은/ 남 몰래 정을 통해 두고/ 서동 도련님(薯童房)을 / 밤에 몰래 안고 간다.”

이보다 더 오래된 기록에서도 아마 가짜 뉴스의 찾아볼 수 있을 거다. 또한, '날씨가 안좋으면 왕 탓'은 어찌보면 기존 인간이 도출하는 '환각 현상'의 거짓이다. 그렇다면 옛날 옛적부터 있어온 사회 문제들이 왜 AI의 문제, 그것도 민주주의의 위기로 작동하는 문제일까? 그것은 바로 AI의 '속도'와 '편의성'이 기존 인터넷과 궤를 달리하기 때문이다. AI의 최대 능력은 '빠르고 길게 특정 결과물을 출력'하는 것이다. 이 속성으로 인해 ChatGPT를 포함한 AI가 '세종대왕이 맥북을 던지는' 대답과 같은 환각 현상을 보이고(지금은 당연히 고쳐졌고, 심지어 ChatGPT는 이제 이런 질문이 '적절하지 않다'고까지 발언한다)가짜 뉴스의 생산과 확산, 기존 차별적인 내용을 편향적으로 재생산하는 문제 등이 '가속화'되어 더 빠르고 많이 발생하고 전파되는 문제가 있다. 이에 대한 해결책은 3번에서 짧게 다루겠다.

여기서는 AI의 빠른 '속도'가 민주주의에 기회가 될 수 있는 관점을 제시하고자 한다. 바로 AI가 가짜뉴스 생산 등의 민주주의를 위협하 행동 뿐만 아니라 자료 정리/검색 등 민주주의에 유익한 활동에 있어서도 속도가 빠르다는 것이다. 자료 검색의 경우 3번에서 더 자세히 제시하겠지만, 1번에서 제시했던 사례와 연결지어 생각하면, AI는 정말 많은 내용을 인간보다 훨씬 빠르게 검색할 수 있다. 기존 인터넷 검색과 다른 점은, 인간이 직접 인터넷으로 검색할 때는 불가능한 검색량과 정리를 단시간 내에 수행할 수 있다는 점이다. 이는 민주주의를 위해 필요한 '숙의'과정에 분명히 도움을 줄 수 있다. 

자료 정리의 경우, 단적인 예시지만 Notion AI등을 활용할 경우, 기존 오랜 시간이 걸리던 신문 기사 스크랩 및 정리를 매우 빠른 시간 내에 해결할 수 있다. 직접 작성한 Notion AI 사용법 글에서 가져온 자료 화면 중 하나인데, 웹페이지에서 버튼 하나를 클릭하면 노션에 자동으로 웹페이지 스크랩이 되고, 이를 표로 드래그해 옮기기만 하면 자동으로 해당 글의 키워드 추출, 내용 요약, 글 링크, 스크랩 날짜까지 자동으로 정리해준다. 앞으로는 이보다 더 혁신적으로 민주주의 발전에 도움을 줄 수 있는 빠른 AI 툴,기능들이 등장할 것이다.

3. AI를 만드는 건 여전히 인간! - 권오현 빠띠 대표

AI가 민주주의의 기회가 될 수 있는 강력한 근거를 권오현 빠띠 대표가 발제에서 제시하였다. ChatGPT가 농담을 하였다고 돌아다니는 이미지를 소개하며, 여전히 AI를 만드는 건 인간이라는 점을 언급했다. 그렇다면 여전히 사람이 어떻게 만드느냐에 따라 발제에 나왔던 여러 사례처럼 편향적이고 가짜 뉴스를 만드는 AI가 나올 수도 있고, 소수 의견을 반영하고 스스로를 검토하게 하는 AI를 만들 수 있지 않을까? 

실제로 MIT Technology Review에서 나왔던 기사에 따르면, 인간 피드백 기반 강화학습으로 학습시킨 대형 언어모델이 ‘편향적이지 않은’ 결과물을 생산하도록 요청하는 것만으로 결과물에서 놀라울 정도로 긍정적인 효과 즉, 편향적이지 않은 소수의 의견을 반영하는 결과가 AI의 출력물에 나타나는 것을 발견했다. AI가 대량으로 학습한 내용에는 인터넷 어딘가에 있는 '편향을 교정하려는 시도', '소수자를 존중하는 시도' 역시 포함되어 있다. 어쩌면 인간에 의해 덜 편향적으로 AI가 작동할 방법이 있다는 건, 윤형중 LAB2050대표가 말한 'AI가 커먼즈에서 비롯된'덕분에 가능한, 인류의 커먼즈의 기회다.

또한 민주주의에 위협이 되는 가짜뉴스 역시 AI로 잡는 시도를 해볼 수 있다고 생각한다. 아직 베타 버젼이지만, 필자는 최근 출시된 GPT Builder로 'Fact Check AI'를 만들고 있다. 목표는 빠띠의 멋진 그룹 중 하나인 K.F.C.(치킨Korean Factcheckers’ Community)수준에 근접하게 팩트를 점검하는 AI를 코딩 없이 만드는 것이다. 실제로 베타 버젼의 Fact Check AI에서 다뤄진 [팩트체크] 최저임금보다 실업급여를 더 많이 받는다?를 물어본 결과, 단순 정보 뿐만 아니라 점검할 수 있는 일부 내용을 함께 제시하고 있다. 뿐만 아니라, 설정한 단계에 따라 기존 주장에 반대되는 주장을 한번 더 검토하는 과정, 4단계에서 앞선 단계를 모두 검토하는 모습도 볼 수 있다. 물론 K.F.C.에서 진행한 팩트체크처럼 비정규직 노동자의 실업급여에 대해서는 다루지 못하는 한계를 보였지만, 제시된 사실에 대해 꽤 높은 퀄리티로 빠르게 검토할 수 있다는 점은 장점이다. 잘 다듬으면 많은 사람들이 가짜 뉴스에 대해 빠르고 편하게 반박할 수 있는 도구가 개발될 수 있지 않을까 싶다. 

더 나아가, 권오현 대표가 말한 대로 결국 '기술을 소유'해야만 AI가 민주주의를 위한 기회로 활용될 수 있다. 필자 역시 이에 동의하며, LLM(Large Language Model)이나 LMM(Large Multi Modal)으로 사회 문제를 해결하기 위해선 시민사회를 위한 AI가 필요하다고 생각한다. 다행히 오픈 소스 기반의 AI도 성능이 빠르게 상승하고 있기는 하나, 이를 활용할 컴퓨팅 파워는 시민 사회에 있어서 아주 비싼 값을 지불해야 하는 상황이 발생한다. 시민을 위한 AI를 위해 시민 사회가 뭉칠 수 있길 바라며, 이를 기반으로 사회적 AI, 시민을 위하는 AI가 개발될 수 있길 바란다.