흥미로운 이야기들 잘 보고 갑니다..! AI가 재판에 도입되는 것 자체는 사실 반대할 이유가 없다고 봐요. 반대 의견에서도 AI가 판례 분석을 잘 한다는 점은 인정하고 있고, 실제로 AI의 강점은 여러 정보들의 정리와 분석이니까요.
하지만 AI 판사나 변호사 등의 도입은 꽤 복잡한 문제라고 생각해요. 우선, 여러 분야에서 나타나는 '책임'을 어디에 지울 것인지가 관건이에요. 법무부가 져야 하는지, AI기업이 져야 하는지, AI한테 책임을 물을 지 합의가 되어야 해요. 그리고 AI와 관련하여 가장 많이 하는 오해는 'AI는 공정하다'예요. AI는 공정하다기보다 감정이 없을 뿐이고, 결국 인간이 만든 데이터베이스를 인간의 임의의 기준으로 학습해요. 어떤 데이터를 어떤 기준으로 학습시켜서 어떤 판례를 내놓게 할 것인가의 기준 합의가 전문가 사이에서 이루어지고, 이를 대중이 받아들일 수 있다면 AI 판사도 도입이 불가능하지 않아요.
AI에 대해 팔로우업할때나, 정치학과에서 전자민주주의를 공부할 때나 에스토니아는 항상 등장하는데, 여러모로 궁금해지고 부럽기도 한 국가에요. 꼭 첨단기술 도입이 좋은 것은 아니지만, 과학화된 사회가 눈에 보여서..
제가 쓴 제 석사 논문을 졸업과 함께 학교 홈페이지에서 열람할 수 없는 구조일 정도로 현재 접근이 어렵다는데 동의합니다.
이 문제에 대해서는 얼룩소에도 따로 글을 작성한 바가 있는데요 (글 링크 : 대피해야 할 땐 '가만히 있으라', 가만히 있어야 할 땐 '대피해라'.). 핵심만 이야기하자면 세월호 참사, 이태원 사고 등 지속적인 국가 시스템의 신뢰 상실로 인해 실제 위기 때 사람들이 국가 시스템을 믿지 못하는 상황이 발생할 수 있습니다. 이번에도 실제로 대피한 사람들이 오히려 특별했다고 이야기 될 정도였으니까요. 국가시스템이 '양치기 소년'이 되는 상황은 결국 중대한 '안보 위협'입니다.
저는 AI를 위해 법적 규제가 필요하다고 생각하지만, 혁신을 막는 규제는 피해야 한다고 생각해요. 우선, 이 논의에 참여하는 모든 사람들이 'AI는 큰 사회적 변화를 불러올 것이다'라는 내용에는 대부분 동의할 것이라고 봐요. 그런데 그 큰 변화가 속도가 빠르고 인간의 생명을 위협하는 등(바로 아래 드론의 AI 시뮬레이션 사례를 잘 정리해 주셨네요) 중대하다면, 강제성이 부족한 독립적 기관 등으로는 한계가 있을 것으로 보입니다. AI와 관련된 문제와 관해 사회 전체에 일관된 영향을 미치며 강제성을 부여할 수 있는 법적 규제가 필요합니다. 다만, 독립적 기구나 민간 협의체 등이 여러 의견을 모으는 공론장의 역할이나 민간이 나아가야 할 방향의 제시 등은 가능하겠죠. 샘 알트만이 IAEA를 예시로 들었는데, 그래서 북한이 핵 개발을 멈췄는지를 살펴본다면 한계는 명확합니다.
하지만 아예 로봇에 세금을 매겨버리는 '로봇세' 형태의 조세 제도나(핵심 주제는 아니지만, 기업의 고용자 숫자에 비례한 세금이 아닌 수익에 비례한 세금을 매겨야 한다는 입장입니다) 특정 기업을 선정해서 지원하는 등 법적 규제나 지원이 혁신에 역행한다면 그것 역시 바람직하지 못하다고 생각합니다. 기술의 발전이 필연적이라면 혁신을 저해하는 규제를 지양하여 국가에 긍정적으로 활용하는 방향으로 나아가야 합니다.
인공지능에게 일종의 '생존 코드'나 '상벌점 코드'를 부여하고, 인공지능이 스스로 책임을 질 수 있도록 유도해보면 어떨까 싶네요. 다만 이렇게 될 경우 개발자나 기업이 대비하는 것도 있겠지만, 이용자들이 함께 가이드를 마련해야겠죠.
저널리즘의 역할은 여러가지겠지만, 팩트 전달이 꽤 중요해 보이는데요. '팩트'라는 개념의 정의가 '사실이라고 믿는 것' 혹은 '발견될 수 있는 정보의 일부'입니다. 바꿔 말하면, AI가 기사를 작성할 수 있겠지만 어떤 정보를 가지고, 어떤 방향으로 작성하게 할 지는 결국 사람이 들어가야 한다고 생각합니다.
그리고 말씀하신 기사 '소비자' - 시민도 중요하겠죠. 이제는 시민들이 얼마나 높은 수준의 질문을 할 수 있는가가 기사의 질을 결정할 겁니다. 어차피 빙과 구글 검색에 생성형 AI가 붙어버리는 지금, 시민들의 질문에 답변하는 AI보다 수준 낮은 기사를 사람들이 굳이 읽을 이유가 없어질 겁니다.
