얼룩말 '세로'가 동물원을 뛰쳐나온 날

by. 💂죠셉

2024년엔 4/10 총선과 함께 연말 미국 대선까지, 우리 사회에 직간접적으로 영향을 미칠 중요한 이벤트들이 많습니다. 매일 발전의 발전을 거듭하고 있는 생성형 AI 도구들이 선거 캠페인에 어떻게 활용될지 많은 이들이 주의 깊게 관찰하고 있죠. 특히 여러 해 동안 계속 쟁점이 되어왔던 '가짜뉴스(fake news)'와 허위 정보 (disinformation)의 진화에 우려를 표하고 있는데요.

• 가짜뉴스: 뉴스의 형태를 띠고 정치적·경제적으로 수용자를 기만하는 정보
• 허위 정보: 악소문, 프로파간다, 가짜뉴스, 오도성 정보(misinformation)를 포함하는 더 넓은 범위의 개념

구글, 메타, 마이크로소프트 등 AI 산업을 주도하고 있는 20개 테크 회사가 최근 발표한 ‘2024년 선거에서 AI를 활용한 기만을 방지하기 위한 협약’은 이런 사회적 분위기를 잘 드러내고 있습니다. 시의성을 고려해 AI 윤리 북클럽도 새해를 맞이해서 <민주주의와 AI>를 주제로 책을 선정해 읽고 있습니다. 오늘 뉴스레터에선 첫 번째 책 <가짜뉴스의 고고학 (최은창 저)>을 함께 읽으며 나눈 이야기 중 일부를 소개합니다.

'가짜뉴스'는 인쇄 시대 이전부터 존재했습니다. 기술의 발전과 함께 그 형태가 변해왔을 뿐이죠. 책을 읽으며 가장 흥미로웠던 점은 생각보다 미미한 가짜뉴스의 효과였습니다. 책에서 소개한 다양한 연구 결과에 따르면 사람들은 생각보다 가짜뉴스 유포자의 의도에 쉽게 휘둘리지 않는 것으로 보입니다. 특히 소셜미디어상에서 그렇습니다. (기존 신념에 대한 확증 편향을 강화하는 측면은 분명히 있겠지만요) 그럼에도 우리가 가짜뉴스의 확산에 주목해야 하는 이유는 무엇일까요?

저거 AI잖아!

매스미디어에서 접하는 소식이 진실과 동일시되던 시절이 있었습니다. 예를 들어 1926년 영국에선 BBC에서 방영한 라디오드라마 중 ‘공산주의자들이 의회를 공격했고 빅벤이 무너졌다!’를 실제 상황으로 착각한 수많은 영국인이 패닉상태에 빠진 적도 있었다고 하네요. 이후 사람들이 매스 미디어에 익숙해지고, 자체적인 팩트 체킹이 이뤄지며 우리가 정보를 대하는 방식과 태도는 계속 변화해 왔습니다. 그 과정에서 위조가 가능한 미디어의 종류도 확대되어 왔죠.

한때 사진이 진실을 보증해 주는 증거로 기능하던 때가 있었습니다. 최근까지는 동영상이 그러한 위치였고요. 하지만 몇 주 전 OpenAI가 공개한 Sora는 이 또한 얼마 남지 않았다는 생각이 들게 합니다. 개인적으로는 이 변화를 더 일찍 예감한 사례가 떠오르는데요.

탈출한 얼룩말 '세로'가 도심을 누비는 모습. photo: 온라인 커뮤니티 발췌

작년 3월 얼룩말 ‘세로’의 일탈을 기억하시나요? 대도심 속을 활보하는 얼룩말이라니, 이 비현실적인 뉴스를 접한 많은 사람의 반응이 ‘AI잖아!’였던 그 때. 이미 우리는 어떤 변곡점에 있었던 건지도 모르겠습니다. 생생하고 자연스러운 영상을 보면서도 실제 상황이 아니라는 확신을 가진 사람들이 이렇게 많다니. 저에게는 큰 충격이었죠.

그동안 온라인상의 복제물은 인간이 경험할 수 있는 현실보다 열등한 수준이었습니다. 위조 복제할 수 있는 기술의 능력보다 인간이 직접 경험하는 현실의 선명도와 정확성이 우위에 있었죠. 하지만 그 둘이 비등해지는 시점은 멀지 않았습니다. 텍스트뿐만 아니라 이미지, 비디오, 오디오, 심지어 상호작용하는 주체까지 생성할 수 있게 되어 우리의 감각이 구별해내지 못 할 정도가 되면, 온라인상의 정보를 대하는 우리의 태도는 또 어떻게 변할까요?

우리가 '가짜뉴스', 그중에서도 AI와의 상호작용에 주목해야 하는 이유는 바로 이런 맥락 속에 있습니다. 전례 없는 스케일로 생성되어 범람하는 허위정보는 진실과 거짓의 경계를 모호하게 할 뿐만 아니라, 나아가 정보에 대한 우리의 피로도를 높이고, 결국 무관심하게 만들고 있는 건 아닐까요? 이런 미디어 환경에서 언론은 민주사회의 파수꾼 역할을 효과적으로 이어갈 수 있을까요?’ 역설적이지만 가짜뉴스의 ‘가짜’라는 단어에서 일말의 희망이 보입니다. 그건 아직은 우리가 그 너머 어딘가 ‘진짜’의 존재를 가정하고 있다는 뜻일 테니까요.

💡 그 외 모임에서 나온 질문들:

• 지난 월요일 브리프에서 소개한 테크 기업들의 협약은 워터마킹과 같은 기술적 대처와 함께 시민 사회와의 협력 등 조치를 약속하고 있습니다. 이걸로 충분한 걸까요?
• LLM 문제의 대안으로 거론되는 검색 증강 생성(retrieval-augmented generation)은 얼마나 효과적일까요?
• 개인적으로 정보가 사실임을 어떻게 확인하시나요?
• 책은 허위 정보에 관한 해결책을, 전달과 증폭의 수단인 플랫폼의 역할에서 찾습니다. 허위 정보에 관한 플랫폼 규제나 플랫폼의 자체 조치 중 효과적이었다고 느낀 것이 있나요? 

---

허위정보 시대 최고의 투자처

by. 🍊산디

‘정보의 바다 인터넷’은 여러모로 탁월한 비유입니다. 헤아릴 수 없는 규모의, 통제되지 않는 역동적인 정보 흐름이 느껴지죠. 인터넷이 누구나 이용할 수 있어야 하는 공유자원임을 나타내기도 합니다. 혐오와 거짓으로 범벅된 허위정보는 인간이 정보의 바다에 흘려보내고 있는 쓰레기일지 모르겠습니다.  개방된 공유자원에는 ‘공유지의 비극’이 발생한다는 비유 또한 탁월합니다. 이기적 인간이 공유자원을 황폐화할 것이므로 국가의 강력한 규제가 필요하다는 주장을 효과적으로 설득하죠. 그렇다면 정보의 바다 인터넷에도 공유지의 비극이 발생하고 있는 것일까요? 정보의 바다에 국가의 개입이 필요한 걸까요?

출처: Unsplash의 Majestic Lukas

공유지의 비극을 막기 위해 인류는 다양한 방법을 고안해 왔습니다. 국가의 개입은 그 중 일부에 불과합니다. 제주 바다의 해녀처럼 공동체 구성원이 직접 자원을 관리하는 모습이 보다 일반적입니다. 국가의 개입이 부작용을 초래하는 경우라면 두말할 나위 없죠. 멀지 않은 과거, 멀지 않은 이웃 나라에서 국가의 정보 통제로 치러야 했던 대가가 민주주의의 후퇴였다는 사실은 우리가 직접 정보의 바다를 가꿔야 함을 알려줍니다.

생성형 AI가 가열차게 발전한 덕분에 텍스트는 물론 이미지, 동영상도 인간이 제작한 것이 맞는지 판단하기 힘든 시절입니다. 정보의 생산-유통-소비 모든 과정이 변화할 것으로 예상됩니다. 생성형 AI가 혐오와 거짓을 증폭할 것이라는 암울한 예측이 곳곳에서 터져나옵니다. 이럴 때일수록 허위정보로부터 정보의 바다를 지키기 위해서는 그간 우리가 어떤 규범을 따라 왔는지 돌아볼 필요가 있습니다.

저널리즘은 정보의 바다를 관리하는 규범들 중 하나입니다. 저널리즘의 원칙으로 사실, 공정, 균형, 품격을 꼽은 한 언론인의 인터뷰는 깊은 인상을 남깁니다. 하지만 저널리즘이 언론사만의 것이 아닙니다. 읽고, 쓰고, 생각하며 독자도 언제든 언론사에 영향을 미칠 수 있고, 때로 놀라운 지혜를 보여주기 때문입니다. 누구나 조금씩 기자인 셈입니다.

혹자는 한국의 저널리즘을 더 이상 신뢰할 수 없다며 국가가 나서야 한다고 이야기합니다. 이건 냉소보다 자조에 가깝습니다. 저널리즘은 우리를 비추기 때문입니다. 우리의 역량이 신뢰하지 못할 수준이라는 자조를 저는 믿지 않습니다.

허위정보가 기승을 부릴 것으로 예상되는 지금이야말로 저널리즘에 투자하기 좋은 시기입니다. 혼란 속에서 사람들은 믿을 수 있는 지혜로운 정보원을 찾게 될 테니까요. 진실의 가치는 여느 때보다도 높아지고, 저널리즘이라는 드문 미덕을 갖춘 언론사만 살아남을 겁니다. 허위정보의 시대, 우리가 일군 저널리즘이 공동체의 경쟁력이 되길 간절히 바랍니다.

---

오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.

남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.