혹시라도 뉴스를 읽다가 지쳐버릴까봐서!

뉴스를 읽다가 지쳐버릴까봐 쓰는 글

by. 🍊산디

AI 디지털 교과서 도입에 대한 MBC의 [집중취재]가 눈에 띄어 기대를 품고 읽기 시작했습니다. 🦜AI 윤리 레터에서도 소개된 바 있는 있는 이슈이지요. 이주호 교육부총리가 “우려를 충분히 잘 제어하면서 진행하면 전세계적으로 주목받을 것”이라고 말한 정책이기도 합니다.

초등학생을 대상으로 시행되는 AI 정책입니다. 무엇을 보호해야 하며 어떻게 보호할 수 있는지 더 많은 고민과 논의가 필요한 분야죠. [집중취재]라고 하여 그간 미진했던 논의들을 살펴보는 보도일거라 기대했지만, 아니었습니다. 빛나는 미래가 성큼 다가온 듯한 교실이 그려졌을 뿐, 학생들의 정보인권과 AI 디지털 교과서가 미칠 영향은 다루어지지 않았습니다.

다른 지면을 빌려 다루기도 했습니다만, AI 디지털 교과서에 대해 따져 물어야 할 질문이 참 많습니다. UNESCO의 <인공지능과 교육-정책입안자를 위한 지침>은 마침 교육 분야에 AI를 적용할 때 어떤 질문들을 따져보아야 하는지 다음과 같이 친절히 안내합니다.

• 학습 데이터를 윤리적으로 수집 및 활용할 수 있는 경계는 어디까지인가? 그 기준은 무엇인가?
• 학교, 학생, 교사가 데이터 수집을 거부하거나 대항할 수 있는 방법은 무엇인가?
• 인공지능의 처리 결과를 쉽게 알 수 없다는 것은 어떤 의미인가?
• 기업과 공공기관은 어떤 윤리적 의무를 지는가?
• 학생들의 일시적인 흥미, 감정과 학습 과정의 복잡성을 고려했을 때 인공지능은 어떠해야 하는가?

사진: Unsplash의Good Good Good

AI 디지털 교과서를 담당하는 공무원과 교사, 기업 관계자 분들이 위 질문에 대한 답을 가지고 있는 것일까요? 설령 나름의 해법을 가지고 있다 하더라도 그 내용은 학부모와 학생들에게 공유되어야 마땅합니다. 만약 답을 찾아가고 있는 과정에 있다면, 그 과정 또한 공유되어야 합니다. 질문과 해법을 찾아가는 과정을 공개하는 것이 언론의 역할입니다.

많은 언론 보도는 AI가 가져올 경쾌한 미래를 그리는 데에 초점을 맞춥니다. 정부나 기업의 보도자료를 그대로 전하거나, 기술의 장점만을 부각하여 전하는 보도는 굳이 인용하지 않아도 숱하게 찾아볼 수 있습니다. 하지만 모든 보도가 AI 디지털 교과서에 관해 아무것도 묻지 않는 것은 아닙니다. 그리고 저는 제 역할을 해낸 보도에 더 많은 조명이 비추어져야 한다고 생각해요.

다음은 AI 디지털 교과서를 비판적으로 다룬 보도들 중 일부입니다.

• 국민일보는 교과서의 데이터가 엄밀히는 사교육업체에게 제공되며, 교육청 관계자들 사이에서도 이견이 있고, 의견수렴이 미진함을 지적합니다. 교과서 이용에 “동의하지 않는 학생의 수업을 어떻게 할 지는 검토해보지 않았다”는 교육부 관계자 인터뷰 내용을 인용하기도 했습니다.
• 경향신문은 AI 디지털 교과서 정책이 알고리즘 편향을 비롯해 AI 사용 시 발생하는 윤리적 쟁점을 충분히 다루지 않은 채 ‘속도전’을 치르고 있음을 비판했습니다. AI 디지털 교과서 도입에 대한 7명의 교사의 의견을 인터뷰한 내용을 소개하기도 했습니다.
• IT 조선은 AI 디지털 교과서가 클라우드 컴퓨팅 보안인증에서 난항을 겪고 있다는 사실과 함께 장애, 다문화, 기초학력 등 학생들의 다양한 특성을 고려한 보편적 학습설계도 중요한 문제가 될 것임을 지적합니다.
• [집중취재] 보도가 있었던 바로 다음날, MBC 역시 AI 디지털 교과서가 문해력을 해칠 수 있다는 우려의 목소리를 전했습니다.

이외에도 많은 언론인들이 문제의식을 안고 해당 이슈에 접근하고 있을 것입니다. 제가 소개해드리지 못한 보도도 많구요. 그러니 한국 언론인들은 문제의식이 없다고 비판하는 게 아니라, 언론 조직의 의사결정 과정과 보도 구성의 논리를 어떻게 개선할 수 있을지 고민해야 합니다. AI와 같은 기술을 다루기 위한 내부적인 가이드라인이 도움이 될 수 있을 겁니다. 만약 AI 보도 가이드라인을 논의하게 된다면 🦜AI 윤리 레터가 제시했던 ☑️ AI 하이프 뉴스 체크리스트가 도움이 되었으면 합니다.

퓰리처 재단이 ‘인공지능을 취재하는 언론인을 위한 스포트라이트 시리즈’에서 이야기하는 것처럼, 언론 또한 AI를 공개, 조사, 설명하는 책임을 집니다. 비단 AI 디지털 교과서뿐만 아니라 기술 정책 이슈를 다루는 과정이 보다 풍성한 물음으로 가득차기를 간절히 바랍니다.

🦜함께 읽으면 좋을 글

• AI 교과서는 우리 아이 데이터 채굴기?(2024-01-29)
• 외부인의 'AI 디지털교과서' 단상(2024-02-21)

---

우주 정복과 영생의 꿈은 TBC!

by. 💂죠셉

오늘 레터는 작년 여름 무렵부터 테크 커뮤니티에서 언급되기 시작한 화제의 단어로 시작해 보려 합니다. 바로 TESCREAL (‘테스크리얼')인데요. 저희 레터에서도 종종 언급되는 AI 윤리학자인 팀닛 게브루와 에밀 토레스가 처음 만들고 홍보해 온 이 단어는 Transhumanism (초인간주의), Extropianism (무한생명주의), Singularitarianism (특이점주의), Cosmism (우주론), Rationalism (합리론), Effective Altruism (효과적 이타주의), Long-termism (장기주의)라는 일곱 개의 이념을 통칭합니다. (*💂 각 개념을 설명/이해하는 게 오늘 레터의 목적은 아니니 링크 첨부로 대신합니다.)

AI 윤리의 관점에서 TESCREAL이 흥미로운 이유는, 테크 업계의 거물들이 AI에 대해 취해온 입장에 대해 중요한 문제 하나를 지적하고 있기 때문입니다. 왜 그들은 특이점과 초지능의 등장으로 인한 인류 멸망 시나리오에 대해서는 열정적으로 발언하면서 정작 AI의 편향성과 환경문제와 같은 ‘당장 직면한 문제들’에 대해서는 침묵하는 걸까요? 게브루/토레스는 일론 머스크와 샘 올트먼을 비롯한 테크-유토피아 주의자 중 상당수가 사상적으로 TESCREAL 진영에 속해있다는 점을 지적함으로써 이에 대한 흥미로운 대답을 내놨습니다.

AI 씬에서 활발한 활동을 이어가고 있는 게/토 듀오. 오른쪽이 팀닛 게브루 (출처: People of Color in Tech)

이렇게 설명해 볼게요. “머지않은 미래에 인간은 기계와의 결합을 통해 강화(enhanced)된 영생을 얻고, 수 조명의 ‘디지털 시민'들이 살 수 있는 가상 세계의 시민으로 살게 될 것이며, 나아가 우주 전체를 식민화(colonise)시켜 그곳을 무대로 무한히 뻗어나갈 것’이라는 믿음을 가진 사람을 만났습니다. 이런 이야기를 여러분께선 어떻게 받아들이실 것 같나요? 예상하셨겠지만 위 내용은 게브루/토레스에 의해 ‘TESCREAL 주의자들’로 언급된 사람들이 그리는 미래의 축약본입니다. SF 소설 혹은 음모론 같다고 생각할 수 있겠지만, 오래전부터 아주 많은 인터뷰를 통해 공개적으로 밝혀온 바 있죠. 인물 별로 조금씩 편차는 있지만, 머스크와 올트먼 뿐만 아니라 ‘초지능(super-intelligence)' 내러티브의 창시자인 닉 보스트롬, 그리고 ‘라이프 3.0’으로 명성으로 막스 테그마크 등이 지속해서 밝혀온 입장과도 접점이 있습니다.

범용 인공 지능 (AGI)

이들이 그리는 미래의 중심에는 AGI(Artificial General Intelligence, 범용 인공 지능)이 있습니다. AGI는 일반적으로는 ‘인간이 할 수 있는 어떤 지적인 업무도 수행할 수 있는 AI’로 정의됩니다. ‘범용'이라는 단어에서 알 수 있듯 그 활용 방법이 무궁무진할 것이므로 오픈AI를 비롯한 많은 이들이 공개적으로 지향하고 있는 업계의 ‘성배'와 같죠. 요즘 밈처럼 사용되는 ‘특이점'은 바로 AGI가 ‘초지능’의 수준에 이르러 인류에게 폭발적 지적 혁명을 가져오는 시점을 뜻합니다. 앞서 언급된 영생을 얻는 신인류, 가상 세계, 우주로의 진출 등 지금 인류의 지능으로는 불가능한 목표도 초지능의 출현과 함께 가능해진다는 것이죠.

게브루/토레스의 지적에 따르면 TESCREAL 주의자들은 위와 같은 초지능의 출현을 필연으로 상정한다는 공통점이 있습니다. 더 나아가 그 정도 지적 수준을 갖춘 AI가 만약 인간의 가치 및 세계관과 일치를 이루지 못했다면 어떤 참사가 일어날까? 라는 질문을 던짐으로서 아젠다를 선점하고 있다는 것이죠. 같은 ‘AI safety’를 이야기하지만 실상 바라보고 있는 곳은 현재가 아닌 먼 미래인 샘입니다. 이게 왜 문제라는 걸까요?

일단 AGI라는 목표 설정 자체의 문제가 있습니다. 실현 가능성이 확인되지 않은 AGI에 대한 ‘믿음'을 ‘필연’처럼 홍보하며 회사의 가치를 올리려는 시도도 문제지만, 게브루/토레스는 그 개발 과정에 있어 제대로 된 테스트가 불가능하다는 점을 지적합니다. 활용 가능한 케이스가 무한하다는 것은 반대로 말해 안전을 위한 검증이 필요한 경우의 수도 무한하다는 의미겠죠. 같은 맥락에서 AGI에 대한 이들의 비젼은 ‘과학적'일 수도 없다는 것입니다. 예측 불가능한 신적 영역을 목표로 할 게 아니라, 일단 테스트 해야 하는 경우의 수가 유한한, 한정된 범위의 업무만을 수행하는 ‘좁은 (Narrow) AI’ 개발을 우선으로 할 것을 제안하고 있습니다.

초지능과 AI의 위험성을 계속 경고해서 한 때 아군인 줄 알았던(?) 닉 보스트롬 (출처: 워싱턴 포스트)

또 다른 문제는, 이들의 종말론적 비전이 현재 당면한 문제를 놓치게 한다는 지적입니다. 대표적으로 AI 모델을 구축하고 가동하기 위해 소비되는 막대한 에너지와 환경 문제가 언급되는데요. TESCREAL의 핵심 인물 격으로 지목된 닉 보스트롬과의 그간 주장을 요약한 다음 부분을 살펴보면 TESCREAL의 마지막 두 축인 ‘효과적 이타주의’와 ‘롱터미즘'이 그들의 비전에 어떤 사상적 근거를 제공하고 있는지 알 수 있습니다.

"TESCREAL 주의의 관점에서 보면 ‘한계가 없는 지성’을 만들기 위해 투입되는 막대한 자원과 같은 환경문제도 AGI라는 유토피아의 가능성 앞에서 정당화될 수 있다. 보스트롬을 인용하자면 단기간의 ‘대규모 인간 학살마저도 우주로 나아갈 인간의 거대하고 영광스러운 미래를 생각하면 인류를 위한 작은 한 걸음'일 뿐이기 때문’이다." (*💂 효과적 이타주의는 공리주의 관점에서 다수에게 이득이 되는 결정을 내려야 한다고 말합니다. 롱터미즘도 마찬가지로 공리주의 관점에서 우리는 먼 미래의 신인류에 대한 도덕적 책임이 있다는 점을 강조하고요. 이렇게 둘을 포개면 현재의 인류가 손해를 보더라도 먼 미래를 위한 선택을 해야 할 당위성이 만들어집니다.)

To infinity... and beyond?

지속 가능성과 기술 윤리를 '거짓말'로 규정하며 '유일한 가치는 무한한 성장뿐이다'라고 외쳤던 실리콘 밸리의 거물, 마크 엔드리슨의 테크-유토피아 선언문이 떠오르는 대목입니다. 이런 관점에서 보면 AI를 발판 삼아 영생과 우주라는 무한의 세계로 향하는 TESCREAL의 지향점은 그들의 논리적 귀결로서 자연스러워 보입니다. 하지만 우리의 일상과는 너무나 동떨어진 이 이야기를 마냥 무시할 수 없는 이유는, 그들이 오늘 우리 삶에 가장 큰 영향을 끼치는 기술을 선도하는 리더들이고, 실제로 그 미래에 초석이 될 사업을 조금씩 현실화 시켜나가고 있기 때문일 겁니다.

(추신: 사실 게브루/토레스가 발표한 내용의 핵심은 TESCREAL의 뿌리에 우생학이 있다는 주장입니다. 우생학은 아우슈비츠 학살의 당위성을 나치에게 제공한 문제적 사상이자 유사 과학이죠. 그 사상적 뿌리로 인해 알고리즘이 가진 인종 차별과 소외 그룹에 대한 차별의 문제를 대수롭지 않게 여긴다는 점 또한 지적됐지만 지면상 생략했습니다.)

🦜함께 읽으면 좋을 글

• AGI vs. 현실 (🦜AI 윤리 레터 2023-05-29)

---

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.