정말로 대안이 없을까?

by 🥨 채원

저는 요즘 직접 얼굴을 보고 이야기하는 것보다, 메신저나 온라인 플랫폼을 통해 나누는 대화의 양이 더 많다고 느낍니다. 다른 나라에 살고 있는 친구들 뿐만 아니라, 재택 근무하는 직장 동료들, 멀리 떨어진 협업자들과도 메일이나 메신저로 소통하기 때문입니다. 그러나 우리의 이야기를 작성하고, 공유하는 데 사용하는 여러 플랫폼들이 미덥지만은 않습니다.

특히 텔레그램은 앱 내에서 일어나는 불법활동에 대한 조사의 일환으로 CEO가 프랑스에서 구속되었을 뿐만 아니라, 딥페이크 등의 기술을 활용하여 합성된 성착취물을 공유하는 대규모의 대화방이 알려지며 디지털 성범죄의 온상이라는 인식이 더욱 강화되기도 했습니다. 특히 후자의 경우에는 소셜 미디어 뿐만 아니라, 비교적 가까운 사람들에게만 공개된다고 생각했던 메신저에 공유하는 사진까지 악의적으로 알아내고 수집하여 범죄에 활용한 수법이 밝혀져, 더욱더 메신저 상에서 이루어지는 대화에 불안감을 조성했습니다.

그저 가까운 사람들과 마음 편히 대화를 나눌 수 있는, 그러면서도 광고나 다른 불필요한 기능에 시달리지 않는 메신저란 진정 불가능한 것일까요? ‘공짜’로 쓰기 위해서 당연히 감당해야만 한다고 생각했던 불편함을 견딜 필요가 없다면 어떨까요? 시그널 재단의 의장 메러디스 휘태커가 와이어드와 나눈 이야기를 듣다보면, 이런 희망사항이 막연히 불가능한 꿈은 아니라는 것을 깨닫게 됩니다.

저는 독일에 오고나서 시그널이라는 메신저를 처음 들어보았는데요, 어딘가 찝찝한 왓츠앱도, 한국 친구들만 사용하는 카카오톡도, 애플 유저들만 사용하는 메시지앱도 아닌 제 3의 메신저라는 사실만으로도 반가게 다가왔습니다. 깔끔한 유저 인터페이스 뿐만 아니라, 나의 동의 없이 대화방에 초대할 수 없게 만든 추가적인 안전장치 등 평소에 생각해보지 못했던 지점까지 고려된 앱이라는 점이 돋보였습니다. 그 이후로 몇 년째 꾸준히 사용하고 있던 차, 얼마 전 읽게된 메러디스 휘태커의 인터뷰는 시그널이 단순히 깔끔하고 좋은 앱 그 이상이라는 것을 느끼게 했습니다.

그는 시그널이 단순히 암호화된 무료 메신저일 뿐만 아니라, 감시 자본주의가 틀렸음을 증명하는 것이라고 말합니다. 시그널은 영리기업이 아닌 비영리재단입니다. 휘태커 의장은 암호화 이메일로 유명한 스위스의 프로톤 메일도 비영리 재단으로 전환하는 것을 고려하고 있다며, 테크 기업이 나아갈 수 있는 다양한 가능성에 대해 이야기합니다.

기술의 미래가 벤처 투자자나 감시 자본주의에 있지 않다는 것을 증명하기 위해 외부 투자도 받지 않고, 광고도 없으며, 사용자의 정보도 수집하지 않는 시그널의 정책은 우리가 알고있는 대부분의 테크 공식을 깨뜨립니다. 인터뷰에서 인상깊었던 구절 몇 가지를 소개하며 마치겠습니다. 인터뷰 전문을 읽어보시기를 강력하게 추천드립니다.

“우리는 비영리재단입니다. 사람들이 동정하듯 던지는 동전으로 살아남기 위해서가 아니라, 동시대 역사적인 맥락 속에서 우리의 미션을 수행하기 위해 이러한 조직 구조가 매우 중요하기 때문입니다. 현재 우리 (테크) 업계에서 이익은 감시를 수익화하거나, 감시를 수익화하는 사람들에게 제품이나 서비스를 제공하는 데에서 발생합니다. 그것은 인터넷에서의 프라이버시를 위한 비지니스 모델이 아닙니다.”

“사람들이 빅테크 제품들을 사용하는 것은, 그렇지 않고서는 사회에 참여하기 불가능하기 때문입니다. 하지만 그것은 사용자를 진정으로 얻은 것이 아닌, 강요입니다. 정부의 외면이나 독점으로 인해 다른 선택권이 존재하지 않는 상황에서의 “락인(lock-in)”인 것이죠. 지금처럼 절실하게 대안이 필요했던 적이 없습니다.”

🦜 더 읽어보기
- 사진 내리기 말고 할 수 있는 일을 찾아서 (AI 윤리 레터, 2024-09-04)
- 음란물은 딥페이크의 부작용이 아니라 순기능 (AI 윤리 레터, 2024-07-03)
- 내년으로 들고 갈 질문 (AI 윤리 레터, 2023-12-06)

---

제목이 생각나지 않지만 자는 동안 뇌에서 프로세싱 될 거라 믿어요.

by. 💂죠셉

일부 학부모님들이 사교육 등에 들어가는 투자와 그 결과로 나오는 시험 성적을 각각 ‘인풋’, ‘아웃풋'이란 단어를 사용해 표현한다는 걸 들은 적이 있습니다. 가만히 생각해 보면 사람을 대상으로 쓰기엔 이질감이 느껴지는 표현입니다. 기계와는 달리 사람의 경우 대부분 ‘인풋’만큼의 일정한 ‘아웃풋'을 예측하기가 어려우니까요.

우리의 일상에 들어와 있는 언어 중 이렇게 기계, 그중에서도 컴퓨터와 연관된 은유 (computational metaphors)가 매우 많습니다. 가령 몇 해 전 유행했던 ‘내 마음속에 저-장~’ 이 그렇죠. 기억을 소중하게 간직하겠다는 표현을 위해 ‘저장(store)’이라는 단어를 사용했습니다. 당연한 이야기지만, 우리는 ‘저장' 버튼을 눌러 데이터를 영구보존 하는 방식으로 기억을 저장할 수 없습니다. 어떤 기억을 보존할지, 혹은 지울지를 의식적으로 선택할 수도 없죠. 그럼에도 ‘저장'이란 표현은 컴퓨터를 한 번이라도 써본 사람은 모두 이해할 수 있는 효과적인 은유로 기능합니다. 여기에 더해 예능 자막에서 많이 사용되는 ‘입력 오류'라든지, 몇 해 전부터 갑자기 많은 사람들이 사용하고 있는 ‘알고리즘’ 같은 단어도 있죠.

당대의 주목 받는 신기술이 인간을 설명하기 위한 은유로 사용되는 건 역사적으로 반복되어 온 패턴입니다. 가령 철학자 르네 데카르트(René Descartes)는 인간의 뇌를 신경계와 연결된 유압 펌프에 빗대어 설명한 적이 있고, 심리학자인 지그문트 프로이트(Sigmund Freud) 또한 뇌를 일종의 증기 기관으로 상상한 적이 있습니다. 따라서 지금 우리의 언어에 컴퓨터 은유가 깊이 들어와 있고, 특히 인간의 뇌와 마음을 컴퓨터에 빗대어 이해하게 됐다는 게 그리 놀라운 사실은 아닐 겁니다. 그런데 뇌/마음을 컴퓨터로 이해한다는 게 정확하게 무슨 의미일까요?

‘마음/뇌 컴퓨터 은유의 대안을 찾아서 (In search for an alternative to the computer metaphor of the mind and brain)’라는 제목으로 다미앙 G.켈티-스테판(Damian G. Kelty-Stephen) 등 총 12명의 심리학자, 뇌과학자, 철학자 등이 발표한 논문 중 일부에 따르면 컴퓨터 은유는 일반적으로 다음과 같은 특징을 가집니다.

• 인풋-아웃풋 시스템: 뇌는 감각 정보(sensory input)를 처리해 특정 행동(behavioral output)을 결과로 출력한다.
• 코딩: 뇌에 인풋(감각 정보)이 입력되면 일차적으로 시스템을 위한 코딩 작업을 거친 후 뇌의 다양한 영역에서 처리(process)된다.
• 알고리즘: 뇌가 인풋을 처리해 아웃풋을 내는 방식은 제한된 규칙 집합의 순차적 적용(the sequential application of a limited set of rules)에 기반한 설명이 가능해야 한다. 즉, 컴퓨터 알고리즘처럼 설명할 수 있어야 한다.

어떠신가요? 우리가 생각하고 행동하는 방식에 완전히 부합하지 않는다는 걸 직관적으로 느끼셨을 겁니다. 위와 같은 과정에서 드러나는 기계의 완벽한 논리성과 합리성, 효율, 합목적성 등이 인간에게 적용되지 않는 경우가 많기 때문이죠. 그럼에도 컴퓨터 은유는 그동안 인간의 뇌와 마음을 연구하기 위한 최선의 대안으로 여겨져 왔고, 무엇보다 우리 인간이 스스로를 이해하는 방식 중 하나라는 점에서 중요한 의미를 가집니다. 앞서 언급한 ‘인풋/아웃풋'과 같은 표현은 일상 속 관용구처럼 사용되기에 그 의미가 얼핏 사소해 보일 수 있지만, 인간이 은연중에 자신의 뇌와 마음, 지능을 어디까지 기계로 인식하고 있는지를 드러내고 있기 때문이죠.

한편, 기술 평론가인 메건 오기블린(Meghan O’Gieblyn)은 “behavior,” “memory,” “thinking”등 한때 기계를 설명하는 데 사용하려면 따옴표로 구분될 필요가 있었던 단어들이 이제 AI 업계에서 흔하게 사용되고 있다는 점을 지적합니다. 챗GPT와 같은 언어 모델들이 학습(learn)한다거나, 이미지를 본다(see)거나, 이해한다(understand)는 표현 또한 이제는 쉽게 볼 수 있죠. 인간과 유사한 결과물을 내는 챗봇으로 인해 다양한 사건 사고가 벌어지고, 인간이 감정적으로 의존하게 되는 ‘중독성 지능(addictive intelligence)’에 대한 우려가 제기되는 상황에서 이러한 의인화 경향은 주목할 만합니다. 그리고 컴퓨터 은유에 대한 한 사회의 수용도는 이런 경향에 대한 척도가 될 수 있습니다.

물론 ‘알고리즘'과 같은 단어가 불과 몇 년 전까지만 해도 비전문가들의 어휘에는 존재하지 않았던 것처럼, 10년, 20년 후 컴퓨터 은유 또한 철지난 언어가 되어 있을지도 모르겠습니다. 일론 머스크의 꿈이 실현된다면 ‘우주여행 은유’를 사용하고 있을지도 모르죠. 앞서 소개한 논문에서는 현시점에서 컴퓨터 은유를 대체할 만한 여러 대안을 제시하고 있으니, 관심이 있다면 살펴보시기를 추천드려요.

---

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.