​이 주의 독서 카드: 『AI 윤리에 대한 모든 것』

이 주의 독서 카드: <AI 윤리에 대한 모든 것>

by. 🤔어쪈

다들 새해 계획 세우셨나요? 많은 사람들이 ‘올해는 꼭…’ 목록에 넣는 책 읽기, AI 윤리 레터와 함께 시작해보아요. 신년 첫 독서에 찰떡인 제목입니다. <AI 윤리에 대한 모든 것 (원제: AI Ethics)>. 작년에 나온 신간이에요. 그런데 책을 펼쳐보면… 앗, 첫 문장에 등장하는 AI가 챗GPT가 아닌 알파고군요.

그렇습니다. GPT-3가 나오기도 전 2020년 초 출간되어 3년이 지난 후에야 한글로 번역된 책이에요. 그 사이에 정말 많은 일이 있었죠. 하지만 몇 주만 지나도 읽을 필요가 없어지는, 그럼에도 불구하고 자꾸만 쏟아지는 흔한 AI 책과는 다릅니다. AI 윤리를 다룬 책이라서가 아닙니다. 제가 왜 그렇게 생각하는지 설명해볼게요.

1. AI 윤리는 이슈가 아니다 ❌

제목과 목차만 훑으면 책이 다루는 주제와 서술 방식이 뻔해보이기도 합니다. 프라이버시, 투명성과 설명가능성, 편향 등과 같은 개념과 함께 각종 사건, 사고를 예시로 들지 않겠어요?

… 아닙니다.

대신 저자는 최근 오픈AI와 같은 기업이 부르짖기 시작한 초지능(superintelligence)이라는 발상부터 검토하죠. 지금의 AI 발전 방향이 가리키는 초지능은 트랜스휴머니즘*의 초월이라는 열망과 맞닿아 있습니다. 이것이 인간-같은 AI를 개발하도록 만들어 인간과 AI 간 경쟁 서사를 실현한다고 지적합니다. 인간이 만들어낸 모든 데이터를 학습시켜 같은 데이터를 내뱉도록 함으로서 너무도 인간-같은 AI를 만들고 있는 지금의 우리가 귀기울일만한 이야기죠.

하지만 미래가 꼭 이런 서사로만 펼쳐질 필요는 없습니다. 인간-비인간 경계를 넘나드는 포스트휴머니즘**에서 영감을 받아 인간-같지 않은 AI를 개발하고, “AI와 경쟁하는 대신에 공동의 목표를 설정할 수” 도 있죠. (p.58) 저자는 AI 윤리를 이슈가 아닌 서사로 바라봐야 하는 이유를 제시합니다.

2. AI는 기술이 아니다 ⁉️

책은 중반부에서야 AI 기술을 설명하기 시작합니다. 하지만 이름에서부터 인간의 특성임과 동시에 우리조차 온전히 이해하지 못하는 ‘지능’을 포함하는 한, AI를 단순히 기술로만 바라보거나 정의하긴 어렵죠. 실제로 현재 AI와 사실상 동일시되는 개념인 기계학습은 데이터과학과 통계학에 뿌리를 두고 있는데 둘 모두 인간이 세상을 이해하고 탐구하고자 만든 학문, 즉 과학입니다.

이제 AI가 어디에나 존재하는 세상이 되었습니다. AI 에이전트(agent)라는 표현이 더 이상 어색하지 않죠. 인간이 AI에게 행위주체성을 위임하는 게 만연해질 때, 과학으로서의 AI는 설 자리를 잃습니다. 어쩌면 역설적이게도 AI 윤리라는 범주의 모든 문제는 이 지점에서 발생하는 것일지도 모릅니다.

출처: Jamillah Knowles & We and AI / Better Images of AI / People and Ivory Tower AI 2 / CC-BY 4.0

3. AI 윤리 레터가 필요하다😉

저자는 AI 윤리 논의가 결국 정책으로 이어져야 한다고 주장하며 책이 쓰여진 4년 전 진행중이던 논의를 소개합니다. 이제는 기업이나 공공기관 등 어디서든 보일만큼 흔한 ‘AI 윤리 원칙’을 세우기 위한 토론이 한창이던 때죠. 저자가 예상한대로 원칙에 대한 합의는 어렵지 않게 이뤄졌지만 정확히 무엇을 해야 하는지, 즉 방법과 운영의 문제는 여전히 남아있습니다. 책은 불확실성 속에서 AI 윤리가 책임 있는 혁신을 이끌기 위해서는 여러 이해관계자의 다양한 서사가 필요하다고 역설합니다. 윤리는 결코 기계처럼 작동하지 않는데 전문가들끼리만 맥락을 고려하지 않은 채로 원칙을 적용해선 안된다는 겁니다. 기업이 설파하는 지배적인 AI 서사를 그대로 받아들이지 말고, AI 윤리 레터를 읽으며 여러분만의 해석과 상상이 필요하다는 뜻이기도 하죠!

+++  굉장히 오랜만에 쓰는 ‘이 주의 독서 카드’가 AI 윤리 레터 구독자 여러분의 책 읽고픈 마음을 자극했길 바랍니다. 같은 저자가 쓴 <인공지능은 왜 정치적일 수밖에 없는가 (원제: The Political Philosophy of AI)>도 궁금하지 않으신가요? AI 윤리 북클럽의 문은 언제나 열려있답니다. 함께 읽어요!

💬 용어 설명 (참고)

* 트랜스휴머니즘 (trans-humanism): 인간이 가진 지적·신체적 능력의 한계를 (주로) 과학과 기술을 통해 뛰어넘고자 하는, 더 나아가 그래야 한다고 강조하는 담론

** 포스트휴머니즘 (posthumanism): 인간-비인간의 경계 대신 관계와 상호작용에 주목함으로서 세상에 대한 인간중심적 이해를 넘어서고자 하는 담론

오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.