블루오션으로 오세요

by 💂🏻죠셉

몸보다 마음이 쌀쌀한 12월이었습니다. 그래도 새해 복 많이 받으셨지요?

잠시 쉬어간 AI 윤리 레터 팀의 2024년 마지막 활동은 북클럽이었습니다. 이번 시즌 주제는 ‘AI 윤리’입니다. ‘윤리’ 레터 팀이 그간 읽은 건 뭐길래 주제를 이렇게 잡았냐 물으신다면, 그간 AI 관련된 책을 다양하게 많이 읽어왔지만, 막상 AI 윤리라는 분야를 찬찬히 조망하며 구조화해 볼 기회는 가지지 못했다는 불안이 있었거든요. 마침, 해당 주제로 나온 따끈따끈한 신간, 서울시립대학교 목광수 교수님의 <인공지능 개발자 윤리>를 함께 읽고 토론했습니다.

제목이 말해주듯 이 책은 AI 개발 과정에 참여하는 사람들을 위한 윤리가 충분히 다뤄지지 않고 있다는 문제의식에서 쓰였습니다 (여기서 ‘개발자’는 프로그래머뿐만 아니라 기획자와 디자이너 등 AI 개발에 참여하는 광범위한 전문가 집단을 지칭합니다.) 내용에는 중 일부에는 공감했고, 일부에 대해선 의문이 남았지만, 이 책의 가장 큰 의의는 AI 윤리의 ‘층위’ 개념으로 기억될 것 같습니다.

저자는 우리가 흔히 말하는 AI 윤리가 사실 1) 개인 윤리 층위, 2) 이론 윤리 층위, 그리고 3) 제도 윤리 층위로 나뉘어 있다고 분석합니다. 다른 주안점을 가진 세 층위를 뭉뚱그려 ‘AI 윤리’로 이야기하다 보니 실제론 같은 목표를 추구함에도 각자 다른 이야기를 하는 듯 보인다는 것이죠. 책을 한두 달만 일찍 읽었으면 참 좋았겠다는 생각이 들었습니다. AI 윤리 관련 프로젝트를 진행 중 실제로 제가 일하는 곳에서 있었던 일이거든요.

죠셉💂🏻: 초등학생들을 위한 AI 윤리 교육이 필요해 보이는데 현재 일본 상황은 어떤가요? (*일본 회사에서 일합니다)

J🧑🏻‍💻: 나도 잘 모르겠는데… 근데 내가 생각하는 AI 윤리는 알고리즘 편향, 규제 이런 것들인데, 기술에 대한 비판적 성찰 교육…? 리터러시 교육은 투자 대비 임팩트가 떨어지지 않아?

이렇게 의사결정권자들 사이에서도 혼란이 많습니다. 궁극적으로는 같은 목표를 향해 가는데 그 방법이 너무 상이해 보이니 둘 중 더 효율적인 방법을 묻게 되고, 둘은 상호 보완이 아닌 상호 배제의 관계가 됩니다.

그래서 이제 우리에게 ‘층위’라는 새 언어가 생겼다는 사실은 환영할 만합니다.

💂🏻“어, 그러니까 지금 제도 층위 이야기를 하고 계신 거죠? 저는 개인 층위를 말하고 있어요.”

저는 개인 층위에 관심이 많습니다. 1년 전 필진으로 합류한 이후 쓴 글들을 보면 그렇습니다. 얼룩말 세로의 탈출을 보며 생성형 AI로 인해 흐려지는 현실과의 경계를 이야기했고, 기술에 대한 낙관과 비관 사이 새로운 가능성으로 신 러다이트 (Neo Luddites)를 소개했습니다. 전치형/홍성욱 교수의 <미래는 오지 않는다>를 읽은 후엔 기술-미래 예측의 메커니즘에 대한 생각을 남기기도 했고, 가장 최근엔 이세돌 사범 특강 등을 다녀와 생성형 AI가 가져다준 편의와 전능감 너머 유실되는 가치, 경험들에 대해 끄적여봤습니다.

제가 남긴 글들을 관통하는 한마디는 ‘내가 살고 싶은 세상으로부터 시작하기’입니다. 기술 철학적이면서 가장 개인적인 질문이죠. 내가 살고 싶은 세상은 어떤 모습이고, AI (혹은 그외) 기술이 만들고 있는 세상은 무엇인지. 그리고 둘 사이 간격에 대해 나는 뭘 할 수 있는지 고민합니다. 자칫 일상과 멀게 느껴질 수 있는 AI 윤리 이야기를 '개인'과 이어보려고 뉴스레터도 하고, 가끔 강의도 맡고, 올해는 책도 씁니다. 그러니까, 제가 개인 층위에 관심을 가진다는 말은 저 질문을 함께 고민할 동료들의 수를 늘릴 방법을 찾고 싶다는 말과 같습니다.

가장 자주 받는 피드백은 ‘이상적, 엘리트주의적’입니다. 주식이 얽혀있는데, 먹고 살기에 바쁜데 기술과 나의 관계 성찰이라니, 사람들이 듣겠냐고요. (팩폭 그만..) 하지만 지난 2년 남짓 AI 이야기가 배고파 이런저런 모임에 참석하며 느낀 건 ‘아직 AI 윤리의 관점을 들어보지도 못한 사람이 너무 많다.’ 입니다. 당연히 냉소적인 반응도 많았지만, 들은 이후 깊은 고민을 시작한 소수도 있었습니다. 전체 파이를 놓고 보면 작은 일부일지언정 유의미한 소수라고 믿어요.

현재 AI 윤리 담론은 규제 등을 이야기하는 제도 층위에 편중되어 있습니다. 그런데 <인공지능 개발자 윤리>에서 눈여겨 볼 또 다른 내용은 세 층위 간의 상호보완적 관계입니다. 즉, 세 층위가 함께 가며 시너지를 내는 게 중요하겠죠. 어쩌면 갈수록 무력감이 커지는 현재 AI 윤리 씬에 필요한 건 세 층위의 동반 성장이 아닐까요. 그런 의미에서 AI 윤리의 개인 층위는 아직 제대로된 시도조차 없었던 블루오션(?)이 아닐까 합니다.

매일 최신 뉴스를 허겁지겁 빨아들여도 도저히 발 맞춰가기 힘든 AI. 새해에는 더욱 정신 없을 거라고 하네요. 제게 중요한 질문들을 잊지 않도록 정신 단디 차려야겠습니다. 올 한해도 잘 부탁드립니다.

💬댓글
- (🧑‍🎓민기) 글을 읽고 나니 스스로가 얼마나 제도 오타쿠(?)인지 깨닫게 되네요. 윤리의 층위를 용어로 구분하는 건 자신이 어디 쯤에 있는지 알아보기에도 아주 좋은 방법인 것 같습니다!

---

AI와 권리 사이에서 속도감 터득하기

by 🧑‍🎓민기

개인적으로도 국가적으로도 파란만장한 2024년이었습니다. 수많은 의제가 소용돌이치고, 12월에는 불법계엄이라는 민주주의의 중대한 위기를 맞이하였습니다. 그 사이에도, 세상의 일정(특히 마감날짜!)은 이상하리만치 바쁘게 돌아가는 것이 야속하게 느껴졌습니다. 그 와중에 AI는 우리 곁에 부쩍 가까이 다가왔고, 이제 일상대화로도 AI에 대해 얘기를 하는 게 어색하지 않아졌죠.

최근에 인상 깊게 봤던 장면들로 말문을 열어볼까 합니다.

• 어느 법안의 필요성과 부작용을 두고 온라인 상에서 논쟁이 있었습니다.

한 사용자는 자신이 생각한 부작용을 챗GPT가 요약해 준 내용을 포함해 온라인 커뮤니티에 글을 게시했고, 그 글이 큰 반향을 불러일으켰습니다. 그 법안이나 그 행동의 잘잘못을 떠나, 법 제정의 부작용을 법률가가 아닌 AI에 질문하는 것도, 또 단지 AI가 읽기 좋게 요약한 내용이라는 이유로 눈길을 끄는 것도 지금까지와는 다른 생소한 일입니다. AI가 우리 삶에 정말 깊숙이 들어왔음을 실감했습니다.

• 작년 12월 26일에는 “인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)”이 본회의를 통과하였습니다.

AI의 개발 및 육성을 위한 관계법령이 시급하다고 주장해온 쪽에서는 이를 환영하는 한편, 시민사회단체들은 규탄의 목소리를 높였습니다. 그 일련의 논의 중에서도 12월 17일, 국회 법제사법위원회에서의 토론 내용이 눈에 들어왔습니다.

김용민 의원과 이건태 의원이 국방·국가안보 AI는 AI 기본법 적용대상에서 제외할 수 있게 하는 조항에 대해 우려를 표하자, 과기정통부 유상임 장관은 이렇게 답변합니다.

“이 AI가 최소한의 규제를 가지고 진행을 하자라는 게 기본 취지고 (…) 더 구체적이 되려면 국방 관련된 새로운 법령을 제정해서 넣으면 될 것 같습니다.”

설령 위 조항이 필요한 조항이라고 하더라도, 소관기관의 장이 ‘최소한의 규제’를 이야기하는 것이 옳은 태도인지 의문이 들었습니다.

지난 한 해 동안, 기술이 점차 사람들의 삶에 큰 영향을 끼치는 데에 비해 정치의 반응은 정말 느리다는 것을 실감했습니다. 예를 들어, 연구관리체계에 관한 법 개정은 10년, 20년이 지나도록 미뤄지기도 합니다. 그런 와중에도 ‘최소한의 규제’를 강조하며 속도 버프를 받은 법이 하필 자본이 집결되고 있는 AI 분야의 기본법이라는 사실은 결코 우연이 아니라고 생각합니다. 기업과 자본을 대변하는 목소리에 맞먹을 정도로 평범한 시민을 대변하는 목소리를 키우기 위해서는 무엇을 해야 하는지 고민하게 되었죠.

그러려면 우선 AI 윤리레터도 열심히 참여해야겠다고 느꼈습니다. 거리에 모인 시민들이 한 목소리를 내는 게 아니라 다양한 소망을 가지고 있듯, 새해에는 더 다양한 목소리가 AI 정책에 반영되었으면 하는 소망을 가져 봅니다. 새해 복 많이 받으세요!🎉

---

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.