OpenAI CEO 샘 알트만의 해고와 복귀, 효과적 이타주의(EA) vs 효과적 발전주의(E/ACC)

11월 17일부터 11월 21일까지, 단 5일만에 세계 최고의 AI기업인 OpenAI의 CEO인 샘 알트만이 이사회에 의해 해고되었다가 복직하였다. 11월 6일 Devday라는 큰 행사를 치룬 지 2주도 되지 않아 갑자기 해고되며 사람들에게 큰 충격을 주었고, 얼마 지나지 않아 다시 OpenAI로 돌아가며 큰 반전을 선사하였다. 얼핏 보면 회사 내부의 권력 다툼으로 보일 수 있는 이번 사건은, AI 개발 철학 - 안전 중시(EA) vs 인류를 위한 발전(E/ACC)과 AI 거버넌스에 관해 우리에게 큰 교훈을 준다. 이번 사태에 대한 교훈을 살펴보기에 앞서 OpenAI의 목표와 구조를 살펴본 후, 이번 사태를 타임라인대로 간단히 훝어보고자 한다.

OpenAI - 비영리적 AI를 위해 영리를 추구해야 하는 모순

우선, OpenAI는 기본적으로 '비영리단체'다. OpenAI 홈페이지의 지배 구조를 통해서도 이는 쉽게 알 수 있는데, Board of directiors로 시작되는 회사의 지배 구조는 Nonprofit - 비영리조직에 우선적인 권한이 있다. 그럼에도 수익을 창출하는 기업의 형태를 일부 띄게 된 것은 목표를 실현함에 있어서 재정적 한계에 부딪쳤기 때문이다. OpenAI가 비영리적으로 추구하는 최종 목적은 일반인공지능 - AGI를 개발하여 그 이점이 전 세계에 고르게 퍼지도록 하는 것이다. 하지만 현실 대부분의 비영리단체보다 더더욱 첨단 기술이 뒷받침되어야 하는 OpenAI는 비영리적인 방법만으로는 회사의 목표를 실현하기 어렵다는 것을 깨달았다. 그래서 수익 제한형(capped profit) 영리 부문 조직을 설립하게 된 것이다(MIT Technology Review KR 기사 참조).

이후 OpenAI는 회사의 목적인 안전한 일반인공지능(AGI)개발을 위한 효과적 이타주의(Effective Altruism - 이하 EA)와 인공지능을 발전시켜 많은 사람에게 골고루 이익을 분배해야 한다는 효과적 발전주의(Effective Accelerationism - 이하 E/ACC)사이에서 갈등하는 모습을 보여왔다(두 이념의 대립에 대해선 노마드 코더 유튜브 참조 - OpenAI의 갈등은 필자 해석 덧붙임).

샘 알트만의 해고와 복귀 - 타임라인

위 배경을 토대로, 샘 알트만의 해고와 복귀가 어떻게 이루어졌는지 타임라인을 통해 알아보자. 위에 표시한 E/ACC와 E/A는 이해를 돕기 위해 필자가 임의로 표기하였으므로, 크게 의미를 두지 않았으면 한다(아래 4명의 이사회가 위에 2명 - 샘 알트만과 그렉 브록만을 내보낸 것은 확실하다.).

11월 17일 - 갑작스런 샘 알트만과 그렉 브록만 축출

이사회가 11월 17일 낮 12시 28분 “샘 알트만이 일관되게 솔직하지 못하다고 판단, 이사회 수행 능력을 저해한다는 결론을 내렸다”며 “이사회는 더 이상 그가 오픈AI를 계속 이끌 수 있을 것이라는 확신을 갖지 못했다”고 발표했다. 그리고 그렉 브록만은 이 사실을 퇴출 발표 5분전에 구글 미트로 듣게 된 것으로 확인된다. 이는 이사회를 통한 샘 알트만과 그렉 브록만 퇴출이 갑작스럽게, 그리고 비밀리에 진행되었음을 알 수 있다(참고 : 더밀크). 

11월 20일 - OpenAI가 에밋 시어를 임시 CEO로 임명, 샘 알트만과 그렉 브록먼 MS(마이크로소프트) 입사

OpenAI는 샘 알트만을 퇴출한 후 전 트위치 공동창업자인 에밋 시어를 임시 CEO로 임명했다. 그는 기존에 AI 성장에 따른 문제를 우려해서 개발 속도를 늦춰야 한다고 유튜브에서 발언했던 인물로, 남은 OpenAI의 이사회가 AI의 안전한 개발을 중시(EA)임을 다시 한 번 확인할 수 있는 인선이었다.

OpenAI에서 퇴출당한 샘 알트만과 그렉 브록먼은 마이크로소프트(이하 MS)에 들어가게 되었다. 만약 그들이 MS에 들어가게 된다면, OpenAI의 변화로 큰 손해를 볼 수도 있었던 MS는 오히려 AI부분의 핵심 인물을 포섭하고 동시에 기존 OpenAI의 연구진들을 영리적으로 포섭할 수 있는 계기를 마련하게 되며 큰 이익을 챙겼다. 이 와중에 샘 알트만은 OpenAI와의 관계를 지속할 것이라고 밝히며 회사와 투자자들, 협력기관들을 안심시키는데 힘썼고, MS도 20일 당일 이사회 사임, 거버넌스 개선 등을 조건으로 샘 알트만 등의 인물이 OpenAI에 복귀하는 것을 반대하지 않는 모습을 보여주었다.

OpenAI 내부 분위기 역시 심상치 않았다. 수많은 투자자들의 반대와 더불어, 내부 직원중 92%, 770명 중 710명이 샘 알트먼이 복귀하지 않을 경우 회사를 떠난다는 의견을 밝히고, 505명이 이사회 사임 요구 성명서를 발표했다. 또한 당시 샘 알트만을 내보낸 이사회 멤버였던 일리야 슐츠케버가 자신의 결정을 후회한다는 트윗(X)를 남기며 회사를 걱정하는 모습을 보였다.  

11월 21일 - 샘 알트만, 그렉 브록먼 복귀

블룸버그에서 OpenAI가 샘 알트만과 그렉 브록먼의 복귀 협상에 들어갔다고 알린 지 얼마 지나지 않아, 샘 알트만과 그렉 브록먼의 OpenAI 복귀가 확정되었다. 돌아가면서 샘 알트만은 MS CEO인 사티아 나델라 마이크로소프의 지원 덕분에 OpenAI로 돌아간다고 말하며, 마이크로소프와의 강력한 파트너십을 구축할 수 있길 기대한다고 밝혔다.  (11월 20일,21일 타임라인 출처 : 더밀크 / 요즘IT 이재훈님 / AI타임즈)

AI 발전을 둘러싼 두 이념의 대립 - 

효과적 이타주의(EA) vs 효과적 발전주의(E/ACC)

이번 사태의 내막을 타임라인으로 정리해보아도, 결국 두 이념 - EA vs E/ACC가 현재 AI를 둘러싼 거대한 두 담론임을 확인할 수 있다. 물론 EA역시 발전하지 말자는 것은 아니지만, 그들은 이번 사태를 통해 OpenAI를 공중분해시킬 수도 있었다는 점을 미루어보았을 때 안전을 위해 꽤나 급진적인 이념을 취하고 있음을 알 수 있다. 

두 이념의 대립은 앞으로 우리가 AI문제를 바라볼 때 항상 존재할 것이다. 필자의 입장은 E/ACC에 가깝기 때문에 지난번[AI, 민주주의의 위기인가? 기회인가?] 를 듣고, [AI, 민주주의의 '기회']를 얘기해보기 에서도 상대적으로 AI 발전의 이로운 점을 역설한 바 있다. AI의 발전 속도를 늦추자는 E/A의 주장은 현실적으로 실현되기 어렵지 않겠다는 근거 역시 필자가 E/ACC의 입장으로 더 기우는 이유이기도 하다. 지금 이 캠페인즈를 운영하는 빠띠를 포함해 수많은 비영리단체는 대부분 금전적 문제에서 자유로울 수 없다. 그런데 만약 OpenAI가 시장의 선두로 남지 않는다면, 그들에게는 공익적 목적의 AGI를 개발할 동력인 자금을 확보하기 매우 어렵다. 뿐만 아니라, OpenAI가 멈춘다고 해서 MS, Google, Amazon, Apple, 거기에 중국 기업은 물론이고 유럽, 한국 기업도 AI개발을 쉽사리 멈추지 않을 것이다. 현실적으로 개발 속도를 늦추는게 어렵다면, 어떻게 옳은 방향으로 AI를 개발하게 할 것인지, 어떤 규제를 도입해야 할 것인지, 시민사회에 AI에 대해 어떻게 교육해야 할 것인지에 대해 초점을 맞추어야 한다고 생각한다.

이 사태를 바라보고, 이 글을 읽는 독자분들은 어떤 입장과 생각을 가지고 계시는지 궁금하다. 언제나, 정답이 없는 문제이기 때문이다.

결국, AI 문제는 인간이 해결할 문제 - AI 거버넌스

또한 이번 사태는 결국 AI문제는 인간의 문제임을 다시 한 번 확인하는 계기가 되었다. 필자는 지난번에 작성한 '과학기술은 정치적인가?' 에서 '과학기술이란 자연 그대로나 그 법칙인 과학을 인간의 이익에 따라 배우고 학습하고 사용하는 것이며, 이러한 이익들이 충돌하는 과정에서 현실의 권력이 작용하는 정치적 속성을 가집니다' 라는 문장으로 글을 마무리한 바 있다. 이 문장을 그대로 관통하는 사태가 이번 샘 알트만 해고/복귀 사태다. 

E/A와 E/ACC가 각자 추구하는 사회적 이익은 다르다. 그리고 이건 결코 어느 쪽이 나쁘다고 볼 수 없다. 하지만 안전한 발전이 가져다주는 이익과 발전을 통한 이익의 분배라는 두 가지 이념은 충돌하였고, 이 과정에서 OpenAI는 내부 권력인 이사회 의결을 통해 샘 알트만과 그렉 브록만을 내보냈다. 하지만 또 다른 권력들 - 거대한 파트너인 MS, OpenAI의 직원, OpenAI의 투자자들의 권력이 이사회의 권력을 넘어섰다. 사실 OpenAI 내부 직원의 90%가 샘 알트만과 그렉 브록만의 복귀를 원했고, 많은 직원들이 그들이 돌아오지 않으면 회사를 나가겠다고 한 시점에서, 한 회사의 이사회의 근본(정당성)이 흔들리는 상황이었다. 국민 없는 국가가 없듯이, 직원 없는 회사는 없으니 말이다.

이번 사태에 대한 사고를 확장해보면 앞으로 있을 AI문제는 단순 AI 기업 내부의 문제를 넘어, AI 기업을 둘러싼 이해관계자들 - 정부, 다른 회사, AI의 영향을 받는 국민 모두 - 가 영향받고 참여하게 됨을 알 수 있다. 이 과정에서 시민이 관심을 주지 않는다면, 정부의 관심도 줄어들 것이고, 결국 사회에 큰 영향을 미치는 AI문제를 AI 기업들만이 다루는 독과점적 거버넌스가 이루어질 수 있다. 샘 알트만의 해고가 OpenAI 직원들의 힘에 의해 취소되었듯이, 앞으로 발생할 사회의 AI문제들을 국민들이 관심을 가지고 해결해나갈 수 있는 AI 거버넌스 구조가 만들어지길 바란다.