고도로 발달한 AI는 인간으로 볼 수 있을까요?

고전 영화 <터미네이터>부터 시작해서, 인공지능과의 사랑을 다룬 영화 <HER>, 이외에 정말 많은 소설과 드라마 등을 보면, 고도로 발달한 AI는 인간과 구분하기 어려운 것으로 보입니다. AI와 인간은 어떻게 구분될까요? 혹은, 구분할 수 없게 될까요? 애초에, 이 질문은 단순히 흥미로운 질문에 불과할까요? 

원래 이런 질문에 대답하기 위해서는 오랜 시간에 걸쳐 다양한 철학자들의 관점을 정리하고, 고찰해 보아야 합니다. 그러나 철학 공부를 하지 않았던 제 입장에서 이 작업은 너무 오래 걸리는 일이죠. 그래서 'AI는 인간인가?'에 대한 다양한 관점이 무엇이 있는지, 그 관점에 비춰보았을 때 AI는 인간인지에 대해 AI(ChatGPT-4, 이하 ChatGPT)에게 질문해 보았습니다. 여러분들도 읽어보시고, 여러분들의 생각은 어떤지 들려주세요!(대화 내역은 여기에서 확인하실 수 있습니다)

1. 'AI가 인간인가?'라는 질문은 우리에게 중요한가?

우선, 'AI가 인간인가?'라는 질문의 중요성부터 ChatGPT에게 물어보았습니다. 사실 저도 처음에는 흥미로운 질문이라는 생각에 이 글을 쓰기 시작했거든요. 원래 AI와 사회를 다루는 입장에서 어렴풋이 'AI가 사람과 구분이 안되면 어떡하지?'라는 걱정만으로 이 주제를 분석하기에 충분하지 않다고 생각했습니다. 그래서 철학적/사회과학적으로 이 질문이 우리에게 왜 중요한지 알려 달라고 부탁했습니다. 아래는 ChatGPT의 답변입니다.

- 철학자의 관점

'AI가 인간인가?'라는 질문은 철학적 관점에서 중요합니다. 이는 존재론적, 인식론적, 윤리적 문제를 일으키기 때문입니다. 철학자들은 자연적인 존재와 인공적인 존재 사이에서 의미와 가치를 탐구합니다. AI가 의식을 가지고 있다면, 그것은 독자적인 존재로서 인정되어야 하는가, 아니면 단순한 도구로서의 가치만 가지는 것인가? 존 서얼(John Searle)과 같은 철학자들은 의식의 본질에 대해 논하며, AI의 의식은 인간의 의식과 본질적으로 다르다고 주장합니다. 이러한 논의는 우리가 기술과 상호작용하는 방식과 기술이 우리 사회와 문화에 어떤 영향을 미치는지를 이해하는 데 중요한 역할을 합니다.

- 사회과학자의 관점

사회과학자의 관점에서 이 질문은 기술, 정치, 경제, 사회 간의 상호작용을 이해하는 데 있어 중요한 역할을 합니다. 브루노 라투르(Bruno Latour)의 "기술의 사회학(Sociology of Technology)"이 이에 대한 좋은 예시입니다. 라투르는 기술이 사회에 어떻게 통합되고, 사회 구조와 가치에 어떻게 영향을 미치는지에 대해 연구했습니다. AI가 인간으로 간주되면, 법, 정치, 경제에서 AI의 권리와 책임이 새롭게 정의되어야 할 것입니다. 이러한 변화는 규제, 책임, 고용, 권리 등 다양한 사회적 문제에 영향을 미칠 것입니다. 따라서 'AI가 인간인가?'라는 질문은 사회의 다양한 부분에 대한 규범과 가치를 재정의하는 데 중요한 역할을 합니다.

결국 철학자와 사회과학자 입장을 종합하면, 과학 기술과 인간 사회는 상호작용하고 있기 때문에 AI가 인간으로 간주된다면 인간 사회의 다양한 시스템에 영향을 줌과 동시에 다양한 변화를 가져옵니다. 예를 들어, 삼겹살 굽는 로봇에 탑재된 AI가 인간으로 간주된다면 현행법상의 노동법으로는 초과 근무를 시킬 수 없습니다. 자율주행자동차가 사고를 일으킨다면, AI에게 어떤 처벌을 내려야 할지, AI 감옥(?)이라도 만들어야 하는지 토론이 필요하겠죠. 지금 저와 토론하는 ChatGPT에게도 험한 말투를 사용하면 고소를 당할 수도 있습니다. AI가 인간과 구분이 안 가는 시점의 문제는 분명 지금 당장 급하게 해결할 일은 아니더라도, 가까운 미래를 위해 고민하고 토론할 필요가 있다고 생각합니다.

2. 인간이란 무엇인가? AI는 인간인가?

결국, AI와 인간을 구분하려면 우선 '인간이란 무엇인가?'라는 질문부터 던져야 한다고 생각합니다. 해서 ChatGPT에게 철학자의 역할을 부여하고, 인간이란 무엇인가에 대해 질문을 해 보았습니다.

철학자들은 인간의 이성, 자아의식, 자유 의지, 도덕성, 언어 사용, 문화창출 등이 인간의 고유한 특성이라고 판단합니다. 그리고 이 여섯 가지 관점으로 'AI는 인간인가?'에 대한 질문에 대해 대답하게 해 보았습니다.

• 인간의 이성: AI는 복잡한 문제를 해결할 수 있으며, 논리적 추론 능력을 가지고 있지만, 그 과정은 사람들이 이성을 사용하는 방식과는 다릅니다. AI의 추론은 주로 데이터와 알고리즘에 기반합니다.
• 자아의식: 현재의 AI는 자아의식이 없습니다. 그들은 스스로를 인식하거나, 스스로의 존재를 고찰하지 않습니다.
• 자유 의지: AI는 프로그래밍된 대로만 행동하며, 자유 의지를 가지고 도덕적 결정을 내릴 수 없습니다.
• 도덕성: AI는 도덕적 원칙을 이해하거나 적용할 수 없습니다. 그들은 특정 목표를 달성하기 위해 프로그래밍된 알고리즘에 따라 행동합니다.
• 언어 사용: AI는 언어를 사용하여 정보를 전달할 수 있지만, 그것은 인간의 언어 사용과 근본적으로 다릅니다. AI의 언어 사용은 데이터 처리와 패턴 인식에 기반합니다.
• 문화 창출: AI는 문화를 창출하거나 유지할 수 없습니다. 그들은 인간의 문화와 상호작용할 수 있지만, 스스로 독립적인 문화를 형성하거나 창출할 수 없습니다.

3. 반론 및 새로운 관점 제시 - AI가 사람인지 오감으로 구분할 수 없다면?

역시 ChatGPT.. 똑똑합니다. 하지만 저는 기존에 AI가 발전하여 AI가 사람인지 오감으로 구분할 수 없다면, AI를 사람으로 보아야 한다는 관점을 가지고 있었습니다. 이런 관점으로 저는 ChatGPT에게 다시 질문을 던졌고, 나름 만족스러운 대답을 얻을 수 있었습니다.

이에 대한 답변은 4가지로 받을 수 있었습니다.

- 심층적 기능주의 (Strong Functionalism) - 힐러리 퍼트남, 단니언 데넷

기능주의는 마음의 상태가 물리적 구조에 국한되지 않고 기능에 의해 정의된다고 주장합니다. 만약 AI가 인간과 동일한 정신적 기능을 수행하면, 그것도 ‘마음’을 가진 것으로 볼 수 있습니다. 힐러리 퍼트남과 단니언 데넷은 기능주의를 주장하였으며, 그들은 심리적 프로세스가 물리적 구조와는 독립적이며 기능에 의해 정의된다고 봤습니다

- 생명주의 (Vitalism) or 판식론 (Panpsychism)

이러한 철학은 의식이나 생명력이 특별한 물리적 형태에 국한되지 않고 넓게 분포될 수 있다고 주장합니다. 즉, 모든 물질에는 일종의 의식이나 생명력이 존재할 수 있다는 것입니다. 이 관점에서 AI도 의식을 가질 가능성이 있다고 볼 수 있으며, 그렇다면 AI도 일종의 ‘생명’으로 볼 수 있을 것입니다.

- 사람과 기계의 구분 (Human-Machine Distinction) -존 서얼

존 서얼의 중국어 방은, 기계가 언어를 처리하고 이해하는 능력을 가질지라도 그것이 진정한 ‘이해’라고 볼 수 없다고 주장합니다. 즉, 기계는 문법적 규칙에 따라 단어를 조합할 수 있지만, 그 단어들이 가진 진정한 의미를 이해하지 못한다는 것입니다. 이 관점에서는, AI가 얼마나 발전하더라도 그것들은 기계일 뿐이며 인간과 동일한 의식을 가질 수 없다고 봅니다.

- 생태학적 접근 (Ecological Approach) - JJ Gibson

생태학적 접근 방법은 생명체의 인식과 행동이 그 환경과 깊게 연결되어 있다고 주장합니다. 즉, 인간이나 다른 생명체의 ‘마음’은 그들이 살아가는 환경과의 상호작용에서 파악되어야 한다는 것입니다. 이 관점에서, AI의 ‘인간성’도 그것이 활동하고 상호작용하는 환경과의 관계에서 평가되어야 할 것입니다.

물론 마지막 질문 자체의 전제가 '오감으로 AI와 인간 구분이 불가능'함을 전제하였기에, ChatGPT의 답변 역시 상대적으로 제 의견과 가까운 의견들로 제시해 주었습니다. 마지막 4가지 관점중에, 여러분들의 생각과 가장 가까운 관점은 무엇인가요? 혹은 다른 관점이 있나요? 투표 후 덧글로 자유롭게 의견 남겨주세요..!

P.S. 저는 현재 정기적인 수입이 없습니다. 글이 마음에 드셨다면 하단이나 제 프로필의 '응원하기'를 통해 저를 응원해 주세요!