AI 미래, 가장 위협적인 요소는 AI의 고도화일까요, 인간의 편향성일까요?

사진: 본인 제공

한겨레신문사가 주최하는 <제2회 사람과 디지털 포럼>에 다녀왔습니다. 올해 주제는 ‘챗지피티 시대, 인간과 AI공존의 조건’ 이었습니다. 핫한 주제 만큼 많은 분들이 관심을 보이고 참여했습니다.

흔히들 AI의 범람과 함께 AI가 인간을 조정하고 일자리가 파괴되는 그런 두려움과 위험성을 느끼거나 완전히 자동화된 삶을 떠올리는 경우가 많은데요. 사람과 디지털 포럼을 통해 유토피아와 디스토피아의 이분법에서 벗어나 AI에 대한 이해를 넓히면서 현실적인 미래 전망과 인간과 AI의 다양한 공존 가능성 등 다양한 내용에 대해 전문가 의견과 사례를 들을 수 있어서 좋았습니다.

기조연사로 나선 윤송이 엔씨소프트 사장은 "지금 이 시점에 AI 시대를 제대로 준비하고 적응하지 못하면 인간의 미래나 인간적인 미래는 사라질지도 모른다. 하지만 반대로 잘 준비하면 아주 크고 많은 편리함과 또 자유를 누릴 수 있을 것이라고 생각한다"며 AI와 인간 공존을 도모할 골든타임의 중요성을 역설하며 포럼의 포문을 열었습니다(2023-06-20, 윤송이 엔씨소프트 사장, "가장 인간적인 미래로 가기 위해 AI 시대 제대로 준비하는 것이 중요", 출처 라이프인).

함께한 전문가들은 AI와 공존하는 ‘인간적인 미래’를 위협하는 요소에 대해 AI를 개발을 주도하는 특정 집단의 데이터 편향성 주입에 대한 우려를 많이 표했습니다. 실제 AI는 인간이 만든 데이터를 통해 학습하고 있기에 인간의 표현과 편견, 편향성까지 그대로 답습하는 경우가 많습니다. AI 개발을 서구 주류의 소수의 집단이 주도하다 보니 AI가 특정 문화, 언어에 편향될 경우 다양성이 침해될 수 있는 가능성이 커지는데요.

이에 대해서 윤 사장은 “문화적 식민주의를 야기하지 않고 문화 공존과 화합의 도구로 쓰일 수 있도록, 정부와 기업이 적절한 규제와 혁신의 균형을 맞추며 협력해야 한다”라며 AI 개발자, 정부와 기업의 책임 있는 역할을 요구하기도 했습니다. 같은 날 연사로 나선 제임스 랜데이 미국 스탠퍼드대 인간중심 인공지능 연구소(HAI) 공동설립자 겸 부소장은 사회과학자들이 인공지능이 널리 사용된 뒤 사후에 비판하는 방식의 한계를 지적하며 다양한 전문가들이 모여 인간 중심 인공지능 설계 논의를 더욱 활발하게 하며 미래를 대비해야 한다고 말하기도 하였습니다(2023-06-13, 더 인간답게…인공지능 개발 때부터 ‘윤리’에 주목하자, 출처 한겨레).

한편 다른 연사로 참여한 드루 헤먼트 영국 에든버러대학 미래연구소 교수는 “우리의 편향을 데이터로 이해하고, 차이점에 대해 토론하는 기회를 가질 수 있을 것”이라며 편향성을 인지하고 극복하는 유의미한 데이터가 될 수도 있다는 긍정적인 측면도 언급했습니다. 그러나 AI의 영향력이 점점 커지는 만큼 그로 인해 발생할 수 있는 윤리적 문제와 사회적 영향력도 함께 고려하며 개발이 진행되어야 한다는 것에는 모두가 공감했습니다. 

무분별한 개발이 AI 뒤에 있는 사람들의 특정 가치관과 편향에 의해 주도된다면 정말 위험한 미래가 기다리고 있을지도 모릅니다. AI 미래가 우리 사회의 진보가 아닌 ‘퇴보’가 될 수도 있는 상황이 벌어질 수도 있기 때문입니다. 

현재도 ‘딥페이크’ 기술이 실제보다 정교해지면서 진짜와 가짜를 구분할 수 없는 상황도 많이 벌어지고 있습니다. 이러한 가짜 이미지나 영상이 프로파간다를 위해 이용된다면 인지하지 못한 사이에 사람들에게 특정 편향적인 사고를 심어주는 일들이 일어날지도 모릅니다. 우리가 일상에서 자주 접하게 되는 AI 기술 중 하나인 ‘알고리즘’도 데이터를 개인화 해주기에 편리하다고 느껴질 때도 있지만 알고리즘이 고도화될수록 우리는 취향의 한계 속에 갇히는 경우가 많습니다. 다양하고 새로운 이슈를 발견할 수 있는 기회가 실종되는 것입니다. 사용자 조정 이슈 또한 우리가 추천 알고리즘을 신뢰할 수 없는 이유로 꼽히기도 합니다.

결국 기술의 발전이 우리에게 기회가 되는지, 혹은 위협이 되는지는 기술 그 자체의 이슈가 아닌 그를 활용하는 사람들에게 달려있는 것 아닐까요? 책임감 있고 신뢰할 수 있는 개발에 대한 논의가 잘 이루어지고 있는지 되짚어 보아야할 시점이 아닐까요?

정말 인간을 위협하는 것은 AI일까요? 아니면 인간의 편향성일까요?

AI와 인간이 공존하는 인간 중심의 AI 설계는 어떻게 이루어져야 할까요?

여러분들의 다양한 의견을 남겨주세요!