2023년 4월 22일 ESC에서 개최한 인공지능 윤리포럼 'ChatGPT 활용 그 너머를 묻다!' 을 요약 정리한 글입니다.
작성자: 이현옥 (강원대학교 자유전공학부 교수, ESC 인공지능 윤리포럼 사회자, ESC 회원)
ESC 인공지능 윤리포럼 'ChatGPT 활용 그 너머를 묻다' 요약 정리
사단법인 변화를 꿈꾸는 과학기술인 네트워크(Engineers and Scientists for Change, 이하 ESC, 대표 김찬현)는 'Chat GPT 활용 그 너머를 묻다'라는 제목으로 인공지능 윤리 포럼을 개최하였다. 1부 'Chat GPT 배경과 현안'에서 IT 전문가이자 SF 작가 전윤호가 Chat GPT에 대한 공학적 기초개념을 설명하였고, 임팩트 벤처 캐피털 회사인 옐로우독 파트너 유재연이 AI를 둘러싼 윤리적 쟁점을 소개하였다. 2부 'Chat GPT와 현장'에서는 다양한 분야 및 현장에서 생성형 AI를 직접 경험하고 있는 연사들이 관련 쟁점에 대한 의견을 제시하였다. 교육현장은 부산교육정책연구소 연구위원 박영민이 맡았고, IT 산업현장에 대한 소개는 업스테이지 데이터 리더로 활동하고 있는 한지윤이 하였다. 연구개발 현장에 대한 논의는 성균관대학교 교수 원병묵, 그리고 예술문학 현장은 주식회사 페블러스 대표인 이주행이 담당하였다. 생성형 AI 기술이 가져올 변화를 빠르게 감지한 시민들은 강연장을 꽉채웠고, 다음과 같은 논의를 집중하여 들었다. 이어진 토론시간에 다양한 질문을 하며 시민으로서 인공지능의 발전과 윤리에 대한 고민을 함께 나누었다.
@ 인공지능 윤리포럼 종합 토론
1부: ChatGPT 배경과 현안
ChatGPT와 거대언어모델의 이해
ChatGPT 같은 거대언어모델(LLM)의 원리는 단순하다. 텍스트 자료를 학습시켜 컴퓨터가 확률적으로 다음 단어를 예측하게 하는 것이다. 그저 다음 단어를 추측하여 제시하는 방식은 별로 놀라울 것 없는 결과를 보여주다 데이터가 일정 수준을 넘어가면서 성능이 급격하게 향상된다. 방대한 양의 데이터 즉, ‘거대’한 모델이 되면 상식적인 질문에 쉽게 답할뿐 아니라 복잡한 명령에 적절히 반응하고 전문지식까지 섭렵하여 설명을 해주기도 한다. 관련 전문가는 이를 ‘신비로운 창발적’ 특성으로 명명하였지만 왜 이러한 현상이 나타나는지는 설명하지 못하고 있다.
ChatGPT의 사용자가 늘어날수록 적절하지 않은 질문과 요구를 하는 경우가 많아졌다. 더욱이 얼토당토 않는 질문에 답변을 하면서 부정확한 정보를 생성하는 환각(hallucination)과 같은 문제가 발견되었다. 예를 들어, “조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건”에 대한 정보 요구에 ChatGPT는 엉뚱한 거짓말을 지어내었다. 이 문제가 발생하는 원인은 명확히 밝혀지지 못하였고 뚜렷한 해결방안이 아직은 없다. 다만, 오픈AI 회사는 별도의 인력을 투입하여 비윤리적인 질문에 대한 답변을 피하고 인간의 가치에 부합하는 답변을 할 수 있도록 추가 학습을 시키고 있다.
? 발표 요약문 자료: https://www.soopsci.com/Story/?idx=14998350&bmode=view
인공지능의 윤리적 현안
유재연 연사는 재밌는 경험 하나를 소개하였다. 생성형AI가 활용되는 실례를 알려달라는 강연 요청에, 아직 구체적인 사례를 찾기 어려울거라는 짐작에도 불구하고 구글의 거대언어모델인 바드(Bard)에 물어봤다. 바드는 이 어려운 요청에 쉽사리 다섯 개의 업체와 관련된 사례를 제시하였다. 물론 이 정보는 거짓이었다. 그러나 바드의 답변은 재밌게도 해당 업체에 유사한 비즈니스를 개발할 수 있겠다는 브레인스토밍에 도움이 되었다. 이처럼 생성형 AI 기술은 기대되는 기능뿐 아니라 예상치 못한 활용도가 발견되며, 앞으로 더욱 영역을 넓혀나갈 것으로 기대된다.
위의 사례처럼 의도치 않게 유용한 기능을 발견하면 좋겠지만 이것이 부작용을 일으키거나 인간과 인류에게 해가 되는 경우도 생각해봐야 한다. 다음과 같은 질문을 통해 AI 기술의 윤리 쟁점을 고민해 볼 필요가 있다. “이 기술을 사용할 수 있는 사람과 그렇지 않은 사람 사이의 격차를 어떻게 해소할 수 있을까?” “이 기술로 혜택 받는 사람은 누구인가?” “이 기술의 결과로 가치 판단이 수반된다면, 그 기준은 누가 결정해야 할까? ”
? 발표 요약문 자료: https://soopsci.com/Story/?idx...https://soopsci.com/Story/?idx...
2부: ChatGPT와 현장
교육 현장과 ChatGPT
인공지능이 빠르게 발전하는 사회에서 지속가능한 교육은 어떤 모습이어야 할까?
박영민 연사는 이 질문을 던지며 교육현장에서 발생할 수 있는 여러 쟁점을 나열하였다. ChatGPT 활용에서의 표절 및 학습 윤리로 무엇을 그리고 어떻게 가르쳐야하는지, 우려되는 문제와 윤리적 쟁점을 고려하여 교육현장에서 인공지능 서비스를 배제해야 하는것인지 자유롭게 허용해야하는지 등 논의하고 해결할 것들이 많다. 교강사들은 자신의 자리가 없어지지 않을까 고민을 할 것이고 학생들은 어떤 진로를 택해야 하는지 혼란스러워 할 것이다.
그러나 박영민 연사는 지속가능한 교육은 기술자체의 현란함과 화려함으로 특징지워져서는 안된다고 제안하였다. 더욱이 다음의 네 가지 역량이 교육에서 필요하다 주장하였다. 첫째, 메타인지를 바탕으로 하는 질문하기 둘째, 사랑의 기술이라 할 수 있는 공감 및 협업 셋째, 넘쳐나는 정보에 휘둘리지 않기 위한 정보지배의 기술 그리고 마지막으로 글쓰기와 말하기와 같은 표현의 기술이다.
? 발표 요약문 자료: https://soopsci.com/Story/?idx...
IT산업 현장과 ChatGPT
사람들은 인공지능 기술이 자신을 대체하지 않을까 두려워하고 있다. 단순 노동만을 대체할거라는 믿음 혹은 위안도 무너지고 있는 것 같다. 인간 능력의 보류라고 생각했던 창의적인 작업까지 생성형 AI 기술이 침범하고 있기 때문이다. 이때, 한 엔지니어의 트윗이 우리가 가진 두려움과 착각을 환기시켜 주었다. “인공지능은 당신을 대체할 수 없다. 인공지능을 사용하는 사람이 당신을 대체할 것이다”
기술이 우리를 지배하는 것이 아니다. AI를 개발하는 과정에서 엔지니어들의 수많은 결정이 기술의 형태 및 성능을 만들어낸다. 엔지니어들이 학습데이터를 수집하는 방식을 선택하고, 인공지능을 평가하는 요소와 방법을 제안한다. 그리고 개발된 여러 AI 모델 중에서 실제로 상용화될 제품과 서비스를 선정한다. 또한, 이 제품과 서비스를 어떻게 활용할 것인지에 대한 사회의 결정이 그 영향력의 범위를 구성한다. 결국, 주체는 기술자체가 아니라 사람이다.
그러나 정부를 비롯한 많은 사람들은 AI 기술에만 집중하는 듯하다. AI 기술이 변화시킬 풍경을 우리가 주체적으로 만들어가기 위해서는 AI 산업생태계를 비롯하여 이것이 제기하는 사회 문제를 포괄적으로 조망하며 의식적으로 판단하고 선택해야 한다.
? 발표 요약문 자료: https://soopsci.com/Story/?idx...
연구개발 현장과 ChatGPT
원병묵 연사는 과학연구에서 ChatGPT의 가능성과 한계를 ChatGPT와 나눈 대화를 통해 소개하였다. 첫 번째 질문은 “ChatGPT는 과학연구에 어떤 도움을 줄수 있나요?”이다. 이에 ChatGPT는 데이터 분석, 문헌 검토, 실험설계, 가설 설정, 커뮤니케이션에 긍정적인 도움을 주어 과학연구가 효율적으로 진행될 수 있다고 하였다. 두 번째 질문은 “ChatGPT는 영어 과학논문 작성에 어떤 도움을 줄 수 있나요?”이다. 답변은 자동 요약, 문장구성, 인용문작성, 용어정리, 피어리뷰를 하는데 유용할 거라는 것이다.
원병묵 교수는 이어서 실질적으로 도움이 될 수 있는 프로그램을 다양하게 소개하였다. 그러나 과학연구는 이러한 도구로만은 수행될 수 없고 자신의 랩 대학원생이 이런 도구를 활용하고 도움을 받았지만 그들이 작성한 논문은 수정할 곳이 아직 많다고 하였다. 또한, 여러 도구의 실용성도 각자의 맥락에서 사용해보면서 느껴봐야 한다고 조언하였다.
? 발표 요약문 자료: https://soopsci.com/Story/?idx...
예술문학 현장과 ChatGPT
예술평론가인 이주행 연사는 생성형 AI 기술이 예술의 정의를 어떻게 변화시킬지를 논의하였다. 최근 생성형 AI 기술이 발전하면서 인간의 영역으로 생각하던 창의성이 도전을 받고 있는 상황이 연출되고 있다. Stable Diffusion과 Midjourney와 같이 이미지를 생성하는 AI 소프트웨어가 확산되면서 관련 분야에서 다양하게 활용되고 있을뿐 아니라 국제적인 대회에서도 이러한 프로그램을 활용한 작품이 수상하기도 하였다. 예술의 전통적인 정의에 대한 의문이 제기되고 그 의미가 퇴색이 되고 있는 듯하다. 또한 AI 시대에 예술가 또는 크리에이티브의 역할이 무엇인지에 대한 문제가 심각하게 제기된다.
결론적으로 AI 기술이 인간 예술가 및 창의성을 대체하지는 못할 것이며 서로간 상호보완하며 발전할 것이라 제안하였다. 특히, 예술과 창의성의 변치않는 속성을 몇가지 제안하며 이를 강조하였다. 첫째, 예술은 인간의 감정을 포착하여 반영하는 것이라 AI가 보조할 수는 있지만 대체할 수는 없다. 둘째, 창의적인 작업의 가치는 사람들과의 공감을 이끌어내는 데 있다. 셋째, AI는 인간의 창의성을 대체하기 보다는 예술의 혁신을 강화하거나 촉매하는 방향으로 발전할 가능성이 높다. 넷째, 예술은 우리 사회와 문화를 반영하는데, 결국 해석에는 사람이 중요하다.
? 발표 요약문 자료: https://soopsci.com/Story/?idx...
3. 포럼 참여자 질문 & 의견
코멘트
1