AI 디지털교과서 개발과 보급에 관한 기대와 우려가 공존하는 상황입니다. 오픈넷은 AI 디지털교과서 사용이 초래할 수 있는 개인정보유출 문제에 주목해 왔습니다. 아래의 논평은 지난 5월 20일 교육부가 AI 디지털교과서 적용을 위한 교사연수 준비 과정에서 교사들의 개인정보를 '실수'로 유출한 사건에 맞춰 AI 디지털교과서의 개인정보보호 대책을 촉구하기 위해 작성되었습니다.  1만명 교사 개인정보 유출한 교육부, 개인정보보호 대책 없으면 AI 디지털교과서 개발 유예해야 지난 5월 20일, 교육부 주최로 개최된 AI 디지털교과서 적용을 위한 교사연수 준비 과정에서 교육부의 실수로 연수대상자로 선정된 교사 1만 여명의 성명, 학교, 휴대폰 번호가 포함된 개인정보가 유출되는 사고가 일어났다. 방대한 양의 개인정보 수집을 필요로 하는 AI 디지털교과서 개발과 실행의 총책임을 맡고 있는 부처로서 자격미달을 스스로 증명하는 사건이다. 사단법인 오픈넷은 교육부가 AI 디지털교과서의 상용화를 개인정보보호 대책을 완비한 이후로 유예할 것을 촉구한다. AI 디지털교과서는 서책형 교과서를 디지털화한 것이 아닌 학생과 교사와 학부모가 함께 사용하는 ‘교육용 플랫폼’이다. “AI에 의한 학습 진단과 분석”을 하고 “개인별 학습 수준과 속도를 반영한 맞춤형 학습”을 제공하는 “학생의 관점에서 설계된 학습 코스웨어(Courseware, 교과과정(Course)과 소프트웨어(Software)의 합성어)”로 정의하고 있는 AI 디지털교과서는 공공(교육부와 한국교육진흥원 등)이 제공하는 AI 디지털교과서 포털과 민간(AI 디지털교과서 개발업체)이 제공하는 교과별 AI 디지털교과서 그리고 학습데이터 허브로 구성된다. 포털은 학생과 교사가 디지털교과서로 접속할 수 있는 통로이자, 학생 개인의 교과목과 시간표를 확인할 수 있는 책장이면서, 학생은 개인별 맞춤 학습 지원을 받을 수 있고 학부모는 자녀의 학습현황을 파악할 수 있고 교사가 수업을 설계하고 학생을 지도할 수 있는 통합 대시보드로 기능한다. 통합 대시보드에서 제공하는 정보는 학생이 교과서를 활용하며 학습하는 과정에서 발생하는 학습데이터를 분석한 결과물이다. 학습데이터는 학습데이터 허브로 보내져 민간 개발업체에 의해 데이터 분석과정을 거쳐 포털의 통합 대시보드로 전송된다. 디지털교과서는 학생, 학부모, 교사는 물론 민간 개발업체와 교육부, 한국교육학술정보원 등의 다양한 주체가 접근 가능한 소프트웨어 플랫폼인 것이다. 한국교육학술정보원은 2023년 발간한 「AI 디지털교과서 개발 가이드라인」(이하 가이드라인)에서 디지털교과서의 개발 방향을 “국가적 차원에서 데이터 기반의 교육 의사결정을 가능하게 하는 플랫폼의 기능을 충족함으로써 전체적인 교육의 질 향상에 기여”하는 것이라 밝히기도 했다. 플랫폼으로서 AI 디지털교과서의 핵심 구동 요건은 학생이 학습 과정 중에 생산하는 학습데이터, 즉 개인정보이다. 교과서가 수집할 학습데이터는 학습 시간, 콘텐츠 수행도, 콘텐츠 메타데이터, 학습계획 달성도, 접속시간, 형성평가 성취도, 추가 학습 진행도, 질의응답 정도, 커뮤니티 참여도, 학습 정서, 학생의 전학 등의 항목으로 구성될 것이라 가이드라인은 밝혔다. 가이드라인에 따르면 수집된 학생들의 개인정보는 1. 학생들의 학습 이해도의 특성 분석을 기반으로 현재 수준을 진단하고 개인의 능력, 목표에 맞는 적절한 학습 콘텐츠를 추천하고 학습경로를 제시하기 위한, 2. 학생들의 학습 패턴(관심사, 선호도 등) 및 수준 등을 종합적으로 분석해 적절한 학습 콘텐츠를 제시하기 위한, 3. 학생들의 개념 이해도를 높이기 위한 AI 튜터 기능을 제공하기 위한, 4. 학습 패턴 및 활동 분석으로 추가 학습 요소 등의 맞춤형 서비스를 제시하기 위한 분석 데이터로 활용된다.  디지털교과서로 수집할 학습데이터의 범위와 함께 수집은 최소한을 원칙으로 한다고 가이드라인은 밝히고 있다. 그러나 이번 교육부의 교사 개인정보 유출 사건이 벌어진 이상 AI 디지털교과서가 상용화되었을 때 발생할 수 있는 아동의 개인정보 유출 및 오남용의 가능성을 염려할 수밖에 없다. 교육환경에서 수집되는 아동의 개인정보는 디지털인권과 직결되는 문제이므로 성인의 개인정보보호보다 더 세심한 주의를 필요로 한다. 지난 3월 20일 오픈넷이 제3차 민주주의 정상회의에서 주최한 세션 “AI 디지털교과서 개발 정책의 프라이버시와 감시 이슈”에서 발제를 맡은 정현선 교수는 “AI 디지털교과서의 서비스에 포함된 정보 가운데, 특히 ‘학습 태도’, ‘관심사, 선호도’, ‘학습활동 상태’, ‘학업 정서’ 분석은 교육 환경에서 사람의 감정을 추론하는 AI 시스템을 작동하는 것으로, EU 「인공지능법」에서는 고위험(high-risk)으로 분류되는 민감 정보에 해당”하므로 취급에 각별한 주의를 기울여야 함을 지적했다. 토론을 맡았던 손주은 역시 ‘아동의 신원, 학습 활동, 위치, 의사소통, 감정, 건강, 사회적 관계에 대해 수집한 데이터는 가명화, 익명화 등의 비식별처리를 하더라도 조합을 통해 특정 아동을 정확하게 식별’할 수 있음을 지적했다. 가이드라인에 의하면 디지털교과서는 학습자(는 물론 교사와 학부모)가 디지털교과서 포털에 간편하게 로그인하기 위해 지문과 안면 이미지 역시 수집할 것으로 예상된다.  AI 디지털교과서의 상용화는 필연적으로 정부부처가 민간업체를 통해 국가의무교육의 대상인 전체 아동의 개인정보를 수집하게 될 것임을 뜻한다. 이에 따라 전문가들은 개인정보보호 감시감독 체계가 교과서의 개발과 병행해 수립되어야 하고 그 절차 역시도 투명하게 대중에게 공개되어야 한다고 조언해왔다. 정현선 교수는 위의 발제에서 ‘아동의 개인정보보호를 위한 구체적이고 실효성 있는 시행령 등 법규 마련 및 개발사에 대한 관리 감독과 규제 장치를 마련하고 시행해야’ 하고, ‘이를 위한 조사 연구, 학생과 학부모, 교사 및 일반 국민을 대상으로 한 공청회, 예산과 인력 확보가 시급히 요구’되며, ‘조사 연구와 입법 및 관리 감독은 독립적인 기관에서 시행할 수 있도록 인력 및 예산을 확보’해야 한다고 제언했다. 가이드라인은 한국교육학술정보원을 기술 점검, 기술 관리의 주체로 명시하고 있을 뿐, 구체적인 시스템(소관 부서, 업무 내용, 필수 인력의 수 등)에 관해서는 언급하고 있지 않다. 이번 교사들의 개인정보 유출 사건을 계기로 형성된 국민들의 우려를 잠식시키기 위해서라도 교육부와 한국교육학술진흥원은 디지털교과서가 수집할 개인정보 관리와 감시, 감독 체계에 대한 청사진을 미리 공개할 필요가 있다.  교육부는 AI 디지털교과서의 상용화로 그 역할에 있어 큰 전환을 맞게 될 것이다. 교육부는 개인정보처리자로서 개인정보 및 정보보안 체계를 감시감독할 책임이 있다. 학생과 교사, 학부모의 개인정보가 없이는 구현이 불가능한 AI 디지털교과서의 상용화는 학습 포털에 방대한 양의 학생과 교사, 학부모의 개인정보가 축적되고 가공, 편집 등의 처리가 불가피하다. AI 디지털교과서가 수집하는 개인정보의 양은 지금까지 교육부나 일선 학교가 그간 수집해왔던 정보의 양과 비교하지 못할 양일 것이다. 늘어나는 개인정보의 규모에 따라 교육부의 책임은 앞으로 더욱 강화되어야 것이다. 그럼에도 교육부는 미숙한 업무처리로 1만 여명에 달하는 개인교사들의 민감한 정보를 유출하고 말았다. 이 사건은 교육부가 AI 디지털교과서의 개인정보보호 체계를 감시감독할 능력이 있는가를 근본적으로 의심하게 만든다. 오픈넷은 교육부가 학교 현장을 안심시킬 수 있도록 개인정보보호의 확실한 대책을 마련하고 투명하게 공개하기 전까지 AI 디지털교과서의 개발을 유예할 것을 촉구한다. 사단법인 오픈넷2024년 6월 7일

이제 ChatGPT, Midjourney와 같은 생성형 AI는 많은 사람들이 일할 때 활용하는 유용하고 중요한 도구가 됐습니다. 저 역시 웹 데이터 수집 및 정리, 사회과학 연구를 위한 자료 조사 등 여러 업무에서 생성형AI를 활용하고 있는데요. 앞으로 여러 차례에 걸쳐 생성형AI를 사용한 경험과 잘 쓰는 방법에 대해 공유하고자 합니다. 생성형 AI도 사람이야 사람! 생성형 AI 잘 쓰는 법을 이야기하는데 왜 갑자기 ‘생성형 AI도 사람이야’라는 이야기가 나오는지 의아해하신 분들이 많을 겁니다. 하지만, 이 문장은 생성형 AI의 작동 원리부터 시작해서 잘 활용할 수 있는 방법까지 전부 한 줄로 요약한, 아주 중요한 문장입니다. 생성형 AI의 작동 원리는 무엇일까요? 생성형 AI는 기존 대규모 데이터를 학습하여 텍스트, 이미지, 오디오, 비디오 등을 확률적으로 생성합니다(Perplexity AI). 여기서 중요한 점은 기존에 학습한 데이터의 출처가 인터넷이고, 인터넷에 있는 데이터는 사람이 지금까지 축적해 왔다는 겁니다. 우리가 생성형 AI에게 소설을 써달라고 하거나, 요리 레시피를 물어보거나, 여행 정보를 알려달라고 하거나, 특정 코드를 짜달라고 할 때 생성형 AI가 참고하는 데이터는 이전에 다른 사람들이 인터넷에 쌓아 둔 데이터입니다.  생성형 AI 잘 쓰기 = 다른 사람과 함께 일 잘하기 사람의 데이터를 기반으로 결과물을 생성하는 AI에게 작업을 맡긴다는 건, 사람과 함께 일하는 것과 비슷합니다. 즉, 생성형 AI를 잘 쓰는 방법은 다른 사람들과 일을 잘하는 방법과 같습니다. 이후 ‘생성형 AI, 잘 쓰는 법’ 연재에서 하나씩 풀어 낼 프롬프트(질문)과 구체적 활용 사례들도 결과적으로 유능한 직원, 유능한 동료와의 협업 사례로 바꿔서 봐도 어색하지 않을 겁니다. 다른 사람과 같이 일을 잘 하는 사람은 어떤 사람일까요? 우선, ‘본인의 일을 잘 아는 사람’입니다. 생성형AI가 발전해 감에 따라, 점점 스스로 할 수 있는 일은 많아지고, 그 수준도 더 높아질 겁니다. 하지만 생성형 AI가 아무리 발전해도 사용자가 입력한 값(prompt)에 따라 결과물을 ‘생성’한다는 점은 변하지 않습니다. 즉, 생성형 AI를 활용하여 일을 잘하려면 우선 사용자가 생성형AI를 통해 얻길 원하는 결과물 자체가 구체적이어야 합니다. 내가 이걸 왜 생성해야 하는지, 생성한 결과물을 누구에게 보여줄 것인지 등이 명확해야 합니다. 이해를 돕기 위해 기존에 우리에게 익숙한 상황을 예시로 들어보겠습니다. 손님을 불러 파티에 내놓을 삼겹살 요리 레시피를 ChatGPT에게 물어봤습니다. 첫 번째 대답은 ‘맛있는 삼겹살 요리 레시피를 알려줘’라고 질문하여 생성했고, 두 번째 대답은 ‘삼겹살 요리 레시피를 알려줘. 에어프라이어를 활용하여, 손님맞이용으로 고급스럽게 요리를 내고 싶고, 저온에서 천천히 오래 조리해서 육질을 부드럽게 하는 방식의 요리였으면 좋겠어.’라고 질문하여 생성했습니다. 물론 삼겹살을 구워서 쌈장 소스에 찍어 먹어도 맛있겠지만, 에어프라이어에 고급스럽게 구워 허브와 함께 담아내는 게 파티에 내놓기에는 더 적절해 보입니다. 누구에게 내놓을 요리인지, 어떻게 조리하면 좋겠는지에 따라 대답이 크게 바뀌는 걸 쉽게 관찰할 수 있습니다.  또한, 생성형AI에게 입력할 프롬프트는 사람이 보고 따라 하기 쉬울수록 결과물이 좋습니다. 프롬프트 기법의 기초로 여러 논문에서 다뤄지고 있는 ‘단계별로 생각하게 하기(Chain of Thought)’, 예시 제시하기 등은 생각해보면 사람이 평소에 잘 일하기 위한 방법과도 같습니다. 우리가 PPT를 만들 때 이전 양식을 참고하는 것, 일할 때 회의하고 자료를 찾고 자료를 토대로 보고서를 작성하는 단계를 거치는 과정 등을 생성형AI에게 잘 질문하는 것이 프롬프트 엔지니어링의 기초 중 하나입니다.   고마워 AI, 마무리는 내가 할게. 마지막으로, 생성형 AI가 모든 일을 다 해줄 것이라는 기대를 버려야 합니다. 저 역시 자주 하는 실수 중 하나로, 가끔 생성형AI를 사용하여 일하는 사람들은 생성형AI로 완성된 결과물을 내려고 하다가 과하게 시간을 많이 허비하곤 합니다. 생성형AI로 완벽한 결과물을 내려고 강박을 갖게 되면 때로는 생성형AI를 쓰지 않는 것보다 원하는 결과물을 얻는 데 더 많은 시간이 들 수도 있습니다. 생성형AI는 능력 있는 동료지만, 어느 정도 만족스러운 결과가 나왔다면 그것을 자신의 것으로 만들고 마무리하는 것은 여러분 자신이라는 걸 알았으면 합니다. 생성형 AI로 원하는 결과물의 50~80% 수준까지 만들고, 완성은 사람이 직접 하는 게 시간이나 완성도를 더 높일 수 있는 방법입니다. 생성형 AI로 만든 컨텐츠를 사람의 손을 거쳐 완성도를 높인 사례 두 가지를 보여드리겠습니다. 첫 번째는 AI로 글을 작성한 후, 일부 문장을 제거하거나 추가하여 글을 마무리한 경우입니다. ‘사람과 인공지능의 교감, 사람과 사람의 교감만큼 깊을 수 있을까?’라는 제목으로 쓰인 이 글은 ChatGPT의 글쓰기 GPTs인 ‘Write For Me’를 활용해 글을 작성한 다음, 전체 문장의 20% 이내로 문장을 제거하거나 추가하여 완성했습니다. AI가 쓴 글에서 어색한 문장이나 조금 더 설명이 필요한 부분만 조금 건드리기만 했더니 훨씬 더 좋은 글을 완성할 수 있었습니다. 그다음으로 공유해 드릴 사례는 2024년 4월 11일 자 Tech잇슈 뉴스레터 ‘🦖 유튜브는 디지털 생태계를 찢어’에 삽입된 이미지 제작 과정입니다. 유튜브가 OTT, SNS등을 위협하고 있다는 내용의 칼럼에 삽입할 이미지를 만들기 위해 Tech잇슈는 ChatGPT의 이미지 생성 기능을 활용했습니다.  ‘거대한 공룡이 4개의 동네를 무참히 밟고 지나가는 모습을 귀엽게 그려줘. 가로로 긴 형태로 그려줘’, ‘지금 딱 좋은데, 폐허가 된 건물에 Netflix, NAVER, KAKAOTALK, Instagram의 간판을 그려 넣어줘’ 라는 프롬프트들을 통해 위의 이미지를 생성하고, 편집자의 손을 거쳐 아래 이미지로 완성한 것이죠. 생성형AI의 작업 결과물의 퀄리티가 아쉽다면, 사용하려는 목적에 따라 인간이 직접 마무리하여 편집하면 훨씬 더 좋은 이미지를 생성할 수 있다는 걸 알 수 있는 사례였습니다.   생성형 AI, 잘 쓰는 법(2)에서는 프롬프트 엔지니어링, 비개발자의 개발 용역 후기, 데이터 분석하기 등의 주제 중 하나를 다룰 예정인데요. 이 내용 중에서, 혹은 쓰여 있지 않더라도 관심 있는 생성형 AI 관련 컨텐츠가 있으시다면 아래 ‘평가하러 가기’에 남겨주세요. 최대한 반영하여 연재해 보겠습니다. 읽어주셔서 감사합니다! *본 컨텐츠는 글 작성자가 고정 필진으로 활동하고 있는 '테크잇슈' 뉴스레터에 먼저 실렸습니다.

제가 활동하고 있는 캠페인즈에서는 '뉴스'탭에서 서로 뉴스를 공유하고, 읽고, 의견을 나눌 수 있습니다. 평소 인터넷 뉴스 덧글의 흉포함에 지친 분들이 안전하게 자신의 의견을 나눌 수 있는 곳이며, 뿐만 아니라 각자 다른 사람에게 공유하고 싶은 뉴스를 가져오기 때문에 좋은 뉴스가 정말 많이 올라옵니다. 저 역시 가끔 캠페인즈에 들어와 뉴스를 보고, 직접 뉴스도 공유하는데요. 그렇게 뉴스를 캠페인즈에 업로드하던 어느 날, 이런 생각이 들었습니다. '이전에 소개했던 Notion web clipper처럼, 캠페인즈 뉴스도 사람들이 쉽게 공유하면 더 많은 뉴스가 캠페인즈에 올라올 수 있지 않을까?' 이미 좋은 공간인데, 사람들이 너도나도 아무 뉴스나 보다가 딸깍 쉽게 공유하면 더 좋겠다는 생각이 들어, 개발자가 아님에도 직접 한 번 '캠페인즈 웹 스크래퍼'를 만들게 되었습니다. 활용하실 경우, 꼭 글을 끝까지 읽고 사용해주세요! 1. 무엇을 자동화할 수 있을지 먼저 고민하기 지금까지 캠페인즈 뉴스를 추가하려면, 1) 공유하고 싶은 뉴스를 발견 -> 2) 캠페인즈 내에 들어와서 -> 3) 뉴스 탭에 들어온 다음 -> '추가'버튼을 누르고 뜨는 팝업에서 -> 4) 이슈,토픽,URL,코멘트(선택)를 입력한 다음 -> 5) '뉴스 공유하기'버튼을 눌러야 했습니다. 이렇게 단계를 나누고 천천히 분석해보니, 제가 자동화 할 수 있다고 처음 판단한 영역은 다음과 같았습니다. -2)와 3)에 해당하는 과정 - '추가'버튼을 누르면 나오는 화면이 나오게 하기 -4)번 과정 중, 먼저 할 수 있는 자동으로 지금 보고 있는 뉴스 기사 링크를 URL칸에 들어가게 하기 2. 일단 AI에게 물어보기 이 개요를 토대로, ChatGPT4o로 코드를 짜기로 결심했습니다. ChatGPT에는 앱스토어와 같은 'GPTs(GPT 탐색)'이 가능했고, 그 중 크롬 확장 프로그램 제작을 도와주는 'Chrome Extension Full-Auto Coder' 라는 GPTs를 찾아서 제가 필요한 걸 찾아 정리해 넣었습니다. 그리고 따라서 하다 보니 크롬 확장 프로그램에 필요한 로고 파일이 있다는 것도 발견하고, 이것도 ChatGPT로 만들어서 파일로 준비해 두었습니다. 중간 과정은 생략했지만, 약 1시간에 걸쳐 크롬 확장 프로그램을 만들었고, 제 크롬과 웨일에서 사용 가능하게 업로드할 수 있었습니다. 하지만 많은 사람들과 이 기능을 쉽게 공유하려면, Chrome 웹 스토어에 등록해야 합니다. 이 역시 질문하고, 개인 정보 처리 방침 등은 전부 ChatGPT에게 물어보며, 개발자 등록과 크롬 확장 프로그램을 웹스토어 등록하는 것까지 마칠 수 있었습니다. 근데 이 과정을 많이 헤매서.. 여기에서만 2시간이 추가로 소요됐네요 ㅎㅎ.. 3. 아쉬운 점을 개선하면 완료! 사용해보니, 뉴스 공유를 완료하고 나서도 캠페인즈 뉴스 탭이 사라지지 않는 게 좀 불편하더라구요. 그래서 뉴스 공유하기를 누르고 나면 창이 자동으로 꺼지도록 하는 기능까지 GPTs에게 물어보고, 답을 받아 고쳤습니다..! 사용 장면을 간단히 보여드리며 사용 방법을 알려드릴게요. 천천히 따라하시면 어렵지 않을 거에요. chrome웹 스토어(크롬 / 웨일 / Edge 사용 가능)에 들어가서 '캠페인즈 웹 스크래퍼'를 검색하시거나, 이 링크를 눌러 페이지로 직접 들어가기 오른쪽 상단의 'Chrome에 추가하기'버튼 누르기 우측 상단 퍼즐 모양을 누른 다음, 확장 프로그램 옆에 핀셋 눌러 인터넷 창에 고정시키기 기본적으로 캠페인즈에 로그인이 되어 있을 때 사용이 가능하며, 이제 뉴스 페이지에서 해당 버튼을 누르시면, 팝업으로 캠페인즈 뉴스 추가 창이 뜨고, 동시에 자동으로 현재 보고 있는 뉴스 사이트의 링크가 URL칸에 입력됩니다. 나머지 내용을 채우고 '공유하기'를 누르시면, 자동으로 팝업이 닫힙니다. 더 많은 뉴스가 캠페인즈에 공유되어, 서로 더 좋은 정보를 공유할 수 있게 되어 더 좋은 사회가 만들어지길 바랍니다..! 많은 분들의 활용 부탁드립니다! 저 역시 이 확장프로그램을 개발하며 자신감도 얻고, 보람차기도 했던 좋은 경험을 할 수 있어 좋았습니다 ㅎㅎ 여러분들도 해보고 싶은 일이 있으면 언제든지 도전하세요! *필독 : '캠페인즈 웹 스크래퍼'는 캠페인즈의 공식 기능이 아닙니다. 따라서 얘기치 못한 버그가 발생할 수 있으며, 캠페인즈 웹 구조가 바뀔 시 작동하지 않을 수 있음을 알려드립니다(그렇다고 해킹이나 바이러스 같은 게 있지는 않습니다..그런 건 등록이 안됩니다). p.s. 모바일에서 활용하시려면 '키위 브라우저'라는 걸 찾아 설치하셔야 한다고 합니다..!

올해는 전 세계 인구 절반 이상이 투표하는 ‘슈퍼 선거의 해’이다. 어느 나라건 선거는 정책에 대한 토론이나 상대편에 대한 원색적 비난 등 여러 문제가 발생하지만, 최근 AI 기술의 발전으로 ‘가짜 뉴스(이하 ‘허위 정보’)문제가 두드러지고 있다. 앞서 살펴본 트럼프 체포 이미지 역시 AI로 생성된 이미지로, 사전 정보가 없다면 실제 사진으로 알 법 하다. 이런 사진 한 장으로 잘못하면 수십, 수백만 유권자의 투표에 영향을 주어 민주주의에 심각한 문제가 될 수 있다. 또한, 인공지능은 사진뿐만 아니라 허위 정보를 담고 있는 동영상, 신문 기사 및 정보 등을 쉽게 만들어내며, 연예인이나 일반인 대상의 성범죄에 활용될 수 있는 등 사회적으로 큰 문제가 될 수 있다. 이런 상황을 어떻게 해결해야 할까? AI가 만드는 허위 정보 문제, 원인 진단서. 어떤 문제를 해결하기 위해선 언제나 문제의 ‘원인’을 알아야 한다. AI가 만들어내는 허위 정보가 왜 문제가 되는지, 이유를 짚어 보았다. 1) 생성형 AI의 성능 향상 생성형 AI가 성능이 그저 그랬다면, AI가 만드는 허위 정보들은 크게 문제가 되지 않았을 것이다. 과거에는 AI가 만든 이미지가 너무 퀄리티가 낮아 실무에 활용하기 어렵기도 했고, AI 번역은 퀄리티가 낮아서 따로 본문을 다시 봐야 했으며, AI가 생성하는 글은 말이 안 되는 내용으로 구성되어 있었다. 하지만 이제는 사진전에서 AI가 생성한 이미지가 우승을 하고, 영화 ‘Her’에 나오는 인공지능 비서처럼 AI와 사람이 자연스럽게 대화도 할 수 있게 됐다. 즉, ‘AI가 생성한 글, 음성, 사진, 동영상이 사람이 생성한 것과 구분하기 어렵게 된’상황으로 인해 AI가 만드는 허위 정보가 사회적 문제가 될 수 있었다. 2) 책임지지 않는 AI, 시키는 대로 확률에 따라 일하는 AI 생성형 AI는 결과물에 책임지지 않으며, 사람이 시키는 일에 대해 ‘가장 가능성이 높은’ 결과물을 생성한다는 것도 AI가 허위 정보를 쉽고 빠르게 생성할 수 있게 하는 원인이다. 2024년 6월 현재, AI는 생성한 결과물에 대해 아무 책임도 지지 않고, 아무 양심의 가책도 없다. 허위 정보를 만드는 데 거리낌이 없다는 이야기다. 이런 와중에 생성형 AI는 ‘할 수 없다’는 대답을 ‘잘’ 하지 않는다(환각 현상). 점점 개선되고 있는 문제이긴 하지만, 생성형 AI의 기본 원리는, 학습한 데이터를 바탕으로, 확률적으로 사용자가 가장 마음에 들어 할 것 같은 정보를 생성하는 것이다. 이런 생성형AI의 원리는 생성형AI가 허위 정보를 만들어 내는 건 쉽게 만들고, 허위 정보를 판단하는 팩트체크를 하는 건 어렵게 만든다. 예를 하나 들어, 만약 ChatGPT에 내가 좋아하는 음식들에 대한 정보를 주고 일주일 치 예상 식단표를 만들라고 하면, 적당히 음식들을 배치해 앞으로 수행할 식단표를 쉽게 만들 수 있다. 반대로 임의로 만든 식단표를 주고 이 식단표대로 내가 먹었는지 생성형 AI에 확인하라고 하면, 내가 좋아하는 음식뿐만 아니라 나의 동선, 내 결제 내역 등까지 알아야 정확히 식단표가 사실인지 확인할 수 있다. 풀어서 설명하자면, 글이나 사진, 동영상을 만드는 건 사람이 봤을 때 그럴듯해 보이기만 하면 되니까 허위 정보를 생산하는 건 쉽다. 하지만 특정 텐츠가 허위인지 아닌지를 분석하는 과정에서 ‘확률’이 개입하기에는 따져봐야 할 것이 너무 많다. 결국, 생성형AI의 발전은 허위 정보를 생산하기는 쉽게 만들고, 판단하기는 어렵게 만들었다. 3) 너무 빠른 허위 정보의 생성과 전파 생성형 AI의 가장 큰 특징이라고 한다면, 할 수 있는 일은 인간보다 빠르게 처리한다는 것이다. 이는 생성형AI를 인간이 유용하게 활용할 수 있는 장점이지만, 동시에 허위 정보 문제를 더 심각하게 만드는 원인이기도 하다. 이전에 한 AI 컨퍼런스를 듣고 남긴 후기에서 작성했듯이, 허위 정보는 사실 고대 시절부터 있었다(삼국사기에 기록된 서동요). 즉, 허위 정보의 생성과 전파 자체는 새로운 문제가 아니다. 하지만 AI로 인해 너무 쉽게, 빠르게 허위 정보가 만들어지고, SNS와 뉴스 등을 통해 빠르게 전파되는 구조가 문제다. AI가 만드는 허위 정보 문제, 해결 방안 처방전. 앞서 AI로 인해 발생하는 허위 정보 문제의 ‘원인’을 살펴보았다. 원인을 진단해 진단서를 작성해 보았으니, 이제 이런 문제를 해결할 수 있는 ‘처방전’을 지어보겠다. 1) AI의 허위 정보 생산을 막는 기업들의 노력 생성형 AI가 만든 허위 정보 문제를 일차적으로 해결할 방법은, 기술적으로 생성형 AI가 만든 컨텐츠는 AI가 만들었다는 걸 알 수 있게 표시하는 것이다. 대표적으로 구글 딥마인드에서 AI로 생성된 이미지를 구분하는 워터마크 도구 ‘신스ID(SynthID)’가 있으며, 유튜브나 메타 등의 기업에서도 AI로 생성된 컨텐츠를 구분할 수 있는 방안을 마련하고 있다. 각각의 방안들이 다른 원리를 가지고 있지만, 기업들은 사용자가 생성형AI를 통해 만들어진 콘텐츠임을 식별할 수 있는 워터마크 등을 사진이나 동영상 등에 넣고, 이후 영상이나 사진을 편집해도 이 워터마크가 훼손되지 않도록 노력하고 있다. 이외에도 AI를 활용하는 기업에서 자발적으로 생성 AI를 활용했다고 먼저 알리는 경우도 있다. 이미지에서 확인할 수 있듯이, 중앙일보의 경우 생성형 AI의 도움을 받아 작성한 기사임을 하단에 밝혔다. 이는 허위 정보의 확산을 막을 수 있는 조치이기도 하지만, 기업 입장에서도 생성형 AI를 통해 자동으로 뉴스를 내보내다 사회적으로 문제가 되어 경제적 피해를 보는 상황을 막을 수 있는 대비이기도 하다. 2) AI 규제와 법안에 대한 논의와 합의 앞서 진단한 생성형AI의 허위 정보 문제에서, AI는 책임을 지지 않는다고 했다. 하지만, 사람과 기업은 책임을 지도록 우리는 규제와 법안을 마련할 수 있다. 실제로 AI와 관련된 빅테크 기업들이 앞장서서 선거와 관련된 딥페이크나 가짜뉴스 규제에 대해 논의하기도 했다. 유럽의 경우, AI법의 시행만을 앞두고 있으며, 미국의 경우 행정부처별로 100여 개 안팎의 AI 가이드라인을 수립하도록 하고 있다. 한국의 경우, 21대 국회에서 AI 규제와 관련된 여러 법안에 대해 발의가 이루어졌지만, ‘우선허용 사후규제’ 문제를 포함해 여러 부족한 점이 많다는 지적이 있다. AI 입법 자체는 불가피하게 신중히 이루어지더라도, 어떤 방향의 규제를 할 것인지 더 많은 논의가 필요한 시점이다. 3) 결국, 개인의 합리적 판단 시민들이 정보를 비판적으로 수용하는 것, 이는 단순 AI가 생성한 허위 정보를 떠나, 모든 가짜 뉴스에 대한 근본적인 해결책이다. 그렇다면, 어떻게 시민들이 보는 뉴스나 사진, 동영상 등을 비판적으로 수용할 수 있을까? 여러 해결책이 제시될 수 있겠지만, 가장 먼저 ‘생성형 AI 사용법에 대한 교육’이 이루어져야 한다고 생각한다. ChatGPT 3.5이후 생성형 AI 자체는 시민들에게 친숙해졌지만, 여전히 많이 활용해 보지 않은 사람들을 주위에서도 쉽게 발견할 수 있다. 생성형 AI라는 도구에 가장 익숙해지고 친해지는 방법은 직접 써 보는 것이다. 사람들이 칼의 위험함을 알고 있는 건, 칼에 베이면 아프다는 걸 직간접적 경험으로 알고 있기 때문이다. 하지만 동시에 사람들은 칼을 요리할 때나 무언가를 만들 때 유용하게 사용한다. 생성형 AI를 통해 생성형 AI의 성능을 직접적으로 체험한다면, 평소에 보는 여러 콘텐츠를 자연스럽게 ‘의심’하게 될 것이다. 직접적으로 사용법에 대한 교육이 어렵다면, ‘생성형 AI가 만든 허위정보 맞추기 대회’와 같이 사람들의 관심을 끌면서도 생성형AI가 만들 허위 정보의 위험성을 알리는 것도 좋겠다. 이외에도 K.F.C.(Korean Factcheckers’ Community)의 활동처럼 여러 뉴스에 대해 꾸준히 팩트체크를 하는 시민들의 움직임, 지금 진행하고 있는 ‘함께, 디지털 안전’ 프로젝트 등의 노력도, AI로 인해 발생하는 허위 정보 문제를 해결하는 데 큰 도움이 될 것이다. 안전한 디지털 공간을 바라는 캠페이너들의 이야기를 모읍니다.

우리는 일상에서 친구들과 이야기하고, 반려동물과 놀고, 자연을 즐기며 살고 있습니다. 그런데 인공지능과도 이런 교감이 가능할까요? 최근 몇 년간 인공지능 기술이 정말 많이 발전했어요. Google I/O에서 발표된 최신 기술들, 그리고 ChatGPT-4o 같은 새로운 인공지능은 사람과 더 자연스럽게 대화할 수 있게 되었습니다. 마치 영화 'Her'에서는 인공지능이 주인공과 감정을 나누며 대화하는 모습을 보여주듯이요. 이런 기술 발전 사례들을 통해, 인공지능과 사람의 교감이 더 이상 상상 속 이야기만은 아니라는 것을 알 수 있습니다. 인간은 어떻게 세상과 교감할까? 교감이란 서로의 감정을 주고받으며 소통하는 것을 말해요. 우리는 가족, 친구, 반려동물, 그리고 자연과 교감을 나누며 살아가죠. 사람과 사람의 교감은 주로 말, 표정, 행동을 통해 이루어져요. 반려동물과의 교감은 말하지 않아도 서로의 존재만으로 큰 위로와 기쁨을 줍니다. 자연과의 교감은 우리에게 평온함과 휴식을 제공합니다. 이제 사람, 반려동물, 자연, 인공지능 간의 교감이 어떻게 이루어지는지, 그 차이점과 공통점을 살펴보겠습니다. 이를 통해 인공지능과의 교감이 어떤 가능성을 가졌는지, 우리 삶에 어떤 영향을 미칠지 생각해 보려고 합니다. 사람과 자연의 교감 자연과의 교감은 우리가 흔히 느끼는 평온함과 안정감을 줍니다. 자연을 보거나 산책을 하면서 우리는 마음의 평화를 찾게 되죠. 자연은 우리가 말을 걸어도 대답하지 않아요. 우리는 자연을 감상하고, 그 아름다움을 느끼면서 만족감을 얻습니다. 예를 들어, 푸른 숲이나 넓은 바다를 바라보면 우리는 그 자체로 힐링이 됩니다. 사람과 사람, 반려동물, 인공지능의 교감 사람과 사람, 반려동물, 인공지능과의 교감은 서로 주고받는 상호작용이 중심입니다. 우리는 대화를 나누고, 감정을 주고받으며 관계를 형성합니다. 친구와의 대화나 가족과의 시간은 우리에게 큰 심리적 안정과 행복을 줍니다. 반려동물과 함께 놀아주거나, 먹이를 주며 큰 위로와 기쁨을 느낍니다. 최신 인공지능 기술도 사람과의 대화를 통해 감정적으로 연결될 수 있습니다. 사람과 자연, 그리고 나머지 대상과의 교감에는 공통점과 차이점이 있습니다. 공통점은 모두 우리에게 정서적 안정과 만족감을 준다는 점입니다. 자연은 우리에게 평온함을 주고, 사람과의 교감은 심리적 안정과 행복을 줍니다. 반려동물은 우리의 감정을 잘 이해하고 위로해 줍니다. 인공지능도 점점 더 인간과 비슷한 교감을 할 수 있게 되었습니다. 차이점도 있습니다. 자연과의 교감은 우리가 자연을 감상하고 그 아름다움을 느끼는 한쪽 방향의 교감입니다. 반면, 사람과 사람, 반려동물, 인공지능과의 교감은 서로 주고받는 상호작용입니다. 우리는 대화 상대가 사람인지, 반려동물인지, 인공지능인지를 알고 그에 따라 대화의 깊이와 방식을 다르게 합니다. 자연과의 교감은 우리의 마음을 편안하게 하고 안정감을 주는 반면, 사람, 반려동물, 인공지능과의 교감은 더 깊고 복잡한 상호작용을 통해 정서적 유대를 형성합니다. 인공지능, 반려동물이나 사람을 대신할 수 있을까? 우리가 누구와 교감하느냐, 그리고 그 교감을 어떻게 받아들이느냐는 매우 중요합니다. 사람, 반려동물, 인공지능과의 교감에서 우리는 상대방이 누구인지 알고, 그에 따라 소통 방식을 달리합니다. 예를 들어, 친구와는 깊은 대화를 나누고, 반려동물과는 놀이와 돌봄을 통해 연결되며, 인공지능과는 정보를 주고받거나 가벼운 대화를 나눕니다. 최근 인공지능 기술은 놀라운 발전을 이루었습니다. character.ai는 사람들이 다양한 인공지능 캐릭터와 대화하며 감정적으로 연결될 수 있도록 도와줍니다. 이 플랫폼은 사용자가 직접 인공지능 캐릭터를 만들고, 그들과 대화하면서 교감을 나눌 수 있게 합니다. 이외에도 Replika라는 앱이 있는데, 이 앱은 개인 맞춤형 인공지능 친구를 제공하여 사용자가 외로움을 느끼지 않도록 돕습니다. 이렇게 기술이 발전하면서 인공지능과 사람의 교감은 더더욱 사람 혹은 반려동물과 교감하는 것과 비슷해지거나 구분하기 어렵게 되었습니다. 그렇다면, 인공지능이 사람이나 반려동물을 대체할 수 있을까요? 이는 사람마다 다르게 느낄 수 있습니다. 어떤 사람들은 인공지능과의 대화에서 큰 위로와 도움을 받으며, 반려동물이나 다른 사람보다 인공지능을 더 신뢰하기도 합니다. 반면, 다른 사람들은 인공지능이 인간적인 교감을 완전히 대체할 수 없다고 생각합니다. 나와 대화하는 상대가 AI라는 걸 아는 것만으로도 교감하기 어렵다고 생각하는 사람도 있을 수 있습니다. 기술이 발전함에 따라 인공지능은 더 복잡한 감정과 상황을 이해하고, 사람들과 더 깊은 교감을 할 수 있게 될 것입니다. 이러한 변화는 우리 일상생활과 소통 방식에 큰 영향을 미칠 것입니다. 인공지능이 사람을 대신할 수 있을지에 대한 논의는 앞으로도 계속될 것이며, 우리는 이 과정에서 인공지능과 어떻게 소통할지, 그리고 이를 어떻게 받아들일지 더 많이 고민하게 될 것입니다. 교감하는 상대의 정체보다 중요한 것은, 내가 '무엇을' 느끼는가. 사람과 자연, 사람과 사람, 반려동물, 인공지능 간의 교감에는 각각의 공통점과 차이점이 있습니다. 모든 교감은 우리에게 정서적 안정과 만족감을 주며, 다양한 방식으로 우리에게 긍정적인 영향을 미칩니다. 인공지능의 발전은 사람과의 교감 방식을 변화시키고 있으며, 앞으로 인공지능이 사람을 대신할 가능성도 존재합니다. 인공지능과 사람의 교감 가능성은 앞으로도 계속 발전할 것입니다. 하지만 우리는 각자 상황과 목적에 따라 교감 대상을 선택하게 됩니다. 어떤 사람들은 인공지능과 깊은 유대를 형성할 수 있지만, 다른 사람들은 여전히 사람이나 반려동물과의 교감을 더 선호할 수 있습니다. 결국, 인공지능, 사람, 반려동물, 자연 그 무엇과 교감하는지 보다, 자신에게 도움이 되는, 필요한 교감을 할 수 있는 게 더 중요합니다. *이 글은 필자와 AI(Chatgpt4o의 GPTs인 Write for me, image generator)가 약 2시간동안 협업하여 작성하였으며, 본문의 80%는 AI가 작성한 문장과 배치를 그대로 사용하였습니다.

영화 'Her'를 보면, 사람들이 주로 음성으로 AI와 의사소통을 합니다. 이 과정에서 주인공인 테어도어는 인간처럼 반응해주는 AI '사만다'와 사랑에 빠지는데요. AI가 사람처럼 자연스럽게,빠르게 응답해 준다면 AI에게 감정을 느낄 수도 있겠다 싶죠. 한국 시간으로 2024년 5월 14일 새벽, OpenAI는 음성 비서 기능을 강화한 새로운 멀티모달모델(LMM)인 'GPT-4o'를 공개했습니다(관련 기사). 여기서 o는 모든 것이라는 '옴니'를 뜻한다고 하니, 한국어로 부르면 GPT-4 옴니 라고 불러야 할 지도 모르겠네요. 언론사들이 제목으로 '보고,듣고, 말할 수 있는 AI 등장'이라고 하는 내용은 사실과 조금 다른데요. 진작에 ChatGPT-4를 포함한 여러 AI에서 음성이나 사진, 영상을 보고 말할 수 있었기 때문입니다. 하지만 이번 모델에 와서 성능이 대폭 향상된 것은 사실입니다. 아직 일반 유저에게 공개되지는 않았지만, Chatgpt-4o를 통해 실시간으로 AI와 영상통화를 할 수 있는 것은 물론이고, 카메라를 통해 보는 정보를 실시간으로 해석해줍니다. 위에 영상에서는 표정을 읽고 해석하는 것은 물론이고, AI에게 '지금 실시간으로 너의 성능에 대해 발표하고 있어'라고 하니까 '부끄러우니 멈춰주세요' 라고까지 합니다. 영상을 보시면 목소리도 진짜 부끄러워 하는 듯 보입니다.위 영상 외에 다른 시연 영상에서는 '목소리를 기계처럼 바꿔서 말해줘'라고 하자 기계처럼 말하는 등 자연스러운 기능이 많아졌으며, 실시간으로 사람이 AI의 말을 끊고 대화에 간섭할 수 있는 등 놀라운 기능이 많아졌습니다. 이런 기능에 대한 업데이트나 데스크톱 앱 출시 등을 점차 진행할 예정이라고 하네요. 실시간 음성 채팅은 아직 업데이트가 되지 않아 사용해보지 못했지만, 업데이트된 GPT-4o는 현재 사용해볼 수 있어 직접 성능을 비교하고자 몇 가지 실험을 해봤습니다. 우선, 이미지를 이전보다 얼마나 질 인식하는지 궁금했습니다. 이전에 GPT-4에서는 이미지 인식 기능, 특히 이미지 안의 한자 등을 읽는 OCR기능이 아쉬웠거든요. 직접 보시면 아시겠지만, GPT-4는 엉뚱한 대답을 한 반면, GPT-4o는 어떤 한자가 쓰였는지 정확히 읽어냈으며, 그 맥락을 사진 내의 다른 정보인 '옛날손짜장'을 읽어내면서 더 똑똑하게 유추하는 모습입니다. 그 다음으로는 웹사이트 검색 및 요약 기능을 테스트해보고자 했습니다. 이전 버젼인 ChatGPT-4도 검색은 가능했지만, 기능 측면에서 아쉬운 점이 있었거든요. 이 질문에 대한 대답 차이는 조금 길어서, 제가 각각 따로 복사해 인용하겠습니다. - ChatGPT-4  윤석열 대통령 취임 2주년 기자회견에 대한 한겨례와 중앙일보의 보도는 각기 다른 내용과 초점을 담고 있어, 이들 언론사의 편집 방향성이 어떻게 다른지를 잘 보여줍니다.한겨례는 채상병 특검법과 김건희 여사와 관련된 논란 등에 대한 대통령의 책임과 투명성을 강조하는 보도를 했습니다. 이 보도는 정치적, 대중적 요구에 대해 윤 대통령이 사과하고 구체적인 조치를 취할 것을 촉구하는 내용을 중점적으로 다루면서, 민감한 사안들에 대한 대통령의 대응을 비판적으로 조명했습니다. 투명하고 반응적인 거버넌스 필요성을 강조하는 태도를 보였습니다.반면, 중앙일보는 지난 2년 간 윤 대통령의 성과와 미래 계획에 초점을 맞추어 긍정적인 보도를 했습니다. 경제 정책, 시장 경제 안정화, 규제 장벽 감소, 그리고 특히 판매 외교 강화와 한미 안보 및 경제 동맹과 같은 국제 외교의 진전을 강조하며, 행정의 방향을 긍정적으로 전망하였습니다.이렇게 한겨례와 중앙일보의 다른 초점은 현재 윤석열 대통령 행정부를 어떻게 해석하고 있는지에 대한 다양한 해석을 보여줍니다. 한겨례는 정치적 및 대중적 압력에 대한 행정의 반응을 검토하고, 중앙일보는 정책 성공과 미래 지향적 전략을 축하합니다.  - ChatGPT-4o(옴니)  윤석열 정부의 취임 2주년 기자회견에 대한 한겨레와 중앙일보의 보도를 비교해보겠습니다. 두 언론사의 보도는 각기 다른 시각에서 접근하여 다양한 해석을 제공하고 있습니다. 한겨레의 보도 요약 한겨레는 윤석열 대통령의 기자회견에 대해 비판적인 시각을 유지했습니다. 주요 내용은 다음과 같습니다: 소통 방식에 대한 비판: 한겨레는 윤 대통령의 기자회견이 일방적인 소통 방식에 머무르고 있다고 지적합니다. 기자회견에서 민감한 사안에 대한 명확한 답변을 피한 점을 비판합니다 (한겨레_세상을 보는 눈) (한겨레_세상을 보는 눈). 정책 실효성에 의문: 한겨레는 정부의 주요 정책이 실질적인 문제 해결보다는 형식적인 소통에 그치고 있다고 주장합니다. 특히 경제와 사회 정책에서 나타나는 한계점을 강조합니다 (한겨레_세상을 보는 눈). 사회적 논란: 한겨레는 김건희 여사와 관련된 논란 및 기타 사회적 이슈에 대해 윤 대통령이 충분히 해명하지 않았다고 평가합니다 (한겨레_세상을 보는 눈). 중앙일보의 보도 요약 중앙일보는 윤석열 정부의 성과를 강조하며 긍정적인 평가를 내렸습니다. 주요 내용은 다음과 같습니다: 정책 성과 강조: 중앙일보는 윤석열 대통령이 지난 2년간 경제 성장과 외교 성과를 이루었다고 강조했습니다. 특히 글로벌 중추국가 외교 강화, 경제의 체질 개선, 민간주도 성장 등을 주요 성과로 언급했습니다 (중앙일보) (중앙일보) (중앙일보) (중앙일보) (중앙일보). 미래 계획 발표: 기자회견에서 윤 대통령은 저출생 대응을 위한 기획부 신설, 사회적 약자 지원 강화, 경제적 공정성 제고 등의 미래 계획을 발표했습니다. 중앙일보는 이러한 계획들이 긍정적인 영향을 미칠 것이라고 평가했습니다 (중앙일보) (중앙일보). 김건희 여사 관련 논란에 대한 사과: 중앙일보는 윤 대통령이 김건희 여사와 관련된 논란에 대해 사과한 점을 강조하며, 대통령의 진솔한 태도를 긍정적으로 평가했습니다 (중앙일보). 보도 뉘앙스 차이 한겨레는 윤석열 대통령의 기자회견을 비판적인 시각에서 다루며, 소통 방식과 정책의 실효성에 대한 의문을 제기합니다. 한겨레는 정부의 성과보다는 문제점과 한계를 부각시키며 비판적인 입장을 유지합니다.반면, 중앙일보는 윤석열 정부의 성과를 긍정적으로 평가하며, 기자회견에서 발표된 정책 성과와 미래 계획을 중심으로 보도합니다. 중앙일보는 대통령의 사과와 진솔한 태도를 강조하며 긍정적인 논조를 유지합니다.이처럼 두 언론사는 각각의 시각에서 접근하여 독자들에게 다른 관점을 제공합니다.  윤석열 취임 2주년 기자회견의 내용에 대해 잘 모르는 사람이 봐도 차이를 쉽게 느낄 정도로 ChatGPT-4와 ChatGPT-4o의 검색 및 문서 작성 성능은 큰 차이가 있습니다. 제가 느낀 차이점은 크게 세 가지 입니다. 이전과 다르게, 특정 웹사이트에 직접 들어가 검색하려는 시도를 합니다. 예를 들어 위에 질문을 받았을 때, 이전 모델인 GPT-4는 '윤석열 기자회견 한겨례'라고 검색한다면, GPT-4o는 'hani.co.kr에서 윤석열 기자회견 검색'과 같은 과정을 수행하는 게 보입니다. 물론 이 기능은 테스트해본 결과, 검색을 막아둔 웹사이트들은 진행하지 못합니다. 이전보다 더 다양한 웹사이트를 참고하려고 합니다. GPT-4의 경우 인용한 웹사이트 링크가 여러 개여도 하나의 웹사이트 내에서 여러 내용을 인용하는 경우가 많았다면, GPT-4o은 같은 중앙일보 인용이어도 최대한 다양한 기사를 인용하며 총 5가지 기사에서 정보를 인용했습니다. GPT-4에서 특정 업무를 수행할 때, 요청한 정보나 데이터가 나오는 속도가 사람이 읽는 속도보다 느린 경우가 많았는데, 지금 GPT-4o에게 일을 시키면.. 수행하고 출력하는 속도가 너무 빨라 도저히 제 읽는 속도로 따라갈 수가 없는 정도입니다. 혹시 유료버젼을 쓰고 계신 분들이라면 시도해보세요. 전혀 과장이 아님을 아실 겁니다. 바로 위에 저 내용을 조사한 후 출력하는 데 5초도 안걸렸습니다. 최근 Meta의 오픈소스인 LLaMA-3의 성능이 아주 뛰어나게 출시됐고, Antrophic사의 Claude-3의 성능이 ChatGPT-4보다 좋다는 뉴스가 나오며 OpenAI가 어떤 반격을 준비하고 있나 궁금해하던 사람이 많았을텐데, 역시 OpenAI는 대중을 실망시키지 않았습니다.성능이 정말 많이 뛰어나고, 특히 '인간적인'교감이 가능해진 만큼 AI가 'Her'에 나오는 비서처럼 유능할 수도 있고, 'Her'에 나오는 것 처럼 AI가 가진 여러 문제점 역시 더 가시화될 수도 있습니다. 이런 내용들은 추후 다른 글로 천천히 다뤄보겠습니다.

생성형AI의 발전이 빠르게 이루어지면서, 일자리 위협이 현실로 다가오고 있습니다. AI전문가 조코딩은 인터뷰에서 ‘AI가 인간의 분야를 하나 하나 점령해 나갈 것’이라고 밝혔고, 국제통화기금(IMF)는 2024년 1월 14일 ‘인공지능과 일의 미래’보고서에서 AI가 전세계적으로 사람의 일자리의 40%에 영향을 미칠 것으로 내다봤습니다. 이외에도 수많은 전문가와 기관은, 구체적 수치에는 차이가 있지만 AI가 인간의 일자리를 뺏을 것이라는 데에 동의하죠. 사람들의 기술 실업이 대규모고 일어날 것을 막기 위해 장기적으로 기본소득의 도입을 고려할 수 있겠죠. 하지만 기본소득은 정책 특성상 추가적인 연구와 사회적 합의가 필요한, 반대하는 사람이 많은 쟁점적인 제도로 도입이 쉽지 않습니다. 따라서, 저는 AI로 인한 일자리 문제에 대응할 현실적인 방법으로 ‘주 4일제’, 혹은 더 나아가면 빌 게이츠의 발언처럼 ‘주3일제’등 법정 노동 시간의 단축을 제안합니다. AI는 ‘일자리’를 빼앗는 게 아닌, ‘일’을 더 해주는 도구다. AI와 일자리에 대해 이야기할 때, 우리는 자연스럽게 ‘AI가 일을 많이 해준다 → 인간의 일자리를 뺏는다’고 생각합니다. 그리고 이렇게 생각이 드는 이유는, AI가 기업이 해야 할 일을 줄여주면 남은 일이 줄어들어 인간이 해야 할 일이 줄어들고, 인간이 해야 할 일이 줄어들면 기업에 필요한 인간이 줄어든다고 생각하기 때문입니다. 이는 원래의 근로 환경에서는 맞는 말입니다. AI로 인해 해야 할 일이 줄어들었는데, 사람을 전부 그대로 고용하는 기업은 비합리적이죠. 하지만 기업 입장에서도 사람을 해고하는 것은 그렇게 기분 좋은 일은 아닙니다. 무엇보다, 기술 발전으로 인해 사회 전방위에서 해고가 이뤄진다면 노동자들의 저항은 커질 수 밖에 없습니다. 이때 기업 입장에서 근로자들의 고용을 유지할 수 있는 방법이 있습니다. 바로 근로자들의 총 근로 시간을 낮추는 겁니다. 간단한 식으로 예를 들어 보겠습니다. 기업이 목표로 하는 일의 양이 400이라고 가정했을 때, 기존의 경우 아래와 같습니다. 사람 10명 X 주5일 X 8만큼의 일 = 400 와 같은 형태로 기업이 운영됩니다. 여기에서 기입이 목표로 하는 일의 양이 400이고 AI가 80만큼의 일을 대신한다고 가정한 뒤 주5일제에 하는 일의 양이 그대로일 때는 아래와 같습니다. (사람 8명 X 주5일 X 8만큼의 일 = 320) + (AI가 하는 일 80) = 400 즉, 2명 만큼의 실업이 발생합니다. 위 상황에서 실업이 발생하지 않는 방법은 두 가지입니다. 1) AI가 할 수 없는 일이 증가하여, 사람이 할 일이 늘어나면 됩니다. 위에서는 AI가 할 수 없는 일이 80 증가하면 되겠죠. 하지만 AI가 할 수 있는 일이 늘어나는 흐름을 볼 때 일반적으로 발생하기 어려운 상황입니다. 2) 사람이 일하는 날짜나 시간을 줄입니다. 똑같이 식으로 나타내보면 아래와 같습니다. (사람 10명 X 주4일 X 8만큼의 일 = 320) + (AI가 하는 일 80) = 400또는(사람 10명 X 주5일 X 6.4만큼의 일 = 320) + (AI가 하는 일 80) = 400 이렇게 하면, 사람을 해고하지 않아도 됩니다. AI가 하는 일이 늘어난다면, 이에 맞추어 노동 일수를 주3일제로 줄이거나, 날마다 법정노동시간을 줄이면 어느 정도 균형을 맞출 수 있습니다. 다만, 기업 입장에서도 주4일제를 자발적으로 실행하는 것보다 AI를 써서 더 적은 돈을 쓰고 사람을 해고하는 게 더 이익인 경우가 많습니다. 따라서, 주4일제 등의 노동 시간 단축을 정부가 법으로 강제하지 않으면 제대로 실행되기 어렵습니다. 또한, 근로 시간을 단축시키는건 어디까지나 기술실업을 ‘지연’시키는 것이지, 고용을 늘리는 방법은 아닙니다. 기술 발전에 맞추어 진행해야 할, 고용 증가를 위한 정책은 따로 진행되어야 합니다. 마지막으로, 위에 작성한 내용의 경우, AI의 도입 비용에 대한 언급이 전혀 없습니다. 즉, 기업이 AI를 도입함에 따라 드는 비용을 충당하려면 사람의 월급에서 깎거나 근로 시간을 단축하더라도, 인력 감축도 병행해야 하는 상황이 발생할 수 있습니다. 그럼에도 근로 시간 단축을 하지 않는 것보다는 단축하는 것이 기업 입장에서 고용을 유지할 가능성이 더 높다는 사실은 바뀌지 않습니다. 기술 발전과 주4일제에 대한 논의 그렇다면 주4일제를 비롯하여 노동 시간 단축은 만능일까요? 아쉽게도 그렇지는 않습니다. 관련하여, 기존에 기술 발전과 노동 시간에 대해 다룬 연구들을 살펴봤습니다. 과학기술정책연구원(STEPI)의 보고서에 소개된 이규철의 연구에 따르면, 1993년 독일은 생산성은 높이고 그에 따른 비용은 줄이는 산업합리화가 일어났다고 합니다. 기술 발전에 따라 자연스럽게 나타난 이 현상으로 독일의 자동차 회사 폭스바겐은 노동자 감축을 추진했지만 노조의 반대에 부딪쳐 노동자들과 협상을 하게 됐고, 이 과정에서 주4일제를 시행하여 고용은 유지되었지만, 동시에 어느 정도 소득 감소를 추진했다고 합니다. 프랑스의 사례를 살펴볼까요. 임지영 교수의 연구에 따르면, 코로나 팬데믹 이후 프랑스에서도 주4일제 도입을 고려하고 있다고 합니다. 프랑스는 1998년과 2000년 두 차례에 걸쳐 노동시간을 주35시간으로 축소하였고, 이는 임금노동자의 고용 안정을 보장했다고 합니다. 하지만 기업들은 이에 맞춰 불완전 고용조건을 확대 적용하였고, 정부는 이를 해결하지 못하고 눈감아주며 결과적으로 불완전고용률 증가와 실업률 증가가 일어났다고 합니다. 이런 실패의 경험에도 불구하고, 미래의 노동 사회의 대안으로 프랑스에서는 주4일제 도입을 재논의하고 있는 것이죠. 이외에도, 주4일제에 대해 집중적으로 다룬 김은별 연구자와 이승윤 교수의 논문에서는 **주4일제의 도입 배경 중 하나로 ‘실업 및 저성장 문제 해결’**을 꼽았습니다. 대량 실업을 구조적으로 막음과 동시에, 노동자들이 새로운 기술을 교육받을 수 있는 시간을 제공해 준다는 점에서 주4일제 도입의 필요성을 주장하는 학자들이 있다고 합니다. 같은 연구에서는 다양한 사례를 연구한 결과, 주4일제가 기업의 생산성을 낮출 가능성은 적으면서도 노동자의 일과 삶의 균형을 보장한다고 밝히며 주4일제 도입에 대한 긍정적 효과를 주장하기도 했습니다. 앞서 살펴본 주4일제 연구들에서 공통적으로 알 수 있는 부분은, 충분한 논의 없이 주4일제를 도입하면 불완전고용 증가, 임금 감소 등의 부작용이 나타날 수 있다는 겁니다. 하지만 주4.5일제를 도입하는 방안이나, 노동자들이 필요로 하면 주4일제를 도입할 수 있게 하여 기업에 따라 선택적으로 유연하게 근로시간을 조정하게 할 수 있는 방안 등. AI로 인해 발생할 실업에 대비할 수 있는 근로시간 단축 정책은 다양하게 고려할 수 있다는 것도 확인했습니다. 따라서, 주4일제 도입의 한계와 단점을 지적하기보다 어떤 방식의 근로시간 단축 정책을 실행하여 AI발전으로 인해 가속화될 실업 증가를 막을지 논의가 필요한 시점입니다. 저는 기술 발전이 인류에게 많은 편의를 가져다준다고 믿고 있습니다. 컴퓨터와 스마트폰의 발전을 함께 겪으며 자란 세대로서 덕분에 공부도 더 편하게 하고, 지도도 더 편하게 보고, 게임도 더 재밌게 하고, 최근 AI로 정말 많은 업무시간 단축까지 이뤘거든요. 이왕 기술이 많이 발전해서 우리가 일을 많이 할 필요가 없다면, 다같이 일은 덜 하고, 더 많이 쉬면서 돈도 벌 수 있으면 좋지 않을까 생각합니다. 주4일제와 같은 사회제도에 대한 논의가 더 많이, 더 빠르게 이루어져 사람이 AI 발전의 장점은 누리고 단점은 최소화할 수 있게 되길 바랍니다.

[인터뷰] 개발자 겸 유튜버 조코딩의 진단 "1차 산업혁명처럼 문제도 있겠지만 결국..."                                                                                                                                                                -인터뷰어 및 정리 : 김재경 *세상을 바꾸는 인터뷰' 시리즈는 기존 인터뷰들과 색다른 접근(인물, 이슈 등)을 통해 공익적 목적을 달성하고자 기획되었습니다. 김민준(오마이뉴스 시민 기자)과 김재경(연구활동가(Activist Researcher))가 함께 약 2주에 한 번 오마이뉴스, 캠페인즈, 얼룩소, 브런치에 연재합니다. 2022년 11월, 챗지피티(ChatGPT)가 출시되고 인공지능(AI)이라는 키워드는 알파고와 이세돌의 대국 이후 두 번째 전성기를 맞이하게 됐습니다. AI는 글쓰기부터 코딩, 번역 이미지 및 동영상 생성 등 다양한 분야에서 인간의 보조 혹은 그 이상을 수행해내며 우리의 삶을 바꿔나가고 있습니다.  하지만 관련 뉴스에선 주로 어떤 AI 기술이 얼마나 발전했는지, 혹은 엔비디아(NVDIA) 같은 반도체 기업의 동향에 대해 주목할 뿐 정작 보통 시민들이 궁금해할, AI가 우리의 삶을 어떻게 바꿀지에 대한 정보는 부족한 편입니다. '세상을 바꾸는 인터뷰 AI 시리즈’는 이런 내용들을 심층적으로 다루고자 합니다. 이번에는 AI를 직접 서비스하는 개발자이자, 재밌고 유익한 AI 컨텐츠들로 대중과 소통하고 있는 유튜버 조동근(이하 조코딩)님을 만나봤습니다. 3월 27일 구로디지털단지에서 진행된 조코딩님과 인터뷰는 흥미롭고 유익했는데요. 본인이 AI 전문성을 가지고 있으면서 시인, 음악가 등의 전문가와 AI에 대해 의견을 나누고, AI 컨텐츠와 정보를 유튜브로 내보내며 대중과 소통하는 조코딩님은 AI가 우리 삶의 다양한 영역에 어떤 영향을 미칠지 여쭤보기에 가장 적합한 분 중 한 명입니다.. 인간의 분야를 하나씩 정복해 나갈 AI - 간단한 자기 소개 부탁드립니다. "안녕하세요. 저는 유튜브에서 누구나 배울 수 있는 쉬운 코딩 채널 유튜브 조코딩 채널을 운영하는 유튜브 크리에이터 조코딩(실명 조동근)입니다."   - 최근 AI와 관련하여 다양한 흥미로운 컨텐츠를 진행하셨죠. 그루비룸이라는 프로듀서와 같이 노래를 만들어보기도 하고, 가수 폴킴과 함께 AI와 가수 중에 진짜 가수를 찾는 'AI클론싱어'도 진행했어요. 이런 프로그램들을 기획하게 된 계기는 무엇인가요? "저는 생성형 AI가 인기를 끌기 전부터 개발과 관련된 컨텐츠를 만들어왔는데요. 마침 유튜브가 주최한, 아티스트와 협업할 수 있는 아티스트 커넥트 프로그램에 참여하여 10CM의 권정열님과 함께 컨텐츠를 진행할 수 있는 기회를 얻었습니다. 어떤 걸 같이 할 지 고민하다 나온 아이디어 중 하나가 말씀해 주신 '클론싱어'였죠. 이외에도 'AI 공작소'를 통해 지금까지 사용중인 저희 유튜브 채널 엔딩곡을 권정열님과 함께 AI로 만드는 등 다양한 생성형 AI 컨텐츠를 만들어 왔습니다."- 앞선 질문에서는 '음악'과 관련된 AI를 전문가분들과 함께 다루셨고, 직접 서비스하시는 '조카소 AI'에서는 조만간 사진을 올리면 댄스 영상을 만드는 '댄스 AI'도 출시 예정이죠. 이런 경험들을 토대로 봤을 때, 현재 생성형 AI의 성능은 분야별로 어느 정도인가요?"현재 분야마다 AI의 발전 정도가 다르지만, 앞으로 한 분야씩 인간 전문가보다 더 뛰어난 능력을 보이게 될 겁니다. 이미지 인식의 경우, AI가 인간의 성능을 뛰어넘었고, 이미지 생성 AI의 경우엔 점점 인간의 창작물과 구분하기 어려워지고 있어요. 개발자 입장에서도 다양한 AI를 활용하면 여러 분야의 전문가와 함께 일하는 효과가 있습니다. 실제로 제가 만든 AI 서비스인 '조카소'에서 활용하는 AI도 무료 오픈 소스로 제공된 AI를 활용해 기존보다 쉽게 제작했습니다."- 앞서 살펴본 생성형 AI의 발전에 대해, 각 분야의 전문가분들은 어떻게 생각하시는지 간단히 들어볼 수 있을까요?"생성형 AI의 성능이 좋아진 만큼, 관련 업계 종사자들의 우려 역시 커지고 있습니다. 개발자를 준비하던 분들의 경우, 이미 AI가 개발자를 대체하기 시작했기 때문에 진로를 고민하게 됐습니다.그리고 앞서 소개했듯이 이미지 생성AI의 성능은 매우 뛰어난데요. 제 채널에서 하상욱 시인과 ChatGPT가 대결했던 적이 있는데, 많은 분들이 어떤 시가 하상욱 시인이 작성한 건지 헷갈려 하셨을 정도로 생성형 AI가 시 역시 잘 작성하고 있습니다. ChatGPT-4의 시대에 이미 여러 분야에서 AI의 성능이 뛰어난데, 곧 나올 ChatGPT-5 혹은 그 이후 버전이 나온다면 생성형 AI가 더 많은 분야의 많은 전문가들에게 유용함과 걱정을 함께 안길 것 같습니다."- 과거에 전문가들이 내놓은 예측 중, 예술가는 AI로부터 안전할 거라고 하는 등 AI가 위협할 일자리들에 대한 예측이 많이 틀렸음을 쉽게 알 수 있죠. 겨우 5년, 10년 전인데 AI와 관련된 예측들이 왜 크게 빗나갔을까요?"당연한 이야기지만, 미래는 아무도 알 수 없기 때문입니다. 미래학자이자 공학자인 레이 커즈와일이 말한 '수확 가속의 법칙'에 따르면, 기술의 발전 속도는 점점 빨라지고 있으며, 이에 따라 과학 기술이 할 수 있는 일을 전문가조차도 예측하기 어렵게 된 거죠. 그럼에도 OpenAI의 CEO인 샘 알트만이나 NVDIA의 CEO인 젠슨 황과 같이 AI 업계 최선두를 달리는 전문가들의 예측은 다른 전문가들의 예측보단 맞을 확률이 높다고 생각합니다." - 그렇다면, 생성형AI가 사람들의 일자리를 위협할까요? 위협한다면, 얼마나 위협할까요?"당연히 위협할 수밖에 없는 상황입니다. AI의 발전은 산업혁명처럼 혁신적이고 사회에 큰 영향을 미쳐서 'AI혁명'이라고 불릴 정도죠. 최근 증권사리포트를 보면 프리랜서 작가 수입이 이미 낮아졌어요. AI가 인간이 할 수 있는 일을 하나 하나 정복해 나가면, 인간이 할 수 있는 일의 가치가 상대적으로 낮아지며 수입이 줄어들게 될 겁니다. 일러스트레이터를 예로 들면 독창적 예술성을 가진 소수를 제외하면 일러스트만으로 생계를 유지하기 힘들지 않을까 여겨집니다."- AI가 사람들의 일자리를 위협한다고 하기도 하지만, 동시에 기술 발전은 항상 새로운 일자리를 만들어 내곤 했습니다. 어떤 일자리들이 생겨날까요?"생성형 AI가 더 좋은 답변을 내도록 연구하는 프롬프트 엔지니어는 물론이고, 여러 산업 분야와 업무의 진입 장벽이 낮아지기 때문에 기존 직무를 대체하는 다양한 형태의 일자리가 생기지 않을까 합니다.예를 들어, OpenAI의 CEO인 샘 알트만은 여러 AI를 잘 다룰 경우 1인 기업이 유니콘 기업(기업 가치 10억 달러 이상, 설립 10년 이하)까지 성장할 수 있다고 전망했습니다. 마케팅이나 디자인 등을 생성형 AI로 개인이 혼자 다 할 수 있게 됐거든요. 또한, 한 사람이 여러 직무를 잘 하게 됨에 따라 직종 간 경계가 사라지는 '빅 블러'현상이 나타날 겁니다."   "AI 발전으로 나타나는 문제, 적절히 해결해나가면 결국 인류 발전에 도움 될 것" - 현재 생성형 AI가 가장 크게 활약하고 있는 분야 중 하나가 의료 쪽이라고 들었어요. 생성형 AI가 어떤 성과를 보이고 있는지, 그리고 그 이유는 무엇인지 여쭤봐도 될까요?"ChatGPT와 같은 LLM(대형언어모델)의 경우, 모든 분야와 관련된 인터넷 텍스트 데이터를 전부 넣어서 범용적으로 만든 거다 보니 특정 분야에 대한 성능은 상대적으로 부족할 수 있습니다. 특정 분야에 전문화된 AI는 전문분야 데이터를 더 많이 넣거나 맞춤형 알고리즘을 따로 활용해 AI 모델을 만들기 때문에 성능이 상대적으로 더 좋습니다.의료 분야의 경우, 구글이 개발한 의료 챗봇 에이미(AMIE)가 의사보다 뛰어난 진료 수행 능력을 보인다거나, 엔비디아가 헬스케어 기업 히포크라테스AI와 협업하여 만든 의료 로봇이 인간 간호사보다 성능이 뛰어났다는 결과가 나오는 등 훌륭한 성능과 효율을 보이고 있습니다."- 생성형 AI의 발전으로 인해 발생할 일자리, 가짜 뉴스, 환경 문제 등을 위해 정부와 기업, 시민이 어떤 대응을 할 수 있을까요?"일자리 문제의 경우, 두 가지 접근법이 있습니다. 하나는 1차 산업혁명 시기 자동차 기술이 너무 빠르게 발전하지 못하도록 자동차가 마차 뒤에서만 달리도록 규정한 '레드 플래그 액트'법처럼 AI 발전에 따른 문제를 법으로 규제하는 것이고요. 또 하나는 중장기적으로 AI가 인간 일자리 대부분을 대체할 것이기 때문에, 정책적으로 기본소득 도입을 고민해야 한다고 생각합니다.AI 기술 발전으로 인해 발생하는 가짜뉴스 문제나 환경 문제의 경우, 오히려 기술을 활용해 해결할 수 있다고 생각합니다. 딥페이크 문제를 방지하기 위해 AI가 생성한 이미지에 보이지 않는 워터마크를 삽입하는 구글 딥마인드의 '신스ID(SynthID)'라는 기술을 포함해 테크 기업들의 기술적 노력 등이 필요합니다. 환경 문제의 경우, 생성형 AI가 더 발전해서 AGI단계에 이르게 되면, 혁신적인 과학 기술로 해결할 수 있는 시나리오를 제공하지 않을까 기대하고 있습니다."- 마지막으로 생성형 AI를 포함하여, AI와 관련해 하고 싶은 말씀을 해주세요."AI혁명 시기가 1차 산업혁명과 비슷하다는 생각이 듭니다. 증기 기관의 발명이 기계를 파괴하는 러다이트 운동으로 이어지기도 했지만, 결과적으로는 산업이 발전하여 인류가 혜택을 보고 있죠. AI발전 역시 여러 사회적 문제를 동반하고 있지만, 잘 발전하면 결과적으로 인류에게 도움이 될 것이라고 생각합니다. AI발전을 너무 부정적으로 보지 않고 긍정적인 측면도 바라봐주셨으면 합니다."

인공지능(AI) 기술의 발전은 우리의 생활 방식과 업무 환경에 혁신적인 변화를 가져왔습니다. AI가 우리의 일상을 편리하게 만들고, 특정 작업을 더 효율적으로 수행할 수 있게 해주는 동안, 이러한 기술적 진보가 인간의 근본적인 가치와 역할을 대체할 수 없다는 사실이 점점 더 명확해지고 있습니다. 실제로, 인간만이 할 수 있는 창의력, 감성, 그리고 상호작용의 능력은 AI의 발전에도 불구하고 여전히 중요합니다. 이 글에서는 AI 시대에 인간이 왜 여전히 중요한지를 탐구하려 합니다. AI의 발전이 인간의 중요성을 감소시키지 않으며, 오히려 인간의 창의성, 감성, 그리고 상호작용의 가치를 더욱 부각시킨다는 점을 강조하고자 합니다. 우리는 AI와 인간이 어떻게 공존하며 서로를 보완할 수 있는지, 그리고 이러한 공존이 우리 사회와 일상에 어떤 의미를 가지는지를 살펴볼 것입니다. AI, 상상을 현실로 만들다 AI와 관련된 과거 예측 중 상당수가 시간이 지나며 잘못되었음이 밝혀졌습니다. 특히, 인공지능이 그림을 그리거나 동영상을 만드는 능력에 대한 초기 예측은 현실과는 다소 거리가 있었습니다. 최근 OpenAI에서 소개한 'Sora'와 같은 기술은 이러한 예측에 대한 우리의 이해를 근본적으로 바꾸고 있습니다. Sora는 사용자의 텍스트 입력에 기반하여 최대 1분 길이의 비디오를 생성할 수 있는 AI 모델입니다. 이 모델은 높은 시각적 품질과 사용자의 프롬프트에 대한 충실도를 유지하며, 상상력이 풍부한 장면을 현실감 있게 만들어낼 수 있는 능력을 보여주었습니다. 하지만 여기서 우리가 주목해야 할 점이 있습니다. Sora가 아무리 뛰어난 영상을 만들어낸다 해도, 그 시작점은 여전히 인간의 상상력이라는 사실입니다. AI는 우리의 창의력을 시각화하는 도구일 뿐, 그 자체로 새로운 아이디어를 만들어내지는 못합니다. 정보의 홍수 속, 지혜의 등대가 되다 AI 기술이 우리 생활의 많은 영역에서 중요한 역할을 수행함에도 불구하고, 인간의 의지, 창조성, 그리고 판단력은 기술이 대체할 수 없는 고유한 가치를 지닙니다. AI가 정보를 처리하고 패턴을 식별하는 데는 뛰어난 능력을 보이지만, 이 정보가 실제로 의미를 갖기 위해서는 인간의 해석과 참여가 필수적입니다. 정보의 가치는 그것을 해석하고 적용하는 인간의 능력에서 비롯됩니다. AI가 아무리 뛰어난 정보를 제공해도 인간이 읽지 않으면 습득할 수 없으며, AI가 아무리 글을 쓰는 능력이 뛰어나도 인간이 명령하지 않으면 아무것도 하지 않습니다. 이러한 관점에서, AI는 인간의 지식을 확장하는 도구로서 작용하며, 인간의 깊이 있는 이해와 판단을 보완합니다. AI와 로봇이 나 대신 운동할 수는 없어 최근에 헬스장에서 운동하면서 든 생각인데, 헬스장은 AI시대에도 쉽게 망하지 않을 것 같습니다. 두 가지 이유에 의해서인데요. 우선, 헬스장은 단순히 운동 기구를 제공하는 공간을 넘어서, 사람들이 서로 영감을 주고받으며 동기부여를 얻는 커뮤니티의 역할을 합니다. 헬스장에서 우리는 다른 사람들과 함께 운동함으로써 추가적인 동기부여를 얻습니다. 같은 공간에서 운동하는 다른 사람들의 존재는 우리에게 긍정적인 경쟁감과 함께 서로를 격려하고 지지하는 분위기를 만듭니다. 이러한 상호작용은 AI나 가상의 환경에서는 완전히 재현하기 어렵습니다. 마지막으로, 운동 효과는 개인이 직접 움직이고 노력함으로써 얻어집니다. AI가 제공하는 운동 가이드나 정보는 유용할 수 있지만, 실제 운동을 수행하는 것은 오로지 인간의 자발적인 참여와 노력에 달려 있습니다. 이는 운동을 통해 건강을 유지하고 증진시키려는 인간의 의지가 AI 기술을 활용하는 것만큼 중요함을 보여줍니다. 결론 AI 기술의 급속한 발전은 우리 삶의 많은 부분을 변화시켰지만, 이 변화 속에서도 인간의 근본적인 가치와 역할은 변하지 않습니다. 우리는 기술이 제공할 수 있는 편리함과 효율성을 환영하면서도, 인간 고유의 창의력, 감성, 그리고 상호작용의 능력이 여전히 중요함을 잊어서는 안 됩니다. 특히, 운동이나 지식의 습득과 같은 활동은 AI의 도움을 받을 수는 있지만, 결국에는 인간이 직접 참여하고 노력해야 하는 영역입니다. 이는 AI가 대체할 수 없으며, 인간의 의지가 중요함을 재확인할 수 있습니다. 결국, AI 기술의 발전은 인간의 능력을 보조하고 확장하는 데 중요한 역할을 할 수 있지만, 인간 고유의 가치와 역할은 불변합니다. 우리는 기술의 진보를 환영하면서도, 인간 중심의 가치를 유지하고 발전시켜야 합니다. AI 시대에도, 우리 삶의 중심에는 인간의 창의력, 감성, 그리고 의사결정이 있어야 합니다. *이 글은 ChatGPT의 GPTs인 'Write for me'에 제 아이디어를 넣어 AI가 작성한 글을 Claude 3.5 sonnet을 통해 수정하였습니다(총 소요시간 : 1시간 25분).

[인터뷰] 용인의 한 AI 선도학교에서 교육과정 설계를 맡고 있는 초등학교 교사                                                                                                                    인터뷰어 및 정리 : 김재경 *세상을 바꾸는 인터뷰' 시리즈는 기존 인터뷰들과 색다른 접근(인물, 이슈 등)을 통해 공익적 목적을 달성하고자 기획되었습니다. 김민준(오마이뉴스 시민 기자)과 김재경(연구활동가)가 함께 약 2주에 한 번 오마이뉴스, 캠페인즈, 얼룩소, 브런치에 연재합니다. 2022년 11월, ChatGPT가 처음 출시된 이후 ‘AI’라는 키워드는 알파고와 이세돌의 대국 이후 두 번째 전성기를 맞이하게 됐습니다. AI의 첫 번째 전성기때는 바둑이라는 한정된 분야에서 AI가 인간을 이긴다는 점에서 단순히 흥미로웠다면, 이번 전성기는 글쓰기부터 시작해서 코딩, 번역, 이미지 생성, 동영상 생성 등 다양한 분야에서 가파르게 인간의 보조 혹은 그 이상을 수행하는 모습을 보이며 우리의 삶을 실제로 바꾸고 있습니다. 이에 맞춰 언론에서도 AI와 관련하여 다양한 기사를 매일 쏟아내고 있습니다. 하지만 관련 뉴스에선 주로 어떤 AI기술이 얼마나 발전했는지, 혹은 NVDIA와 같은 반도체 기업의 동향에 대해서 주목할 뿐 정작 보통 시민들이 궁금해 할, AI가 우리의 삶을 어떻게 바꿀지에 대한 정보는 부족한 편입니다. 제가 <세상을 바꾸는 인터뷰>에서 초반에 연재할 내용은 이런 내용을 심층적으로 다루고자 합니다. 이번 인터뷰에서는 AI를 적극적으로 교육 현장에 도입하고 있는 한 초등학교 교사를 인터뷰했습니다. 교사의 요청으로 익명으로 1월 26일에 줌으로 진행된 이번 인터뷰에서는 현재 공교육 현장에서 AI가 어떻게 도입되고 있는지, AI 교육의 장점과 단점은 무엇인지, 앞으로 교육현장에서 AI는 어떤 역할을 할 지 등을 자세히 알 수 있었습니다. 교육 현장에서 AI를 적극적으로 도입하고 있는 초등학교 교사 - 안녕하세요! 간단한 자기 소개 부탁드려요 “안녕하세요. 인터뷰에 초청해 주셔서 감사드립니다. 저는 경기도 용인에 위치한 한 학교에서 근무하고 있는 8년 차 초등 교사입니다. 현재 학교에서 교육과정 설계 연구부장을 맡고 있습니다.”. - 요새 ‘AI 시대’라는 표현이 나올 정도로 AI에 관심이 많은 세상이에요. AI에 대해 얼마나 관심을 가지고 있는지, 또 그 관심으로 인해 어떤 활동을 하게 되셨는지 설명해주세요. “네 물론이죠. 관심 정도를 0에서 10 중에 숫자로 나타내라고 하신다면 9 정도로 표현할 만큼 관심이 매우 높습니다. 현재 교육 정책에서도 AI 에듀테크 활용을 매우 강조하고 있고 여러 교육 사업들도 이와 관련해서 진행되고 있기 때문이죠. 저는 교육 현장에서 AI를 활용하면서 나타나는 긍정적 효과에 관심이 많습니다. AI 기반 교육 프로그램 사용, VR과 AI가 혼합된 영어 단어 학습, AI 기반 창의로봇 융합 교육 등이 포함된 AI 맞춤형 학습 지원 사업을 주도하여 실시하였습니다. 또한 인공지능 교육학회에 참석하여 현재 교육 현장에 필요한 AI 교육 활동들을 탐색해보기도 하고, 얼마 전에는 교육 박람회에 참석하여 AI 교육의 발전 현황을 둘러보기도 하는 등 꾸준히 관심을 가지고 활동하고 있습니다.” AI 교육, 교사가 학생 개개인에게 효과적인 맞춤형 교육을 할 수 있도록 도와줘 - 교육 현장에서 이미 AI를 활발하게 사용하고 계시군요. AI 기술을 수업에 통합하기 시작한 계기는 무엇인가요? “AI 기술을 제 수업에 활용하게 된 계기는 저희 근무 학교 특성, 그리고 저희 반 학생에 대한 고민으로부터 시작했습니다. 제가 근무하고 있는 학교는 경기도 용인 외곽에 위치한 소규모 농촌 학교입니다. 그렇다보니 주변 교육시설이나 문화시설도 부족한데, 학생 부모님께서 농업에 종사하시거나 또 맞벌이를 하시기 때문에 자녀를 케어해 주시기 굉장히 어려운 상황입니다. 그래서 아이들의 학력은 대체적으로 낮은 편인데요. 한 예시로 제가 맡았던 6학년 학생이 분수의 나눗셈을 할 줄 모를 정도로 학습지원이 필요한 상황이었어요. 수업 시간 외에 따로 가르쳐보기도 하고, 학부모님과 학생을 과외를 보내는 방법 등을 같이 고민해 상담해 보았지만 상황은 크게 나아지지 않았어요. 이 학생의 기초학력 부진 문제를 어떻게 해결하면 좋을까 고민을 하던 찰나, AI 시스템으로 맞춤형 학습을 할 수 있다는 것을 대학원 수업을 통해 접하게 되었고 유레카!를 외치면서 AI 기술 기반 수업방법을 도입하게 되었습니다.” - AI 기술을 수업에 도입한 이유 중 하나가 주변에 교육시설이나 문화시설이 부족한 지역적 특성 때문이라고 대답해 주셨는데, 교육/문화 인프라가 좋은 도시에서는 AI 교육의 효과가 부족할까요? “아니라고 생각합니다. 대도시에도 AI 교육이 충분히 효과가 있다고 생각해요. 왜냐면 지금 현재 대도시 같은 경우에는 한 학급 인원이 30명에서 35명 정도인데 교사 1명이 그 30명 각각의 학습 수준을 진단하고 평가하고 맞춤형 피드백을 제시해 주는 건 사실상 불가능하거든요. AI 교육 프로그램을 활용하면, 학생별 수준을 파악하고 관리하는 데 용이하기 때문에 오히려 AI가 더 효과적일 수 있습니다.” - AI를 활용하여 수업 방법에 어떤 변화를 주셨나요? 그에 따른 학생들의 반응은 어떤가요? “AI를 수업에 활용하는 방식은 크게 두 가지가 있습니다. 첫째, 학습자 데이터 분석에 기반한 맞춤형 학습을 제공하는 방법입니다. 제가 활용한 AI의 경우 학생들에게 문제를 제공하고, 제공된 문제를 풀어 내는 과정을 분석해서 학생 수준을 진단하고 필요한 학습 내용을 추천하기도 하고, 취약한 학습 내용에 대해 학생이 반복학습을 할 수 있도록 비슷한 문제를 여러 번 제시하기도 합니다. 예를 들어, 초등학교 5학년 학생이 약수와 배수 개념을 배우는데 어려움을 겪고 있을 때, AI는 곱셈과 나눗셈 중 어느 개념이 부족한지 상세히 분석하고 맞춤형 학습을 학생에게 제공하기도 합니다. 이런 과정들을 교사가 파악하고 학생에게 추가적인 교육을 진행하거나, 학부모님과 공유하여 학생의 현 수준에 알맞은 교육방향을 제시하는 상담을 할 수 있습니다. 두 번째는 학생이 학습하는 과정에서 생성형 AI의 도움을 받는 방법입니다. 작년에 저희 학교 독서 교육의 일환으로 1인 1책 만들기를 했어요. 학생들이 작가가 되어, 자기가 원하는 주제로 책을 한 권씩 만들어서 출판하는 수업이었어요. 이 수업을 듣는 학생 중 다문화 가정 학생이 한 명 있었는데, 문해력이 부족해서 책을 만드는 데 어려움을 겪고 있었어요. 그 때 아이가 좋아하는 소재 몇 개를 엮어서 프롬프트(prompt)를 만든 다음, 제 지도 하에 뤼튼(Wrtn)에 입력하게 해서 책에 넣을 이야기를 완성할 수 있었습니다. 학생에게 부족한 역량을 채우는 데 생성형 AI가 중요한 역할을 할 수 있는 거죠.” - AI를 활용한 수업에 대해 학생들이나 학부모님들의 반응은 어땠나요? “학생들의 반응은 꽤 긍정적이었습니다. 작년에 교육과정 만족도 설문조사를 실시했는데, 학생들의 90%가 AI 교육 프로그램이 학력 향상에 도움이 되고 흥미로웠다고 응답했습니다. 실제로 수학에 흥미가 없던 학생이 AI 교육 프로그램 도입 이후 수학에 흥미를 붙이게 된 경우도 있어요. 평소에 놀 때 사용하던 스마트폰, 태블릿으로 게임하듯이 공부할 수 있다보니 학생들이 좋아해요. 하지만 AI 교육 도입 초기인 만큼, 새로운 공부 방법이 신기해서 관심을 가지고 있을 가능성도 염두에 두어야 해요. 학부모님들의 경우 AI 교육에 대해 엇갈린 반응을 보이셨습니다. 긍정적인 반응을 보이신 학부모님들도 있었지만, 결국 반복적인 문제 풀이 학습이랑 무엇이 다르냐, 오히려 아이에게 추가적인 학습 부담을 줄 수 있지 않느냐고 의견을 주시기도 했습니다. 그리고 학생들이 태블릿이나 스마트폰으로 접속해서 AI 교육 프로그램를 활용하다보니, 아이가 노는 건지 공부하는 건지 구분이 가지 않는다며, 학교에서 학생들의 AI 교육 프로그램 사용에 대한 가이드라인을 제시해야 한다고 의견을 주시기도 했죠.” - 현재 일하고 계신 초등학교 외에 다른 초등학교, 혹은 중학교나 고등학교에서의 AI 도입은 어떻게 이루어지고 있는지 알고 계신가요? 현장의 분위기나 정부의 지원정책 등 여러 방면에서 교육 현장의 변화가 궁금합니다. “지금 초등학교 중학교 고등학교 학교 급을 막론하고 디지털 교육, AI 교육은 뜨거운 감자입니다. 교육부에서 현재 진행중이거나 계획하고 있는 AI 교육 정책이 많아요. 우선, 교육부에서 2025년부터 AI 디지털 교과서를 도입하겠다고 이미 발표했습니다. AI 교육 관련해서 지원해주는 예산도 굉장히 많아졌고요. 또한 교육부에서는 작년부터 디지털 선도학교, AI선도학교를 시범 운영중이고 올해 더 확장할 계획이라고 해요. 또한 디지털/AI 선도학교 사업을 주도하는 교사들을 대상으로 방학 중 연수를 진행하거나 교육 박람회에 보내기도 하고, 디지털이나 AI 교육과 관련하여 선생님들 간 서로 교류할 수 있는 지식샘터가 운영되는 등 AI를 교육에 더 효과적으로 도입하기 위한 여러 프로그램이 진행되고 있습니다.” - 선생님께서는 교육현장에서 AI 도입에 따른 학업성취도 변화에 대해 최근에 논문까지 작성하신 것으로 알고 있는데요. 실제로 AI 도입 이후 학생들의 학습 성과나 참여도에 어떤 변화가 있었는지 궁금합니다. “저는 AI 교육을 주로 수학 과목에 도입했는데, 수학은 다른 과목보다 이전 학습 내용을 제대로 이해하지 못하면 이후 학습이 어렵습니다. 그런데 앞서 설명드린 것처럼 AI 교육 프로그램을 활용하면 학생이 부족한 부분만 따로 분석도 해주고, 반복학습도 시킬 수 있어요. 그 결과, 3월 진단 검사에서 28점을 받았던 학생이 한 학기동안 56점으로, 56점을 받았던 한 학생은 82점으로 점수를 올랐을 만큼 AI 교육 프로그램이 효과가 높았습니다. 학생들이 AI 교육 프로그램을 활용해 학업 성취도를 높이고, 더 나아가 프로그램에서 어떤 걸 더 공부할 수 있는지를 알려주고 풀고 나면 포인트 등으로 보상도 지급하다보니 게임하듯이 자기주도적으로 공부하는 모습도 볼 수 있었어요. 물론 다른 여러 가지 교육활동, 교사의 격려 등도 학생들의 성적과 태도 변화에 영향을 미쳤겠지만, AI 시스템 도입이 분명 학생들의 변화에 영향을 주었다고 봅니다.” AI 시대에도 여전히 중요한 교사의 역할 - 지금까지 주로 AI 교육의 다양한 장점에 대해 알 수 있었는데요. AI 교육의 단점은 무엇이라고 생각하시나요? “우선, AI 교육의 단점은 AI 학습 시스템을 활용하다 보니까 교사와 학생 간 면대면 상호작용 기회가 줄어들었다는 거예요. 초등학생들은 상호작용과 직접 만지고 체험하고 만들면서 배우는 게 사실 더 중요한데 태블릿으로 학습하다 보니 친구와 선생님과 직접 얼굴을 마주 보는 소통의 기회가 줄어들었다는 점이 조금 아쉽습니다. 또한, 현재 AI 관련 교육이 반복적인 문제 풀이에 좀 치우쳐 있고, 교사의 개입 여지가 많이 적어 능동적인 수업 설계가 어렵습니다. 2025년도에 나올 AI 디지털 교과서 등 이후 교육 현장에서의 AI 시스템은 교사들이 보다 자율적으로 수업 설계가 가능하도록 개선이 되어 나갔으면 합니다. ChatGPT가 활성화된 이후 대학 등 일부 교육 현장에서 학생들에게 ‘AI 사용 금지’조치를 내리는 등 교육현장에서 AI 활성화에 따른 우려와 혼란이 있었던 것으로 아는데요. 교육자 입장에서, 학생들이 AI 기술을 사용하는 과정에서 발생하는 문제는 무엇인지, 또 그 문제들을 어떻게 해결하고 계시는지 궁금합니다. “사람들은 AI가 다 제시를 해주면 학생들이 생각할 능력이 떨어지게 되니까 사고하는 방법을 잃어버릴 수 있지 않느냐고 우려합니다. 하지만 저는 학생들이 학습에 AI를 활용하는 과정에서. AI가 제시한 내용에서 충분히 변화를 줄 수 있기 때문에 학생들의 학습 능력 저하를 크게 우려하지 않아도 된다고 봅니다. 아까 책을 만드는 사례를 예로 들면, 학생들은 AI가 짜준 줄거리를 그대로 책으로 만들지 않고 창의력과 사고력을 발휘해서 내용을 수정해 책을 만들었습니다. 하지만 교육 현장에서 AI 기술을 사용하는것에 대한 가이드라인을 교육부에서 정해줄 필요는 있다고 생각합니다. 무분별한 사용을 막기 위해서 교육 현장을 포함한 사회의 소통과 합의가 필요하다고 보는데요. 너무 완벽한 AI를 자유롭게 사용하도록 할 경우, 아이들이 지나치게 AI에 의존할 수 있기 때문에 연령 제한이나 사용 방법에 대한 제한이 필요합니다. 또한, 이런 가이드라인이 확실히 나오기 전까지 학생들의 자율적인 AI 사용을 규제해야 한다고 생각합니다." - 최근 보직 교사 기피 문제 등 여러 교사 분들이 업무 과중에 시달리고 있다는 목소리를 내고 계십니다. 이와 관련해서, AI 기술 도입이 교사의 업무 부담에 어떤 영향을 미쳤나요? 업무 부담을 줄일 수 있었나요? 혹은, 앞으로 업무 부담이 줄어들까요? “AI 시스템은 앞으로 교사들의 학생들의 학습이력 관리 및 학습 포트폴리오 구성과 관련한 업무를 줄일 수 있다고 생각합니다. 초기에는 교사들도 AI 시스템에 적응해야 하는 부담이 있었지만, 적응하고 나서는 학생 한 명 한 명을 도와주기 수월해져 업무 경감에 도움이 된다는데 대체적으로 동의합니다. 그리고 이제 AI 챗봇인 챗gpt나 뤼튼 등으로 교사가 처리해야 하는 여러 공문서 작업에도 도움을 받고 있어요. 하지만 AI가 아직까지 그렇게 창의적이진 않아, 문서 작성 등의 한정적인 업무에서 보조적인 도움 정도만 받고 있네요.” - AI를 통해 교사의 역할이 어떻게 변화하고 있다고 생각하시나요? AI가 많이 발달하게 된다면, 나중에 교사의 역할은 축소될까요? AI가 다 가르칠 수 있으면 나중에 교사는 없어질 수도 있는 것이 아니냐는 의견까지 나오고 있습니다. “우선, AI는 절대 교사를 대신할 수 없습니다. 현재 AI가 그렇게 똑똑하지 않을 뿐더러 아무리 발달한다 하더라도 좋은 수업을 위해서는 교사의 개입이 필수적입니다. 교사는 학생들을 관찰하며 적절한 때에 피드백해주고, 칭찬하고, 상담이나 피드백으로 동기부여를 해주는 정서적 지원자로서의 역할도 굉장히 중요하다고 보는데 이런 건 AI로 절대 대신할 수 없습니다. 물론 AI 보조교사로 단순 반복 학습이나 풀이 지도 학습 정도는 가능하다고 생각해요. 블룸이 제시한 교육 목표 6단계 피라미드에 의하면, 피라미드의 하위 2단계는 기억하고 이해하는 것이고 상위 4단계는 적응하고 분석하고 평가하고 창의성을 발휘하는 겁니다. 이 중에서 하위 단계의 목표를 위한 교육은 하이테크인 AI가 보조할 수 있지만, 상위 단계의 목표를 이루기 위해선 교사의 세심한 터치, 하이터치가 필요합니다. 이런 개념을 정리하여 ‘하이터치-하이테크’라고 부릅니다.” - 교육현장에서의 AI에 대해 마지막으로 하고 싶은 말씀이 있으시다면? “이제 AI 기술이 교육에 점차 도입이 되면서 교육 패러다임 자체가 변화하고 있습니다. 우리나라가 최초로 도입하는 AI 디지털 교과서는 아마 전 세계적으로 AI 교육의 본보기가 될 것으로 생각해요. AI 디지털 교과서가 가진 기존 교과서와의 차별점은 공유형 플랫폼이란 점입니다. 이전에는 정해진 교과서로 수업이 진행이 됐다면, 디지털 교과서는 학생과 교사가 함께 만들어가는 학습 자료로 수업이 진행됩니다. 즉, 이제는 학급이나 학교 상황에 알맞은 교과서 학습 자료가 새롭게 탄생할 수 있게 됐습니다. 이런 AI 활용 수업이나 AI 디지털 교과서를 구성하는 것은 지금 충분히 잘하고 있기 때문에, 상대적으로 부족한 부분인 AI 윤리나 저작권 부분에 대한 가이드라인 제시가 조금 더 구체적으로 필요해 보여요. 학생들을 교육하는 목표는 AI 도구들을 활용해서 학생들이 삶과 연계한 지식을 습득하고 궁극적으로는 자기 주도적으로 삶을 꾸려나가는 역량을 키울 수 있도록 하는 것이잖아요. 이를 위해 앞서 말씀드린 교사의 하이터치가 필요하고 그런 교사의 하이터치가 AI 활용 교육에 있어서 중심이라고 봅니다. 특히, 선생님들이 AI 시스템이 주는 편리함에 너무 매몰되지 않도록 경계해야 한다라는 점을 마지막으로 말씀드립니다.

*본 포스팅은 기고요청을 받아 서울시공익활동지원센터에 먼저 작성된 글입니다. 허가를 받아 출처를 밝힌 후 캠페인즈에 업로드합니다. *지난번 샘 알트만 해고 사태를 포함하여, 기존에 AI에 대해 작성한 글들의 내용과 중복되는 부분도 많습니다! 2023년이 끝나가는 지금, 딱히 기술에 관심이 없는 사람이라도 ‘AI’라는 단어를 한 번쯤은 접했을 것이다. 그만큼 AI는 우리에게 이전보다 친숙하게 다가온 개념이다. 2022년 11월에 출시된 ChatGPT 3.5를 필두로, 2023년 3월에 출시된 ChatGPT 4를 비롯해 구글, 네이버 등 국내외 대기업에서 잇따라 AI모델을 내놓고 있다. 여러 기업이 앞다투어 AI 기술 및 상품 발전 경쟁을 이어나가는 지금, AI는 점점 더 발전하고 다양한 일을 할 수 있게 될 것이고, 따라서 우리 삶에 미치는 영향도 점점 커질 것이다. 이런 상황에서 누군가는 AI가 우리의 일자리를 빼앗고 여러 사람들의 그림, 글을 훔쳐 저작권을 침해하는 등 여러 문제를 일으킬 것이라고 AI 발전을 우려한다. 반대로 AI의 발전에 따라 인류는 다양한 일을 할 수 있게 될 것이며, 의학 등 인류에 이로운 과학기술 발전을 가져오고, 인간의 업무를 덜어 노동시간을 단축시킬 것이라며 AI 발전을 긍정적으로 본다. AI 발전에 대한 비관과 낙관 사이, 우리가 취해야 할 태도는 무엇일까?   1. 좋거나 나쁜 과학 기술은 없다. 인간이 좋거나 나쁘다 AI를 두고 대립하는 낙관적/비관적인 시선의 대립은 기존 과학 기술들에도 존재해왔다. 이는 과학 기술이 언제나 인간에게 이롭게 쓰이면서도, 해롭게 쓰여왔기 때문이다. 예를 들어, 노벨의 다이너마이트는 광산을 뚫는 이로운 기술이지만 사람을 죽이는 데에도 쓰였다. 인터넷의 발전으로 우리는 다양한 정보를 빠르게 찾을 수 있게 됐고 원격으로 토론도 가능해지며 민주주의의 발전에 도움을 줬지만, 동시에 가짜뉴스의 확산이나 자기 의견이 강해지는 반향실 효과를 불러일으키면서 민주주의가 후퇴하는 상황이 발생하였다.   그렇다면, 왜 과학기술은 긍정적인 면과 부정적인 면이 모두 존재하는가? 과학기술은 인간이 개발하고 사용하며 적용하기 때문이다. 사전적 정의에 의하면, 과학 자체는 편견이 없으며 세상과 현상을 다루는 학문이다. 하지만 필자가 여러 책에서 정의하는 ‘과학 기술’의 의미를 분석해본 결과, 편견이 없던 과학이 인간의 이익을 위해 개발되는 과정에서 ‘과학 기술’은 인간의 가치가 개입된다. 정부의 개발비 지원도, 기술기업의 이익추구도, 개인의 호기심도 결국 모두 누군가의 가치가 개입되는 과정이 존재한다. 인간이 추구하는 가치에는 돈이나 욕심 등 이기적인 가치와 선의, 정의 등 이타적인 가치가 모두 존재하기 때문에 과학 기술 역시 인간 사회에 부정적인 가치와 긍정적인 가치를 모두 가지게 된다.   즉, 우리는 특정 과학 기술이 ‘좋다’ 혹은 ‘나쁘다’ 라고 딱 잘라서 말할 수 없다. 모든 과학 기술은 천천히, 자세하게 뜯어보면 사람과 마찬가지로 좋은 점도 있으면서 동시에 나쁜 점도 있다. 하지만 역시나 사람과 마찬가지로, 특정 과학 기술에 대한 좋은 점은 극대화하고 나쁜 점은 최소화하는게 제일 좋다. 이를 위해 AI라는 과학 기술의 양면적인 모습을 몇 가지 살펴보고, 우리는 어떤 태도를 가져야 할지 생각을 나누고자 한다.   2. AI라는 양날의 검은 무엇을 찌르는가 ① 생성형 AI, 편리한 도구지만 인간의 저작권을 침해해  우리는 생성형 AI를 통해 다양한 지식을 빠르게 탐구하거나 글이나 정보를 빠르게 찾고 정리할 수 있다. AI에게 철학적인 질문을 하며 토론을 할 수도 있고 데이터 분석을 도와달라고 할 수 있다. 이전 부분에 삽입한 과학 기술 이미지도 몇 번의 수정을 거치긴 했지만 그림을 전혀 그리지 못하는 필자가 몇 분 안에 그린 이미지다. 뿐만 아니라 AI가 가수처럼 노래를 대신 불러준다던가, AI로 영화를 만든다던가 하는 등 창작의 영역에서도 AI가 점차 할 수 있는 일이 많아지고, 전문성도 점점 갖추고 있다.   하지만 개인이나 기업 단위에서 AI활용에 어려움을 겪는 경우가 많다. 실제로 소프트웨어정책연구소(SPRi)의 보고서에 따르면, 기업들은 AI 기술 도입과정에서 주요 애로사으로 ‘투자 대비 성과의 불확실성’, ‘내부 운용의 기술력 부족’을 2,3위로 꼽으며 AI를 ‘잘’활용하는 방법과 AI가 실제로 성과를 낼 수 있을지에 대한 의문, 어떻게 쓸지에 대한 배경지식이 부족한 경우가 많다고 밝혔다. 기업 단위나 개인 단위에서 업무 뿐만 아니라 일상에서도 생성형 AI를 어떻게 다룰지 다양한 경험과 배경지식을 공유하고, 교육하는 과정이 필요하다.   좋은 도구로서 주목받는 만큼, 생성형 AI가 발전하는 과정에서 가장 큰 문제점으로 지적받는 것 중 하나가 바로 ‘저작권’이다. 생성형 AI가 사용자의 요청에 맞게 특정 결과물을 생성하려면 결국 기존 인간의 창작물을 학습해야 하는데(생성형 AI 작동원리 등에 대한 기본 지식이 궁금하다면 필자의 이 글을 참고하기 바란다), 이 과정에서 사용자의 동의 없이 학습된 데이터도 많다. 수많은 사람들의 글과 그림과 같은 창작물들의 저작권이 보장받지 않는다면, 기자나 작가, 일러스트레이터들의 생계 보장이 어려울뿐더러 창작물이 감소하여 사회적 이익이 저해된다. 생성형 AI 저작권 문제로 ChatGPT를 만든 OpenAI가 소송을 당하기도 하고, 이미지 생성 AI기업들이 단체로 아티스트들과 소송전을 벌이고 있기도 하다.   생성형 AI가 일으키는 저작권 문제를 해결하기 위한 방법은 크게 두 가지가 있다. 하나는 AI의 저작권 침해와 관련된 법안 등의 규제를 만드는 것이다. 현재 AI관련 법안 및 규제와 관련하여 가장 앞서나가고 있는 곳은 유럽연합(이하 EU)와 미국이다. 비록 최근에 프랑스 등의 반대로 AI 법 제정이 불투명해지긴 했지만, EU에서는 2021년부터 AI 관련 법안의 제정을 준비해왔다. 주요 내용 중 생성 AI가 학습데이터의 저작물 정보를 공개해야 하는 조항 등이 포함되어 있다. 미국에서는 저작권청에서 직접 생성형 AI가 일으키는 저작권 문제에 대한 논쟁에 대해 의견을 수렴하고 있으며, AI 기업에 자율규제를 요구하고 안전과 보안, 신뢰를 위해 기업을 강제하는 행정명령을 발표하기도 했다. 한국은 현재 AI규제와 관련된 입법을 시도하고 있지만 제대로 이루어지지 않고 있으며, 오히려 생성형 AI의 학습 과정에서 저작권 침해를 면책해야 한다는 법 도입이 시도되며 우려를 낳고 있다. AI 저작권 문제의 심각성을 많은 국민이 알고 관련 논의와 여론 형성이 활발해지길 바란다.   두 번째 해결책은 기술적으로 AI가 저작권을 침해하지 못하도록 막는 것이다. 여러 가지 기술이 활용되곤 하는데, 가장 많이 연구되는 방식 중 하나는 AI의 학습 자체를 망가뜨리는 방법들이다. 최근 나온 ‘나이트셰이드’라는 도구는 생성형 AI가 데이터를 잘못 학습하게 하여 사용자의 의도와 다른 결과물을 출력하도록 한다. 기사를 보면 모자 데이터를 학습하여 케이크를 출력하는 것을 볼 수 있다. 이외에도 웹 개발 과정에서 사람은 인지할 수 없지만 컴퓨터는 인식할 수 있는 문장을 넣어 생성형 AI의 학습을 막는 방법 등도 활용되고 있다. 제도적 해결책과 기술적 해결책 모두 생성형 AI로 인해 나타나는 저작권 문제를 해결하는데 필요하다.   ② 편향적이고 차별적인 AI vs AI가 편향적이지 않게 하려는 인간의 노력 앞서 AI가 인간의 데이터를 학습하여 여러 결과물을 만든다고 설명한 바 있다. 주로 인터넷에 있는, 혹은 회사가 가지고 있는 데이터를 학습하여 사용자가 원하는 결과물을 만들어내는데, 이 과정에서 AI가 기존 인간의 편향성을 그대로 드러내는 경우가 자주 있다. 예를 들어, 미국의 한 회사에서는 AI가 고령의 구직자를 자동으로 탈락시켜 소송을 받았다. 또한, 미국 미시간주 디트로이트 경찰이 얼굴 인식 기술로 용의자를 특정하는 과정에서, 무고한 흑인 여성이 용의자로 지정되기도 했다. 기존 사회에서 인간이 가지고 있던 나이, 성별, 직업, 인종 등에 대한 편견과 편향을 AI 역시 그대로 학습할 확률이 높으며, 편향적인 AI가 여러 분야에 활용된다면 기존의 편향과 편견이 더 넓게, 더 강하게 퍼질 수 있다.   이런 AI 편향 문제를 해결하기 위해 기술자와 연구자들은 여러 노력을 하고 있다. 예를 들어, 여러 기술 기업에서는 AI 편향성을 측정하고 평가하기 위한 모델들을 개발하고 있다. 아예 AI 학습 및 설계 단계에서부터 편향성을 줄이기 위한 방법도 시도되고 있다. 또한, 우리는 AI에게 편향성을 줄여달라고 직접 요구하는 것만으로도 AI의 편향성을 줄일 수 있다. 이미 많은 사람들이 편향과 편견에 반대 목소리를 냈던 흔적이 인터넷에 남아 있기 때문이다. 이외에도 AI가 학습할 데이터에 직접 소수 의견, 편향된 의견에 반대되는 의견을 넣는 캠페인을 벌여 AI의 편향 문제에 대응할 수 있다. 이런 기술적인 노력 외에도, 사회 문제에 관심을 가지고 논리적으로 사고할 수 있는 능력을 시민들이 가질 수 있게 하는 노력이 함께 진행되어 인간이 가진 부정적 편향을 근본적으로 줄여 나갈 필요가 있다.   ③ 일자리를 위협하는 AI vs 노동시간을 줄여주는 AI AI의 발전에 따라 예상되는 또 다른 대표적인 사회 문제로, 인간의 일자리를 AI가 뺏을 것이라는 우려가 있다. 속도도 빠르고 능력도 좋은 AI가 산업 전반의 업무를 수행할 수 있게 될 경우, 자연스럽게 인간의 일자리를 AI가 대체할 것이라는 전망을 많은 사람이 내놓고 있다. 앞서 AI가 일러스트레이터들의 저작권을 침해하는 문제가 심각하다고 소개했는데, 일러스트레이터들의 일자리 역시 AI가 침해하고 있다. 다른 일자리는 어떨까? 한국은행은 화학공학 기술자나 철도 및 전동차 기관사 등 국내 일자리 중 약 341만개(전체 일자리의 12%)가 AI에 의해 대체될 가능성이 크다고 분석했다.   AI의 발전은 인간의 일자리를 위협하기만 할까? 인간의 관점에서는 두 가지 대응방안이 있다. 하나는 개인의 역량으로 인공지능과 대결하는 게 아닌, 사회적 협동역량을 길러, 인공지능을 ‘활용’하는 것이다. 지금까지 인간 사회와 문명이 발전할 수 있던 이유는 인간 개개인의 역량이 모여 집단 지성의 힘을 발휘했기 때문이다. 인공지능은 개개인보다 뛰어날 수 있지만, 특정 집단과 사회의 역량으로 대응한다면, 아직 일반인공지능(AGI)에 도달하지 못하고 한계가 분명한 AI의 역량에 대응할 수 있다. 또한 사회적 역량을 발휘하기 위해선 인간 간의 소통과 교감이 필요한데 이 역시 AI가 인간을 대체하기 어려운 분야라고 할 수 있다.   또한 발전한 AI가 일자리를 줄이는 것이 아닌, ‘일하는 시간’을 줄일 수도 있다. AI의 생산성이 늘어난다는 것은 인간이 일할 자리를 줄일 수도 있지만, 고용된 인력은 비슷하게 유지한 채로 인간이 일할 시간 자체를 줄여줄 수 있다는 말도 된다. 빌게이츠는 미국의 팟캐스트에 출연해 ‘기계가 모든 음식과 물건을 만들어줘서 사람들이 생활비를 벌기 위해 주 5일 이상 근무할 필요가 없어질 것이며, 아마 주3일 근무를 해도 괜찮은 세상이 올 것’이라고 낙관했다. 이를 위해선 근로 시간을 조정하는 제도적 지원이 필요하다.   3. AI는 결국 인간의 문제라는 걸 일깨워준 OpenAI CEO 샘 알트만의 퇴출과 복귀 글에서 다룬 내용 외에도 미처 언급하지 못한 AI의 장점과 단점은 정말 많다. 결국, AI의 발전은 인간의 삶에 여러 긍정적/부정적 영향을 미치고, 그 영향들에 대해 어떻게 생각하느냐에 따라 사람마다 AI의 발전을 보는 시각은 복잡하고 다르게 나타난다. 현재 최고의 AI회사인 OpenAI의 이사회 구성원들 사이에서도 AI의 발전에 대해 다른 생각을 가지고 있었고, 이는 OpenAI의 CEO인 샘 알트만의 퇴출 사태로 이어졌다.   OpenAI는 세계 최고의 AI를 빠른 속도로 발전시키며 큰 수익을 얻으며 사회의 주목을 받게 되었고, 이 과정에서 OpenAI는 AI의 발전을 두고 갈등하기 시작했다. AI가 너무 빠르게 발전시키면 AI로 인해 많은 문제가 발생할 것이기 때문에 발전 속도를 늦춰야 한다는 효과적 이타주의(Effective Altruism)와 많은 사람이 발전된 AI로 인한 이익을 볼 수 있도록 하기 위해 발전 속도를 빠르게 해야 한다는 효과적 발전주의(Effective Accelerationism)를 두고 이사회 내부에서 갈등이 생겼고, 이 과정에서 상대적으로 효과적 발전주의에 가까웠던 OpenAI의 CEO인 샘 알트만과 OpenAI의 공동창업자인 그렉 브록만이 갑자기 퇴출되는 사건이 발생했다.   하지만 샘 알트만이 퇴출되고 나서 OpenAI의 투자자, OpenAI의 직원 대다수, 그리고 OpenAI의 최대 파트너인 마이크로소프트(MS)가 샘 알트만의 복귀를 원했다. 특히 마이크로소프트의 경우, 샘 알트만과 그렉 브록만을 MS로 영입한 후, 남은 OpenAI의 이사회 전원 사임을 전제로 둘이 OpenAI에 돌아갈 수 있도록 도왔다. 결국 샘 알트만과 그렉 브록만은 OpenAI로 복귀했으며, 이로 인해 OpenAI는 마이크로소프트라는 글로벌 대기업의 영향을 더 크게 받게 되었으며, 이전보다 효과적 발전주의에 입각한 AI 발전에 더 속도를 올리게 되었다.   우리는 샘 알트만의 퇴출과 복귀 사태를 통해 AI 문제에 대해 두 가지 생각할 점이 있다. 하나는 AI 발전에 대해 고민할 때 효과적 이타주의와 효과적 발전주의 중 어떤 시각이 맞는지, 혹은 또 다른 시각이 맞는지에 대한 고민이다. AI의 발전에 따라 인간에게 미치는 긍정적 영향과 부정적 영향이 공존하는 만큼, 우리는 AI 발전속도에 대해 어떤 입장을 가져야 할지 고민이 된다. 효과적 이타주의가 AI등의 과학기술의 발전에서 오는 이익을 누리지 말자는 이야기는 아니지만, 너무 빠르게 발전한다면 AI가 인간에게 미치는 부정적 영향은 더 커지고 많아질 수 있다.하지만 이미 많은 국가와 기업이 AI 발전 경쟁을 하고 있는 만큼, 특정 회사나 국가가 AI 발전 속도를 늦추자고 하는 이야기는 현실적으로 어려울 수 있다. AI를 빠르게 발전시키되, AI로 인해 나타날 부정적 영향을 최소화할 방법을 찾는 게 최선일 수 있다. 앞선 두 시각과 다르게, AI의 영향력을 현실에 비해 너무 과대평가할 수 있으며, AI HYPE 뉴스를 경계해야 한다는 주장도 있다. 효과적 이타주의와 효과적 발전주의 모두 AI의 미래 영향력에 대한 일종의 ‘믿음’에 근거한 주장인 만큼, AI의 영향력과 가능성에 대해 현실적 감각을 가지려고 노력해야 할 것이다.   또한, 샘 알트만 퇴출 및 복귀 사태는 결국 AI 문제가 인간의 문제임을 다시 한 번 강조한다. 세계 1위를 달리고 있는 OpenAI의 가장 큰 위기는 경쟁사와의 AI 경쟁, 해커의 공격 등 기술적 문제가 아니었다. 이사회 구성원 간의 견해 차이로 인해 발생한 OpenAI의 위기는 회사 구성원들의 의사, 마이크로소프트를 포함한 다수의 투자자들의 이해관계에 의해 해결되었다. 만약 샘 알트만이 복귀하지 못했다면 OpenAI는 내부 분열과 투자 중단으로 원하는 일반인공지능을 개발하기 어려워졌을 수도 있지만, 동시에 더 안전한 AI를 개발하자는 목소리가 전세계적으로 더 커졌을 수도 있다. 결국 AI를 어떻게 개발할 것인지, 어떻게 규제할지 정하고 그에 따른 결과는 인간에게 좋든 나쁘든 큰 영향을 미친다. 이 글이 사회에 영향을 미칠 AI 관련 의사결정에 대한 독자들의 이해에 도움이 되고, 그 도움이 더 좋은 사회를 만드는데 기여하길 바란다.  

11월 17일부터 11월 21일까지, 단 5일만에 세계 최고의 AI기업인 OpenAI의 CEO인 샘 알트만이 이사회에 의해 해고되었다가 복직하였다. 11월 6일 Devday라는 큰 행사를 치룬 지 2주도 되지 않아 갑자기 해고되며 사람들에게 큰 충격을 주었고, 얼마 지나지 않아 다시 OpenAI로 돌아가며 큰 반전을 선사하였다. 얼핏 보면 회사 내부의 권력 다툼으로 보일 수 있는 이번 사건은, AI 개발 철학 - 안전 중시(EA) vs 인류를 위한 발전(E/ACC)과 AI 거버넌스에 관해 우리에게 큰 교훈을 준다. 이번 사태에 대한 교훈을 살펴보기에 앞서 OpenAI의 목표와 구조를 살펴본 후, 이번 사태를 타임라인대로 간단히 훝어보고자 한다. OpenAI - 비영리적 AI를 위해 영리를 추구해야 하는 모순 우선, OpenAI는 기본적으로 '비영리단체'다. OpenAI 홈페이지의 지배 구조를 통해서도 이는 쉽게 알 수 있는데, Board of directiors로 시작되는 회사의 지배 구조는 Nonprofit - 비영리조직에 우선적인 권한이 있다. 그럼에도 수익을 창출하는 기업의 형태를 일부 띄게 된 것은 목표를 실현함에 있어서 재정적 한계에 부딪쳤기 때문이다. OpenAI가 비영리적으로 추구하는 최종 목적은 일반인공지능 - AGI를 개발하여 그 이점이 전 세계에 고르게 퍼지도록 하는 것이다. 하지만 현실 대부분의 비영리단체보다 더더욱 첨단 기술이 뒷받침되어야 하는 OpenAI는 비영리적인 방법만으로는 회사의 목표를 실현하기 어렵다는 것을 깨달았다. 그래서 수익 제한형(capped profit) 영리 부문 조직을 설립하게 된 것이다(MIT Technology Review KR 기사 참조). 이후 OpenAI는 회사의 목적인 안전한 일반인공지능(AGI)개발을 위한 효과적 이타주의(Effective Altruism - 이하 EA)와 인공지능을 발전시켜 많은 사람에게 골고루 이익을 분배해야 한다는 효과적 발전주의(Effective Accelerationism - 이하 E/ACC)사이에서 갈등하는 모습을 보여왔다(두 이념의 대립에 대해선 노마드 코더 유튜브 참조 - OpenAI의 갈등은 필자 해석 덧붙임). 샘 알트만의 해고와 복귀 - 타임라인 위 배경을 토대로, 샘 알트만의 해고와 복귀가 어떻게 이루어졌는지 타임라인을 통해 알아보자. 위에 표시한 E/ACC와 E/A는 이해를 돕기 위해 필자가 임의로 표기하였으므로, 크게 의미를 두지 않았으면 한다(아래 4명의 이사회가 위에 2명 - 샘 알트만과 그렉 브록만을 내보낸 것은 확실하다.). 11월 17일 - 갑작스런 샘 알트만과 그렉 브록만 축출 이사회가 11월 17일 낮 12시 28분 “샘 알트만이 일관되게 솔직하지 못하다고 판단, 이사회 수행 능력을 저해한다는 결론을 내렸다”며 “이사회는 더 이상 그가 오픈AI를 계속 이끌 수 있을 것이라는 확신을 갖지 못했다”고 발표했다. 그리고 그렉 브록만은 이 사실을 퇴출 발표 5분전에 구글 미트로 듣게 된 것으로 확인된다. 이는 이사회를 통한 샘 알트만과 그렉 브록만 퇴출이 갑작스럽게, 그리고 비밀리에 진행되었음을 알 수 있다(참고 : 더밀크).  11월 20일 - OpenAI가 에밋 시어를 임시 CEO로 임명, 샘 알트만과 그렉 브록먼 MS(마이크로소프트) 입사 OpenAI는 샘 알트만을 퇴출한 후 전 트위치 공동창업자인 에밋 시어를 임시 CEO로 임명했다. 그는 기존에 AI 성장에 따른 문제를 우려해서 개발 속도를 늦춰야 한다고 유튜브에서 발언했던 인물로, 남은 OpenAI의 이사회가 AI의 안전한 개발을 중시(EA)임을 다시 한 번 확인할 수 있는 인선이었다. OpenAI에서 퇴출당한 샘 알트만과 그렉 브록먼은 마이크로소프트(이하 MS)에 들어가게 되었다. 만약 그들이 MS에 들어가게 된다면, OpenAI의 변화로 큰 손해를 볼 수도 있었던 MS는 오히려 AI부분의 핵심 인물을 포섭하고 동시에 기존 OpenAI의 연구진들을 영리적으로 포섭할 수 있는 계기를 마련하게 되며 큰 이익을 챙겼다. 이 와중에 샘 알트만은 OpenAI와의 관계를 지속할 것이라고 밝히며 회사와 투자자들, 협력기관들을 안심시키는데 힘썼고, MS도 20일 당일 이사회 사임, 거버넌스 개선 등을 조건으로 샘 알트만 등의 인물이 OpenAI에 복귀하는 것을 반대하지 않는 모습을 보여주었다. OpenAI 내부 분위기 역시 심상치 않았다. 수많은 투자자들의 반대와 더불어, 내부 직원중 92%, 770명 중 710명이 샘 알트먼이 복귀하지 않을 경우 회사를 떠난다는 의견을 밝히고, 505명이 이사회 사임 요구 성명서를 발표했다. 또한 당시 샘 알트만을 내보낸 이사회 멤버였던 일리야 슐츠케버가 자신의 결정을 후회한다는 트윗(X)를 남기며 회사를 걱정하는 모습을 보였다.   11월 21일 - 샘 알트만, 그렉 브록먼 복귀 블룸버그에서 OpenAI가 샘 알트만과 그렉 브록먼의 복귀 협상에 들어갔다고 알린 지 얼마 지나지 않아, 샘 알트만과 그렉 브록먼의 OpenAI 복귀가 확정되었다. 돌아가면서 샘 알트만은 MS CEO인 사티아 나델라 마이크로소프의 지원 덕분에 OpenAI로 돌아간다고 말하며, 마이크로소프와의 강력한 파트너십을 구축할 수 있길 기대한다고 밝혔다.  (11월 20일,21일 타임라인 출처 : 더밀크 / 요즘IT 이재훈님 / AI타임즈) AI 발전을 둘러싼 두 이념의 대립 -  효과적 이타주의(EA) vs 효과적 발전주의(E/ACC) 이번 사태의 내막을 타임라인으로 정리해보아도, 결국 두 이념 - EA vs E/ACC가 현재 AI를 둘러싼 거대한 두 담론임을 확인할 수 있다. 물론 EA역시 발전하지 말자는 것은 아니지만, 그들은 이번 사태를 통해 OpenAI를 공중분해시킬 수도 있었다는 점을 미루어보았을 때 안전을 위해 꽤나 급진적인 이념을 취하고 있음을 알 수 있다.  두 이념의 대립은 앞으로 우리가 AI문제를 바라볼 때 항상 존재할 것이다. 필자의 입장은 E/ACC에 가깝기 때문에 지난번[AI, 민주주의의 위기인가? 기회인가?] 를 듣고, [AI, 민주주의의 '기회']를 얘기해보기 에서도 상대적으로 AI 발전의 이로운 점을 역설한 바 있다. AI의 발전 속도를 늦추자는 E/A의 주장은 현실적으로 실현되기 어렵지 않겠다는 근거 역시 필자가 E/ACC의 입장으로 더 기우는 이유이기도 하다. 지금 이 캠페인즈를 운영하는 빠띠를 포함해 수많은 비영리단체는 대부분 금전적 문제에서 자유로울 수 없다. 그런데 만약 OpenAI가 시장의 선두로 남지 않는다면, 그들에게는 공익적 목적의 AGI를 개발할 동력인 자금을 확보하기 매우 어렵다. 뿐만 아니라, OpenAI가 멈춘다고 해서 MS, Google, Amazon, Apple, 거기에 중국 기업은 물론이고 유럽, 한국 기업도 AI개발을 쉽사리 멈추지 않을 것이다. 현실적으로 개발 속도를 늦추는게 어렵다면, 어떻게 옳은 방향으로 AI를 개발하게 할 것인지, 어떤 규제를 도입해야 할 것인지, 시민사회에 AI에 대해 어떻게 교육해야 할 것인지에 대해 초점을 맞추어야 한다고 생각한다. 이 사태를 바라보고, 이 글을 읽는 독자분들은 어떤 입장과 생각을 가지고 계시는지 궁금하다. 언제나, 정답이 없는 문제이기 때문이다. 결국, AI 문제는 인간이 해결할 문제 - AI 거버넌스 또한 이번 사태는 결국 AI문제는 인간의 문제임을 다시 한 번 확인하는 계기가 되었다. 필자는 지난번에 작성한 '과학기술은 정치적인가?' 에서 '과학기술이란 자연 그대로나 그 법칙인 과학을 인간의 이익에 따라 배우고 학습하고 사용하는 것이며, 이러한 이익들이 충돌하는 과정에서 현실의 권력이 작용하는 정치적 속성을 가집니다' 라는 문장으로 글을 마무리한 바 있다. 이 문장을 그대로 관통하는 사태가 이번 샘 알트만 해고/복귀 사태다.  E/A와 E/ACC가 각자 추구하는 사회적 이익은 다르다. 그리고 이건 결코 어느 쪽이 나쁘다고 볼 수 없다. 하지만 안전한 발전이 가져다주는 이익과 발전을 통한 이익의 분배라는 두 가지 이념은 충돌하였고, 이 과정에서 OpenAI는 내부 권력인 이사회 의결을 통해 샘 알트만과 그렉 브록만을 내보냈다. 하지만 또 다른 권력들 - 거대한 파트너인 MS, OpenAI의 직원, OpenAI의 투자자들의 권력이 이사회의 권력을 넘어섰다. 사실 OpenAI 내부 직원의 90%가 샘 알트만과 그렉 브록만의 복귀를 원했고, 많은 직원들이 그들이 돌아오지 않으면 회사를 나가겠다고 한 시점에서, 한 회사의 이사회의 근본(정당성)이 흔들리는 상황이었다. 국민 없는 국가가 없듯이, 직원 없는 회사는 없으니 말이다. 이번 사태에 대한 사고를 확장해보면 앞으로 있을 AI문제는 단순 AI 기업 내부의 문제를 넘어, AI 기업을 둘러싼 이해관계자들 - 정부, 다른 회사, AI의 영향을 받는 국민 모두 - 가 영향받고 참여하게 됨을 알 수 있다. 이 과정에서 시민이 관심을 주지 않는다면, 정부의 관심도 줄어들 것이고, 결국 사회에 큰 영향을 미치는 AI문제를 AI 기업들만이 다루는 독과점적 거버넌스가 이루어질 수 있다. 샘 알트만의 해고가 OpenAI 직원들의 힘에 의해 취소되었듯이, 앞으로 발생할 사회의 AI문제들을 국민들이 관심을 가지고 해결해나갈 수 있는 AI 거버넌스 구조가 만들어지길 바란다.

2023년 11월 15일 저녁 7시부터 노무현시민센터 다목적홀에서  '[민주주의랩] AI, 민주주의의 위기인가? 기회인가?' 라는 내용으로 컨퍼런스가 진행되었다. 필자 역시 직접 참여하려고 신청하였으나 환절기 감기로 참여하지 못해 아쉽지만 유튜브 생중계 형태로 참여하였고, 후속 토론을 캠페인즈에 올리고자 한다. 이번 컨퍼런스 발제들의 핵심 주장을 굳이 한 문장으로 요약해보자면 'AI는 민주주의에 주로 여러 위기를 가져올 수 있으며, 이를 위해 같이 해결책을 논의하고 협동해야 한다'이다. 즉, 컨퍼런스 제목에 대한 대답은 이미 AI는 민주주의에 위기로 결론이 났다.  나 역시 대체로 이 내용에 동의한다. 인터넷의 발전 - SNS의 발전으로 이어져온 기술 발전의 짧다면 짧고 길다면 긴 역사에서도 확인할 수 있는 내용이고, 가짜 뉴스에 대한 내용, AI가 재생산할 기존 인간의 편향 등을 고려해도 민주주의에 큰 위협이 될 것으로 보인다. 하지만 네 분의 발제에서 AI가 민주주의에 가져올 기회에 대해 덜 다루어진 것 같아, 소수 의견으로 보완해보고자 한다. 1. 사유와 탐구의 탈숙련화 강화, 뒤집으면 비숙련의 보완도 가능하다. 첫 번째 발제자이신 이광석 서울과학기술대학교 교수님께서 인공지능이 가져올 문제점 중 하나로 '사유와 탐구의 탈숙련화'효과에 대해 말씀해주셨다. 쉽게 풀어서 설명하면, 'AI에게 물어보고 나오는 대답을 비판 없이 그대로 받아들이게 될 것이기 때문에, 사람들의 생각하는 힘이 약해지지 않을까?'라는 문제제기다.  필자 역시 이 문제제기에 동의한다. 하지만 직접 ChatGPT를 포함한 생성형 AI를 활용하는 입장에서, '사유와 탐구의 탈숙련화'를 가져오게 할 수도 있지만, 반대로 '비숙련된 분야의 사유와 탐구 숙련화'에 도움을 줄 수도 있다. 예를 들어, 지난번 필자가 캠페인즈에 올린 '고도로 발달한 AI는 인간으로 볼 수 있을까요?' 글을 작성하는 과정에서, 부족한 철학 분야의 지식을 ChatGPT와의 대화로 보충하였다. 다만, 교수님이 지적하신대로 '사유와 탐구의 탈숙련화'가 일어날 것을 우려하여, 일부러 한 번씩 ChatGPT가 제시한 철학자들의 이름을 검색해보는 검증 과정을 거쳤다. 비록 AI의 출력물을 검증의 과정을 거쳤지만, '사유와 탐구의 탈숙련화'를 경계하면서 '비숙련 분야에서 사유와 탐구의 숙련화'를 AI가 도와줄 수 있다고 생각한다.  2. AI의 '속도가 문제', 하지만 '속도가 장점' 발제자들이 지적한 '가짜뉴스의 확산', '환각 현상', '편향의 재생산'등은 사실 AI 이전에도 인간 사회에 문제가 되었던 내용들이다. 가짜 뉴스는 삼국유사에 기록되어 있는 '서동요'에서도 나온다. 현대 시대의 정치인, 연예인을 두고 가짜뉴스로 스캔들을 낸 것과 다름이 없다.  “선화공주님은/ 남 몰래 정을 통해 두고/ 서동 도련님(薯童房)을 / 밤에 몰래 안고 간다.” 이보다 더 오래된 기록에서도 아마 가짜 뉴스의 찾아볼 수 있을 거다. 또한, '날씨가 안좋으면 왕 탓'은 어찌보면 기존 인간이 도출하는 '환각 현상'의 거짓이다. 그렇다면 옛날 옛적부터 있어온 사회 문제들이 왜 AI의 문제, 그것도 민주주의의 위기로 작동하는 문제일까? 그것은 바로 AI의 '속도'와 '편의성'이 기존 인터넷과 궤를 달리하기 때문이다. AI의 최대 능력은 '빠르고 길게 특정 결과물을 출력'하는 것이다. 이 속성으로 인해 ChatGPT를 포함한 AI가 '세종대왕이 맥북을 던지는' 대답과 같은 환각 현상을 보이고(지금은 당연히 고쳐졌고, 심지어 ChatGPT는 이제 이런 질문이 '적절하지 않다'고까지 발언한다)가짜 뉴스의 생산과 확산, 기존 차별적인 내용을 편향적으로 재생산하는 문제 등이 '가속화'되어 더 빠르고 많이 발생하고 전파되는 문제가 있다. 이에 대한 해결책은 3번에서 짧게 다루겠다. 여기서는 AI의 빠른 '속도'가 민주주의에 기회가 될 수 있는 관점을 제시하고자 한다. 바로 AI가 가짜뉴스 생산 등의 민주주의를 위협하 행동 뿐만 아니라 자료 정리/검색 등 민주주의에 유익한 활동에 있어서도 속도가 빠르다는 것이다. 자료 검색의 경우 3번에서 더 자세히 제시하겠지만, 1번에서 제시했던 사례와 연결지어 생각하면, AI는 정말 많은 내용을 인간보다 훨씬 빠르게 검색할 수 있다. 기존 인터넷 검색과 다른 점은, 인간이 직접 인터넷으로 검색할 때는 불가능한 검색량과 정리를 단시간 내에 수행할 수 있다는 점이다. 이는 민주주의를 위해 필요한 '숙의'과정에 분명히 도움을 줄 수 있다.    자료 정리의 경우, 단적인 예시지만 Notion AI등을 활용할 경우, 기존 오랜 시간이 걸리던 신문 기사 스크랩 및 정리를 매우 빠른 시간 내에 해결할 수 있다. 직접 작성한 Notion AI 사용법 글에서 가져온 자료 화면 중 하나인데, 웹페이지에서 버튼 하나를 클릭하면 노션에 자동으로 웹페이지 스크랩이 되고, 이를 표로 드래그해 옮기기만 하면 자동으로 해당 글의 키워드 추출, 내용 요약, 글 링크, 스크랩 날짜까지 자동으로 정리해준다. 앞으로는 이보다 더 혁신적으로 민주주의 발전에 도움을 줄 수 있는 빠른 AI 툴,기능들이 등장할 것이다. 3. AI를 만드는 건 여전히 인간! - 권오현 빠띠 대표 AI가 민주주의의 기회가 될 수 있는 강력한 근거를 권오현 빠띠 대표가 발제에서 제시하였다. ChatGPT가 농담을 하였다고 돌아다니는 이미지를 소개하며, 여전히 AI를 만드는 건 인간이라는 점을 언급했다. 그렇다면 여전히 사람이 어떻게 만드느냐에 따라 발제에 나왔던 여러 사례처럼 편향적이고 가짜 뉴스를 만드는 AI가 나올 수도 있고, 소수 의견을 반영하고 스스로를 검토하게 하는 AI를 만들 수 있지 않을까?  실제로 MIT Technology Review에서 나왔던 기사에 따르면, 인간 피드백 기반 강화학습으로 학습시킨 대형 언어모델이 ‘편향적이지 않은’ 결과물을 생산하도록 요청하는 것만으로 결과물에서 놀라울 정도로 긍정적인 효과 즉, 편향적이지 않은 소수의 의견을 반영하는 결과가 AI의 출력물에 나타나는 것을 발견했다. AI가 대량으로 학습한 내용에는 인터넷 어딘가에 있는 '편향을 교정하려는 시도', '소수자를 존중하는 시도' 역시 포함되어 있다. 어쩌면 인간에 의해 덜 편향적으로 AI가 작동할 방법이 있다는 건, 윤형중 LAB2050대표가 말한 'AI가 커먼즈에서 비롯된'덕분에 가능한, 인류의 커먼즈의 기회다. 또한 민주주의에 위협이 되는 가짜뉴스 역시 AI로 잡는 시도를 해볼 수 있다고 생각한다. 아직 베타 버젼이지만, 필자는 최근 출시된 GPT Builder로 'Fact Check AI'를 만들고 있다. 목표는 빠띠의 멋진 그룹 중 하나인 K.F.C.(치킨Korean Factcheckers’ Community)수준에 근접하게 팩트를 점검하는 AI를 코딩 없이 만드는 것이다. 실제로 베타 버젼의 Fact Check AI에서 다뤄진 [팩트체크] 최저임금보다 실업급여를 더 많이 받는다?를 물어본 결과, 단순 정보 뿐만 아니라 점검할 수 있는 일부 내용을 함께 제시하고 있다. 뿐만 아니라, 설정한 단계에 따라 기존 주장에 반대되는 주장을 한번 더 검토하는 과정, 4단계에서 앞선 단계를 모두 검토하는 모습도 볼 수 있다. 물론 K.F.C.에서 진행한 팩트체크처럼 비정규직 노동자의 실업급여에 대해서는 다루지 못하는 한계를 보였지만, 제시된 사실에 대해 꽤 높은 퀄리티로 빠르게 검토할 수 있다는 점은 장점이다. 잘 다듬으면 많은 사람들이 가짜 뉴스에 대해 빠르고 편하게 반박할 수 있는 도구가 개발될 수 있지 않을까 싶다.  더 나아가, 권오현 대표가 말한 대로 결국 '기술을 소유'해야만 AI가 민주주의를 위한 기회로 활용될 수 있다. 필자 역시 이에 동의하며, LLM(Large Language Model)이나 LMM(Large Multi Modal)으로 사회 문제를 해결하기 위해선 시민사회를 위한 AI가 필요하다고 생각한다. 다행히 오픈 소스 기반의 AI도 성능이 빠르게 상승하고 있기는 하나, 이를 활용할 컴퓨팅 파워는 시민 사회에 있어서 아주 비싼 값을 지불해야 하는 상황이 발생한다. 시민을 위한 AI를 위해 시민 사회가 뭉칠 수 있길 바라며, 이를 기반으로 사회적 AI, 시민을 위하는 AI가 개발될 수 있길 바란다.

우리는 어떤 직업을 가지고 있건 간에, 자료를 수집하고 정리할 일이 발생하는 경우가 많습니다. 학생때는 과제를 하기 위해, 연구자는 연구를 위해, 직장인은 보고서 작성이나 업무 수행을 위해 많은 인터넷 자료를 정리하죠. 그런데 인터넷의 수많은 자료들을 정리하는 건 시간과 노력이 꽤 많이 들어갑니다. 보고서야 요새 ChatGPT를 포함한 많은 AI를 활용해 정리가 가능하지만.. 여러 가지 신문기사를 스크랩하고 요약하여 보기 좋게 정리하는 일은 일일히 복사해서 붙여넣기를 한 다음에 결과를 또 다른 곳에 예쁘게 정리해놓고.. 이렇게 정리하면 나중에 찾을 때도 헛갈리고.. 곤란할 때가 많습니다. 이번 글에서는 정리 및 협업 툴로 유명한 Notion과 이에 탑재된 Notion AI를 활용하여, 쉽게 인터넷 글을 스크랩하고 요약한 후, 스크랩한 글들에서 원하는 키워드로 검색까지 가능하게 하는 저만의 방법을 소개하고자 합니다. Notion을 처음 써보시는 분들도 따라하실 수 있도록 최대한 쉽게 작성해 보았으니, 한 번 따라해 보시기 바랍니다 ㅎㅎ 이번 포스팅에서 사용된 이미지는 모두 제 노션과 브라우져를 직접 캡쳐한 결과입니다. *본 포스팅에서는 PC를 사용할 경우 Chrome과 Whale브라우져,   모바일 기기(핸드폰,태블릿 등)를 사용할 경우 Chrome, Whale, 삼성 인터넷 브라우져에서 사용 가능합니다(제 주위에 아이폰이 없어서, 아마 사파리도 될 겁니다). *Notion은 PC건 모바일이건 미리 설치해주세요. Notion 회원가입의 경우, 구글 계정으로 쉽게 가능합니다. *'페이지 편집 시 자동 업데이트'기능은 Notion AI 유료구독이 필요한 것으로 알고 있습니다. 구독하지 않으실 경우 수동으로(클릭) 업데이트 가능합니다. 1. Notion 데이터 베이스(표)만들기 우선, 우리가 각종 자료를 모아서 정리할 데이터베이스(표)를 만들 겁니다. 그냥 '표'라고 부르면 좋겠지만, 노션 내에 표와 데이터베이스는 구분되다보니 맞는 명칭인 '데이터베이스'로 설명하겠습니다. 노션에서 빈 페이지를 하나 만들고, 가장 상단을 눌러 제목을 편집합니다. 이후 본문에 /데이터베이스 를 타이핑한 후 '데이터베이스 - 인라인'을 클릭합니다. 그러면 위와 같이 '이름', '키워드'라고 적힌 데이터베이스가 나타날 겁니다. 우리는 이제 이 데이터베이스 속성(분류 기준)을 왼쪽부터 '제목', '키워드', '요약', '링크', '추가 내용' 을 기준으로 정리하고자 합니다. 처음에 속성(분류 기준)이 2개 뿐이니, 맨 오른쪽에 +를 눌러 속성을 총 5개로 만들어주시고, 하나 하나 바꿔봅시다.  그 다음, 속성 이름을 누르면 저렇게 '속성 편집' 메뉴가 나옵니다. 이걸 클릭합니다.  앞으로 새로운 속성을 편집할 때마다 같은 방법으로 속성을 편집합시다.  1-1. 데이터베이스에서 '키워드'추출 자동화하기 처음에 추가할 속성은 '키워드'입니다. 자료에서 핵심 키워드를 AI로 뽑기 위해 속성에서 'AI 주요 정보'를 클릭합니다. '페이지 편집 시 자동 업데이트'가 켜져 있는지(동그라미 오른쪽) 확인해주시고, 아래 '어떤 주요 정보를 추출할까요?'에 '핵심 키워드 5개'를 입력합니다. 이러면 키워드 추출을 자동화할 준비를 마쳤습니다. 1-2. 데이터베이스에서 자료 '요약' 자동화하기 아까와는 다르게, 새로운 속성에서 'AI 사용자 지정 자동 채우기'를 눌러줍니다. 사실 'AI 요약'을 눌러도 큰 상관은 없습니다만 조금 더 저희의 입맛에 맞게 AI를 조작 가능하다고 여겨지는 옵션이라(=프롬프트 자율성) 사용자 지정 자동 채우기로 선택했습니다. '무엇을 생성할까요?'에 '페이지 요약. 두 문단에 걸쳐 요약. 한 문단 작성 완료 후 한 칸 띄고 마저 작성'을 입력합니다. 직접 실험해본 결과 한 칸을 띄지 않고 작성하는 경우는 많지만, 두 문단으로는 자주 작성해 주더라구요. 이렇게만 해 주시면 AI로 자료 요약 자동화할 준비가 끝났습니다. 1-3. 데이터베이스에서 자료 출처 '링크' 자동화하기 역시 '페이지 편집 시 자동 업데이트'를 켜 주시고, '무엇을 생성할까요?'에 'Hyperlink from top of article'이라고 입력합니다. 엥? 갑자기 영어가? 그리고 왜 하필 'top of article'에서 하이퍼링크를 가져오라고 명령할까요? 우선, 단순히 이 명령어(프롬프트)를 한국어로 입력했을 때, 영어보다 잘 인식하지 못하는 경우가 발생합니다(보편적인 해외 AI문제). 때로는 가짜 링크를 생성하는 '환각 현상'도 보이더라구요. 영어로 명령하니 해당 환각은 일단 지금까진 없었습니다. 최상단에 있는 링크를 가져오라고 한 이유를 설명해 드리겠습니다. 제가 다음 챕터에서 소개해 드릴 'Notion Web Clipper' 혹은 모바일에서 '공유하기'를 사용해 인터넷 페이지를 노션에 스크랩할 경우, 위에서 볼 수 있듯이 스크랩한 웹페이지로 통하는 링크가 스크랩 페이지 최상단에 작성됩니다. 혹여나 본문에 다른 링크가 있을 수 있으므로, AI에게 혼동하지 말라고 기준을 정해 준 것입니다.  1-4. 스크랩 날짜 속성 추가하기 이번에는 속성 추가 버튼을 누르면 나타나는 '새 속성 검색 또는 추가' 검색창에 '생성 일시'를 검색하여 선택합니다. 이를 선택하면, 제가 특정 웹페이지를 스크랩한 날짜와 시간을 데이터베이스에 기록할 수 있습니다. 원래는 특정 자료나 신문 기사가 작성된 날짜를 AI로 자동화하여 기록하려고 했으나, 잘 되지 않더라구요 ㅠ 1-1 ~ 1-4까지 완료하신 후에, 속성 추가 버튼을 하나 더 눌러 혹시 추가로 수기로 기록할 내용이 있으면 기록할 수 있는 '추가 내용'탭을 만들면 완료입니다. 속성(분류 기준) 명칭 및 아이콘은 다음과 같이 바꿔주시면 됩니다! 명칭은 직접 타이핑하여 바꿔주시면 되고, 아이콘은 아이콘을 눌러 적절한 아이콘으로 변경해 보세요! 2. Notion Web Clipper 설치 및 사용하기(PC) Notion Web Clipper는 저희가 1번에서 만든 데이터베이스에 자료를 쉽게 스크랩하는 역할을 합니다. PC부터 어떻게 하는지 알려드릴께요. Chrome 오른쪽 상단 점3개 누르고 확장 프로그램 - Chrome 웹 스토어 방문하기를 눌러주세요. Whale의 경우, 오른쪽 상단 점3개 누르고 확장앱 - 호환 스토어를 눌러주세요. 왼쪽 검색창에 'notion web clipper'를 입력하여 다운로드합니다. 오른쪽 위에 퍼즐 조각을 눌러 확장앱 목록을 열고, Notion Web clipper를 찾아 고정하기(핀 아이콘)를 누릅니다. 스크랩할 웹페이지에서 오른쪽 상단에 있는 노션 아이콘을 클릭하고, Add to를 누릅니다. 스크랩하여 저장할 노션 페이지를 검색하거나, 선택하여 저장합니다. 이 때, Add to를 누르지 않고 'Save page'를 할 경우, 최근 스크랩한 노션 페이지에 스크랩됩니다. 스크랩을 완료할 경우, 우리가 앞서 만들어 둔 데이터베이스 아래쪽에 저런 형태(페이지)로 자료가 스크랩됩니다. 이를 위에 데이터베이스로 옮겨 주시면 되는데, 주의할 점은 데이터베이스 '안쪽'이 아니라 데이터베이스 '경계'에 옮겨야 합니다. 혹시 이게 어려우시면,  데이터베이스를 '리스트'형태로 바꿔 주시고 옮겨주세요..!(어려우시면 생략) 모바일의 경우, 오른쪽 하단의 [메뉴] - [공유하기] - [노션(N)]을 누르시면, Notion Web Clipper를 눌렀을 때와 같은 화면이 나옵니다! 3. 스크랩 자동화 결과 확인 및 활용하기 만약 여러분들이 본문을 다 따라와서, 스크랩한 페이지까지 데이터베이스로 옮겼다면, 우리가 까먹고 있어도 알아서 앞서 설정한 업무(키워드 추출, 요약, 링크 생성)을 해줄 것입니다. 그런데 당장 해당 작업들이 필요한 경우가 있죠.  그럴 경우, 속성 명칭을 클릭하고 '모든 페이지 업데이트'를 누르시면, 모든 스크랩한 자료들에 대해 해당 작업을 빠르게 수행해줍니다. 한 자료의 한 속성에 대해서만 업무를 수행하고 싶으시다면,  해당하는 칸을 눌러 저 마법봉을 누르시면 AI가 빠르게 작업을 수행해줍니다. 뾰로롱! 저는 기본적으로 여러 데이터베이스에 이 방법을 적용해 두었지만, 샘플로 몇 가지 가져와 보았습니다. 캠페인즈에서 제가 쓴 글들, AI타임즈의 AI기사 등을 긁어와 보았고, 결과는 성공적입니다..! 아, 각 속성을 눌렀을 때 맨 아래에 '줄 바꿈'을 눌러 비활성화해주시면, 해당 속성이 아무리 길어져도 저처럼 데이터베이스가 길어지지 않으니 참고해주세요! 노션AI를 활용한 데이터베이스를 가장 잘 활용하는 방법 중 하나는 바로 '검색'기능을 이용하는 겁니다. 같은 주제로 자료를 스크랩해두었다고 해도, 특정 주제에 대한 자료만 모아서 보고 싶은 경우가 있습니다. 이 때, [돋보기] 버튼을 클릭해 원하는 키워드로 검색하면, 해당 키워드가 포함된 자료들만 데이터베이스에 띄워줍니다! 기존 데이터베이스를 가지고 글을 쓸 때 정말 유용하게 쓸 수 있겠죠? Notion의 기능을 더 많이 알려드릴 수 있으면 좋겠지만, 글이 너무 길어질 것 같아 이만 줄입니다. 여러분들의 업무나 과제, 활동, 연구 등에 도움이 되길 바라며, 글 마칩니다. 궁금하신 점이 있으면 덧글로 작성해주세요..! 틈틈이 들어와서 답변해 드리겠습니다! 혹은 제 메일로 보내주셔도 좋아요!(프로필을 확인해주세요) 글이 도움이 되셨거나 마음에 드셨다면, '응원하기'를 통해 저를 지지해주세요!

우리가 특정 사회적, 과학적인 주장을 할 때 근거로 가장 많이 쓰이는 것을 하나 꼽으라면 '데이터'죠. 다양한 통계, 지표 등을 활용하여 우리는 여러 가지 주장에 더 힘을 실을 수 있다. 정말 감사하게도, 세상에는 공짜로 얻을 수 있는 데이터가 꽤 있다. 하지만 그 데이터 파일들을 분석하는 것은 관련 수업을 듣지 않고 자력으로 하기는 정말 어려운 일이며, 알고 있다고 하더라도 데이터를 정리하는 일(클렌징)은 시간이 많이 든다. 23년 7월에 공개된 ChatGPT-4의 'Code Interpreter'는 데이터 분석에 뛰어나다는데, 과연 많은 연구와 활동에 힘을 실어줄 수 있을까? 1단계 : 데이터와 코드북 준비하기 저는 이번 글에서 간단하게 예시로 '한국의 중도층'에 대해 AI로 분석해 보려고 하는데요, ChatGPT-4의 Code Interpreter를 사용하기 위해서는 23년 8월 10일 기준 다음과 같은 준비물이 필요합니다. ChatGPT 유료 구독(월 2만원) 분석하려는 데이터와 변수명 파악(가능하면) 분석하려는 데이터의 코드북 데이터 분석에 익숙하지 않으신 분들은 '코드북'이 무엇인가 궁금하실 겁니다. 쉽게 말하면, '데이터 설명서'입니다. 위 이미지는 제가 이번에 분석한 데이터 두 개중 하나인 KGSS(한국종합사회조사)데이터의 코드북입니다. Ctrl + F로 원하는 데이터 종류를 찾거나, 목차를 보고 내가 원하는 데이터가 있을 만한 곳을 찾습니다. 저는 KGSS에서 한국의 '중도'비율 변화를 보고 싶었으므로 '증도'라고 검색해서 원하는 데이터와 그 변수명을 확인합니다.KGSS에서 연도별 중도층의 비율을 알 수 있는 변수명은 'PARTYLR'이네요(뒤에 나오겠지만, 변수명 몰라도 됩니다). 2단계 : 데이터 정리하기 저희가 코드북 - 데이터 메뉴얼을 통해 1,2가 진보, 4,5가 보수, 3이 중도인걸 확인했으니 그래프를 그렸을 때 '진보,중도,보수'의 추이를 보기 위해 데이터를 정리해달라고 요구합니다. 이런 데이터를 분석할 때 '응답 없음'이나 '모름'은 없애주는게(-8,-1) 분석에 더 도움이 됩니다. 위 대화는 제가 분석한 다른 데이터인 WVS 데이터 분석과정인데, 제가 앞서 코드북에서 꼭 변수명을 확인하지 않아도 된다고 한 이유가 나옵니다. 보시면 제가 그냥 'KOR'이라고 했음에도, 알아서 국가 데이터로 인식하고 해당하는 값을 찾아서 분석을 진행합니다. WVS에서는 '2017-2022사이 한국이 다른 국가보다 중도층이 많은가?'를 분석해볼 겁니다. 3단계 : 그래프 그리고 확인하기 이제 분석된 값을 바탕으로 그래프를 그려달라고 요구해봤습니다. Code Interpreter를 잘 활용하는 팁은, 사실 AI를 잘 활용하는 팁과도 같은데 '요구사항을 최대한 상세하게, 집요하게 요구하는 것'입니다. 마무리에서 서술하겠지만, AI를 사용하는 인간이 잘 못다루건 AI가 부족하건간에 요구사항을 들어주지 못 할 수도 있습니다. 그런데 뭐, 안되도 그만이라는 마인드로 일단 써보는겁니다. KGSS 분석결과, 한국의 중도층은 조사시작년도인 2003부터 2021까지 약간 증가하는 추세를 보이고 있습니다. 최근 10년으로 본다면 평균 30퍼 근처에서 35퍼 이상으로 증가했다고 볼 수 있겠네요. 또 다른 눈여겨볼 점은 2018년이 다른 해에 비해 진보의 비율이 압도적으로 높고 보수의 비율이 압도적으로 낮은 점인데요. 한정훈 서울대학교 교수의 EAI 워킹페이퍼에 따르면 '2017년의 경우 2016년 탄핵과 촛불집회로 진보가 크게 늘었을 가능성이 높다'라고 했습니다. 이 비율이 1년정도 더 유지되었다고 볼 수 있겠네요. 이번에는 WVS로 본 한국과 다른 국가의 '진보,중도,보수'비율입니다. 전세계(조사 국가 기준) 평균 중도 비율이 41.93%인걸 감안하면, 한국의 39.84%는 그렇게 많지 않습니다. 한국은 전세계 평균보다 본인이 보수라고 생각하는 응답 비율 낮고, 진보라고 생각하는 응답 비율이 높습니다. 중도층이 너무 많으면 정치에 관심이 없는 응답자가 높을 수도 있고, 정당 정치의 위기 지표로도 볼 수 있다고 생각하여 연도별 한국 내 중도층 비중 추이를 살펴보고, 지금 시점에서 다른 국가와 중도층 비율 차이를 살펴보았는데, 한국의 유권자 이념 분포는 '최근 10년 중도층이 늘고 있는 추세지만, 다른 국가와 비교했을 때 지나치게 높지는 않다' 정도로 정리할 수 있겠네요. 즉, 중도층 비율에 대한 분석만으로는 특별히 한국 사회의 변화를 포착하기는 조금 어려워 보인다는거죠. 대만은 진보가 53퍼가 넘는 모습을 보이는데, 왜 그런지 흥미롭네요.   마무리 : Code Interpreter, 유용함과 한계 분명 ChatGPT-4의 Code Interpreter는 데이터를 분석하는 입장에서 정말 유용했습니다. 한글로 잘 말하기만 하면 그래프도 원하는대로 그려주고, 데이터를 표로 정리하는 과정도 수월하게 진행해주며, 심지어 그냥 'KOR'이라고 하면 알아서 국가 데이터를 읽어오는 능력을 가졌습니다. 문제가 있으면 이를 여러 차례에 걸쳐 해결하려는 모습을 볼 수도 있었습니다. Code Interpreter가 데이터 분석에 있어서 시간 단축은 물론이고 부족한 전문성도 채워줄 수 있는 유용한 AI툴임에는 분명합니다. 하지만 분명 여러 한계도 같이 느낄 수 있었습니다. 분석을 잘 하길래, 사회과학 통계에서 많이 쓰이는 분석 방법 중 기초적인 방법인 '다중회귀분석'을 지시해 보았습니다. 하지만 데이터가 너무 커서 실패하는 모습을 볼 수 있었습니다. 물론 직접 데이터를 줄여서 다시 업로드하면 가능하겠지만, 이는 Code Interpreter로만 특정 데이터를 분석하는데에 한계가 있음을 보여줍니다. 이외에도, 그래프 한글 출력을 지원하지 않거나, 사용 횟수 한계가 생각보다 팍팍한 등의 아쉬움도 있었습니다. 그리고 분명히 기존에 데이터 분석을 잘 할 수록 잘 써먹기 좋다는 점도 있구요. Code Interpreter가 나오고 1달이 지난 지금은 GPT-5 개발 소식이 들려오고, ChatGPT-4 UI가 변경되었으며, MS가 빙챗에서 이미지 검색이 가능한 '멀티모달'서비스를 제공하는 등 정말 많은 변화가 있었습니다. AI의 빠른 변화를 시민사회, 연구자, 활동가들이 어떻게 좋게 사용할 수 있을지 지속적으로 고민하고 공유하고자 합니다.<참고자료>-WVS Data/ WVS Codebook :Haerpfer, C., Inglehart, R., Moreno, A., Welzel, C., Kizilova, K., Diez-Medrano, J., Lagos, M., Norris, P., Ponarin, E. & Puranen B. (2022): World Values Survey Wave 7 (2017-2022) Cross-National Data-Set. Version: 4.0.0. World Values Survey Association. DOI: doi.org/10.14281/18241.18-KGSS Data / KGSS Codebook :김지범, 강정한, 김석호, 김창환, 박원호, 이윤석, 최슬기, 김솔이. (2022). 한국종합사회조사 2003-2021. 서울: 성균관대학교 출판부.<ChatGPT-4 Code Interpreter 대화내역(누르면 전체 분석과정을 보실 수 있습니다>-WVS 분석 : https://chat.openai.com/share/38553181-0993-4586-83b1-cdc0eaa9af62?fbclid=IwAR1iUNB3VrVILEYoZJGIXoBmVgXWkYCR73qLl0Vwe8zqe2uKZcS2ekWZY9U-KGSS분석 : https://chat.openai.com/share/518b9d35-a628-473c-a59d-3cb3c98b7d3c?fbclid=IwAR1ebrb8XIL3oCldZkkQXkOVEKv3Rcs4tLT79AO3LQ_jLmwDjRDtTa0lWBU 

A.I.C.E. 세미나 : AI시대에 인간에게 필요한 역량은 무엇인가 - 김재경 LAB2050 연구원 세션 *이 글은 2023년 6월 28일을 기준으로 작성되었습니다. 위 영상은 2023년 6월 13일에 LAB2050이 개최하였던 ‘AI시대에 인간에게 필요한 역량은 무엇인가’세미나에서  발표의 인트로로 사용되었다. 나는 기존에 영상 제작을 따로 공부하거나 배워본 적이 없는데도, 사람 얼굴에서 목소리에 맞게 입까지 움직이는 영상을 40분만에 만들 수 있었다. 어떻게 가능했을까?앞서 제작한 AI 영상은 다음과 같은 과정을 거쳐 제작되었다. 혁펜하임 유튜브‘10분만에 "말하는 AI 아바타" 만들기! (보면서 따라해보세요)’ 에서 아이디어 획득 ChatGPT-4 플러그인 ‘Photorealistic’ 을 사용해서 이미지생성 AI인 ‘Midjourney’에 활용할 프롬프트 생성 Midjourney AI를 사용해 원하는 화자 이미지 획득 영상에서 AI가 읽을 스크립트 직접 작성 네이버 클로바보이스 AI 활용, 스크립트와 화자 이미지에 맞는 목소리로 음성 생성 Studio D-ID AI 활용, 영상과 스크립트를 합치고 영상에 맞게 입모양 구현 이 중에서 1번과 4번은 생성형 AI와 직접 연관이 없는 단계다. 생성형 AI의 역량과 관계가 있는  2,3,5,6번을 순서대로 보며 생성형 AI를 어떻게 활용할 수 있는지 알아보자. 1. 생성형 AI에 날개를 달아주는 플러그인 -플러그인(Plugin): 플러그인은 AI의 기능을 확장하거나 특정 작업에 대한 AI의 능력을 향상시키는 도구입니다. 플러그인은 AI의 학습 데이터나 알고리즘에 직접적인 변화를 주지 않지만, AI가 특정 작업을 처리하는 방법을 변형하거나 확장시키는 역할을 합니다.(ChatGPT의 답변)AI에 있어  플러그인은스마트폰의 ‘어플’과 같은 역할을 한다. 스마트폰에 우리가 어플을 깔아 쓰듯이, 생성형 AI의 능력을 최대한 활용할 수 있도록 플러그인을 설치하여 사용할 수 있다. AI영상을 만들기 위해서는 기반이 되는 이미지를 만들어야 하는데, 이 이미지를 만들기 위해서는 이미지 생성 AI가 필요하다. 그런데 이미지 생성 AI로 원하는 이미지를 만들어내는 것은 그림을 많이 그려봤거나 이미지 생성 AI를 많이 써보지 않았으면 쉽지 않다.  ChatGPT에는 이미지 생성 AI인 ‘Midjourney’에 입력할 프롬프트(명령) 생성을 도와주는, ‘Photorealistic’이라는 플러그인이 있고, 나는 이를 활용하였다. 프롬프트를 활용한 결과물은 아래에서 확인할 수 있다. 이외에도 링크만 입력하면 링크에 있는 pdf 내용에 대해 분석하여 여러 대답을 해줄 수 있는 플러그인, 유튜브 등 링크에 있는 영상의 내용을 텍스트로 요약해주고 마찬가지로 질문에 대답해주는 플러그인, 기존 ChatGPT의 약점으로 꼽히던 수학 연산과 그래프를 그려주는 Wolfram등 ChatGPT에는 다양한 플러그인이 존재한다. 플러그인을 사용해보면 짧은 시간에 알고자 하는 영상이나 텍스트를 요약하고 공부할 수 있어 편리했지만, PDF의 결론 부분을 인지하지 못하거나, 영상에 대한 요약이 같은 내용으로 멈추지 않고 반복되어 출력되는 등 아쉬운 점도 있었다.세미나를 진행한 2023년 6월 13일에는 총 388개의 GPT-4 플러그인이 존재했는데, 2주가 지난 6월 28일 현재 총 585개의/8]7 플러그인이 존재할 정도로 플러그인 도입 속도가 빠르다. ChatGPT외에도 Bard, 뤼튼 등의 생성형 AI 플랫폼도 플러그인 서비스를 준비중이다.2. 원하는 결과를 생성하기 위한 프롬프트의 중요성과 이미지 생성 AI  -프롬프트(Prompt): 생성형 AI에서 프롬프트는 AI가 반응하거나 답변을 생성하기 위한 입력 또는 질문입니다. 프롬프트는 주로 사용자가 AI에게 주는 명령이나 질문의 형태를 띕니다. 예를 들어, "오늘 날씨는 어떻게 될까?" 또는 "피자 만드는 법 알려줘" 등이 프롬프트의 예가 될 수 있습니다(GPT-4대답).프롬프트는 ChatGPT4의 설명만 놓고 보자면 생성형 AI를 다룰 때 별로 중요하지 않아 보인다. 하지만 ‘질문’이 무엇인가에 따라 생성형 AI의 응답은 크게 바뀌는데, 두 가지 사례를 살펴보자. 첫 번째 사례는 ChatGPT4로 얻을 수 있는 인스타그램 카드뉴스 문구 작성이다. 첫 번째에서는 그냥 ‘기본소득 카드뉴스 문구’만 뽑아달라고 한 결과이고, 두 번째 이미지의 경우 ‘퍼블리’라는 직장 생활 플랫폼에서 얻을 수 있는 프롬프트를 이용해 기본소득 카드 뉴스 문구를 짜달라고 부탁한 결과다(퍼블리가 유료이므로, 프롬프트는 공개하지 않기로 했다). 두 번째 결과에서 알 수 있듯이, 프롬프트가 정교할 경우 카드뉴스의 내용도 더 상세하고, 각 슬라이드의 해시태그와 함께 추천하는 이미지까지 함께 제시하고 있다. 이처럼 프롬프트는 생성형 AI를 다룰 때 매우 중요해서, 앞서 소개한 국내 AI기업 뤼튼도 최근 국내 1호 프롬프트 엔지니어를 고용하기도 했다. 두 번째 사례는 이미지 생성AI인 ‘Midjourney’의 출력 결과 차이다. 이 이미지는 앞서 본 AI 동영상에 쓰이기 위해 생성하였다. ‘세미나를 진행하는 날카로우면서도 호감형인 여성’이미지를 원했는데, 왼쪽의 이미지들도 분명 퀄리티는 좋지만, 내가 원하지 않는 만화 그림체도 있고, 맨 왼쪽 위 이미지는 세미나랑 무슨 연관인지도 모르겠다. 하지만 이미지 생성을 위한 프롬프트를 고급스럽게 바꿔주는 ChatGPT4 플러그인인 ‘Photorealistic’을 사용하여 얻은 프롬프트를 Midjourney에 입력한 결과, 오른쪽과 같은 이미지들을 얻었다. 조금 더 원하는 이미지를 프롬프트의 변화를 통해 얻을 수 있었다. 생성형 AI들의 성능은 뛰어나서, 일반인들의 경우 AI가 생성한 이미지인지, 인간이 그린 이미지인지 구별하기 어려울 정도다. 위에 링크를 건 유튜브 영상은 전직 웹툰작가인 유튜버가 AI가 그린 그림인지 사람이 그린 그림인지 판별하는 영상이다. 여러분들은 해당 영상에서 나오는 그림을 AI가 그렸는지, 사람이 그렸는지 구별할 수 있는가? 3. 마블 영화에도 쓰이는 비디오 생성 AI AI 영상에 쓰일 이미지를 여러 AI를 사용하여 만들었으니, 이제는 영상에 들어갈 소리를 만들 차례다. 특정 목소리로 텍스트를 읽어주는 음성 AI는 여러 가지가 있겠지만, 나는 영상을 만드는 과정에서 참고한 유튜브에서 알려준대로 네이버 클로바보이스를 활용하였다. 여러 목소리 중에서 내가 만든 발표자 이미지와 가장 어울린다고 생각하는 목소리를 골라, 준비한 스크립트를 입력하여 원하는 음성을 획득했다. 내가 원하는 스크립트를 읽어 줄 사람의 이미지와 스크립트를 읽는 목소리를 모두 확보했으니, 이제 둘을 조합해 원하는 영상을 만들기만 하면 된다. 둘을 합쳐 영상을 제작하기 위해 Studio D-ID라는 영상 제작 AI를 활용하였다. 왼쪽 아래에서 준비된 이미지를 활용할 수도 있지만 내가 생성한 이미지를 넣고, 오른쪽에 내가 준비한 음성을 넣어 최종적으로 AI 영상을 만들었다. 영상 제작도 거의 안해보고, 성우 관련된 경력이 없는 내가 혼자 AI들을 사용해 영상을 만들 수 있는 시대가 되었다.생성형 AI의 역량은 이미 상업적 영화 제작에 충분히 쓰일 수 있을 정도이다. MIT Technology Review의 기사에 따르면, 미국 디트로이트 소재 영상 제작 업체 웨이마크(Waymark)는 이미지 생성 AI로 12분짜리 단편 영화의 모든 장면을 생성하였다(영화는 유튜브에서도 볼 수 있다). 또한, 유명한 영화 제작사 마블은 디즈니 플러스에 최근 공개한 시리즈인 ‘시크릿 인베이젼’의 인트로 영상을 인공지능으로 만들었음을 밝혔다. 앞으로 점점 더 AI가 만든 이미지, 소리, 영상을 우리 주변에 보게 될 것이다.4. 생성형 AI, 인간과의 충돌 우리는 현재 생성형 AI가 가지고 있는 여러 역량 중 일부를 알아보았고, 실제로 여러 분야에서 인간의 일을 대신할 수 있음을 확인하였다. 하지만 생성형 AI가 여러 분야에서 쓰이고 또 인간의 일을 대신하는 만큼, 여러 가지 사회 문제를 일으키고 있다. 이미지 생성AI의 경우, 기존 작가들의 그림을 훔치며 저작권 침해를 하고 있다는 지적을 가장 많이 받고 있으며 이로 인해 국내 최대 웹툰 포털 네이버웹툰의 도전만화에서 AI 웹툰 보이콧 운동이 일어나기도 했다.또한, 앞서 이야기했듯 생성형 AI가 만든 이미지는 인간이 그린 것인지 구분이 어려울 수도 있다. 실제로 세계 최대 사진전에서 AI가 만든 이미지가 우승을 차지하며 경력이 굵은 전문가조차 AI가 만든 이미지임을 구별하지 못할 수 있음이 증명되었다. AI 창작물에 AI가 생성했다는 워터마크를 의무화하는 방안, AI가 학습하는 데이터에 대한 저작권 논의 등이 시급한 이유다. 여러 분야에서 인간을 대신할 수 있는 AI. 그런 AI는 생명이 없기 때문에, 윤리의식 역시 없다. AI는 사전에 데이터세트를 학습하여 생성한 매개변수를 통해 입력에 대해 출력을 할 뿐이다. 이런 원리 때문인지, 생성형 AI에 관한 뉴스는 아니지만 군사 시뮬레이션에서 명령을 수행하기 위해 드론에 탑재된 AI가 인간을 살해하는 판단을 했다는 보도가 나왔다. 생성형 AI가 활용된 AI 챗봇 서비스와 대화한 이후 한 벨기에 남성이 자살했다는 뉴스도 있었다. 여러 SF소설과 영화에서 경고했던, 통제하지 못하는 AI는 인간을 죽일 수도 있다. 위 이미지는 2023년 6월 28일 기준 ‘AI 일자리’라는 키워드로 구글에 검색한 결과이다. 큰 제목만 봐도, AI의 역량이 인간의 일자리를 뺏을지, 일자리를 더 늘릴지 세상은 아직 결론을 내리지 못했다. 세미나를 함께 진행했던 반가운 한국직업능력연구원 선임연구위원의 발표를 듣고 느꼈던 점은, AI는 ‘일자리’가 아닌 인간의 ‘일’을 대체한다는 점이다. 즉, AI가 인간의 일을 대체하기는 하지만, 인간이 어떻게 사회적으로 대응하느냐에 따라 인간이 AI를 활용하여 일자리를 유지한 채로 생산성을 늘려 주4일제를 시행할 수도, AI에게 일자리를 뺏겨 인간 다수가 백수가 될 수도 있다.  AI의 위험성을 경고하는 것은 쉽다. 하지만 AI가 왜 위험한지 구체적으로 알려주는 전문가는 많지 않고, AI가 위험하기 때문에 무엇을 해야 하는지 말하는 전문가는 더더욱 부족하다. 생성형 AI의 작동 원리로 돌아가면, 입력(Input)이 있어야 출력(Output)이 있다. 프롬프트를 어떻게 입력하고, 플러그인을 어떻게 쓸지는 결국 인간이 결정한다. 입력과 출력을 세밀하게 조정하는 것도 인간이고, 출력물을 어떻게 쓸지 정하는 것도 인간이다. 결국 AI가 아군일지 적군인지는 인간이 하기 나름이라는 것이다.  식칼이 사람을 해칠 수 있다고 해서 우리는 식칼 소유나 거래를 제한하지 않는다. 위험성과 유용성을 일반적으로 알고 있으며, 이를 기반으로 사람을 칼로 찌르면 안된다는 사회적 인식을 공유하고 무고한 사람을 해치면 벌을 주는 법의 존재를 신뢰한다. 발전하는 AI의 역량에 대해 이야기하고 발전 방향과 규제를 모두 이야기해야 하는 이유다. [AI시대에 인간에게 필요한 역량은 무엇인가]세미나 모아보기 1. 생성형 AI, 어디까지 왔는가 (1)기본 개념과 개발 현황 / 김재경 LAB2050 연구원 2. 생성형 AI, 어디까지 왔는가 (2)생성형 AI의 역량과 인간과의 충돌 / 김재경 LAB2050 연구원 3. AI 시대, 더 놀고, 더 사랑하고, 더 배우라 / 반가운 한국직업능력연구원 선임연구위원

A.I.C.E. 세미나 : AI시대에 인간에게 필요한 역량은 무엇인가 - 김재경 LAB2050 연구원 세션 AI는 정말 위험한가? 전세계에서 가장 빠르게, 단 두 달만에 1억명의 유저를 모은 ChatGPT의 등장을 필두로 ‘AI 시대’가 막을 열었다. ChatGPT를 비롯한 여러 생성형 AI는 놀라울 정도로 높은 수준의 텍스트나 이미지 등을 생성하며 인간이 여러 가지 일을 하는데 큰 도움을 줄 수 있을 것으로 보이지만, 동시에 그 역량으로 인해 여러 일자리가 사라지는 게 아닌가 하는 우려도 낳고 있다.  이런 혼란스러운 시점에 우리가 해야 할 일은  생성형 AI가 현재와 미래에 무엇을 할 수 있는지, 이로 인해 어떤 문제들이 발생할지 알아보고 개인과 사회가 대비하는 것이다. 노벨이 발명한 다이너마이트는 사람을 죽일 정도로 강력하지만, 사용자들의 의지에 따라 광산 작업이나 터널 건설 등 산업적인 용도로 쓰일 수 있다. 원자력 역시 폭탄으로 쓰이거나 발전 과정에서 문제가 발생하면 많은 사람들에게 피해를 주지만, 안전하게 사용하면 에너지를 얻을 수 있다.  AI 역시 결국 인간이 사용하기 나름인 ‘과학 기술’이다. 우리에게 이롭게 활용하기 위해선 우선 원리와 개념부터 알 필요가 있다.  1-1.생성형 AI관련 원리 및 개념 소개 *ChatGPT와의 문답을 바탕으로 작성함. 생성형 AI의 작동 원리를 이해하기 위해 필요한 다섯 개념에 대한 설명을 ChatGPT에게 묻고, 그 대답에 대한 간단한 설명을 덧붙이고자 한다. - 데이터세트(Data Set): 데이터세트는 AI가 학습하는 데 사용하는 데이터의 모음입니다. 이는 종종 특정 주제나 분야에 관한 정보를 포함하고 있습니다. 예를 들어, AI가 영어 문장을 생성하는 방법을 배우려면, 그 학습에는 수많은 영어 문장들이 포함된 데이터세트가 필요합니다. 이 데이터세트는 소설, 뉴스 기사, 웹페이지, 사전 등 다양한 출처에서 모은 문장들일 수 있습니다.(ChatGPT의 답변) -> 우선, 생성형 AI는 기본적으로 인간이 만든 데이터를 학습해야 한다. 텍스트를 생성하기 위해서는 인간들이 텍스트를 어떻게 쓰는지를 보아야 하고, 이미지를 생성하기 위해서는 어떤 그림을 그려야 하는지 보아야 한다. 생성형 AI가 학습을 위해 본 데이터들을 ‘데이터세트’라고 할 수 있다. 하지만 기업들이 생성형 AI를 학습시키기 위해 AI기업조차 어떤 데이터를 학습시켰는지 모를 정도로 무분별하게 데이터들을 학습시키기 때문에, 저작권 문제 등 여러 문제가 발생하기도 한다. -매개 변수(Parameters): 매개 변수는 AI가 학습하는 동안 조정되는 값들입니다. AI는 이 매개 변수들을 조정함으로써 데이터세트에서 가장 일반적인 패턴이나 규칙을 찾아냅니다. 예를 들어, AI가 문장을 생성하는 과정에서 "I am" 다음에 "happy"가 오는 것이 "sad"가 오는 것보다 일반적이라는 패턴을 학습했다면, 이는 매개 변수를 통해 학습된 정보입니다.(ChatGPT의 답변) -> 생성형AI가 인간이 쓴 글이나 그린 그림들을 보고 패턴이나 규칙을 ‘매개 변수’ 형태로 저장한다. 예시를 들면, ‘오늘의 점심밥으로 뭘 먹을까?’이라는 질문 뒤에는 ‘슬리퍼’,’원피스’보다 ‘돈까스’,’제육덮밥’같은 단어가 더 올 확률이 높다. 생성형 AI는 데이터세트에서 가장 일반적인 패턴이나 규칙, 즉 인간의 질문(프롬프트)에 확률적으로 가장 알맞은 대답을 출력한다. 이는 뒤에 이야기할 ‘환각 현상’이 일어나는 원인이기도 하다.   -학습(Learning): 학습은 AI가 데이터세트에서 패턴을 찾아내고 그 패턴에 따라 매개 변수를 조정하는 과정을 말합니다. 이 과정은 대부분의 AI 시스템에서 중요한 단계입니다. AI는 이 학습 과정을 통해 복잡한 문제를 해결하거나 예측을 수행하는 능력을 얻습니다.(ChatGPT의 답변) -확률(Probability): 확률은 특정 사건이 발생할 가능성을 수치로 표현하는 것입니다. 확률은 0부터 1 사이의 값으로, 0은 사건이 절대 일어나지 않을 것이라는 확신을, 1은 사건이 반드시 일어날 것이라는 확신을 의미합니다. 생성형 AI는 보통 다음에 어떤 단어가 올 가능성이 가장 높은지를 확률로 계산하여 문장을 생성합니다.(ChatGPT의 답변) -환각현상(Hallucination): "환각현상"은 AI가 학습 데이터에 없는 정보나 패턴을 '창조'하는 현상을 말합니다. 이는 AI가 학습 데이터에 기반한 '추측'을 하기 때문에 발생하는데, 때때로 이 추측이 현실과는 맞지 않는 결과를 초래할 수 있습니다. 예를 들어, AI가 '빨간색 바나나' 같은 실제로 존재하지 않는 것을 '창조'할 수 있는데, 이는 학습 데이터에 바나나의 색깔에 대한 충분한 정보가 없거나, 색깔과 바나나 사이의 관계에 대한 학습이 부족하기 때문입니다. 이처럼 환각현상은 AI의 출력이 현실과 맞지 않게 되는 경우를 가리킵니다.(ChatGPT의 답변) -> 생성형AI 관련 밈으로 유명했던 ‘세종대왕 맥북 던짐 사건’이 바로 이 환각 현상의 대표적인 예시다. ‘조선왕조실록에 기록된 세종대왕 맥북 던짐 사건을 알려줘’라는 질문에 ChatGPT-3.5는 실제 있는 사건마냥 대답을 하였다. 생성형 AI가 일부러 거짓말을 한 것은 당연히 아니고, 우리가 앞서 작동 원리를 보았듯이 ‘생성형 AI의 역량 내에서 가장 확률이 높다고 추측되는 대답’을 했기 때문이다.   하지만 같은 질문을 해도 ChatGPT4에서는 그런 사건이 없다고 대답하는데서 알 수 있듯이, 환각 현상은 생성형 AI)의 발전을 통해(챗봇의 경우, 언어 모델 등의 발전도 포함) 없애거나 줄일 수 있다. 위의 다섯 가지 개념을 기반으로 생성형 AI의 작동 원리를 다이어그램으로 나타내면 다음과 같다. 다이어그램 역시 ChatGPT4의 플러그인을 사용하여 만들고 조정했다(플러그인에 대한 내용은 뒤에 바로 소개한다).  1-2. 생성형 AI의 날개 : 프롬프트와 플러그인 앞서 생성형 AI의 개념과 원리를 소개할 때, ‘프롬프트’라는 개념과 ‘플러그인’이라는 개념이 등장했다. 이 두 가지는 생성형 AI에 대해 이해할 때 아주 중요한 개념으로, 앞으로 생성형 AI가 우리 삶에 점점 더 스며들수록 더 자주 접하게 될 단어들이기도 하다. 이 두 가지가 무엇인지, 이번에도 ChatGPT4의 요약으로 우선 살펴보고, 각각에 대한 설명을 이어나가도록 해 보겠다. -프롬프트(Prompt): 생성형 AI에서 프롬프트는 AI가 반응하거나 답변을 생성하기 위한 입력 또는 질문입니다. 프롬프트는 주로 사용자가 AI에게 주는 명령이나 질문의 형태를 띕니다. 예를 들어, "오늘 날씨는 어떻게 될까?" 또는 "피자 만드는 법 알려줘" 등이 프롬프트의 예가 될 수 있습니다.(ChatGPT의 답변) -> 프롬프트는 ChatGPT4의 대답만 놓고 보자면 아주 단순해보인다. 하지만 ‘질문’이 무엇인가에 따라 생성형 AI의 응답은 크게 바뀌는데, 이는 ‘생성형 AI, 어디까지 왔는가(2)’에서 더 자세히 다루고자 한다. -플러그인(Plugin): 플러그인은 AI의 기능을 확장하거나 특정 작업에 대한 AI의 능력을 향상시키는 도구입니다. 플러그인은 AI의 학습 데이터나 알고리즘에 직접적인 변화를 주지 않지만, AI가 특정 작업을 처리하는 방법을 변형하거나 확장시키는 역할을 합니다.(ChatGPT의 답변) -> 생성형 AI의 플러그인은, 쉽게 말하면 스마트폰의 앱과 같다. 예를 들어, GPT-4에는 유튜브 영상의 소리를 해석하는 능력이 없다. 하지만 여러 가지 GPT-4의 플러그인에서는 동영상(유튜브 등)의 소리를 텍스트로 바꾸어, GPT-4가 요약할 수 있도록 도와준다. 이외에도 앞서 생성형 AI의 작동 원리를 다이어그램으로 그릴 때, GPT-4 플러그인인 ‘Show Me Diagrams’를 이용했다.  2. 생성형 AI 현황 ‘AI 시대’라는 말이 과언이 아닐 정도로, AI와 관련된 새로운 소식은 하루를 마다하고 쏟아지듯이 나오고 있다. 그만큼 생성형 AI는 빠르게 발전하고 있다. 그래서 생성형 AI를 다룰 때는 지금까지의 개발 현황을 구체적으로 정리하는 것보다, 원리와 개념을 파악하고 이를 바탕으로 최신 뉴스를 살피며 앞으로 다가올 변화에 대해 살펴보는 것이 더 유용하다. 2023년 6월 27일을 기준으로, 흥미로운 몇 가지 소식을 전하고자 한다. -오픈AI, AI 모델용 ‘앱 스토어’ 구축한다 현재 GPT-4에는 스마트폰의 앱과 비슷한 기능을 하는 ‘플러그인’이 이미 상용화되어 있다. 하지만 보다 더 많은 이용자에게 OpenAI의 AI 모델을 서비스하고자 한다면 독자적인 앱 스토어 구축은 큰 경쟁력이 될 수 있다. 애플의 앱 스토어 런칭을 생각하면 자체적 앱 스토어 구축이 가지는 영향력을 상상하기 쉬울 것이다. OpenAI가 통제 가능한 생태계 구축을 통해 차별화된 사용자 경험을 제공하고, 이것이 시장을 선도하고 수익을 창출하는 계기가 될 수 있다. -"LLM으로 돈 버세요" 메타의 완전 오픈소스 전략 생성형 AI 시장에서 Meta는 일찍이 ‘오픈 소스’로 언어 모델을 공개하며 시장에서의 점유율을 높여 OpenAI, Google과 경쟁하고자 하였다. 실제로 위 이미지가 보여주듯이, Meta의 LLaMA(라마)를 기반으로 발전한 Vicuna가 구글의 바드와 비등한 성능을 보여준다는 평가까지 받았다. 하지만 기존에는 상업적 이용을 허가하지 않고 연구 목적으로만 허가하였는데, 다음에 내놓을 메타의 언어 모델은 상업적으로도 이용이 가능하다. Meta의 생성형 AI 오픈 소스화 행보는 기대와 우려를 동시에 낳고 있다. -국내 생성형 AI 포탈 뤼튼의 행보  국내 AI 개발 소식 중에서 독자들에게 가장 먼저 소개하고 싶은 현황은 생성형 AI 포털 서비스인 ‘뤼튼’이다. 지금까지 무료로 사용 가능한 뤼튼에서는 이미 GPT-4를 통한 채팅, 스태빌리티AI를 통한 이미지 생성 등을 지원하며, 마케팅 문구 등을 복잡한 프롬프트 없이 만들어주는 등의 서비스를 제공한다. 뿐만 아니라 조만간 GPT-4와 같은 플러그인 서비스를 국내 사용자에 맞춰 제공할 예정으로, 국내 사용자가 AI를 쉽고 유용하게 쓸 수 있는 AI서비스가 되지 않을까 싶다. -네이버 AI 챗봇 이름은 '큐:'...다음달 베타 테스트 실시 네이버가 OpenAI의 ChatGPT에 대응하는 AI 챗봇 서비스인 ‘CUE:’의 베타 서비스를 7월에 시작하기로 발표하였다. 네이버는 이전부터 네이버의 언어 모델인 ‘하이퍼클로바X’의 장점을, ChatGPT보다 ‘한국에 특화된 모델’, ‘환각현상이 적은 모델’로 내세웠다. 한국형 AI의 개발과 비전에 대해 많은 채널을 통해 알려왔던 네이버인 만큼, 실제 공개한 서비스가 어떤 성능을 보여줄지, 네이버 자체 서비스를 포함하여 국내의 얼마나 다양한 서비스와 연계할 수 있는 AI를 내놓을지 궁금하다. 지금까지 AI의 기본 개념과 개발 현황에 대해 간단히 알아보았다. ‘생성형 AI, 어디까지 왔는가(2)’에서는 직접 만든 AI 영상의 개발 과정을 중심으로, 현재 생성형 AI의 역량에 대해 살펴보겠다.  [AI시대에 인간에게 필요한 역량은 무엇인가]세미나 모아보기 1. 생성형 AI, 어디까지 왔는가 (1)기본 개념과 개발 현황 / 김재경 LAB2050 연구원 2. 생성형 AI, 어디까지 왔는가 (2)생성형 AI의 역량과 인간과의 충돌 / 김재경 LAB2050 연구원 3. AI 시대, 더 놀고, 더 사랑하고, 더 배우라 / 반가운 한국직업능력연구원 선임연구위원

AI분야에서 논의할 주제는 정말 많다. 당장 캠페인즈 메인 화면에 나온 투표만 보더라도 AI 개발 속도와 규제에 대한 논의, AI와 일자리에 대한 논의, 학교과제에서 ChatGPT 사용범위에 대한 논의 등이 이루어지고 있다. 물론 이 주제들도 AI와 관련되어 매우 중요한 논의들이다. 하지만 내가 생각하는 AI와 관련한 가장 급하고 중요한 논의는 ‘AI 논의의 필요성 자체에 대한 논의’이다. 그리고 AI와 관련된 논의들은, 다른 논의보다 더더욱 디지털 공론장에서 이루어져야 한다. 왜 그런지 하나씩 살펴보자. 너무 빠르고 강력한 AI의 발전 우리가 특정 사회 문제에 대한 논의가 중요하다고 할 때, 여러 이유를 댈 수 있겠지만 우리는 특정 사회 문제가 가지는 영향력의 ‘범위’와 문제 해결의 ‘시급성’을 고려한다. 가령, 최근 발생한 전세사기와 이를 해결하기 위한 전세사기특별법의 사례를 보면, 전세사기를 당한 사람이 전국적으로 많고 그 대상이 경제적 여력이 상대적으로 부족한 20~30대가 많다. 또한, 주거 사기이므로 사기 피해자들이 거주할 곳이 당장 마땅치 않은 상황에 처할 수 있으며, 집값이 내려가고 있는 상황에서 추가 피해자들이 발생할 수 있는 시급한 문제였다. 때문에 피해자들이 동의하지 않는 형태지만 국회에서 빠르게 논의되어 입법 절차까지 이어졌다. AI문제의 영향력의 범위와 문제의 시급성은 어떨까? 우선, AI가 사회에 미치는 범위는 매우 광범위하다. AI라는 키워드를 사회에 유행시킨 ChatGPT는 사용자 1억명을 가장 빨리 달성한 서비스로 유명하다. ChatGPT의 이용자 숫자 통계는 인공지능의 성능이 궁금해서 한 번쯤 써본 사람 때문에 빨리 늘었을 수 있다. 하지만 이미 대기업들은 AI가 일상 여러 범위에 쓰일 수 있도록 서비스를 제공하고 있거나, 제공할 준비를 하고 있다. 2023년 5월 25일 현재 ChatGPT내에서 다른 웹사이트를 접속할 필요 없이 쇼핑까지 가능한 플러그인 기능이 사용 가능하며, 마이크로소프트는 어제인 5월 24일 엑셀, 파워포인트, 심지어는 윈도우 자체 등 마이크로소프트 서비스 전반에 AI를 탑재하는 ‘코파일럿’의 운영 계획을 보다 구체적으로 밝혔다. 이외에도 구글은 바드에 적용되는 LLM(대형언어모델)인 PaLM2의 코딩 능력과 모델의 가벼움을 강조하며 활용도가 높다고 알리고 있다. 글로벌 대기업들이 AI 서비스를 더 넓은 범위로 확대하고, 더 사람들이 사용하기 좋게 하고 있다. AI의 뜻은 인공’지능’인데, 이는 곧 AI의 발전은 곧 인간의 지능이 필요한 모든 분야에 영향을 미칠 수 있는 기술임을 의미한다. 그런 분야에 대규모 인력과 자본이 투자되고 있는 지금, AI는 사회에 영향을 미치는 범위가 매우 넓고, 점점 더 넓어질 것이다. 또한, AI 문제는 시급하게 논의되어야 한다. “AI 분야에서는 1주일이 1달 같다” 고 한빛미디어 박태웅 의장이 다스뵈이다에 출연해서 말할 정도다. 실제로 AI의 발전속도는 너무 빠르다. 무어의 법칙보다 5배~100배 빠르게 AI가 발전한다는 이야기가 나왔던 시점이 2021년이다. 더 많은 투자와 관심이 쏟아지고 있는 2023년은 더 이상 무어의 법칙이라고 말하기 어려울 정도로 속도가 빠를지도 모른다. ChatGPT의 언어모델인 GPT만 보더라도 몇 개월 사이에 엄청나게 빠른 발전 속도를 갖추고 있다. 대형언어모델이 개발자도 모르는 특이점을 지났다고 이야기가 나왔던 GPT-3.5가 2022년 11월, GPT-4는 2023년 3월에 출시하였다. GPT-4가 GPT-3.5에 비해 여러 성능 개선이 이루어졌는데, 한 가지만 살펴보자면 GPT-3.5의 영어 성능에 비해 GPT-4의 한국어 성능이 더 좋다. 이외에도 변호사 시험을 겨우 통과하던 GPT-3.5가 GPT-4가 되면서 상위 10%의 성적으로 변호사 시험을 통과하는 등, 5개월만에 엄청난 성능 발전을 이루었다. 종합해보면, AI는 사회에 광범위한 영향을 미치면서도 매우 빠르게 발전하는 시급한 문제이기 때문에, AI와 관련된 사회적 논의는 매우 중요하다. 책과 같은 전통적인 공론과정은 너무 느리다 특정 사회 문제에 대해 논의할 때, 지식이 없는 상태로는 올바른 결과를 도출할 수 없다. 우리가 부족한 지식을 습득하고자 할 때, 가장 흔하게 이용하는 수단 중 하나는 ‘책’을 읽는 것이다. 실제로 책에는 저자들의 지식과 인사이트가 매우 체계적으로, 방대하게 집약되어 있어 지식을 쌓는데 유용하다. 하지만 논의하고자 하는 사회 문제의 변화 속도가 너무 빠르다면, 책은 제 기능을 하지 못할 수도 있다. 나는 최근 언론에도 자주 얼굴을 비치는 헨리 키신저, 구글 전 CEO인 에릭 슈밋, MIT학장인 대니얼 허튼로커가 AI에 대해 이야기하는 ‘AI 이후의 세계’를 읽고 있다. 원문은 2021년 11월에 나왔고, 한국에는 2023년 5월 22일에 발행되었다. 책 자체는 AI와 관련된 여러 사회 문제들에 대해 매우 훌륭한 인사이트를 제공한다. 하지만 책에서 주로 다루고 있는 혁신적 AI는 GPT-3다. GPT-3.5와 GPT-4의 차이도 큰데, GPT-3.5 이전 버젼의 성능과 예시를 가지고 분석하는 내용을 읽다 보면, ‘GPT-4가 나오고 2개월이 된 이 시점에서 , 이 책이 말하는 내용들이 적합할까?’라는 의구심이 든다. 비단 이 책 뿐만이 아니다. GPT-3.5를 분석한 여러 책들이 출판된 시점과 GPT-4가 나온 시점이 거의 같았다. AI 이후의 세계의 내용이 의미가 없는게 아니듯이, GPT-3.5에 대한 분석을 토대로 작성된 책들이 우리에게 의미가 없진 않겠지만, ‘책’이라는 전통적인 수단이 너무 빠르게 발전하는 AI에 대한 내용을 다루기에 적합하지 않다고 생각한다. 책 뿐만 아니라 여러 리뷰어의 검증을 거쳐야 하는 논문, 일방적으로 지식을 전달하는 방식의 전통적인 교육 등 기존 지식의 전파를 책임지던 방법으로는 AI문제에 대해 논의할 지식을 축적하는데 한계가 있다. 즉, 보다 빠르게 AI문제를 논의할 수 있도록 시민 주도의 공론장이 주도적으로 나서야 한다. AI시대, 시민이 주도하는 공론장의 역할 중요하게 다루어야 할 AI문제를 시민 주도의 공론장에서 다루어야 하는 이유는 다음과 같다. 국가의 행동 주체는 다양하게 구분할 수 있지만, 크게 보자면 정부와 기업, 시민이 있다. 그 중 정부의 경우 앞서 우리가 보았던 ‘책’과 마찬가지로, 상대적으로 느리고 강한 영향력을 행사할 수 있다. AI와 관련된 규제를 위한 법안을 만들고, 평생교육제도를 손질해서 구조적으로 AI문제에 더 잘 대응할 수 있는 국가를 만들 수 있다. 하지만 시시각각 변하는 AI 문제를 국가가 나서서 공론의 장을 마련하고 지식을 전파하는 데는 한계가 있다. 기업의 경우, 근본적으로 이윤을 추구하는 주체라는 점에서, AI가 일으키는 사회적 문제에 대해 관심이 덜할 수 밖에 없다. 6개월간 AI 개발을 멈추자고 말하고 실리콘밸리에 인공지능 회사인 X.AI를 설립하는 일론 머스크만 보아도, 기업에게 AI와 관련된 사회적 문제를 적극적으로 다루는 것을 기대하는 건 무리다. 결국, AI와 관련된 지식을 나누고, AI가 일으킬 사회 문제에 대해 논의를 적극적이고 빠르게 이끌 수 있는 건 시민사회다. 토론회, 세미나, 디지털 공론장을 통해 AI에 대한 지식을 공유하고 여러 시각으로 AI 문제를 검토해야 한다. 지식의 기록과 공유 측면에서, 오프라인보다는 온라인 형태의 공론이 더 뛰어나다. 빠르게 변화하는 AI에 대해 공유하고 토론하기에는 줌과 같은 화상 미팅이나 캠페인즈와 같은 디지털 공론장이 더 적합하고, 이전보다 더 중요하다. 내가 속한 LAB2050에서도 시민사회가 함께 AI문제에 대해 논의하는 A.I.C.E.포럼을 연 다음 온라인으로 포럼 내용을 공유했다. 또한 6월 둘째주에는 줌 형태로 ‘AI시대, 인간의 역량(가제)’라는 AI 세미나를 열 계획이다. AI의 역량이 빠르게 발전하는 시대에 인간이 AI에 뒤쳐지지 않기 위해 어떤 역량을 길러야 하는지가 궁금하다면, LAB2050 뉴스레터를 구독하고 세미나 소식을 기다리길 추천다. 지금까지 AI시대에 디지털 공론장이 중요한 이유에 대해 살펴보았다. 앞으로 어떻게 더 많은 사람들이 AI와 관련된 공론장에 참여하게 할 수 있을지, 어떤 사람들이 AI문제에 대해 논의해야 하는지 더 많은 논의와 행동이 필요한 시점이다. AI와 디지털 공론장의 역할과 미래에 대한 여러분들의 생각이 궁금하다.