AI와 교육현장 윤리 '어제의 옳음은 오늘도 옳음일까?'

작성자: 박영민 (부산광역시교육청 교육정책연구소, ESC 회원)

윤리란 사람으로서 마땅히 행하거나 지켜야 할 도리를 말한다.[1] 우리는 세상을 살아가면서 해야 할 것과 하지 말아야 할 것을 구분하여, 이를 타인과의 관계와 주변 환경을 고려해 실천할 책임이 있다. 이런 윤리적 삶을 사는 방식은 우리가 처한 맥락과 상황의 영향을 받는다. 특히 과학과 기술의 발달에 따라 옳고 그름의 잣대는 달라진다. 생식 기술이 발전하면서 생겨난 ‘부모의 정의는 무엇인가’와 같은 의문이나, 자율주행 차량이 사고를 피할 수 없는 상황에서 ‘누구의 생명을 구해야 하는가’와 같은 딜레마는 이제 교실에서도 낯설지 않은 토론 주제가 되었다. 

인공지능 시대에 부모나 교사가 ‘우리 아이들을 어떻게 가르칠 것인가’라는 질문에 답을 찾기란 여간 어려운 일이 아니다. 인공지능 기술이 역사상 전례를 찾기 힘들 정도로 빠르고 복잡하게 변화하면서 어제와 확연히 다른 오늘의 일상이 전혀 이상하지 않기 때문이다.

우리가 어제 배웠던 옳음의 기준을 오늘의 아이들에게 무턱대고 적용할 수 있을까? 가정과 교실에서 참고할 수 있는 인공지능 윤리 가이드라인은 무엇일까? 세계적인 인공지능 과학자와 관련 기업 리더들끼리조차도 ‘인공지능의 인간 파괴’가 가능성인지 그저 과장된 공포심인지 합의하기는 어려워 보인다.[2] 하지만 인공지능 기술이 자칫 인간과 세상을 파괴하는 데 쓰이지 않도록 검토하고 서로 합의할 시간이 필요하다는 데에는 같은 목소리를 내고 있다.[3] 일찍이 일부 국가나 정치통합체[4], 교육계[5], 종교계[6]에서는 인공지능 사용 원칙이나 지침 또는 요청 사항을 만들어 발표했다. 

그러나 우리나라는 인공지능 개발에 초점을 맞춘 법안 마련[7]과 인재 양성을 위한 교육[8]과 제도 개선에 힘쓴다. 인공지능이 광범위하게 적용됨에 따라 학업과 진로를 포함한 개인의 삶에서 중요한 결정에 영향력을 미치고 있으므로, 가정과 교실에서는 그 이상의 가이드가 필요하다. 초중등학교 교실에서 생성형 인공지능 서비스를 활용할 때, 나이 제한에 대한 고민이나 윤리적 태도에 대한 논의가 없다고 교사만 탓할 일이 아닌 것이다.

지금 세상엔 변한다는 사실을 제외하곤 모든 것이 변하고 있다. 윤리의 기준마저 그러할 것인데, 자라는 청소년들에게 (인공지능 기술 개발을 두고 몇몇 과학자들이 성명서를 냈던 것처럼) 기준이 마련될 때까지 성장을 잠깐 멈추라고 할 수도 없는 노릇이다. 어제의 옳음이 오늘도 옳을지 보장할 수는 없으나, 날마다 닥쳐오는 변화에 휩쓸리지 않게 학생들을 붙잡을 기둥 정도는 마련해 둘 필요가 있지 않겠나. 우선, 학생을 단순히 ‘학습에 집중해야 하는 성인이 아닌 자’로 규정하기보다는 ‘인공지능 서비스의 소비자이자 생산자이면서 학습하는 주체’로 인식하는 편이 좋겠다. 학생들이 세 가지 역할을 해나가는 과정에서 기억하고 지킬만한 아홉 개의 기둥을 제안해 본다.

첫째, 인공지능 시대의 소비자라면, 겸손과 업데이트, 디지털 발자취라는 키워드를 기억하자. 윤리 규범이 시공간에 따라 달라지고 변화의 속도가 걷잡을 수 없을 때, 겸손[9]한 태도는 기본적 역량이 된다. 접하는 모든 정보를 ‘지금 여기 내’가 가진 잣대로 따지기 보다는, 타인의 목소리에 귀를 기울이고 타인의 관점으로 바라본다. “솔직히, 객관적으로 말해서…”라는 표현이 얼마나 주관적이고 위험할 수 있는지 알아차려야 한다. 그러다 새롭고 중요한 것을 알게 되었을 때, 나의 기준을 업데이트해서 편향과 편협에서 벗어나는 용기와 지혜가 필요하다. 또다시 겸손한 자세를 취해 업데이트한 기준마저 다시 업데이트될 수 있다고 기억하자. 다만 누구나 인공지능 기술로 그럴듯한 가짜 정보를 만들 수 있으니, 새로운 정보에서 옥석을 솎아내고 출처를 확인하는 태도는 모든 업데이트의 순간에 잊지 말아야 할 자세다. 한편 인공지능은 알고리즘을 구동하고 개인화된 경험을 인간에게 제공하기 위해서 디지털 발자취(개인정보, 검색기록, 선호도, 소셜미디어 활동 등)[10]가 포함된 데이터에 의존한다. 나와 타인의 디지털 발자취를 보호하는 태도는 인공지능 시대 소비자가 반드시 갖춰야할 덕목이다. 

둘째, 인공지능 시대의 생산자인 학생들에게 협업과 포용, 책임을 실천하도록 가르쳐야 한다. 인공지능 전문가와 여러 분야의 전문가들이 협업하지 않았다면 ChatGPT와 같은 자연어처리 모델, 음성인식, 의료 진단, 가상현실 등을 우리가 아직 만나지 못했을지도 모른다. 또한 인공지능은 인간에게 편견을 물려받을 수 있으니, 다름을 포용하고 공감하는 인간다움을 지키며 데이터를 생산하는 것은 필수요건이 되어야 한다. 행여나 부적절한 콘텐츠를 만들거나 공유하게 된다면, 고의든 실수든 행위에 대한 책임은 인공지능 서비스를 제공하는 기업 이전에 자신에게 있음을 알아야 한다.

셋째, 인공지능 시대를 사는 학습자로서 학생들이 지켜야 할 나머지 세 가지 기둥은 주의집중과 인용, 소통이다. 오늘날 인공지능 기술로 생산되는 정보는 20세기 말에 등장한 ‘정보과잉’이라는 단어로도 충분히 담지 못할 만큼 넘쳐난다. 정보에 파묻혀 꼼짝달싹 못한 채 옳고 그른 정보를 가려내지 못하는 삶을 피하려면, 목적에 맞는 정보를 발견하고 탐구할 수 있어야 한다. 이런 점에서 주의집중[11]은 필수 역량이 된다. 잘 가려낸 정보를 지식으로 바꾸는 과정에서, 사실과 의견을 구분하고 타인의 생각을 밝히며 내 생각을 보태어 말하는 인용 기술이 중요하다. 인용 기술에는 원문 병기 외에도 바꾸어 쓰기(paraphrasing)와 요약하기가 있다. 이 기술은 표절하지 않고 윤리적 학습과 연구를 지속해 가는 데 기본이 된다. 마지막 역량은 소통이다. 인공지능이 뭐든지 다 해줄 것 같지만, 묻고 답하며 주장하고 협상하는 것은 인간의 일이다. 소통 기술은 학교뿐만 아니라 일터에서도 중요한 역량이다. 특히 커져가는 격차와 불평등 속에서 플랫폼 근로자 등과 같이 상호작용이 제한적인 일자리에서 소통 기술은 경험을 공유하고 지식을 교환하게 한다. 결국 소속감을 형성하고 복지와 권리에 영향을 미치는 문제를 해결하는 데 도움이 된다.  

인공지능 시대의 교육현장은 소용돌이 속 고요한 섬과 같아 보인다. 지금 세상은 너무나 빠르게 변해서, 졸업을 기다릴 것도 없이 교실밖으로 한 발 나가자마자 정보의 소용돌이에 휩싸여버린다. 여기 제안한 아홉 개의 기둥은 인공지능 시대의 소비자이자 생산자이며 학습하는 주체인 학생들이 인간다움을 지키며 살아갈 수 있는 충분한 윤리적 기준이라기 보다 최소한의 가치와 태도일 것이다. 오늘의 옳음이 내일도 옳다고 할 수 없으니 말이다.

참고 자료  

[1] 국립국어원. (nd). 윤리. 국립국어원 표준국어대사전 https://stdict.korean.go.kr/search/searchResult.do
[2] Pause Giant AI Experiments: An Open Letter https://futureoflife.org/open-letter/pause-giant-ai-experiments/
[3] AI 위험 성명서 발표(2023. 5. 30) https://www.safe.ai/statement-on-ai-risk
[4] 독일의 노동 4.0과 산업 4.0, 유럽연합의 인공지능법, 미국의 알고리즘 책입법안 
[5] 하버드, 인공지능 준칙 백서 발표(2020.1.15) https://cyber.harvard.edu/publication/2020/principled-ai
[6] 로마 교황청, 인공지능 윤리에 관한 로마의 호소(2020. 1.10) https://www.vaticannews.va/ko/pope/news/2023-01/pope-francis-receives-rome-call-vatican-audience.html
[7] 인공지능산업 육성에 관한 법률안 https://www.lawtimes.co.kr/news/187090
[8] 디지털 인재양성 종합방안 https://www.korea.kr/briefing/policyBriefingView.do?newsId=156521928
[9] 무엇이 옳은가(후안 엔리케스, 2022) 참조
[10] 디지털 리터러시 (오정훈 외, 2022) 참조 https://www.dilit.kr/textbook/  
[11] 주의집중 6가지 및 실천 방법 Thriving on Overload (Ross Dawson, 2022) 참조