AI 시대, 가장 시급하게 다뤄져야 할 문제는 무엇이라고 생각하나요?(다중선택가능)
2023.05.01
2023년 4월 17일(현지시간) 독일 출신 사진작가 보리스 엘다그센(Boris Eldagsen)은 유명 세계 사진 대회에서 수상을 거절하며, 큰 이슈가 되었습니다. 보리스 엘다그센의 "가짜환영: 전기기술자" Boris Eldagsen “Pseudomnesia; The Electrician” 가 사진작가 자신이 아닌 AI가 만들었기 때문이라는 이유였습니다. 그는 이로 인해 AI로 만들어진 사진과 실제 작가가 만든 사진을 구분할 수 있는가, 의 문제를 촉발하고 싶었다고 말했습니다.
같은 4월, 한 익명 프로듀서가 AI를 이용해 가수 드레이크(Drake)와 더 위켄드(The Weeknd)의 목소리를 사용한 음악을 만들어 “Heart on My Sleeve”란 제목으로 발표해 음악계에 충격을 주기도 했습니다. 두 가수는 만난 적도 참여한 적도 없는 음원이 나온 것입니다.
이 뿐만이 아닙니다. 20일(현지시간) 캐나다 소설가 겸 언론인 스티븐 마쉬는 3가지 AI 프로그램을 이용해<작가의 죽음(Death of an Author)>이라는 미스터리 중편 소설을 집필, 발표했습니다.
번역에 특화된 AI인 딥엘(DeepL) 은 이미 초벌번역 수준에 육박하여 많은 번역가들의 관심을 받고 있지요. ( 딥엘, 구글, 파파고... 3대 AI 번역기 비교해보니 | 중앙일보 2023.3.11.)
이렇듯 생성형 AI는 현재 큰 이슈로 대두되고 있습니다. 생성형 AI란 사용자의 요구에 따라서 텍스트, 오디오, 이미지 등 기존 데이터를 활용, 새로운 콘텐츠를 만들어 내는 인공지능을 일컫습니다. 예를 들어, Chat GPT(쓰기 및 대화), Dall-E(이미지), Deep-L(번역), 작곡 등 AI가 따라오기 어려울 거라고 여겨졌던 언어와 예술, 창조 분야를 침투하는 AI입니다. 이들 생성형 AI의 완성도나 한계를 실험하는 일이 봇물터지듯 쏟아지는 중입니다.
AI 기술을 긍정적으로 바라보는 이들은, AI가 새로운 혁신이 되어 인간을 돕는 보조도구가 될 것으로 기대하고, 반대의 시선은 AI가 인간을 대체하고 오히려 통제불가능한 두려운 존재가 될 것이라 우려합니다. 이미 우리 사회에 침투했고 침투하고 있으며 침투할 AI의 긍정적인 사용과 영향을 위해서 우리는 AI의 어떤 부분을 대비하고 생각해 보아야 할까요?
고스트라이터의 유투브 사진 ghostwriter-Heart on My Sleeve(Drake & The Weeknd AI Song)
AI와 관련해 각계 전문가들이 지적하는 문제들
1. 개인정보 유출과 신뢰성의 문제
- [매거진한경]의 정초원 기자는 “초거대 AI가 불러올 장밋빛 혁신 뒤에는 그만큼의 그림자도 존재한다. 가장 큰 이슈는 AI의 신뢰성이다. 챗GPT에서 문제가 되고 있는 ‘할루시네이션(환각)’이 대표적이다. 생성형 AI의 할루시네이션 이슈는 거짓과 진실을 적절히 섞은 가짜뉴스, 편향성, 일관성 결여 등을 포함한다. 개인정보 유출과 같은 보안상의 위험 또한 AI 기술 적용 과정에서 고려해야 할 이슈다.”라고 지적했습니다. [big story] AI 금융 ‘레벨업’, 주목할 뷰 포인트 4(매거진 한경 2023. 4.26)
- AI의 편향의 문제에 대해서 “미국전자상거래기업 아마존은 2014년 AI 채용 프로그램을 도입했으나, 채점 과정에서 여성 지원자들에게 불이익을 준 사실이 드러나 도입 3년 만에 폐기처분됐다. 남성 지원자가 수적으로 우세했던 과거 10년치 데이터를 학습하는 바람에 구시대의 편견까지 그대로 답습해버린 것이다.”라는 예시를 들었습니다.-면접관이 AI라면?…美 3명 중 2명 “입사 지원 안해” (농민신문, 2023.4.26)
2. AI의 영향을 받을 직업군에 대한 우려
- 플로리다 국제 대학의 컴퓨터 사이언스학 마크핀 레이슨 교수는 ”일부 직업은 사라질 가능성이 높지만 이러한 AI 도구를 다루는 새로운 기술은 더욱 중요해질 것“이라고 지적했습니다.- [AI 프리즘] 생성형 AI가 연 새로운 시대 '불안한 일자리'... AI 전문가들이 말하는 '인공지능시대 생존전략'(위키리스크한국 2023.4.28.)
- 이동기 세무사에 따르면 “골드만삭스는 보고서에서 미국의 경우 사람이 하던 기존 업무 중 25~50%가 AI로 대체될 수 있다고 하면서, 분야별로는 사무 및 경영의 46%, 법률의 44%, 건축 및 기술의 37%가 자동화될 수 있다고 내다봤다”고 보고서를 인용합니다.- [국세칼럼] 인공지능시대, 세무사는 살아남을 수 있을까(이동기 논설위원·세무사, NTN국세신문 2023.4.27.)
3. 생성형 AI로 만들어진 창작물의 저작권(copyright) 혹은 창조성(originality)에 대한 윤리적, 법적 문제
- 한국환경공단에서는 “AI 학습을 위해 사용되는 저작물을 저작권자 허락없이 마음대로 활용하는 것이 타당한지, AI가 산출해 낸 글과 그림, 음악 등을 인간의 것과 마찬가지로 저작물로 보호해야 하는지, AI산출물을 보호한다면 누구에게 권리를 부여할 것인지 등 기존 저작권법 체계에서는 생각할 수 없던 다양한 이슈”가 떠오르고 있다고 지적하고 있습니다. -챗GPT열풍! 다가온 AI시대, 저작권 이슈 알아보기 (한국환경공단.2023.3.8.)
4. AI 관련 무분별한 경쟁 개발로 인해 가속될 환경오염의 문제
- AI와 관련된 산업 및 기술의 경쟁 개발로 인해 고비용과 탄소 배출 등 에너지 문제가 두드러진다고 합니다. 매거진 한경에서는 “AI의 고비용 문제는 ESG(환경·사회·지배구조) 이슈와도 직결되는 문제다. 초거대 AI는 어마어마한 전력 자원을 소모하는 ‘돈 먹는 하마’로 불린다”고 지적합니다.-[big story] AI 금융 ‘레벨업’, 주목할 뷰 포인트 4(매거진한경. 2023.4.26.)
책이미지 출처 : Barnes & Nobles
코멘트
11모든 것이 시급한 문제로 느껴지네요. 다만 앞으로 예측되는 문제보다 사용과 가장 연관이 있는 개인정보 유출 및 신뢰성의 문제가 가장 먼저 해결되어야 하지 않을까 생각됩니다.
시의 적절한 뮨제 제기입니다
인간이 주입한 편향성이라고 적어주셨던 것처럼 AI는 그 자체로 편향성을 가지기보다는 AI가 취합하는 데이터들이 편향성을 가지고 있기 때문에 편향적인 결과가 나오게 됩니다. 편향된 데이터로 인해 편향된 AI가 생겨나고, 이로 인해 사람들이 편향된 결과를 또 활용하고, 편향된 데이터가 다시 쌓이고, 이 데이터를 다시 AI가 학습하고... 이런 문제가 점점 더 심해지겠다는 생각이 들어 걱정이 됩니다ㅠ
읽어보니 중요하지 않은 문제가 하나도 없는 것 같네요. 이 투표 글에서 제기된 내용들이 모두 중요하다는 전제 하에, 지금 우리는 '무엇을 할 것인가?'를 고민해보면 좋겠습니다.
챗GPT의 등장이 스티브 잡스가 아이폰3GS를 들고나왔을 때의 임팩트라는 이야기를 들었습니다. 아이폰 이후 전세계 사람들의 삶이 바뀌었습니다. 챗GPT 이후의 우리의 삶도 바뀔 것이라는 말들이 많습니다. 얼마나 어느정도로 어떻게 바뀔지는 아직 충분히 알기는 어렵습니다.
하지만 우리가 디지털 기술의 발전에 따라 급격하게 변화 될 사회에 대한 시민적 논의, 정부-전문가-이해관계자-시민 등 다양한 주체들간의 거버넌스 차원의 논의가 충분하지 못하고 이를 위한 자리나 제도가 마련되지 못하고 있다는 점이 문제인 것 같습니다.
독일은 디지털 기술의 발전에 따른 사회의 변화에 대해 국가적 차원에서의 논의를 하고 정책에 반영하고자 시도했습니다. 이는 '산업 4.0', 그리고 떼려야 뗄 수 없는 '노동 4.0'이라는 이름으로 이루어졌습니다. 한국사회도 한국사회의 논의를 시작해야 할 때가 아닐까 합니다.
잘 정리해 주셔서 너무 감사합니다. 여러가지로 생각해볼 수 있는 지점이 많았습니다. AI의 영향을 받을 직업들에 대한 문제에 가장 궁금하고 중요하다고 생각하긴 하지만 모두 다 공감합니다. 요즘은 AI가 어디까지 발전할까에 대해서 회의적인 감이 듭니다.
제가 인공지능에 대해 고민하게 될 줄은 정말 몰랐지만, 이렇게 글로 잘 정리해주시니 인공지능이 주는 유익과 더불어 문제점들을 조금은 알 수 있게 되었네요. 그런데 문제가 있다고 해서 이런 거대 흐름이 멈추지는 않겠죠? 편리하기도 하지만 합리적이고 신뢰할만하다고 해서 AI를 이용하는 건데 근거데이터에 의해 합리성과 신뢰성이 떨어진다면 그런데 그걸 인식할 수 없다면 그거야 말로 뭐랄까.. 기계가 주는 정보에 놀아나게 되는 느낌이에요. 그리고 환경오염은 어디까지 더 가게 될까... 좀 두렵기도 합니다.
유튜브와 같은 개인 미디어가 보편화되면서 가짜 뉴스가 성행하기도 하였는데 AI가 주는 정보를 무분별하게 받아들이는 문제도 생겨날 것 같아 우려스럽습니다
인공지능 기술의 발전이 인간의 노동을 어떻게 바꿀 수 있을지 궁금합니다. 한켠으로는 한국에서 개발된 인공지능 서비스 이루다처럼 혐오와 차별을 고려하지 않을 경우 발생하는 문제, 개인정보 무단 수집 등의 문제도 다뤄져야 할 것 같고요.
변화해 가는것들에 대해 모르는게 많은데 더빠르게 더많이 모르는 세상에 대한 ...
좋은 글입니다..