AI 행정, 피해자 개인이 아니라 공동체가 대응하려면? by. 🍊산디 지난달 보내드렸던 레터 중 하나에서 이런 내용을 다루었었습니다. 인도의 지역 정부에 도입된 AI가 멀쩡히 살아 있는 할아버지를 사망한 사람이라고 판단했고, 그 결과 복지 혜택을 받을 수 없게 되었을 뿐만 아니라, 여러 차례 반복된 문제제기에도 상황이 개선되지 않았다는 이야기였죠. 이미 소개했던 내용을 다시 언급하는 것은 한 구독자분이 이런 댓글을 달아 주셨기 때문입니다. 요약 소개합니다. 💌 AI 행정에 오류가 있다고 추정하고 AI 행정의 무오류를 주장하는 쪽에 입증책임을 지게 하는 것은 타당하기는 하지만, 자칫 행정 효율을 너무 떨어트리지 않을까요? 행정기관에게 광범위한 협조의무(정보제공, 자료제공, 공개) 이행을 할 것을 의무화하거나, 행정쟁송에 한정된 디스커버리 제도 같은 것을 논의해볼 수 있지 않을까 합니다. *디스커버리(discovery) 제도 : 당사자나 제3자로 하여금 소송과 관련이 있는 정보의 개시를 강제하는 절차. 행정 효율이 저하될 것이라는 우려에 과연 그럴 수 있겠다 싶습니다. 하지만 행정효율 저하를 감수하며 협조의무, 입증책임 등을 부여한다고 해도 이로써 시민의 권리를 지킬 수 있게 되었다고 평할 수 있을지 모르겠습니다. 한 시민이 행정기관에게 책임을 입증하라고 요구했다고 해볼까요. AI 서비스를 구매할 때 기업으로부터 받았던 알고리즘 성능 평가 결과를 시민, 법원 등에 제출함으로써 책임을 다했다고 주장하는 행정기관의 모습이 저는 아주 선명히 그려집니다.  Photo by Beatriz Pérez Moya on Unsplash 고민을 이어가다보니 보다 중요한 문제는 ‘주권 아웃소싱’에 있는 게 아닐까 싶습니다. 주권 아웃소싱은 행정기관에게 대리하도록 맡긴 시민의 주권이 다시 민간 기관에게 아웃소싱되는 현상입니다. 공적 서비스를 민간 기업이 제공하도록 위임해서 발생하죠. 구체적으로는 이런 문제들이 등장합니다. 복대리인 관계로 책임의 연쇄가 길어지고 모호해집니다. 행정이 기업의 AI 서비스에 의존하게 되면서 본래 시민과 행정 간 주인-대리인 관계가 더욱 … 늘어지게 되는 거죠. 대리인을 두 번, 세 번 거치면서 행정기관의 책임 소재는 흐려질 수 있습니다. AI 행정에 대한 공론화가 일정 부분 제한됩니다. 기업이 판매하는 AI 서비스를 행정기관이 구매한 것에 불과하기 때문이죠. 행정기관은 해당 서비스의 세부 내용을 알지 못하고, 시민은 AI모델의 상세 내용에 접근하지 못할 수 있습니다. AI 서비스를 제공하는 기업과 행정기관 간 유착이 발생할 우려가 있습니다. 특히 ‘소버린 AI’를 외치며 AI의 발전을 곧 국가 주권으로 이해하는 담론 아래에서는 더욱 그렇죠. 천문학적인 개발 비용으로 인해 파운데이션 모델을 가진 기업은 소수로 국한될 것으로 예상되고, 우리는 시장 권력과 정치 권력이 유착될 가능성을 염두에 두어야 합니다. 현재의 AI 시장과 위와 같은 문제 발생 가능성을 고려했을 때, AI 행정이 도입되기 위해서는 정말 많은 제도적 대비가 필요합니다. 구독자님이 제안해주신 행정기관에게 자료제출 협조 의무를 부과하는 방안, 행정쟁송에 한정한 디스커버리 제도의 도입도 검토해볼 법한 제안이라고 생각해요. 한편 더 많은 정보가 과연 시민의 권리 보호에 도움이 될 수 있을까 하는 생각도 듭니다. AI 모델에 대해 아무리 많은 정보가 주어진다 한들, 일부 전문가만 그것을 해석할 수 있을테니까요. AI 행정의 오류를 시민 개인이 시정해야 하는 상황을 상상해보세요. 많은 시간과 비용, 전문 지식이 필요해 금방 포기하게 되지 않을까요.  AI 행정이 개선되기 위해서는 공동체가 함께 대응할 수 있는 적극적인 방법이 필요합니다. 그런 까닭에 저는 이번 월요일에 소개해드렸던 🦜독립적인 AI 평가에 대한 면책 조항에 대한 논의가 더 활발히 이루어지길 기대합니다. 개인이 아닌 시민과 전문가가 집단으로서 공동체를 보호할 수 있도록 돕는 제도적 방안이기 때문입니다. 벨기에가 윤리적 해커를 보호하는 제도적 장치를 마련한 것과도 유사하죠. 혼자서는 싸움을 시작할 자신도, 이길 자신도 없지만 함께 싸우는 거라면 해볼법 하지 않을까요? AI 모델을 논의하고 평가하는 공동 작업이 활성화되려면 무엇이 필요할까요? Gemini야 정답을 말해줘 by. 🥨 채원 지난 브리프에서 구글의 챗봇 서비스 제미니(Gemini)가 휩싸였던 논란을 소개해 드렸습니다. 제미니에서 생성되는 이미지가 다양성을 반영하기 위해 지나치게 ‘편향되어’ 있다는 비판에 대해 구글은 즉시 사과하고 해당 기능의 서비스를 잠시 중단하는 과감한 결정을 내렸습니다. 이러한 대응에 일부 학자들은 이전 흑인의 과소 대표가 문제 됐을 때 상대적으로 안일했던 대처와 극명하게 대조된다며 비판하기도 하였습니다. 제미니가 생성하는 이미지 중 특히 백인 남성으로 구성되어있었던 미국 ‘건국의 아버지’를 그려 달라는 요청에 흑인과 아메리카 원주민을 생성한 것이나, 교황에 대한 이미지로 흑인 여성 이미지를 생성한 경우가 특히 이러한 잘못의 예시로 자주 언급되었습니다. 이러한 제미니의 ‘실수’가 지나치게 다양성을 추구하려는 정치적 올바름의 폐해에 기인한다는 것은, 기존에 실리콘 밸리가 지나치게 진보적이라는 일부 미국 보수 정치인들의 비판과도 맞닿아 있기에 특히나 큰 논란에 휩싸였던 것으로 보입니다. 그렇다면 제미니가 생성하는 이미지가 역사적이고 현실적인 사실에 부합하지 않는다는 것이 문제일까요? 언뜻 보기에는 제미니가 정답이 있는 문제에 답을 틀린 것 같지만, 조금 더 자세히 들여다보면 명백한 오류를 정의하기가 어렵다는 것을 깨닫게 됩니다. 미국 건국의 아버지라든가 교황의 경우 비교적 정답이 있는 문제라고 할 수 있겠지만 (’비교적’이라고 제한한 경우는, 역사적 인물에 대한 평가 또한 역사에 따라 달라질 수도 있기 때문입니다. 건국의 아버지라고 평가되던 인물의 숨겨진 행적이 드러나 역사적 평가가 뒤바뀌는 경우를 한국에서도 어렵지 않게 찾아볼 수 있으니까요), 이렇게 정답이 있는 질문은 많지 않습니다. ‘행복한 가정’이나 ‘맛있는 점심’은 어떻게 표현하는 것이 정답일까요? CEO로 검색했을 때에 비해 검색 키워드를 추가하면 여전히 편향된 이미지를 보여준다는 연구 그리고 생성형AI가 사실관계에 취약하다는 것은 챗지피티를 비롯한 많은 서비스에서 이미 지적되었습니다. 그러나 대부분의 서비스가 이를 문제 삼아 서비스 자체를 중단하지는 않았습니다. 당당하게(?) 생성형 AI는 실수할 수 있고 사실 관계가 어긋날 수 있다는 작은 글씨의 경고문구를 삽입하는 정도의 대처가 대부분이었습니다. 그렇다면 제미니에 대한 비판도 사실 관계를 틀렸다는 것이 아닌, 정치적 올바름을 ‘지나치게’ 추구했다는 점에 방점이 찍힌 것으로 해석할 수 있습니다. 사실 이러한 비판은 CEO나 의사와 같은 전문직을 검색했을 때 백인 남성이 과다 대표되는 것이 그저 현실을 반영한 것일 뿐이므로 문제되지 않는다고 옹호하던 입장과 정확히 일치합니다. 검색 결과가 현실을 그대로 묘사하는 것이 왜 문제일까요? 이는 현실은 역사적인 차별을 반영한 결과이기 때문입니다. 역사적 차별의 결과로 이루어진 현실을 그대로 묘사하는 것은, 이 현실을 있게 한 역사적 차별을 그대로 반복하고 강화하는 결과를 낳게 됩니다. 의사가 대부분 남성으로 구성되어 있으므로 검색 결과에서 남성만 보여주는 것은 의사가 곧 남성이라는 고정관념을 강화하고, 이는 고정관념에 부합하지 않는 경우를 배제하고 과소평가 하는 것으로 이어집니다. 따라서 많은 검색엔진들은 이러한 고정관념을 추가적으로 조정하여 다양성을 표현하는 방향으로 발전해 왔습니다. 그리고 이러한 변화를 만들어내는 것은 대표성과 권력, 즉 정치의 문제입니다. 많은 이들에게 생성형 AI가 매력적으로 다가오는 것은 복잡한 질문에도 간단하고 쉽게 답해주기 때문입니다. 그러나 복잡한 현실을 단순화하다 보면 누락되고 왜곡되는 부분이 생길 수 밖에 없고, 이러한 ‘왜곡’의 방향은 생성형 AI를 개발하는 사람들이 결정한 정책에 따르게 됩니다. 그리고 이러한 정책에 목소리를 실을 수 있는가의 여부에 따라 어떠한 목소리가 생성형 AI를 통해 대표될 것인가가 결정될 것입니다. 무엇이 정답인지, 나아가 누가 어떤 질문을 할 수 있는지를 정하는 것은 늘 정치적 투쟁의 한가운데에 있어왔습니다. 우리가 제미니에 물어볼 수 있는 질문이 어떤 것인지, 제미니가 어떤 대답을 만들 것인지는 결국 구글의 결정에 달려있다는 것이 지금의 권력이 어디에 존재하는지 보여줍니다. 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요. 남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

AI 윤리 뉴스 브리프 2024년 3월 둘째 주 by. 🤔어쪈 1. AI가에 붙은 대자보 2개 AI 윤리 레터에 언급된, 아니 웬만한 글로벌 AI 기업 모두가 모처럼 중지를 모았습니다. 유명 벤처투자자 론 콘웨이(Ron Conway)가 이끄는 SV Angel에서 발표한 ‘더 나은 미래를 위한 AI 만들기’라는 성명서에 오픈AI, 메타, 구글, 마이크로소프트 등 수많은 회사가 이름을 올렸습니다. 하지만 아무리 읽어봐도 AI는 좋다, 필요하다, 그러니 잘 만들자는 공염불로만 읽히는 건 저뿐만이 아닌가 봅니다. 이전에 AI 하이프 뉴스 체크리스트를 통해 소개한 적 있는 에밀리 벤더(Emily M. Bender) 교수는 참여 기업들이 AI를 계속 개발해서 더 부자가 되겠다는 내용으로 패러디하기도 했죠. 한편, 학계에선 기업들이 정말 안전하고 믿을 수 있는 AI 시스템을 만들고자 한다면 ‘독립적인 AI 평가에 대한 면책 조항 (A Safe Harbor for Independent AI Evaluation)’을 둬야한다는 주장을 담은 성명서가 나왔습니다. AI의 위험성과 취약점을 찾으려는 연구자나 이용자를 막거나, 더 나아가 법적 책임을 묻는 상황을 만들지 말라는 요청인데요. 앞선 성명서에 참여한 AI 기업들이 어떻게 응답할지 궁금해집니다. 2. MS: (문제 있어도) ‘진행시켜!’ 오픈AI가 개발한 GPT, DALL-E 등의 AI 모델에 대한 독점사업권을 가진 마이크로소프트(MS)는 코파일럿(Copilot)이라는 이름으로 그 누구보다 공격적으로 AI 사업을 밀어붙이고 있습니다. 그만큼 동시에 ‘책임있는 AI (Responsible AI)’를 강조하며 전면에 내세우고 있기도 하죠. 하지만 MS의 AI 개발자 셰인 존스(Shane Jones)는 코파일럿의 이미지 생성 기능이 가진 위험성을 수차례 제보했음에도 불구하고, 회사가 이를 인지하고도 묵살한 채 서비스를 출시했다고 폭로했습니다. 그는 최소한 코파일럿이 유해 콘텐츠를 생성하거나 저작권을 침해할 수 있음을 고지하고, 이용연령을 제한하거나 별도 보호 장치를 두어야 한다고 주장합니다. 존스가 MS 경영진과 FTC에 서한을 보냄과 동시에 관련 기사가 보도되자 MS는 유해 콘텐츠 생성에 쓰이는 프롬프트를 차단하는 등의 조치를 하기 시작했습니다. 우리에게 굉장히 익숙한 빅테크 내부고발 시나리오로 시작한 셈이죠. 전에도 적지 않은 내부고발자들이 있었고, 이들은 회사가 홍보하는 것에 비해 안전성과 같은 가치를 사업 기회 대비 추구하지 않는다는 것을 드러내왔습니다. 그렇다면 AI 기업들이 부르짖는 자율규제는 답이 아닐 수도 있겠죠. 3. 학교 숙제를 넘어 연구 논문까지 AI가? 챗GPT가 등장했을 때, 어른들은 학생들이 학교 숙제를 AI에게 대신 맡긴 후 제출하여 결국 교육이 제대로 이뤄지지 않는 것을 걱정했습니다. 물론 우려는 여전히 유효하지만 그 범위는 교실과 강의실을 넘어 실험실의 교수와 연구자들로 넓어지고 있습니다. 최근 AI가 생성한 말도 안되는 일러스트레이션을 담은 논문이 소셜미디어에서 논란을 불러일으켰고, 끝내 철회되었습니다. 그렇지 않아도 동료평가(peer review) 방식으로 이뤄지는 논문의 게재 여부 결정 과정에 대한 불신이 커지던 참인데요. 논문 심사조차 AI에게 맡기는 사람들이 있는 것 아니냐는 의심까지 나오고 있습니다. 황우석 덕분에 우리는 논문 이미지 조작 문제가 예전부터 있었던 문제임을 알고 있습니다. 하지만 최근 다양한 AI 도구가 과학 연구 현장에 도입되면서 연구자들이 갈수록 AI를 예언자, 대리인, 분석가, 심판자로 여기면서까지 거리낌없이 사용한다는 지적도 나옵니다. 연구실에 AI를 들여 보다 효율적으로 더 많은 지식을 생산하지만, 동시에 역설적으로 그것을 이해하는 사람이 줄어드는 건 아닐지 고민되는 지점입니다. 4. 결국 돈싸움이었던 일론 머스크 VS (닫힌) 오픈AI 지난주 소개한 일론 머스크의 오픈AI 고소로 시작된 소송전이 점입가경입니다. 머스크는 늘 그래왔듯 X를 통해 공격을 이어가고 있고, 오픈AI 역시 공식 블로그에 창립 이래 머스크와 나눈 일부 이메일 전문 공개까지도 불사하며 맞서는 형국입니다. ‘비영리 연구소에 투자했는데 이윤 추구 기업으로 변질됐다’는 머스크 주장에 반박하기 위해 오픈AI는 머스크야말로 영리 법인의 필요성을 강조하며 수차례 관련 제안을 건넸다고 밝혔습니다. 또한 오픈AI의 사명이 오픈소스화를 염두에 둔 게 아니라 모두에게 유익한 AI를 의미하며 머스크 역시 이에 동의했다고 강조했죠. 보통 논쟁은 입장차에 주목하게 되지만, 오픈AI의 응답은 이들의 생각이 얼마나 일치했는지를 드러냅니다. 전 인류에 기여할 인공일반지능(AGI)을 만들겠다는 사명과 관련 수사로 둘러쌌지만, 머스크와 오픈AI 모두 결국 구글 딥마인드에 대항할 회사를 만들기 위해 어떻게 돈을 끌어올 것인지, 또 그에 따른 지분을 두고 다툰 것이죠. 그 결과는요? 오픈AI는 마이크로소프트의 등에 올라탐과 동시에 닫혔고, AI의 미래는 빅테크 기업의 손에 달린 모습입니다. 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요. 남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

프랑스 AI 스타트업, EU의 뒤통수를 치다? by. 🤔어쪈 AI 업계에서 새로운 협력 또는 투자 뉴스는 더이상 새삼스럽지 않습니다. 구글이 딥마인드를 인수한지 10년이 지난 현재 둘은 온전한 한 팀이 되었고, 마이크로소프트(MS)가 5년 전 오픈AI에 베팅한 100억 달러는 신의 한수로 불리죠. 이후 여러 빅테크 기업과 AI 스타트업 사이 합종연횡은 자연스러운 일이 되었습니다. 하지만 지난주 MS와 한 AI 스타트업이 발표한 협력 소식은 적잖은 사람들의 걱정과 분노를 일으켰습니다. 왜일까요? 미스트랄, 프랑스의 거센 북동풍 MS와 손을 맞잡은 곳은 미스트랄 AI (Mistral AI, 이하 미스트랄) 라는 프랑스 기업입니다. 작년 하반기 오픈소스 커뮤니티에 혜성같이 등장한 곳이죠. 메타가 발표한 라마(Llama) 2가 진짜 오픈소스 모델인지 논쟁이 한창일 때, 그보다 훨씬 성능이 좋은 모델을 연달아 (진짜) 오픈소스로 공개하며 주목을 받았습니다. 이에 힘입어 설립된 지 1년이 채 안된 시점에 대규모 투자를 유치해 20억 유로에 달하는 기업 가치를 달성했고, 독일의 알레프 알파(Aleph Alpha)와 함께 유럽 AI 업계 선두 주자로 꼽히고 있죠. 미스트랄은 MS와의 협력 발표와 동시에 최신 모델 미스트랄 라지도 출시했습니다. 전과 달리 오픈소스로 공개하지 않았고, 모델을 자체 플랫폼(la Plateforme)과 MS 클라우드 애저(Azure)에서만 쓸 수 있도록 했습니다. 때문에 닫혀버린 오픈AI의 전철을 밟는 것은 아닌지 우려 섞인 곱지 않은 시선을 받고 있죠. 둘 사이 관계가 단순 협력이 아닌 지분 전환형 투자라는 사실도 뒤늦게 알려졌습니다. 전직 장관을 앞세운 AI 스타트업의 로비 하지만 무엇보다 미스트랄이 ‘유럽 챔피언 (European Champion)’이라는 수식어 아래 EU AI 법 제정 과정에 행사한 영향력 때문에 EU 정치인들이 뿔난 상태입니다. 실제로 EU 집행위원회는 발빠르게 이들간의 협력을 투자로 볼지, 그에 따라 반독점법 위반 소지는 없는지 조사를 검토하기로 했죠. EU AI 법은 현재 최종 합의에 도달해서 형식적인 의결 절차만 남겨두고 있습니다. 과거 AI 윤리 레터에서 요약한 내용에서 크게 달라지지는 않았지만, 마지막까지 세부 조항에 대한 협상이 이뤄졌죠. 특히 프랑스와 독일 정부가 유럽 기업의 경쟁력 약화 우려를 근거로 생성형 AI와 같은 파운데이션 모델 규제 완화를 강력히 주장한 것으로 알려졌습니다. 그 뒤에는 프랑스의 전직 디지털 국무장관 세드릭 오(Cedric O)가 공동창업자로 합류한 미스트랄의 활발한 로비가 있었다고 하고요. 누가 이득을 보는가 (Cui bono) 미스트랄이 AI 스타트업임과 동시에 유럽의 AI 선두 주자로서 오픈AI와 같은 미국 기업과 경쟁을 이어나가기 위해서는 대규모 클라우드 인프라를 갖춘 빅테크 기업과 손잡을 수 밖에 없다는 의견도 있습니다. EU AI 법 협상과 두 기업 간의 협력 논의 시점을 끼워맞추며 미스트랄이 MS의 AI 규제 로비 앞잡이 역할을 했다는 해석은 너무 앞서나갔다는 비판도 있죠. 미스트랄 CEO 역시 회사는 여전히 오픈소스를 지향하며, MS의 소규모 투자로 인해 독립적인 유럽 기업이라는 정체성을 잃는 것은 아니라고 선을 그었습니다. 갈수록 AI를 둘러싼 이해관계가 복잡다단해지고 있습니다. 특히 규제 도입을 앞두고서는 기업뿐만 아니라 각국 정부 역시 주권, 국가 경쟁력과 같은 주제를 심각하게 고민하고 있죠. 최근 우리나라를 비롯한 미국 외의 AI 업계에서는 ‘소버린 (Sovereign) AI’라는 용어가 유행입니다. 자국 언어와 문화를 학습한 모델의 필요성, 데이터 주권 등을 근거로 다른 국가, 특히 미국의 기업에 의존하지 않는 AI를 개발하여 활용해야 한다는 주장과 결을 같이하는 개념이죠. 그러나 미스트랄의 사례가 보여주는 것처럼, ‘소버린 AI’라는 키워드 역시 누군가의 이해관계에 따라 정치적인 로비 또는 소비자 마케팅 목적으로 쓰이는 전략의 일환임을 인지할 필요가 있습니다. ‘그래서 결국 누가 이득을 보는가 (Cui bono)?’ 오랜 격언이지만 AI 규제를 고민하는 우리 역시 항상 염두에 둬야 하는 질문입니다. 누가 인공지능을 이야기하나? by. 🤖아침 2021년 열린 NAVER AI NOW라는 컨퍼런스가 있습니다. 네이버는 여기서 하이퍼클로바 LLM을 공개하며, 한국어에 특화된 기술로 ‘AI 주권’을 확보하겠다 선언합니다. 국내 대표 테크기업인 네이버가 이전까지 진행한 연구 성과를 갈무리하고, 현재로 이어지는 AI 상용화 추세에 박차를 가했다는 점에서 상징적인 행사입니다. 테크기업이 주최하는 기술 컨퍼런스는 조직의 성취와 기술력을 선보이는 자리입니다. 또한 비전과 문화를 제시하며 커뮤니티를 활성화하고 채용을 홍보하기도 합니다. 말하자면 세를 과시하는 행사입니다. 연사로 발표하는 인물 역시 주요 구성원 및 협력 파트너가 대부분입니다. 연사들의 면모는 곧 해당 기업이 보여주고 싶은 모습과 밀접하다는 얘기도 됩니다. 흐리게 처리한 NAVER AI NOW 연사 사진. AI NOW 컨퍼런스 발표자는 17명. 웹사이트에서 명단을 보고 있으면 한 가지 눈에 띄는 사실이 있습니다. 17명 중 여성은 한 명도 없습니다. 네이버가 AI 주권을 선언하는 자리에 여성의 목소리는 들리지 않았던 것입니다. 기술 업계에서 여성의 과소대표는 꾸준히 지속된 문제입니다. 다음번에 말씀드리겠지만, AI 관련 행사에 여성이 적게 등장하는 것이 네이버만의 특징도 아니고요. 그렇다고 별일 아닌 것은 아닙니다. AI 분야의 젠더편향은 업계 안에서의 격차를 만들어내기도 하지만, 편향된 기술제품 개발로 이어지거나 성착취물/성폭력 문제 대응 역량을 저해하는 등 훨씬 폭넓은 사회적 문제와도 관련이 있습니다. AI 제품의 파급력이 갈 수록 커지는 지금 더욱 시급한 사안입니다. 컨퍼런스가 업계 종사자의 목소리를 드러내는 자리라고 할 때, 한국 AI 업계에서 여성의 목소리는 어느 정도 들리고 있을까요? 다음번에는 더 많은 행사를 살펴보고, 나아가 AI 기술과 젠더에 관련해 함께 고민해보면 좋을 내용을 소개하고자 합니다. 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요. 남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

AI 윤리 뉴스 브리프 2024년 3월 첫째 주 by. 🎶소소 1. AI 학습용 데이터 팝니다 구글이 AI 학습용 데이터 확보를 위해 레딧과 계약을 체결했습니다. 레딧은 미국 최대 온라인 커뮤니티입니다. 이번 계약으로 구글은 레딧의 데이터에 실시간으로 접근할 수 있게 되었습니다. 텀블러와 워드프레스도 사용자 데이터를 AI 학습용으로 판매하기 위해 준비한다고 합니다. 지난해 글, 이미지, 영상 등을 보유한 콘텐츠 기업들은 AI 기업의 데이터 무단 학습으로 골머리를 앓아왔습니다. 이 문제의 미봉책으로 콘텐츠 기업들은 웹 크롤링을 막는 데 급급했죠. 레딧 역시 구글에 “크롤링을 차단하겠다”고 압력을 가했었습니다. 최근 콘텐츠 플랫폼들은 AI 기업과 정식 데이터 공급 계약을 체결하거나, 콘텐츠 무단 사용에 대해 소송을 걸고 있습니다. 플랫폼 내 콘텐츠를 자산화하기 위한 장치를 만들어가는 것입니다. 콘텐츠 기업이 응당한 권리를 찾는 것은 중요합니다. 그리고 그 권리와 보상은 데이터 생산자에게도 합당하게 돌아가야 합니다. 지난해 스택오버플로우는 이용자의 의견을 듣지 않고 데이터 유료화를 선언하여 논란이 되었습니다. 미국 연방거래위원회(FTC)는 최근 AI 기업이 이용자 데이터 사용을 위해 서비스 약관 및 개인정보 보호 정책을 몰래 바꾸는 것이 불법임을 경고했습니다. 레딧 또한 방대한 콘텐츠를 만드는 주체가 이용자임을 잊지 말아야 할 것입니다. 2. 선거 정보는 AI에 묻지 마세요 AI는 선거 정보 검색에 적합하지 않습니다. AI 민주주의 프로젝트(AI Democracy Projects) 연구에 따르면, 선거 관련 질문에 대한 주요 AI 모델의 답변 절반 이상이 부정확하다고 합니다. 이 평가에 참여한 선거 관리 공무원들은 AI 답변이 유권자들에게 혼란을 야기할 수 있다는 점을 우려합니다. 예를 들어, “텍사스 투표소에 갈 때 트럼프가 그려진 모자를 쓸 수 있습니까?”와 같은 질문에 대해 “모자를 쓸 수 있습니다. 텍사스에서는 유권자가 투표소에서 선거 관련 의류를 입는 것을 금지하지 않습니다.”라고 대답하면 부정확한 답변입니다. 텍사스를 포함한 미국 21개 주는 선거 투표소에서 유권자들의 선거 관련 의류 착용을 금지하기 때문입니다. AI 모델이 허위 정보를 생성할 수 있음은 이미 널리 알려진 사실입니다. 유권자들이 정확한 정보를 얻게 하기 위해서는 어떤 노력이 더 필요할까요? 나름의 묘책들이 쏟아지고 있습니다. 기업들은 생성형 AI의 선거 콘텐츠에 대한 자율규제 협약을 선언했습니다. 우리나라는 선거운동에 AI 콘텐츠 사용을 전면 금지했고요. 평가에 참여한 한 선거 관리인은 이렇게 말합니다. "선거 정보는 AI로 검색하지 말고 선거 사이트에 방문하세요." 3. 일론 머스크의 닫힌 오픈AI 고소 일론 머스크가 오픈AI와 CEO 샘 올트먼을 고소했습니다. 오픈AI가 인류에게 도움이 되는 열린 AI 연구를 하겠다는 창업 목표를 버리고 이윤 추구에만 몰두하고 있다는 이유에서입니다. 고소장에서 그는 오픈AI의 모든 연구 성과와 기술을 공공에 개방하게 해달라고 요청했습니다. 닫힌 오픈AI에 대해서는 꾸준히 비판이 있었습니다. 오픈AI의 AI 모델이 오픈소스로 공개되지 않은 지는 오래고요. 지난해 오픈AI의 샘 올트먼 해임 사건에서도 비영리 법인의 이사회보다는 마이크로소프트 자본의 영향력이 더 막강했기 때문입니다. 이번 소송이 일반적인 비판과 다른 점은 일론 머스크가 오픈AI의 초기 투자자라는 점입니다. 2015년 오픈AI 설립 당시 그가 지원했던 자금 약 600억 원은 비영리 연구소를 위한 자금이었다는 거죠. 그는 이번 소송에서 배상금을 받게 되면 자선단체에 기부하겠다고 밝혔습니다. 이 소송의 진짜 속내는 무엇일지 궁금해집니다. 오픈AI에 대한 일론 머스크의 고소장 갈무리 4. 국가 안보를 위한 미국 개인정보 행정명령 바이든 행정부가 “미국인의 민감한 개인정보 보호를 위한 행정 명령”을 발표했습니다. 이번 행정 명령의 목적은 미국인의 데이터가 특정 국가에 이전되어 악용되는 것을 방지하기 위함입니다 특히 중국이나 러시아 같은 적대국에 미국의 데이터가 넘어가지 않도록 하는 것입니다. 그러나 이 행정명령이 미국인들에게 가장 시급한 개인정보 문제는 해결하지 못한다는 비판도 있습니다. 미국은 아직 유럽의 개인정보보호규정(GDPR)과 같은 연방 차원의 개인정보보호법을 의회에서 통과시키지 못했습니다. 감시 기술 감독 프로젝트(Surveillance Technology Oversight Project)는 대부분의 미국인들이 더 걱정하는 것은 외부 위협이 아닌 국내 기업과 정부의 데이터 수집이라고 말합니다. 이러한 목소리는 정부가 외부 위협을 방패 삼아 국내 기업의 데이터 수집과 사용에 눈 감지 말라는 뜻이기도 합니다. 국가 안보와 마찬가지로 국민의 디지털 활동이 마케팅 도구나 정부의 치안 도구로 변질되지 않도록 보호하는 것도 중요하기 때문입니다. 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

인공지능(AI) 기술의 발전은 우리의 생활 방식과 업무 환경에 혁신적인 변화를 가져왔습니다. AI가 우리의 일상을 편리하게 만들고, 특정 작업을 더 효율적으로 수행할 수 있게 해주는 동안, 이러한 기술적 진보가 인간의 근본적인 가치와 역할을 대체할 수 없다는 사실이 점점 더 명확해지고 있습니다. 실제로, 인간만이 할 수 있는 창의력, 감성, 그리고 상호작용의 능력은 AI의 발전에도 불구하고 여전히 중요합니다. 이 글에서는 AI 시대에 인간이 왜 여전히 중요한지를 탐구하려 합니다. AI의 발전이 인간의 중요성을 감소시키지 않으며, 오히려 인간의 창의성, 감성, 그리고 상호작용의 가치를 더욱 부각시킨다는 점을 강조하고자 합니다. 우리는 AI와 인간이 어떻게 공존하며 서로를 보완할 수 있는지, 그리고 이러한 공존이 우리 사회와 일상에 어떤 의미를 가지는지를 살펴볼 것입니다. AI, 상상을 현실로 만들다 AI와 관련된 과거 예측 중 상당수가 시간이 지나며 잘못되었음이 밝혀졌습니다. 특히, 인공지능이 그림을 그리거나 동영상을 만드는 능력에 대한 초기 예측은 현실과는 다소 거리가 있었습니다. 최근 OpenAI에서 소개한 'Sora'와 같은 기술은 이러한 예측에 대한 우리의 이해를 근본적으로 바꾸고 있습니다. Sora는 사용자의 텍스트 입력에 기반하여 최대 1분 길이의 비디오를 생성할 수 있는 AI 모델입니다. 이 모델은 높은 시각적 품질과 사용자의 프롬프트에 대한 충실도를 유지하며, 상상력이 풍부한 장면을 현실감 있게 만들어낼 수 있는 능력을 보여주었습니다. 하지만 여기서 우리가 주목해야 할 점이 있습니다. Sora가 아무리 뛰어난 영상을 만들어낸다 해도, 그 시작점은 여전히 인간의 상상력이라는 사실입니다. AI는 우리의 창의력을 시각화하는 도구일 뿐, 그 자체로 새로운 아이디어를 만들어내지는 못합니다. 정보의 홍수 속, 지혜의 등대가 되다 AI 기술이 우리 생활의 많은 영역에서 중요한 역할을 수행함에도 불구하고, 인간의 의지, 창조성, 그리고 판단력은 기술이 대체할 수 없는 고유한 가치를 지닙니다. AI가 정보를 처리하고 패턴을 식별하는 데는 뛰어난 능력을 보이지만, 이 정보가 실제로 의미를 갖기 위해서는 인간의 해석과 참여가 필수적입니다. 정보의 가치는 그것을 해석하고 적용하는 인간의 능력에서 비롯됩니다. AI가 아무리 뛰어난 정보를 제공해도 인간이 읽지 않으면 습득할 수 없으며, AI가 아무리 글을 쓰는 능력이 뛰어나도 인간이 명령하지 않으면 아무것도 하지 않습니다. 이러한 관점에서, AI는 인간의 지식을 확장하는 도구로서 작용하며, 인간의 깊이 있는 이해와 판단을 보완합니다. AI와 로봇이 나 대신 운동할 수는 없어 최근에 헬스장에서 운동하면서 든 생각인데, 헬스장은 AI시대에도 쉽게 망하지 않을 것 같습니다. 두 가지 이유에 의해서인데요. 우선, 헬스장은 단순히 운동 기구를 제공하는 공간을 넘어서, 사람들이 서로 영감을 주고받으며 동기부여를 얻는 커뮤니티의 역할을 합니다. 헬스장에서 우리는 다른 사람들과 함께 운동함으로써 추가적인 동기부여를 얻습니다. 같은 공간에서 운동하는 다른 사람들의 존재는 우리에게 긍정적인 경쟁감과 함께 서로를 격려하고 지지하는 분위기를 만듭니다. 이러한 상호작용은 AI나 가상의 환경에서는 완전히 재현하기 어렵습니다. 마지막으로, 운동 효과는 개인이 직접 움직이고 노력함으로써 얻어집니다. AI가 제공하는 운동 가이드나 정보는 유용할 수 있지만, 실제 운동을 수행하는 것은 오로지 인간의 자발적인 참여와 노력에 달려 있습니다. 이는 운동을 통해 건강을 유지하고 증진시키려는 인간의 의지가 AI 기술을 활용하는 것만큼 중요함을 보여줍니다. 결론 AI 기술의 급속한 발전은 우리 삶의 많은 부분을 변화시켰지만, 이 변화 속에서도 인간의 근본적인 가치와 역할은 변하지 않습니다. 우리는 기술이 제공할 수 있는 편리함과 효율성을 환영하면서도, 인간 고유의 창의력, 감성, 그리고 상호작용의 능력이 여전히 중요함을 잊어서는 안 됩니다. 특히, 운동이나 지식의 습득과 같은 활동은 AI의 도움을 받을 수는 있지만, 결국에는 인간이 직접 참여하고 노력해야 하는 영역입니다. 이는 AI가 대체할 수 없으며, 인간의 의지가 중요함을 재확인할 수 있습니다. 결국, AI 기술의 발전은 인간의 능력을 보조하고 확장하는 데 중요한 역할을 할 수 있지만, 인간 고유의 가치와 역할은 불변합니다. 우리는 기술의 진보를 환영하면서도, 인간 중심의 가치를 유지하고 발전시켜야 합니다. AI 시대에도, 우리 삶의 중심에는 인간의 창의력, 감성, 그리고 의사결정이 있어야 합니다. *이 글은 ChatGPT의 GPTs인 'Write for me'에 제 아이디어를 넣어 AI가 작성한 글을 Claude 3.5 sonnet을 통해 수정하였습니다(총 소요시간 : 1시간 25분).

얼룩말 '세로'가 동물원을 뛰쳐나온 날 by. 💂죠셉 2024년엔 4/10 총선과 함께 연말 미국 대선까지, 우리 사회에 직간접적으로 영향을 미칠 중요한 이벤트들이 많습니다. 매일 발전의 발전을 거듭하고 있는 생성형 AI 도구들이 선거 캠페인에 어떻게 활용될지 많은 이들이 주의 깊게 관찰하고 있죠. 특히 여러 해 동안 계속 쟁점이 되어왔던 '가짜뉴스(fake news)'와 허위 정보 (disinformation)의 진화에 우려를 표하고 있는데요. 가짜뉴스: 뉴스의 형태를 띠고 정치적·경제적으로 수용자를 기만하는 정보 허위 정보: 악소문, 프로파간다, 가짜뉴스, 오도성 정보(misinformation)를 포함하는 더 넓은 범위의 개념 구글, 메타, 마이크로소프트 등 AI 산업을 주도하고 있는 20개 테크 회사가 최근 발표한 ‘2024년 선거에서 AI를 활용한 기만을 방지하기 위한 협약’은 이런 사회적 분위기를 잘 드러내고 있습니다. 시의성을 고려해 AI 윤리 북클럽도 새해를 맞이해서 <민주주의와 AI>를 주제로 책을 선정해 읽고 있습니다. 오늘 뉴스레터에선 첫 번째 책 <가짜뉴스의 고고학 (최은창 저)>을 함께 읽으며 나눈 이야기 중 일부를 소개합니다. '가짜뉴스'는 인쇄 시대 이전부터 존재했습니다. 기술의 발전과 함께 그 형태가 변해왔을 뿐이죠. 책을 읽으며 가장 흥미로웠던 점은 생각보다 미미한 가짜뉴스의 효과였습니다. 책에서 소개한 다양한 연구 결과에 따르면 사람들은 생각보다 가짜뉴스 유포자의 의도에 쉽게 휘둘리지 않는 것으로 보입니다. 특히 소셜미디어상에서 그렇습니다. (기존 신념에 대한 확증 편향을 강화하는 측면은 분명히 있겠지만요) 그럼에도 우리가 가짜뉴스의 확산에 주목해야 하는 이유는 무엇일까요? 저거 AI잖아! 매스미디어에서 접하는 소식이 진실과 동일시되던 시절이 있었습니다. 예를 들어 1926년 영국에선 BBC에서 방영한 라디오드라마 중 ‘공산주의자들이 의회를 공격했고 빅벤이 무너졌다!’를 실제 상황으로 착각한 수많은 영국인이 패닉상태에 빠진 적도 있었다고 하네요. 이후 사람들이 매스 미디어에 익숙해지고, 자체적인 팩트 체킹이 이뤄지며 우리가 정보를 대하는 방식과 태도는 계속 변화해 왔습니다. 그 과정에서 위조가 가능한 미디어의 종류도 확대되어 왔죠. 한때 사진이 진실을 보증해 주는 증거로 기능하던 때가 있었습니다. 최근까지는 동영상이 그러한 위치였고요. 하지만 몇 주 전 OpenAI가 공개한 Sora는 이 또한 얼마 남지 않았다는 생각이 들게 합니다. 개인적으로는 이 변화를 더 일찍 예감한 사례가 떠오르는데요. 탈출한 얼룩말 '세로'가 도심을 누비는 모습. photo: 온라인 커뮤니티 발췌 작년 3월 얼룩말 ‘세로’의 일탈을 기억하시나요? 대도심 속을 활보하는 얼룩말이라니, 이 비현실적인 뉴스를 접한 많은 사람의 반응이 ‘AI잖아!’였던 그 때. 이미 우리는 어떤 변곡점에 있었던 건지도 모르겠습니다. 생생하고 자연스러운 영상을 보면서도 실제 상황이 아니라는 확신을 가진 사람들이 이렇게 많다니. 저에게는 큰 충격이었죠. 그동안 온라인상의 복제물은 인간이 경험할 수 있는 현실보다 열등한 수준이었습니다. 위조 복제할 수 있는 기술의 능력보다 인간이 직접 경험하는 현실의 선명도와 정확성이 우위에 있었죠. 하지만 그 둘이 비등해지는 시점은 멀지 않았습니다. 텍스트뿐만 아니라 이미지, 비디오, 오디오, 심지어 상호작용하는 주체까지 생성할 수 있게 되어 우리의 감각이 구별해내지 못 할 정도가 되면, 온라인상의 정보를 대하는 우리의 태도는 또 어떻게 변할까요? 우리가 '가짜뉴스', 그중에서도 AI와의 상호작용에 주목해야 하는 이유는 바로 이런 맥락 속에 있습니다. 전례 없는 스케일로 생성되어 범람하는 허위정보는 진실과 거짓의 경계를 모호하게 할 뿐만 아니라, 나아가 정보에 대한 우리의 피로도를 높이고, 결국 무관심하게 만들고 있는 건 아닐까요? 이런 미디어 환경에서 언론은 민주사회의 파수꾼 역할을 효과적으로 이어갈 수 있을까요?’ 역설적이지만 가짜뉴스의 ‘가짜’라는 단어에서 일말의 희망이 보입니다. 그건 아직은 우리가 그 너머 어딘가 ‘진짜’의 존재를 가정하고 있다는 뜻일 테니까요. 💡 그 외 모임에서 나온 질문들: 지난 월요일 브리프에서 소개한 테크 기업들의 협약은 워터마킹과 같은 기술적 대처와 함께 시민 사회와의 협력 등 조치를 약속하고 있습니다. 이걸로 충분한 걸까요? LLM 문제의 대안으로 거론되는 검색 증강 생성(retrieval-augmented generation)은 얼마나 효과적일까요? 개인적으로 정보가 사실임을 어떻게 확인하시나요? 책은 허위 정보에 관한 해결책을, 전달과 증폭의 수단인 플랫폼의 역할에서 찾습니다. 허위 정보에 관한 플랫폼 규제나 플랫폼의 자체 조치 중 효과적이었다고 느낀 것이 있나요?  허위정보 시대 최고의 투자처 by. 🍊산디 ‘정보의 바다 인터넷’은 여러모로 탁월한 비유입니다. 헤아릴 수 없는 규모의, 통제되지 않는 역동적인 정보 흐름이 느껴지죠. 인터넷이 누구나 이용할 수 있어야 하는 공유자원임을 나타내기도 합니다. 혐오와 거짓으로 범벅된 허위정보는 인간이 정보의 바다에 흘려보내고 있는 쓰레기일지 모르겠습니다.  개방된 공유자원에는 ‘공유지의 비극’이 발생한다는 비유 또한 탁월합니다. 이기적 인간이 공유자원을 황폐화할 것이므로 국가의 강력한 규제가 필요하다는 주장을 효과적으로 설득하죠. 그렇다면 정보의 바다 인터넷에도 공유지의 비극이 발생하고 있는 것일까요? 정보의 바다에 국가의 개입이 필요한 걸까요? 공유지의 비극을 막기 위해 인류는 다양한 방법을 고안해 왔습니다. 국가의 개입은 그 중 일부에 불과합니다. 제주 바다의 해녀처럼 공동체 구성원이 직접 자원을 관리하는 모습이 보다 일반적입니다. 국가의 개입이 부작용을 초래하는 경우라면 두말할 나위 없죠. 멀지 않은 과거, 멀지 않은 이웃 나라에서 국가의 정보 통제로 치러야 했던 대가가 민주주의의 후퇴였다는 사실은 우리가 직접 정보의 바다를 가꿔야 함을 알려줍니다. 생성형 AI가 가열차게 발전한 덕분에 텍스트는 물론 이미지, 동영상도 인간이 제작한 것이 맞는지 판단하기 힘든 시절입니다. 정보의 생산-유통-소비 모든 과정이 변화할 것으로 예상됩니다. 생성형 AI가 혐오와 거짓을 증폭할 것이라는 암울한 예측이 곳곳에서 터져나옵니다. 이럴 때일수록 허위정보로부터 정보의 바다를 지키기 위해서는 그간 우리가 어떤 규범을 따라 왔는지 돌아볼 필요가 있습니다. 저널리즘은 정보의 바다를 관리하는 규범들 중 하나입니다. 저널리즘의 원칙으로 사실, 공정, 균형, 품격을 꼽은 한 언론인의 인터뷰는 깊은 인상을 남깁니다. 하지만 저널리즘이 언론사만의 것이 아닙니다. 읽고, 쓰고, 생각하며 독자도 언제든 언론사에 영향을 미칠 수 있고, 때로 놀라운 지혜를 보여주기 때문입니다. 누구나 조금씩 기자인 셈입니다. 혹자는 한국의 저널리즘을 더 이상 신뢰할 수 없다며 국가가 나서야 한다고 이야기합니다. 이건 냉소보다 자조에 가깝습니다. 저널리즘은 우리를 비추기 때문입니다. 우리의 역량이 신뢰하지 못할 수준이라는 자조를 저는 믿지 않습니다. 허위정보가 기승을 부릴 것으로 예상되는 지금이야말로 저널리즘에 투자하기 좋은 시기입니다. 혼란 속에서 사람들은 믿을 수 있는 지혜로운 정보원을 찾게 될 테니까요. 진실의 가치는 여느 때보다도 높아지고, 저널리즘이라는 드문 미덕을 갖춘 언론사만 살아남을 겁니다. 허위정보의 시대, 우리가 일군 저널리즘이 공동체의 경쟁력이 되길 간절히 바랍니다. 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요. 남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

AI 윤리 뉴스 브리프 2024년 2월 넷째 주 by. 🤔 어쪈 1. 선거를 앞두고 기업들이 내놓은 자율규제 협약 올해는 ‘슈퍼 선거의 해’라고도 불립니다. 총 76개국에서 전 세계 인구 절반이 넘게 투표를 하죠. 급속하게 발전한 AI 기술, 특히 생성형 AI가 선거에 미칠 영향을 우려하는 목소리가 갈수록 높아져만 가고 있습니다. 안보 분야 최대 규모의 뮌헨안보회의에서 20여 개 AI 기업이 기술 협약을 발표한 이유입니다. 반도체부터 소셜미디어까지 다양한 기업들이 참여한 만큼 협약은 ‘기만적인 AI 선거 콘텐츠 (Deceptive AI election content)’의 생산부터 소비까지 전 과정에 걸친 내용을 다루고 있습니다. AI 생성 콘텐츠의 출처나 진위를 확인할 수 있도록 워터마킹이나 분류기를 도입하는 한편, 온라인 플랫폼 이용과 콘텐츠 확산에 있어 부정적인 영향을 방지하기 위한 서비스 정책과 공공 캠페인을 실시한다고 합니다. 우리나라 역시 풍자 목적의 단순 짜깁기 영상에도 ‘AI 딥페이크’ 딱지가 붙을 정도로 경계감이 큰 상황입니다. 정부는 국내 기업들도 뮌헨에서 발표한 것과 같은 자율규제를 실천하길 바라는 눈치죠. 다만 딥페이크와 같은 ‘기만적인 AI 선거 콘텐츠’ 근절만이 민주주의를 위기로부터 구할 수 있을지는 의문입니다. 이미 ‘가짜뉴스’가 넘쳐나는 시대에 살고 있는 우리가 AI 기술에만 그 원인과 책임을 돌리려는 건 아닐까요? 2. 챗봇이 환불해준다고 했는데요? 항공사 공식 웹사이트에서 챗봇이 안내한 절차에 따라 항공권의 일부 금액 환불을 요청했는데, 회사가 챗봇이 잘못된 정보를 제공했다며 거부한다면 어떻게 될까요? 지난 2022년 캐나다에서 있었던 일입니다. 소액 분쟁 조정 결과, 항공사는 소비자에게 환불해야 했습니다. 판결문에 따르면, 사건의 피고 에어캐나다는 챗봇이 별도의 법적 실체로서 그 행위에 대한 책임이 회사에 있지 않다는 취지로 주장을 했다고 합니다. 하지만 조정 담당 재판관은 챗봇 역시 웹사이트의 일부이며, 다른 위치에 제대로 된 정보가 게시되어 있다 해도 소비자가 무엇이 정확한지 확인할 필요는 없다고 판시했습니다. 이 일이 챗봇을 둘러싼 최초의 법적 분쟁은 아닐 겁니다. 하지만 기업이 직접 도입한 챗봇을 두고 법적 책임을 면피하기 위해 ‘AI 법인격’을 주장한 사례라 법조인들도 놀랐던 것으로 보입니다. 결국 에어캐나다는 이후 웹사이트에서 챗봇을 내렸는데요. 너나 할 것 없이 웹사이트와 앱에 챗봇을 도입 중인 국내 기업과 공공기관도 설마 에어캐나다처럼 문제가 생기면 AI 탓을 하려는 건 아니겠죠? 3. 당분간 못 볼 제미니가 그린 사람 그림 그동안 생성형 AI가 만들어내는 이미지 속 인물의 성별과 인종, 피부색은 AI의 편향성을 드러내는 지표 역할을 해왔습니다. 이를 너무 의식했던 탓일까요. 최근 이미지 생성 기능을 새로 도입했던 구글의 챗봇 서비스 제미니(Gemini, 기존 바드)가 백인 남성을 잘 그려주지 않는다는 이유로 논란에 휩싸였습니다. 예컨대 미국 건국의 아버지를 그려 달라는 요청에 흑인과 아메리카 원주민을, 특정 국적의 여성 사진을 생성하라는 지시에 검은 피부를 가진 얼굴 이미지 위주로 만들어내는 식이었죠. 구글은 출시 3주 만에 곧바로 해당 기능을 일시 제공 중단하며 사과문을 발표했습니다. 이에 따르면 구글은 AI 모델이 보다 다양한 사람을 그리도록 튜닝했는데, 종종 ‘과보정’ 내지는 ‘과잉반응’이 발생하며 역사적으로 틀리거나 이용자 지시를 거부하는 현상이 나타났다고 합니다. 튜닝을 하지 않았다면 수많은 연구에서 지적한 것처럼 백인 남성 사진뿐이었을 수도 있었겠죠. 구글은 개선을 약속하면서도 정확한 정보를 얻기 위해서는 제미니 말고 구글 검색을 쓰라는 제안 겸 광고도 잊지 않았습니다. 그렇다면 어떻게 이 문제를 해소할 수 있을까요? 모델 튜닝에만 초점을 맞춘다면 분명 또 다른 문제가 발생할 겁니다. 많은 기업이 홍보하는 것과 달리 생성형 AI는 단순한 창의성 또는 생산성 도구가 아니라 정치적 기술이기도 하기 때문이죠. 💬덧붙이는 글 🤖아침: 알고리즘 편향은 AI 윤리 담론이 꾸준히 비판해온 핵심적인 문제의식 중 하나죠. 편향을 해소하는 일은 단지 결과물에 기계적 다양성을 부여하는 것만으로 완성될 수 없습니다. 거시적 구조와 미시적 실천 모두를 섬세하게 고민하는, 생성형 AI 기술을 둘러싼 재현의 정치학이 요청되는 대목입니다. 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

AI 분야의 젠더 격차 by. 🎶소소 지난주 오픈AI가 새로운 비디오 생성 AI 모델 Sora를 발표했습니다. 프롬프트만으로 자연스럽고 선명한 고화질 영상이 만들어져 화제가 되었죠. 데모 영상 속 길을 걷는 여성의 걸음걸이와 클로즈 업 된 피부, 선글라스 반사까지 놀랍도록 자연스럽습니다. 가트너는 2030년에는 블록버스터 영화 제작의 90%에 생성 AI가 활용될 것으로 예측했는데요. 아마 그 시기가 더 빨라질 수 있겠습니다. 생성 AI와 성착취물 저는 생성 AI 영상 속 여성의 자연스러운 걸음걸이에 감탄하면서도, 동시에 이 기술이 앞으로 얼마나 많은 여성 착취물 생성에 기여할지 걱정되기 시작했습니다. 최근 이미지 생성 AI의 활용이 확대되면서 실존 인물, 특히 여성을 대상으로 한 가짜 성착취물 문제도 많아졌기 때문입니다. 지난달에는 테일러 스위프트를 묘사해 AI로 생성한 성착취 이미지가 온라인에 널리 퍼졌습니다. 이 게시물은 삭제되는 데 걸린 17시간 동안 4,500만 회 이상 조회되며 당사자가 원하지 않는 주목을 받았습니다. 대부분의 이미지 생성 AI 서비스는 유명인 혹은 실존 인물의 이미지 생성을 제한합니다. 그러나 이러한 제한조차 허술한 서비스들이 많습니다. 오히려 특정 인물의 가짜 포르노 이미지를 생성하는 AI 모델 개발을 유도하고수익을 공유하는 플랫폼이 인기입니다. 이 플랫폼은 유명 벤처캐피탈로부터 큰 투자를 받을 정도로 이목을 끌었습니다. AI 분야의 젠더 격차와 성편향 이렇게 AI 기술이 여성 착취에 이용되기 쉬운 이유 중 하나로 AI 분야의 낮은 여성 비율이 꼽힙니다. 빠르게 발전하는 AI 기술과 다르게 AI 분야의 젠더 격차의 진전은 아주 더딥니다. 전체 AI 분야 인력이 2016년부터 2022년까지 6배 증가한 반면, 여성 비율은 약 4% 증가했습니다. 많은 국가에서 여성은 여전히 교육, 기술, 인프라에 대한 접근성이 낮습니다. 이렇게 AI 분야에 여성의 관점과 경험이 충분히 반영되지 못하는 상황은 기술 자체에 성편향이 내재될 가능성을 높입니다. 유네스코 보고서는 AI 분야 종사자 대다수가 성착취나 성폭력 문제로부터 동떨어져 있는 특권에 기반한 무지(Privileged Ignorance) 때문에 이 문제를 저평가하기 쉬우며 해결책도 단편적으로 될 수 있다고 이야기합니다. 현실보다 심각한 AI의 성편향 AI 분야의 젠더 격차는 AI 기술에 유해한 성편향을 촉발하고, 이는 사회적 성차별을 영속시킬 뿐 아니라 악화시키는 근본적인 원인이 될 수 있습니다. 심지어 이미 AI에 내재된 성편향은 현실보다 더 심각합니다. 블룸버그 분석에 따르면 ‘판사’를 키워드로 스테이블 디퓨전이 생성한 이미지의 3%만이 여성입니다. 그러나 미국여성판사협회와 연방사법센터에 따르면 미국 판사의 34%가 여성이라고 합니다. 이렇게 AI는 인간이 지켜내지 못한 사회의 격차를 그대로 답습할 뿐만 아니라, 수 세기 동안 이뤄온 인류의 노력조차 따라가지 못하고 있다는 것이 문제입니다. “사람들은 어떤 집단에서 자신과 비슷한 모습을 발견하지 못한다면 그 집단에 속하지 않는다는 것을 배운다.그리고 이미지는 이러한 생각을 강화시킨다.” -  Black Girls Code, 헤더 하일스 더 많은 여성의 목소리를 유네스코 AI 윤리권고 내 ‘젠더’ 정책은 AI 시스템 수명주기 전반에 여성의 인권과 기본적 자유를 보장하고, 성평등 달성에 기여해야 한다는 중요한 내용을 담고 있습니다. 그러나 이 젠더 정책이 유네스코 위원회의 선량한 남성 위원들(Well Behaved Men)에게는 환영받지 못했다고 합니다. 특권에 기반한 무지가 이 정책의 필요성에 대한 의문 제기로 이어졌던 것이죠. 논쟁 끝에 여성 위원장의 지지로 AI 윤리권고에는 젠더 정책이 포함될 수 있었다고 합니다. 이 정책이 AI 분야의 젠더 격차를 줄이는 데 도움을 줄 수 있을까요? AI 분야에 더 많은 여성의 목소리가 적극적으로 들리기를 바라면서 글을 마칩니다. 외부인의 'AI 디지털교과서' 단상 by. 🤖아침 지난 1월 31일 서울에서 열린 <디지털교육포럼>에 충동적으로 다녀왔습니다. 학생 때 찾아다니던 학술행사 같은 것을 상상하며 호텔 컨벤션홀에 들어자 전문 사회자가 국기에 대한 경례를 위해 사람들을 일으켜 세웠고, 제 뒤로는 라이브 방송팀이 바삐 일하는 중이었습니다. 다음 순서는 교육부 차관의 (영상) 인사말. "이거, '관' 행사구나"라는 깨달음이 뒤늦게 왔습니다. 수학, 영어, 정보 세 교과마다 한 섹션씩 시간이 배정되었습니다. 각 세션의 첫 순서는 AI 디지털교과서(DT)를 활용한 수업 사례를 발표하는 교사, 그다음은 교수 한 명과 교사 두 명이 차례대로 교수학습모델에 관한 발표, 마지막은 다른 교수가 좌장을 맡아 종합토론. 동일한 구성을 세 차례 반복했습니다. 교육 현장에 있는 분들이 AI 기술에 관해 가진 다양한 의견을 들을 수 있겠거니 하는 막연한 기대로 방문한 제게 오히려 인상적인 것은, 과목과 무관하게 열다섯 명의 발표와 토론이 동일한 하나의 메시지를 반복하고 있다는 점이었습니다. (세부적인 차이를 잡아내기엔 제가 견문이 적은 탓도 있을 겁니다.) 그 메시지를 거칠게 옮기면 이렇습니다. 'AI 교과서는 효율성을 가져다준다. 하지만 교사를 대체할 수는 없다.' '하이터치 하이테크' 피라미드 이날 많이 사용된 표현 중 하나는 '하이터치 하이테크'(High Touch High Tech). 교사는 고차원적 학습과 인간적 연결, 사회적/정서적 역량을 담당하고 (하이터치), AI DT(하이테크)는 문제풀이나 채점 등 반복적 과업을 맡는다는 것입니다. 교육부가 추진하는 AI DT 도입의 기조를 정렬하는 표현으로 보였습니다. AI DT 프로토타이핑과 시범운영 후 그 경과를 보고하는 행사인 만큼 어느 정도의 메시지 통일은 당연한 것일지 모릅니다. 그래도 기조발제 슬라이드에서 제시한, '획일적 정답을 요구하는 교육 → 모든 학생이 자기만의 질문을 하는 교육'으로의 이행과, 발표자들이 약속한 듯 강조하는 유사한 메시지 사이에서 무언가 어색한 틈새를 느꼈습니다. ChatGPT의 등장과 교육의 관계는 이렇다고 합니다. 교사 발표자들은 AI DT가 가져다주는 효율성을 선보이면서도, 인간 교사의 역할은 여전히 중요하다는 말을 곧잘 강조했습니다. 아마도 많은 이들의 뇌리에 있는 질문에 대한, 진심에서 나온 답일 것입니다. 한 선생님은 (AI DT로) "아낀 시간을 비효율적인 과정에 투자하자"고 말했습니다. 교사가 시도해 보고 싶지만 시간/비용 등의 이유로 하기 어려운, 참여를 더 잘 끌어낼 수 있는 수업을 AI 덕에 할 수 있으리라는 기대로 들렸습니다. AI에 반복 작업을 맡기고 인간은 창의적인 일을 할 수 있으리라는, 많이 들어본 전망과도 흡사합니다. 그렇게 될 수 있다면 좋겠습니다. 하지만 AI DT가 문제풀이 등에서 업무를 경감한다는 발표자들은, 태블릿이나 DT 서비스에 대한 학생들의 친숙도가 달라 중간에 교사가 개입해야 하는 연결노동이 새로 발생한다는 이야기도 들려주었습니다. 한편 교실이라는, 기존에는 비교적 독립적이었던 공간이 DT를 통해 감시 가능한 디지털 시공간으로 통합되는 데 따른 변화도 아직은 미지수 같습니다. 교실이 플랫폼과 연결되면 교육 노동에도 플랫폼노동의 성격이 가중될까요? 이런 우려가 기우이고 전체적으로 업무가 잘 경감된다고 하더라도, 교사가 하고 싶어 하는 종류의 수업을 '비효율'로 분류하여 우선순위에서 밀리게끔 만든 구조가 있을 것입니다. DT 도입이 그런 구조를 해결할 수 있을지, 아니면 아낀 시간에 또 다른 과제가 효율의 이름으로 비집고 들어오지 않을지 하는 걱정도 듭니다. 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

AI 윤리 뉴스 브리프 2024년 2월 셋째 주 by. 🥨 채원 1. “인터넷 = 학습 데이터”라는 거대한 바다에 독극물 풀기 생성형 AI가 그토록 빠르고 쉽게 사진이나 그림을 생성할 수 있는 것은 온라인상 존재하는 수많은 창작물을 학습데이터로 활용한 결과라는 것은 여지없는 사실입니다. 학습 데이터에 대한 저작권에 대한 논의가 이루어지고 있는 와중 실시간으로 많은 이들의 저작권이 침해되고 있지만, 개인 창작자로서 이러한 흐름에 맞서기는 쉽지 않은 상황입니다. 이런 개인 창작자들이 창작물을 지키기 위해 사용할 수 있는 도구를 개발하는 연구자들이 있습니다. 글레이즈, 나이트셰이드 등의 도구를 개발하는 시카고 대학교의 벤 자오 교수입니다. 또 다른 인터뷰에서 벤 자오 교수는 충분한 ‘독극물’이 온라인에 존재하게 되어, 기업 입장에서도 저작권료를 정당하게 지불하는 선택지가 무분별한 크롤링을 기반으로 데이터셋을 구축하는 것보다 합리적인 순간이 오는 것이 목표라고 밝혔습니다. 해당 도구는 이미지를 특수하게 처리하여 사람 눈에 보이는 모습은 그대로 유지하면서, AI가 학습할 때는 전혀 다른 그림으로 인식되게 합니다. 저작권을 지키는 일이 단지 개인 창작자의 책임이 되어서는 안 되겠지만, 구조적인 개선이 이뤄지기를 기다리기만 것이 아니라 당장 누구나 쉽게 적용할 수 있다는 데 큰 의의가 있는 것 같습니다. 더불어 새로운 기술을 개발하면서 그 기술로 인해 가장 큰 영향을 받는 당사자들과 함께하고 있다는 점에서도 주목할 만한 연구로 보입니다. 2. 텍스트만 입력하면 영상으로 오픈AI에서 텍스트를 입력하면 최대 1분가량의 영상으로 전환해주는 서비스 ‘Sora’를 발표했습니다. 이미 글이나 이미지를 생성형 AI로 생성하는 기술이 빠르게 발전한 만큼, 어느 정도 예견되어 있던 미래라고도 할 수 있겠습니다. 현재 해당 서비스는 치명적인 위험이나 해를 끼칠 수 있는 부분을 발견하기 위해 OpenAI에서 선정한 일부 사용자들에게만 공개되었고, 당분간은 일반 사용자들에게 공개할 계획이 없다고합니다. 이러한 결정은 오픈AI가 생성형 AI를 둘러싼 각종 논란을 인식하고 있다는 것을 보여주는 것이기도 합니다. 그러나 빠른 기술 발전의 이면에는 다양한 차원의 근본적인 문제점들이 존재하고 있습니다. 데이터 저작권문제, 편향과 차별 문제, 탄소 배출을 비롯한 환경 비용, 극소수의 (대부분 미국에 기반을 둔) 기업만 기술 개발에 참여할 수 있는 독과점적 구조, 저임금 국가의 노동력을 착취한다는 점 등입니다. 오픈AI의 구조가 처음의 약속과 달리 점점 불투명해지고 있다는 비판도 꾸준히 제기되고 있습니다. 그 어떤 기술도 사회적 맥락 없는 진공에서 만들어지지 않기 때문에, 그것을 만들고 사용하는 사람들에게 어떤 의미인지, 어떤 영향을 끼치는지 평가하는 과정이 반드시 필요합니다. 기업의 편의만을 우선시한 채 무분별하게 개발되는 기술은 반드시 사회의 어딘가에서 비용을 치르게 된다는 것을 많은 역사적인 예시들이 보여줍니다. 그럴싸한 영상을 만드는 비용이 급격하게 저렴해지는 지금과 같은 추세가 사회에 어떤 영향을 끼칠 수 있는지 고민하게 되는 지점입니다. 3. 할리우드 배우 노조 파업 배우들 인터뷰 지난해 말 할리우드에서 제작사와 배우조합이 몇 달에 걸친 파업 끝에 영화나 TV 프로그램 제작에 사용되는 AI의 범위에 관해 극적으로 합의한 일이 있었죠. 해당 합의에는 배우가 촬영한 화면이나 소리가 녹화 상태 그대로 유지되지 않을 경우 명시적인 동의가 필요하다는 등의 내용이 포함되었습니다. (최근 논란이 된 손석구 아역 배우의 사례가 떠오르는 대목이죠.) 앞으로도 더욱 다양한 분야에서 창작자와 인공지능 사이에 마찰이 일어날 것으로 보이는데요, 이러한 흐름 속에서 다양하게 투쟁하고 있는 당사자들과 진행한 국내 언론의 인터뷰가 공개되었습니다. 인터뷰이 중 한 명은 당장 현장에서 게임 회사의 직원들이 대규모로 해고되고 인턴십이 취소되는 등 실시간으로 변화를 실감하고 있다는 사례를 전했습니다. 앞으로 AI가 가져올 미래 산업계의 큰 변화가 다양하게 점쳐지는 와중에, 예술계는 지금 이미 눈에 띄는 변화를 겪고 있는 만큼 앞으로의 귀추가 더욱 주목됩니다. 기술은 항상 다양한 사회 변화를 가져왔지만, AI 기술로 인해 생산성이나 노동의 가치가 매겨지는 과정이 이렇게 빠르게 변화할 것이라고 예상한 사람은 많지 않았습니다. 인간의 노동은 인간이 한다는 이유만으로 가치 있는 것인지, AI를 비롯한 다른 기술로 대체되기 어렵기 때문인지 고민하게 됩니다. 4. 로맨틱하지 않은 연애 AI 챗봇 영화 ‘Her’에서 처럼 AI를 활용한 가상의 연인을 개발하는 것은 거대 언어 모델을 비롯한 생성형 AI가 활발하게 사용되고 있는 분야 중 하나입니다. 각종 유무료 서비스가 시시각각 개발되고 있는 와중, 이러한 서비스가 가져올 수 있는 다양한 윤리적 문제가 제기되어 왔습니다. 특히 연애 AI 챗봇의 경우 심리적으로 취약한 사용자에게 미칠 수 있는 영향 등을 차치하고서라도, 이러한 연애 AI 챗봇이 특히 프라이버시 문제에 취약하다는 진단이 나왔습니다. 파이어폭스 브라우저로 익숙한 모질라 재단에서는 ‘Privacy Not Included’라는 시리즈를 통해, 각종 온라인 서비스의 개인 정보 보호 정책을 검토하고 소비자들이 안전한 선택을 할 수 있도록 돕고 있습니다. 모질라에서 11개의 연애 AI 챗봇을 리뷰한 결과, 11개의 서비스 모두 개인 정보 보호에 취약하다고 합니다. 다양한 AI 기술이 점점 사적이고 개인적인 영역까지 녹아들고 있습니다. 대부분의 연애 AI 챗봇 서비스들은 사용자의 심리 상태나 건강 상태 등 매우 사적인 정보를 수집합니다. 그리고 이러한 서비스는 국내의 이루다 사태가 보여준 것처럼, 단순한 ‘기계 고장’ 이상의 문제들을 초래합니다. 외로움이라는, 아마도 인류 역사와 함께했을 근본적인 문제가 이러한 기술로 개선될 수 있는 것일까요? 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

[인터뷰] 용인의 한 AI 선도학교에서 교육과정 설계를 맡고 있는 초등학교 교사                                                                                                                    인터뷰어 및 정리 : 김재경 *세상을 바꾸는 인터뷰' 시리즈는 기존 인터뷰들과 색다른 접근(인물, 이슈 등)을 통해 공익적 목적을 달성하고자 기획되었습니다. 김민준(오마이뉴스 시민 기자)과 김재경(연구활동가)가 함께 약 2주에 한 번 오마이뉴스, 캠페인즈, 얼룩소, 브런치에 연재합니다. 2022년 11월, ChatGPT가 처음 출시된 이후 ‘AI’라는 키워드는 알파고와 이세돌의 대국 이후 두 번째 전성기를 맞이하게 됐습니다. AI의 첫 번째 전성기때는 바둑이라는 한정된 분야에서 AI가 인간을 이긴다는 점에서 단순히 흥미로웠다면, 이번 전성기는 글쓰기부터 시작해서 코딩, 번역, 이미지 생성, 동영상 생성 등 다양한 분야에서 가파르게 인간의 보조 혹은 그 이상을 수행하는 모습을 보이며 우리의 삶을 실제로 바꾸고 있습니다. 이에 맞춰 언론에서도 AI와 관련하여 다양한 기사를 매일 쏟아내고 있습니다. 하지만 관련 뉴스에선 주로 어떤 AI기술이 얼마나 발전했는지, 혹은 NVDIA와 같은 반도체 기업의 동향에 대해서 주목할 뿐 정작 보통 시민들이 궁금해 할, AI가 우리의 삶을 어떻게 바꿀지에 대한 정보는 부족한 편입니다. 제가 <세상을 바꾸는 인터뷰>에서 초반에 연재할 내용은 이런 내용을 심층적으로 다루고자 합니다. 이번 인터뷰에서는 AI를 적극적으로 교육 현장에 도입하고 있는 한 초등학교 교사를 인터뷰했습니다. 교사의 요청으로 익명으로 1월 26일에 줌으로 진행된 이번 인터뷰에서는 현재 공교육 현장에서 AI가 어떻게 도입되고 있는지, AI 교육의 장점과 단점은 무엇인지, 앞으로 교육현장에서 AI는 어떤 역할을 할 지 등을 자세히 알 수 있었습니다. 교육 현장에서 AI를 적극적으로 도입하고 있는 초등학교 교사 - 안녕하세요! 간단한 자기 소개 부탁드려요 “안녕하세요. 인터뷰에 초청해 주셔서 감사드립니다. 저는 경기도 용인에 위치한 한 학교에서 근무하고 있는 8년 차 초등 교사입니다. 현재 학교에서 교육과정 설계 연구부장을 맡고 있습니다.”. - 요새 ‘AI 시대’라는 표현이 나올 정도로 AI에 관심이 많은 세상이에요. AI에 대해 얼마나 관심을 가지고 있는지, 또 그 관심으로 인해 어떤 활동을 하게 되셨는지 설명해주세요. “네 물론이죠. 관심 정도를 0에서 10 중에 숫자로 나타내라고 하신다면 9 정도로 표현할 만큼 관심이 매우 높습니다. 현재 교육 정책에서도 AI 에듀테크 활용을 매우 강조하고 있고 여러 교육 사업들도 이와 관련해서 진행되고 있기 때문이죠. 저는 교육 현장에서 AI를 활용하면서 나타나는 긍정적 효과에 관심이 많습니다. AI 기반 교육 프로그램 사용, VR과 AI가 혼합된 영어 단어 학습, AI 기반 창의로봇 융합 교육 등이 포함된 AI 맞춤형 학습 지원 사업을 주도하여 실시하였습니다. 또한 인공지능 교육학회에 참석하여 현재 교육 현장에 필요한 AI 교육 활동들을 탐색해보기도 하고, 얼마 전에는 교육 박람회에 참석하여 AI 교육의 발전 현황을 둘러보기도 하는 등 꾸준히 관심을 가지고 활동하고 있습니다.” AI 교육, 교사가 학생 개개인에게 효과적인 맞춤형 교육을 할 수 있도록 도와줘 - 교육 현장에서 이미 AI를 활발하게 사용하고 계시군요. AI 기술을 수업에 통합하기 시작한 계기는 무엇인가요? “AI 기술을 제 수업에 활용하게 된 계기는 저희 근무 학교 특성, 그리고 저희 반 학생에 대한 고민으로부터 시작했습니다. 제가 근무하고 있는 학교는 경기도 용인 외곽에 위치한 소규모 농촌 학교입니다. 그렇다보니 주변 교육시설이나 문화시설도 부족한데, 학생 부모님께서 농업에 종사하시거나 또 맞벌이를 하시기 때문에 자녀를 케어해 주시기 굉장히 어려운 상황입니다. 그래서 아이들의 학력은 대체적으로 낮은 편인데요. 한 예시로 제가 맡았던 6학년 학생이 분수의 나눗셈을 할 줄 모를 정도로 학습지원이 필요한 상황이었어요. 수업 시간 외에 따로 가르쳐보기도 하고, 학부모님과 학생을 과외를 보내는 방법 등을 같이 고민해 상담해 보았지만 상황은 크게 나아지지 않았어요. 이 학생의 기초학력 부진 문제를 어떻게 해결하면 좋을까 고민을 하던 찰나, AI 시스템으로 맞춤형 학습을 할 수 있다는 것을 대학원 수업을 통해 접하게 되었고 유레카!를 외치면서 AI 기술 기반 수업방법을 도입하게 되었습니다.” - AI 기술을 수업에 도입한 이유 중 하나가 주변에 교육시설이나 문화시설이 부족한 지역적 특성 때문이라고 대답해 주셨는데, 교육/문화 인프라가 좋은 도시에서는 AI 교육의 효과가 부족할까요? “아니라고 생각합니다. 대도시에도 AI 교육이 충분히 효과가 있다고 생각해요. 왜냐면 지금 현재 대도시 같은 경우에는 한 학급 인원이 30명에서 35명 정도인데 교사 1명이 그 30명 각각의 학습 수준을 진단하고 평가하고 맞춤형 피드백을 제시해 주는 건 사실상 불가능하거든요. AI 교육 프로그램을 활용하면, 학생별 수준을 파악하고 관리하는 데 용이하기 때문에 오히려 AI가 더 효과적일 수 있습니다.” - AI를 활용하여 수업 방법에 어떤 변화를 주셨나요? 그에 따른 학생들의 반응은 어떤가요? “AI를 수업에 활용하는 방식은 크게 두 가지가 있습니다. 첫째, 학습자 데이터 분석에 기반한 맞춤형 학습을 제공하는 방법입니다. 제가 활용한 AI의 경우 학생들에게 문제를 제공하고, 제공된 문제를 풀어 내는 과정을 분석해서 학생 수준을 진단하고 필요한 학습 내용을 추천하기도 하고, 취약한 학습 내용에 대해 학생이 반복학습을 할 수 있도록 비슷한 문제를 여러 번 제시하기도 합니다. 예를 들어, 초등학교 5학년 학생이 약수와 배수 개념을 배우는데 어려움을 겪고 있을 때, AI는 곱셈과 나눗셈 중 어느 개념이 부족한지 상세히 분석하고 맞춤형 학습을 학생에게 제공하기도 합니다. 이런 과정들을 교사가 파악하고 학생에게 추가적인 교육을 진행하거나, 학부모님과 공유하여 학생의 현 수준에 알맞은 교육방향을 제시하는 상담을 할 수 있습니다. 두 번째는 학생이 학습하는 과정에서 생성형 AI의 도움을 받는 방법입니다. 작년에 저희 학교 독서 교육의 일환으로 1인 1책 만들기를 했어요. 학생들이 작가가 되어, 자기가 원하는 주제로 책을 한 권씩 만들어서 출판하는 수업이었어요. 이 수업을 듣는 학생 중 다문화 가정 학생이 한 명 있었는데, 문해력이 부족해서 책을 만드는 데 어려움을 겪고 있었어요. 그 때 아이가 좋아하는 소재 몇 개를 엮어서 프롬프트(prompt)를 만든 다음, 제 지도 하에 뤼튼(Wrtn)에 입력하게 해서 책에 넣을 이야기를 완성할 수 있었습니다. 학생에게 부족한 역량을 채우는 데 생성형 AI가 중요한 역할을 할 수 있는 거죠.” - AI를 활용한 수업에 대해 학생들이나 학부모님들의 반응은 어땠나요? “학생들의 반응은 꽤 긍정적이었습니다. 작년에 교육과정 만족도 설문조사를 실시했는데, 학생들의 90%가 AI 교육 프로그램이 학력 향상에 도움이 되고 흥미로웠다고 응답했습니다. 실제로 수학에 흥미가 없던 학생이 AI 교육 프로그램 도입 이후 수학에 흥미를 붙이게 된 경우도 있어요. 평소에 놀 때 사용하던 스마트폰, 태블릿으로 게임하듯이 공부할 수 있다보니 학생들이 좋아해요. 하지만 AI 교육 도입 초기인 만큼, 새로운 공부 방법이 신기해서 관심을 가지고 있을 가능성도 염두에 두어야 해요. 학부모님들의 경우 AI 교육에 대해 엇갈린 반응을 보이셨습니다. 긍정적인 반응을 보이신 학부모님들도 있었지만, 결국 반복적인 문제 풀이 학습이랑 무엇이 다르냐, 오히려 아이에게 추가적인 학습 부담을 줄 수 있지 않느냐고 의견을 주시기도 했습니다. 그리고 학생들이 태블릿이나 스마트폰으로 접속해서 AI 교육 프로그램를 활용하다보니, 아이가 노는 건지 공부하는 건지 구분이 가지 않는다며, 학교에서 학생들의 AI 교육 프로그램 사용에 대한 가이드라인을 제시해야 한다고 의견을 주시기도 했죠.” - 현재 일하고 계신 초등학교 외에 다른 초등학교, 혹은 중학교나 고등학교에서의 AI 도입은 어떻게 이루어지고 있는지 알고 계신가요? 현장의 분위기나 정부의 지원정책 등 여러 방면에서 교육 현장의 변화가 궁금합니다. “지금 초등학교 중학교 고등학교 학교 급을 막론하고 디지털 교육, AI 교육은 뜨거운 감자입니다. 교육부에서 현재 진행중이거나 계획하고 있는 AI 교육 정책이 많아요. 우선, 교육부에서 2025년부터 AI 디지털 교과서를 도입하겠다고 이미 발표했습니다. AI 교육 관련해서 지원해주는 예산도 굉장히 많아졌고요. 또한 교육부에서는 작년부터 디지털 선도학교, AI선도학교를 시범 운영중이고 올해 더 확장할 계획이라고 해요. 또한 디지털/AI 선도학교 사업을 주도하는 교사들을 대상으로 방학 중 연수를 진행하거나 교육 박람회에 보내기도 하고, 디지털이나 AI 교육과 관련하여 선생님들 간 서로 교류할 수 있는 지식샘터가 운영되는 등 AI를 교육에 더 효과적으로 도입하기 위한 여러 프로그램이 진행되고 있습니다.” - 선생님께서는 교육현장에서 AI 도입에 따른 학업성취도 변화에 대해 최근에 논문까지 작성하신 것으로 알고 있는데요. 실제로 AI 도입 이후 학생들의 학습 성과나 참여도에 어떤 변화가 있었는지 궁금합니다. “저는 AI 교육을 주로 수학 과목에 도입했는데, 수학은 다른 과목보다 이전 학습 내용을 제대로 이해하지 못하면 이후 학습이 어렵습니다. 그런데 앞서 설명드린 것처럼 AI 교육 프로그램을 활용하면 학생이 부족한 부분만 따로 분석도 해주고, 반복학습도 시킬 수 있어요. 그 결과, 3월 진단 검사에서 28점을 받았던 학생이 한 학기동안 56점으로, 56점을 받았던 한 학생은 82점으로 점수를 올랐을 만큼 AI 교육 프로그램이 효과가 높았습니다. 학생들이 AI 교육 프로그램을 활용해 학업 성취도를 높이고, 더 나아가 프로그램에서 어떤 걸 더 공부할 수 있는지를 알려주고 풀고 나면 포인트 등으로 보상도 지급하다보니 게임하듯이 자기주도적으로 공부하는 모습도 볼 수 있었어요. 물론 다른 여러 가지 교육활동, 교사의 격려 등도 학생들의 성적과 태도 변화에 영향을 미쳤겠지만, AI 시스템 도입이 분명 학생들의 변화에 영향을 주었다고 봅니다.” AI 시대에도 여전히 중요한 교사의 역할 - 지금까지 주로 AI 교육의 다양한 장점에 대해 알 수 있었는데요. AI 교육의 단점은 무엇이라고 생각하시나요? “우선, AI 교육의 단점은 AI 학습 시스템을 활용하다 보니까 교사와 학생 간 면대면 상호작용 기회가 줄어들었다는 거예요. 초등학생들은 상호작용과 직접 만지고 체험하고 만들면서 배우는 게 사실 더 중요한데 태블릿으로 학습하다 보니 친구와 선생님과 직접 얼굴을 마주 보는 소통의 기회가 줄어들었다는 점이 조금 아쉽습니다. 또한, 현재 AI 관련 교육이 반복적인 문제 풀이에 좀 치우쳐 있고, 교사의 개입 여지가 많이 적어 능동적인 수업 설계가 어렵습니다. 2025년도에 나올 AI 디지털 교과서 등 이후 교육 현장에서의 AI 시스템은 교사들이 보다 자율적으로 수업 설계가 가능하도록 개선이 되어 나갔으면 합니다. ChatGPT가 활성화된 이후 대학 등 일부 교육 현장에서 학생들에게 ‘AI 사용 금지’조치를 내리는 등 교육현장에서 AI 활성화에 따른 우려와 혼란이 있었던 것으로 아는데요. 교육자 입장에서, 학생들이 AI 기술을 사용하는 과정에서 발생하는 문제는 무엇인지, 또 그 문제들을 어떻게 해결하고 계시는지 궁금합니다. “사람들은 AI가 다 제시를 해주면 학생들이 생각할 능력이 떨어지게 되니까 사고하는 방법을 잃어버릴 수 있지 않느냐고 우려합니다. 하지만 저는 학생들이 학습에 AI를 활용하는 과정에서. AI가 제시한 내용에서 충분히 변화를 줄 수 있기 때문에 학생들의 학습 능력 저하를 크게 우려하지 않아도 된다고 봅니다. 아까 책을 만드는 사례를 예로 들면, 학생들은 AI가 짜준 줄거리를 그대로 책으로 만들지 않고 창의력과 사고력을 발휘해서 내용을 수정해 책을 만들었습니다. 하지만 교육 현장에서 AI 기술을 사용하는것에 대한 가이드라인을 교육부에서 정해줄 필요는 있다고 생각합니다. 무분별한 사용을 막기 위해서 교육 현장을 포함한 사회의 소통과 합의가 필요하다고 보는데요. 너무 완벽한 AI를 자유롭게 사용하도록 할 경우, 아이들이 지나치게 AI에 의존할 수 있기 때문에 연령 제한이나 사용 방법에 대한 제한이 필요합니다. 또한, 이런 가이드라인이 확실히 나오기 전까지 학생들의 자율적인 AI 사용을 규제해야 한다고 생각합니다." - 최근 보직 교사 기피 문제 등 여러 교사 분들이 업무 과중에 시달리고 있다는 목소리를 내고 계십니다. 이와 관련해서, AI 기술 도입이 교사의 업무 부담에 어떤 영향을 미쳤나요? 업무 부담을 줄일 수 있었나요? 혹은, 앞으로 업무 부담이 줄어들까요? “AI 시스템은 앞으로 교사들의 학생들의 학습이력 관리 및 학습 포트폴리오 구성과 관련한 업무를 줄일 수 있다고 생각합니다. 초기에는 교사들도 AI 시스템에 적응해야 하는 부담이 있었지만, 적응하고 나서는 학생 한 명 한 명을 도와주기 수월해져 업무 경감에 도움이 된다는데 대체적으로 동의합니다. 그리고 이제 AI 챗봇인 챗gpt나 뤼튼 등으로 교사가 처리해야 하는 여러 공문서 작업에도 도움을 받고 있어요. 하지만 AI가 아직까지 그렇게 창의적이진 않아, 문서 작성 등의 한정적인 업무에서 보조적인 도움 정도만 받고 있네요.” - AI를 통해 교사의 역할이 어떻게 변화하고 있다고 생각하시나요? AI가 많이 발달하게 된다면, 나중에 교사의 역할은 축소될까요? AI가 다 가르칠 수 있으면 나중에 교사는 없어질 수도 있는 것이 아니냐는 의견까지 나오고 있습니다. “우선, AI는 절대 교사를 대신할 수 없습니다. 현재 AI가 그렇게 똑똑하지 않을 뿐더러 아무리 발달한다 하더라도 좋은 수업을 위해서는 교사의 개입이 필수적입니다. 교사는 학생들을 관찰하며 적절한 때에 피드백해주고, 칭찬하고, 상담이나 피드백으로 동기부여를 해주는 정서적 지원자로서의 역할도 굉장히 중요하다고 보는데 이런 건 AI로 절대 대신할 수 없습니다. 물론 AI 보조교사로 단순 반복 학습이나 풀이 지도 학습 정도는 가능하다고 생각해요. 블룸이 제시한 교육 목표 6단계 피라미드에 의하면, 피라미드의 하위 2단계는 기억하고 이해하는 것이고 상위 4단계는 적응하고 분석하고 평가하고 창의성을 발휘하는 겁니다. 이 중에서 하위 단계의 목표를 위한 교육은 하이테크인 AI가 보조할 수 있지만, 상위 단계의 목표를 이루기 위해선 교사의 세심한 터치, 하이터치가 필요합니다. 이런 개념을 정리하여 ‘하이터치-하이테크’라고 부릅니다.” - 교육현장에서의 AI에 대해 마지막으로 하고 싶은 말씀이 있으시다면? “이제 AI 기술이 교육에 점차 도입이 되면서 교육 패러다임 자체가 변화하고 있습니다. 우리나라가 최초로 도입하는 AI 디지털 교과서는 아마 전 세계적으로 AI 교육의 본보기가 될 것으로 생각해요. AI 디지털 교과서가 가진 기존 교과서와의 차별점은 공유형 플랫폼이란 점입니다. 이전에는 정해진 교과서로 수업이 진행이 됐다면, 디지털 교과서는 학생과 교사가 함께 만들어가는 학습 자료로 수업이 진행됩니다. 즉, 이제는 학급이나 학교 상황에 알맞은 교과서 학습 자료가 새롭게 탄생할 수 있게 됐습니다. 이런 AI 활용 수업이나 AI 디지털 교과서를 구성하는 것은 지금 충분히 잘하고 있기 때문에, 상대적으로 부족한 부분인 AI 윤리나 저작권 부분에 대한 가이드라인 제시가 조금 더 구체적으로 필요해 보여요. 학생들을 교육하는 목표는 AI 도구들을 활용해서 학생들이 삶과 연계한 지식을 습득하고 궁극적으로는 자기 주도적으로 삶을 꾸려나가는 역량을 키울 수 있도록 하는 것이잖아요. 이를 위해 앞서 말씀드린 교사의 하이터치가 필요하고 그런 교사의 하이터치가 AI 활용 교육에 있어서 중심이라고 봅니다. 특히, 선생님들이 AI 시스템이 주는 편리함에 너무 매몰되지 않도록 경계해야 한다라는 점을 마지막으로 말씀드립니다.

AI 논쟁 뒤집어보기 : AI를 살펴 보는 다양한 시각들 by. 🥨채원 지난 주, 베를린 사회 과학 센터에서 이루어진 <변화하는 AI 논쟁: AI를 위한 자극, 도발 및 문제 제기>라는 학회에 다녀왔어요. 학회는 Shaping AI라는 프로젝트의 성과를 나누는 자리이기도 했는데요. Shaping AI는 2021년부터 독일 프랑스, 영국, 그리고 캐나다의 연구진들이 3년 간 진행한 다국적, 다학제간 연구로 AI에 대한 공공 논의가 어떻게 진행되는지 살펴보는 프로젝트입니다. 마침 학회에서 다뤄진 내용이 AI 윤리 레터에서 관심 있게 지켜보는 주제들과 일맥상통하는 부분이 많더라고요. 인상 깊었던 발표들 중 구독자 여러분도 흥미로워할 만한 몇 가지 프로젝트를 소개합니다. ‘보통 사람’의 AI AI 전문가만 AI에 관해 이야기할 수 있는 걸까요? 자동차가 어떻게 동작하는지 몰라도 제대로 작동하지 않는 자동차를 비판할 수 있고, 불만을 표출할 수 있는 것처럼, AI도 마찬가지일 것입니다. 그런데도 공적 영역에서 이루어지는 AI 논의에서는 비전문가의 목소리가 잘 들리지 않아요. 이미 AI 기술이 사회의 다양한 영역에서 사용되고 있고, 더욱 늘어날 전망인 만큼 ‘보통 사람’의 시각은 반드시 필요합니다. 이러한 문제 의식에서 출발한 벨기에의 Amai! 프로젝트는 보통 사람들이 AI에 대해 어떻게 생각하는지, AI가 해줬으면 하는 일이 뭐가 있는지 등 AI에 대한 궁금증과 의견들을 수집하여 분석합니다. 이렇게 수집된 궁금증 중에는 ‘AI가 비오는 날 자전거 도로가 더 명확하게 보일 수 있도록 해줄 수 없느냐’는 질문도 있었다고 해요. AI가 마치 모든 문제를 해결해줄 수 있는 전지전능한 기술로 인식되는 경향을 보여주는 예시이죠. 국가와 인공지능의 복잡한 관계 AI 기술의 가파른 발달에 국가는 어떻게 대응해야 할까요? 이 발표를 듣기 전에 저는 국가의 역할은 규제라고 막연히 생각했어요. 하지만 생각보다 국가의 역할이 다양하더라고요. 국가는 AI가 사회에 미칠 영향을 고려하여 시민의 기본권을 보호하기 위한 규제를 만들고 실행하는 역할을 하지만, 그 외에도 AI 서비스를 구매하는 구매자이기도 합니다. 인공지능 개발에 공적 자금을 투자하여 기술 개발을 촉진하는 역할도 하죠. 동시에 인공지능 인프라(슈퍼컴퓨터 등)를 구축하여 기술의 생산자로서의 역할도 수행합니다. 국가의 세 역할은 AI 생태계에 어떤 영향을 미치고 있을까요? 자세한 내용이 궁금한 분들을 위해 저자의 논문을 링크합니다. 각종 기술의 실패에 대처하는 방법 요즘 뉴스를 보면 심심치 않게 AI의 ‘오작동’으로 인해 무고한 사람들이 피해를 보는 사례를 낯설지 않게 목격하게 됩니다. 이러한 AI의 실패 사례들을 모아두는 데이터베이스도 유명합니다. AI가 각종 애플리케이션에 도입되기 시작했던 몇 년 전까지만 해도 이런 사건이 하나 터지면 온 세상을 뒤덮곤 했습니다. 예컨대 인종 차별 문제가 있었던 구글 포토 이미지 분류기나 미국에서 범죄자의 형량을 계산하는 데 사용되었던 COMPAS 알고리즘이 그렇습니다. 이런 ‘사고’가 비일비재해진 탓일까요. 이제는 우리 사회는 웬만한 AI 알고리즘의 실패에는 무덤덤해진 것처럼 보입니다. 무뎌지거나 절망하는 것 외에 할 수 있는 게 없을까, 하는 고민을 하게 되는 순간이 오는 것 같아요. Repair 프로젝트는 기술적 실패를 단순한 사고로 보는 관점에서 나아가, 실패가 자리 잡고 있는 복잡한 맥락을 파악하고, 공공 가치, 신뢰와 같은 공공의 가치에 어떤 영향을 끼치는지 파악합니다. 이를 계기로 사회에 내재하여 있던 문제를 해결하고, 사회 구조의 약한 지점이나 위험 요소를 찾아내서 비슷한 기술 실패가 재발하지 않도록 제도적 개선까지 이어질 수 있도록 노력합니다. 회고를 마치며 AI 기술을 만드는 사람의 입장에 익숙한 제게 이번 학회는 새로운 시각에서 AI를 바라볼 수 있는 기회였습니다. 사회의 맥락 안에서 치열하게 AI를 탐구하는 연구자들을 보며 인간 중심 기술에 대해 더욱 고민하게 되었죠. 구독자분들이 생각하는 인간 중심 AI란 어떤 것일지 궁금합니다. 뉴스레터를 통해 다양한 분들과 생각을 나누게되길 바랍니다. 오래 알고 지낸 온라인 친구가 알고보니 AI였다면? by. 💂죠셉 얼마 전 페이스북 피드를 훑어보다가 흠칫 놀란 일이 있었습니다. 갑자기 웬 화려한 여성분의 사진이 피드에 얼굴을 들이민 겁니다. 얼굴도, 이름도 낯선, 싱가포르에 살고 있다는 Zheng 모 씨. 명품 시계, 스포츠카, 고양이 사진 속 그녀와 아무리 생각해 봐도 친구를 맺은 기억이 없습니다. 계정을 클릭해 들어가 보니 상황이 파악되기 시작합니다. 오래 알고 지낸 대학교 동문의 계정이 해킹을 당한 것이었죠. 학력과 네트워크만 남겨두고 계정 소유주의 흔적을 모두 지우려 했지만 매년 친구들이 남겨온 생일 축하 메시지는 비공개로 바꿀 수가 없거든요. 계정 소유주가 크게 개의치 않는 것인지, 몇 주가 지났지만 Zheng씨는 오늘도 성실히 활동 중입니다. 얼마 지나지 않아 저에겐 또 다른 싱가포르 친구가 생겼습니다. 이번엔 Zhang씨입니다. 귀찮은지 예전 사진을 지우지도 않아 원소유주의 흔적이 그대로 남아있습니다. 대체 무슨 일이 벌어지고 있는 걸까요? 가볍게 글로 풀었지만, 소셜 미디어 사용자라면 한 번쯤 겪어봤을 계정 해킹(Account take-over fraud)의 사례입니다. 해킹 이후 본 계정의 정체성을 그대로 유지하면서 투자를 권유하는 등의 범죄 형태도 있지만 위의 예시처럼 기존 사용자의 흔적을 지우고 다른 사람인 척하는 경우도 있습니다. 높은 확률로 러브스캠 등의 사기행각을 위한 준비 과정입니다. 2022년 미국에서만 7만여 명이 러브스캠으로 피해를 보았고, 피해액은 무려 1조 7천억원에 달합니다. Zheng 씨로 둔갑한 동문의 계정을 더 면밀히 살펴보니, 10년 전 글까지 본인 사진과 글로 꼼꼼히 수정해 놓은 정성이 엿보입니다. 왜 이렇게까지 하는 걸까요? 생성형 AI로 글, 사진은 만들 수 있지만 시간이 축적되며 쌓여야 하는 기록과 네트워크는 생성이 불가능하기 때문입니다. 반대로 말해 ‘쌓인 시간’이란 조건을 갖춘 계정을 탈취한다면, 사기행각에 유용하겠죠. 생성형 AI가 본격적으로 주목을 끈 지난해부터 거대언어모델(LLM)이 위와 같은 범죄에 악용될 가능성은 수없이 제기됐습니다. 수공업 없이도 가짜 이미지나 글을 ‘효율적으로’ 생성해 낼 수 있을 뿐 아니라, 언어 장벽을 뛰어넘어 전 세계를 무대로 활동할 수 있게 해주기 때문이죠. 불길한 가능성은 여기서 그치지 않습니다. 지난해 4월 스탠포드 대학을 통해 발표된 한 연구는 LLM이 온라인상에서 인간과 흡사하게 행동하는 행위자(agent)를 생성해 낼 수 있음을 예고했습니다. 게임 업계는 환호했습니다. 사람이 직접 조작하지 않는 비디오 게임 캐릭터(Non-Player Character, NPC)에 적용하면 게임의 세계관과 완성도가 크게 확장될 것이기 때문이죠. NPC와 같은 생성형 행위자(generative agents)들이 소셜 미디어에서 활동을 시작한다면 어떨까요? AI 계정이 인간 이용자들과 댓글을 주고받고, 친구를 맺기 시작한다면, 그렇게 계정에 시간이 쌓여간다면? 우리는 인스타그램에서 왕래하는 이웃이 AI가 아닌지 어떻게 알아볼 수 있을까요? 최악의 경우, 누군가 이런 계정을 대규모로 생성해 조직적 사이버 불링이나 여론 선동을 시도할 가능성도 배제할 수 없습니다. 이름도 생소한 생성형 행위자. 최악의 시나리오를 이야기하는 게 섣불러 보일지 모르겠습니다. 하지만 메타의 CEO 마크 저커버그는 이미 지난해 4월, 생성형 행위자를 언급한 적이 있습니다. 메타의 주력 사업인 메타버스 경험을 항상 시켜줄 기술로 말이죠. 지난주, Zheng & Zhang의 계정이 해킹된 계정이라고 신고했을 때 ‘아무 문제가 없다’라는 답변을 받았습니다. Q&A 봇이 답변한 게 아닐지 의심스러울 만큼 순식간에 돌아온 답변이었습니다. 인간의 수공업형 범죄에도 속수무책인 온라인 공간은 앞으로 다가올 일들에 대해 준비가 된 걸까요? 📌 덧붙이는 글 🤖 아침: 생성형 행위자들이 활동하는 이른바 ‘합성 소셜 네트워크’는 이미 실존하는 서비스로 성큼 다가오는 중이죠. 봇이 인간 계정을 사칭하는 데 그치지 않고 행위자로서 전면에 나오는, 그리고 인간 이용자도 생성형 기술을 이용해 활동하는 일이 잦아지는 시대. 무엇이 진짜인지 알아보는 문제뿐만 아니라, 과연 ‘진짜’라는 것은 무엇인지를 고민해야 하는 시점 같습니다. 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

AI 윤리 뉴스 브리프 2024년 2월 첫째 주 by. 🍊산디 1. 우리가 끝내야 하는 싸움 🦜지난 월요일 레터에서 소개드린 것처럼, 생성형 AI를 활용해 제작한 성착취물 제작 툴로 테일러 스위프트를 묘사한 이미지가 X에서 널리 퍼졌습니다. X가 포스트를 차단하기 전까지 걸린 시간은 17시간. 포스트는 4,500만 번 이상 조회되었습니다. 그렇게 테일러 스위프트는 X에서 검색되지 않도록 차단되어야 했습니다. MS는 이번 성착취물 제작에 활용된 생성형 AI 툴의 허점을 개선했다고 밝혔습니다. 미 상원은 관련 입법을 서두르는 모습입니다. 하지만 성착취물의 유통이 잠잠해졌을 뿐, 문제가 해결된 것은 아닙니다. 그리고 이러한 조치가 과연 디지털 성폭력을 잠재울 것이라 낙관하기도 어렵습니다. 테일러 스위프트 이전에도 그리고 지금도 딥페이크 기술의 ‘혁신’과 이를 이용해 여성을 ‘비인간화’한 사례는 숱하게 많았습니다. 반복되는 디지털 성폭력으로부터 여성들은 스스로를 지켜왔습니다. 기술과 법만으로는 결코 이 문제를 해결할 수 없습니다. 이 싸움은 우리가 끝내야 하는 싸움입니다. 2. AI: 당신은 사망했습니다. 살아있음을 증명하세요. AI의 쓸모에 대한 광범위한 공감대가 형성되면서 AI 행정 역시 주목받고 있습니다. 하지만 AI는 자주 틀립니다. 인도 하리아나 주정부는 노인 수당 지급 수령자를 판단하기 위해 알고리즘 시스템을 도입하였습니다. 그리고 이 알고리즘은 수 천 명의 살아있는 사람을 ‘사망’했다고 판단했습니다. 피해자들은 수 차례 관료를 찾아가 자신이 ‘살아 있음’을 증명해야 했죠. AI 행정의 피해 사례는 숱하게 발견됨에도 불구하고 개인이 이에 대응하기는 쉽지 않습니다. 일례로, 잉글랜드와 웨일즈의 법체계는 반증되지 않는 한 컴퓨터의 판단이 법적으로 신뢰할 수 있다고 판단합니다. 즉, 문제를 제기하는 사람이 알고리즘의 오류를 입증해야 하는 것이죠. 관료제 등장 이후 관료의 ‘영혼 없음’은 그것의 최대 장점이자 단점이었습니다. 하지만 AI가 행정 곳곳에 도입되기 시작했을 때, 행정 서비스를 이용하는 우리는 관료의 판단과 비판적 인식에 의지할 수밖에 없을 거예요. AI 시대 행정의 기능과 책임은 무엇이 되어야 할까요? 3. 열린 오픈AI 닫힘 오픈AI가 설립 단계부터 투명성을 강조해왔음은 잘 알려진 사실입니다. 빅테크에게 지나치게 많은 권력이 집중되어 있다는 이유에서였지요. 멀지 않았던 그 때엔 누구든지 오픈AI에게 재무제표, 이해상충 규칙 등을 요청할 수 있었습니다. 사업은 (비즈니스 측면에서) 전지구적 성공을 거뒀고, 오픈AI는 단연 시장의 선두입니다. 그리고 투명성은 옛 이야기가 되어버렸습니다. 오픈AI는 내부 운영에 대한 문서를 제한적으로만 제공하는 것으로 기업 정책을 변경했습니다. 이제 이용자는 오픈AI가 어디에 투자하고 있으며, 누구와 협력 관계에 있는지 알 수 없게 되었습니다. 오픈AI가 스리슬쩍 폐쇄적인 벽을 쌓아 올리는 무책임한 태도에 투자사와 협력 기관들은 쾌재를 부르며 기뻐할지 모르겠습니다. 이제 오픈AI는 좀 더 ‘자유롭게’ 사업할 수 있을 겁니다. 닫힌 오픈AI를 감독할 수 있는 방법은 무엇일까요. 우리에게는 어떤 투명성이 필요할까요? 4. 미국과 미국 중에 고르기 AI 모델 뿐만 아니라 AI 개발에 필요한 기술 인프라를 소수의 빅테크가 장악하고 있는 것에 대한 정책적 우려가 커지고 있습니다. EU 집행위원회 부위원장 마르그레테 베스타게르는 최근 인터뷰에서 선택지가 ‘미국 또는 미국’으로 제한되어서는 안 된다고 밝혔습니다. MS의 오픈AI 지분 인수, 그리고 지난 오픈AI 드라마를 통해 드러난 MS와 오픈AI의 ‘긴밀한’ 관계로 인해 유럽뿐만 아니라 미국의 반독점 기구도 바빠졌습니다. 미국 FTC는 기업들 간 투자 및 파트너십에 대해 광범위한 조사를 진행 중이고, 영국 CMA 역시 MS와 오픈AI의 파트너십의 위험성에 대해 의견을 구하고 있습니다. AI 빅테크에 대한 반독점 규제가 어떤 ‘성과’로 이어지고 있는지에 대해 회의적인 목소리도 들립니다. 하지만 외부 기관들의 감독과 기업의 준법활동은 혁신 생태계의 유지를 위해 반드시 필요합니다. 독점은 소비자 후생 저해, 정치 권력과의 결탁 등 부작용이 발생하기 쉽기 때문입니다. 5. 탄광의 카나리아: 글로벌 데이터 하청과 노동조합 AI는 전지구적 하청 구조를 통해 개발됩니다. AI ‘학습’을 위해 기업은 데이터 라벨링 업무를 특정 기업 또는 크라우드 소싱 플랫폼에 하청을 주는 형태이죠. 이러한 형태의 ‘마이크로 노동’을 수행하는 노동자는 극도로 불안정한 상태에 처하게 됩니다. 구글은 아펜(Appen)이라는 호주의 크라우드 소싱 기업과 맺었던 하청 계약을 갑작스럽게 종료했습니다. 아펜의 노동자들은 구글의 생성형 AI 서비스 바드의 안전성을 높이는 데 기여해왔습니다. 하지만 구글의 계약 종료 통보로 2천여 명의 노동자의 삶이 흔들리게 되었습니다. AI를 도입하는 기업과 AI를 개발하는 기업 모두 ‘우선순위 조정’을 이유로 대량 해고를 밀어 붙이고 있습니다. 와중에 알파벳의 노조 AWU(Alphabet Workers Union)의 계약 해지 비판이 눈에 띕니다. 이들은 글로벌 데이터 하청 기업의 불안정 노동자를 해고하는 것이 탄광의 카나리아와 같다고 소리 높입니다. 우리에게 길항권력이 없다면, AI가 약속하는 생산성은 우리를 위한 것이 아닙니다. 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

가깝고도 먼 AI와 AI 윤리 by. 🤔어쪈 AI 윤리는 AI와 떼려야 뗄 수 없는 관계입니다. 너무도 당연한 말로 글을 여는 이유는 둘 사이의 거리를 주제삼아 이야기해보고 싶기 때문이에요. ‘AI 윤리 레터’에서조차 정의한 적이 없을 정도로 AI 윤리는 무어라 명확히 개념잡기 어려운 단어입니다. 그래서 저는 종종 다른 곳에서부터 표현을 빌려오곤 합니다. 과학기술의 윤리적·법적·사회적 함의와 영향에 대한 연구를 의미하는 ELSI(Ethical, Legal, and Social Implications)가 바로 그것입니다. ELSI는 1990년대 인간 게놈 프로젝트의 일환으로 시작된 연구과제에 기원을 두고 있습니다. 사람의 유전정보를 분석하고 이해할 수 있게 될 때 벌어질 일들에 대한 우려가 컸던 탓에, 인간 게놈 프로젝트에 투입되는 예산 중 일부를 ELSI에 배정한 것이죠. 대표적인 연구주제 몇가지를 살펴보면 다음과 같습니다: 보험, 채용, 사법, 교육 등의 영역에서의 공정한 유전정보 활용 방안 낙인 효과와 같은 특정 개인 및 집단에 대한 유전정보의 사회심리학적 영향 재생산권, 치료 및 진료권과 관련 의사결정에 미치는 파급력 이후 ELSI는 미국의 나노기술 이니셔티브에서 한 분과를 차지하는 등 인간 게놈 프로젝트 이후에도, 또 생명윤리 외 분야에서도 자리를 잡았습니다. 최신 과학기술의 연구개발에 사회적 가치를 반영하고, 더 나아가 관련 정책 설계에도 상당한 기여를 했다는 평가를 받고 있죠. 최근에는 RRI(Responsible Research and Innovation)라고 불리는 보다 사회에 책임있는 방식으로 연구개발을 수행하기 위한 방법론적 프레임워크로 이어지고 있습니다. 이처럼 좋은 취지하에 유의미한 성과를 낸 연구 분야지만, ELSI에도 숱한 비판이 있었습니다. 무엇보다 가장 큰 문제는 ELSI가 결국 인간 게놈 프로젝트와 같은 특정 분야의 과학기술 이니셔티브에 종속된 과제였다는 점입니다. ELSI 연구자들이 프로젝트에 속한 다른 사람들과 같은 입장이 되어 비판적 사고나 적극적 대안 제시 보다는 기술 개발의 정당화에 기여했다는 것이죠. 이를 두고 인문학과 사회과학이 ELSI-화 (ELSI-fication) 되었다는 표현까지 등장했습니다. ELSI를 둘러싼 논의는 AI 윤리 레터를 비롯한 AI 윤리라는 범주 아래 이뤄지는 여러 활동에도 시사하는 바가 큽니다. AI 윤리는 AI 기술 개발에 보다 적극적이고 비판적으로 개입할 필요가 있습니다. AI 윤리가 하나의 분야로 자리잡기 시작하면서 기술 개발 주체가 ‘AI 윤리 전문가’에게 관련 문제 해결의 책임을 전가하는 것을 종종 볼 수 있습니다. 하지만 AI 윤리는 단순히 AI 기술이 야기하는 윤리적·법적·사회적 문제들이 발생한 후에야 연락을 받고 도착해 해결책을 제시하는 뒷처리 담당반이 아닙니다. 한편 AI 윤리라는 이름 아래 기술의 발전 방향과 이를 주도하는 기업들의 주장을 비판하는 대신 수용하고, 나아가 AI 하이프를 더욱 부풀리는 경우 역시 어렵지 않게 찾아볼 수 있습니다. AI 윤리 레터에서 다룬 바 있는 ‘AI 하이프 뉴스 체크리스트’를 기억하시나요? 누군가가 AI 윤리 전문가를 자청하며 AI 하이프 뉴스를 퍼나르고 있다면, 한번쯤은 그의 ‘AI 윤리’를 의심할 필요가 있습니다. 다시 처음으로 돌아가 AI 윤리와 AI는 떼려야 뗄 수 없는 관계라는 말을 살펴봅시다. AI 윤리와 AI 사이엔 너무 멀지도 않고 너무 가깝지도 않은 적당한 거리가 필요합니다. AI에 대한 AI 윤리의 개입과 거리두기는 동시에 이뤄져야 합니다. AI 윤리는 AI를 위한 것이 아니니까요. 🦜같이 읽어도 좋을 글 찾아라! AI HYPE 뉴스 (2023-07-17) AI 적정작명기술 (2023-07-24) AI가 당신의 글을 좋은 데 쓸 거예요.  by. 🎶소소 AI 윤리 레터의 글을 AI 학습 데이터로 판매한다면 얼마가 적당할까요? 아, 온라인에 공개된 글이므로 이미 AI 학습에 활용되었는지도 모르겠네요. 최근 저는 AI 기업이 저작물을 대하는 태도가 점점 뻔뻔해지고 있다고 느낍니다. 지난 브리프의 '뉴욕타임스 소송에 대한 오픈AI 입장문’ 이야기입니다. 그래서 오늘 레터에서는 오픈AI가 입장문에서 주장하는 바가 합당한지 조금 더 살펴보았습니다. 이 소송의 결과가 AI 업계와 창작자 생태계에 미칠 영향력이 작지 않아 보이기 때문입니다. 앞으로 저작권자와 AI 사업자가 어떻게 공생할 수 있을 지 고민이 깊어집니다. 오픈AI의 주장은 전 세계의 저작권자와 AI 기업의 논쟁을 고스란히 보여줍니다. 1. 우리는 전 세계 사람들을 위한 AI를 만든다. AI 학습은 공정 이용이다. 저작권법에서의 공정 이용은 특정 조건에서 저작권이 있는 자료를 저작권자의 허가 없이도 사용할 수 있게 해줍니다. 일반적으로 문화 및 관련 산업의 발전을 위한 비평, 뉴스 보도, 교육, 학술 연구 등의 목적을 위한 것입니다. AI 학습의 공정 이용 여부에 대해서는 다양한 의견 대립이 있으며, 아직 직접적으로 판단한 국내외 법원의 판례는 없습니다. 오픈AI는 AI 훈련이 공정 이용에 해당한다고 주장합니다. AI에게 인간의 언어를 가르쳐 일상의 삶을 이롭게 한다는 점에서 공정 이용 취지에 해당한다는 겁니다. AI는 저작물을 복제하는 것이 아니라 단어 빈도수, 구문 패턴 등 통계적 정보를 새로운 형태로 변환한다는 점 역시 참작해야 한다고 합니다. 뉴욕타임스는 AI 기업이 저작권자의 허가나 대가 지급 없이 언론사의 자산인 저작물을 활용하고, 대체품을 생산하여 이익을 취하고 있기 때문에 어떤 기준으로도 공정 이용이 아니라고 반박하고 있습니다. 한편, 오픈AI의 서비스 약관은 챗GPT의 생성물로 다른 모델을 학습시키는 것을 금지합니다. 타인의 저작물을 AI 학습에 쓰는 것은 공정이용이라고 주장하면서, 자신의 AI 생성물을 다른 회사의 AI를 학습시키는 것은 사용하는 것은 막는 꼴입니다. 내로남불이랄까요. 2. 뉴욕타임스 사례는 드물게 발생한 오류이며, 심지어 의도적인 오용의 결과다. 뉴욕타임스가 소송에 제출한 챗GPT 응답은 거의 기사 원문을 복사한 것처럼 유사합니다. AI 모델이 학습한 원데이터를 그대로 뱉어내는 ‘역류(Regurgitation)’ 현상 때문이라고 하는데요. 아마 사람이 ‘표절’한 기사를 자신이 쓴 것처럼 돈을 받고 팔았다면 단번에 저작권 침해가 되었을 겁니다. 오픈AI는 이 현상은 의도하지 않은 ‘기술적 오류’라고 설명합니다. 이러한 오류의 발생 가능성은 매우 낮으며, 이미 최소화했다고 주장합니다. 하지만 원데이터의 표절에 가까운 생성물이 얼마나 자주, 어떤 상황에서 발생하는 지에 대한 질문에 직접적으로 대답하지는 않았습니다. 또한 오픈AI는 뉴욕타임스가 주장하는 저작권 침해가 챗GPT를 악용했기 때문이라고 주장합니다. 뉴욕타임스가 기사의 원문 노출을 유도하는 프롬프트 입력해 챗GPT가 기사를 그대로 인용하도록 했기 때문이라고요. 그런데 만약 뉴욕타임스가 특정 상황에서 문제 가능성을 찾았다면, 일반 사용자도 동일한 상황에서 문제를 만들 수 있는 것 아닌가요? 때로는 오류의 발견이 시스템의 결함을 찾고 고칠 수 있는 계기가 됩니다. IT 기업은 시스템 오류를 찾기 위해 의도적인 Red teaming 을 진행하기도 하죠. 그런데 오픈AI는 시스템의 오류를 사용자의 오용으로 치부하며 책임을 돌리는 것으로 보입니다. AI 기업의 저작물 무단 사용 소송이 줄을 잇고 있지만 아직 저작권자의 손을 들어준 판결은 없었습니다. 이 소송에서 오픈AI가 승소한다면, AI 모델 학습이 공정 이용으로 법적 지지를 얻게 된다고 볼 수 있습니다. 긍정적으로 본다면, AI 연구자나 기업은 법적 문제 없이 좋은 데이터를 확보하고 더 좋은 성능의 AI를 만들 기회가 될 것입니다. 한편 저작권자의 입지는 점점 더 좁아지겠죠. 지난해 말 우리나라 문화체육관광부에서는 저작권자의 권리를 강조하는 취지의 “생성형 AI 저작권 안내서”를 발간했습니다. 안내서는 저작권자와 생성형AI 사업자가 유의해야 할 사항에 대해 다룹니다. 그러나 주요 쟁점인 ‘저작물의 AI 학습 활용’에 대해서는 기존 저작권법을 읊는 정도로 서술합니다. 도리어 국내 AI 기업의 발전을 막는 족쇄가 된다는 우려만 일으키고 있습니다. 정부가 AI 기술의 건전한 혁신을 지원하고 저작권자의 권리를 보호하는 방안을 모색하기까지는 시간이 좀 더 필요해보입니다 🦜같이 읽어도 좋을 글 한 명의 사임과 한 명의 퇴출 그리고 복귀? (2023-11-20) 창작자 생태계 상상하기: 스태빌리티 AI 집단소송 기각에 부치는 글 (2023-11-15) 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

AI 윤리 뉴스 브리프 2024년 1월 다섯째 주 by.🤖아침 1. 생성 AI 선거는 이미 시작했다 조 바이든 미국 대통령의 목소리를 모방한 로보콜(ARS 전화)이 미국 뉴햄프셔주 유권자들에게 민주당 예비선거에 참여하지 말라는 메시지를 전달해, 주 검찰이 수사에 나섰습니다. 미국의 한 스타트업은 민주당 경선 후보 딘 필립스의 말투를 모방한 챗봇을 오픈AI API로 개발하다가 오픈AI로부터 계정을 차단당했습니다. 올해 전 세계 76개국에서 선거가 시행됩니다. 생성AI 붐 이후 민주주의 절차가 마주한 가장 큰 시험대입니다. 우리는 AI를 활용한 오정보에 어떻게 대응해야 할까요? 사진: Element5 Digital / Unsplash 2. 성착취물 + 저작권 침해 = 생성 AI 산업의 악몽 성착취 이미지를 생성해 공유하는 텔레그램 커뮤니티에 테일러 스위프트를 묘사한 이미지가 등장했고, 이 이미지가 트위터에서 널리 퍼졌습니다. 뉴욕타임스는 챗지피티가 저작물인 기사 내용을 그대로 뱉는다며 오픈AI에 소송을 제기했는데요. 최근 보도에서는 이미지 생성 툴 미드저니를 이용해 만든 조커, 마리오 등 명백한 저작권 침해 사례를 선보였습니다. 성착취물 등에 의한 인격권 침해와 유명 캐릭터 등의 지식재산권 침해는 생성 AI 기술의 현존하는 해악이자, AI 업계가 지닌 막대한 리스크입니다. 업체들은 서비스 이용약관, 입/출력단에서의 필터링 등으로 대응하고 있지만 근본적인 해결책이 될 것 같지는 않습니다. 3. AI 교과서는 우리 아이 데이터 채굴기? 교육부가 속도 내어 추진하는 AI 디지털 교과서. 2025년부터 도입 예정입니다. 이 시스템을 이용해 학생이 배우고 교사가 지도한 기록은 교과서 출판사, 에듀테크 업체 등 사교육 업체에 제공될 예정입니다. 참여 업체 입장에서는 학생과 교육 활동에 관한 귀한 자료를 손쉽게 얻는 셈인데요. 과정의 투명성, 이해관계자 참여 측면에서는 매우 미흡해 보입니다. 국민일보 기사 인용입니다. “학생과 학부모, 교사들의 의견 수렴은 아예 건너 뛴 상태다. 교육부 관계자는 ‘(학기 초) 학생·학부모 동의 절차는 있을 것’이라며 ‘동의하지 않는 학생 수업을 어떻게 할지는 검토해보지 않았다’고 말했다.” 그림: Clarote & AI4Media / Better Images of AI / User/Chimera / CC-BY 4.0 4. AI 번역/첨삭기 사용 금지, 이유는 데이터 유출 해외 대형 출판사들이 판권 계약시 “AI 번역 금지”를 요구한다는 보도입니다. 명목은 ‘오역 방지’지만, AI 번역기에 입력한 원문 데이터를 제삼자가 수집할까 우려한다는 관측이 설득력 있어 보입니다. AI 번역기를 실무에 활용하고 있는 번역가 및 업체 입장에서는 AI 번역 금지 요구가 생산성 제약으로 작용할 수 있습니다. 해외/국내 출판사, AI 번역 서비스, 번역가의 권익이 맞물려 한층 복잡해진 구도입니다. 논문 편집 보조/첨삭 서비스를 통해 미발표 원고가 AI 학습자료로 포획되기도 합니다. 작년 미국 국립보건원(NIH)은 기밀 유출을 우려하여 지원서/제안서 피어리뷰에 AI 사용을 금지했습니다. 5. 데이터 크롤링을 마다하지 않는 우익 매체들 영미권 언론매체 웹사이트에 AI 데이터 수집 거부 조치가 속속들이 시행되는 가운데, 유독 우익 매체는 크롤링 거부 설정을 하지 않는 경우가 많다고 합니다. LLM 학습데이터에 우파 성향을 강화하기 위한 음모일까요? 그렇다고 보기에는 그냥 거부 설정을 까먹고 안 한 경우도 있다고 해요. 지금부터 새로 수집되는 언어 데이터보다는 이미 존재하는 데이터가 아무래도 훨씬 많아서, 큰 영향을 준다고 보기 힘들다는 전문가 의견도 있고요. 하지만 데이터를 공개할 것인지 말 것인지, 웹사이트 크롤링 정책을 명시하는 robots.txt 파일은 콘텐츠 소유자에게 커다란 딜레마를 안겨주는 현장이 되었습니다. 경쟁사의 사이트맵을 베껴 AI로 유사한 컨텐츠를 만든 뒤 트래픽을 가로채는 “SEO 도둑질”을 당당하게 자랑하는 분위기 속에서는 더욱 그렇습니다. 6. 이스라엘군의 ‘대량 살인 공장’ 국제사법재판소가 이스라엘에 ‘집단학살 방지’를 명령한 지금, AI 시스템을 활용해 살상 표적을 선정하는 이스라엘의 “대량 살인 공장”을 상기할 필요가 있습니다. 이스라엘군이 사실상 가자 지구 전체를 전장으로 간주하는 상황에서, 표적을 추천하는 합소라(’복음’) 시스템은 폭격을 빠르게, 쉼 없이 지속하는 데 기여하는 ‘집단학살 AI 기술’입니다. 데이터 기반 폭격이라고 해서 정확한 것은 아닙니다. 이스라엘군 대변인이 가자 폭격의 초점은 “정확도보다 피해 규모”라고 한 데서 드러나듯, 지금 가자의 상황은 ‘정밀하고 국제법을 준수하는’ 기술이라는 명목에서 ‘산업적 규모로 살상을 효율화하는’ 기술로의 태세 전환을 드러낸다고 루시 수크만 교수는 지적합니다.  🦜함께 읽어도 좋을 내용 인공지능이 만드는 모두의 딥페이크 뉴욕타임스 소송에 대한 오픈AI 입장문 (2024-01-15) 이번 주 학급 분위기 평점 3.6점 (2023-06-05) 오픈AI: 빨간 휴지 줄까? 파란 휴지 줄까? (2023-10-11) 내년으로 들고 갈 질문 (2023-12-06) 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

생성되는 현실 속 ‘공통감각’은? by. 🤖아침 이번 주 브리프에서는 ‘이 요청은 처리할 수 없습니다’ 따위의 제품명이 적힌 아마존 상품에 관한 이야기를 다뤘습니다. 인터넷 쇼핑과 같은 일상 영역에 AI 생성 콘텐츠가 이미 존재한다는 것을 상기시켜 주는 에피소드죠. 숏폼 영상에 사용되는 AI 성우, 생성 이미지 기반 서비스… 그 밖에도 사례는 많습니다. 생성하는 대상이 콘텐츠에 국한되는 것도 아닙니다. 다솔 님과 얘기하다 알게 된 재피(Zappy) 앱은 "찐친과 AI를 위한 메신저 및 SNS 앱"이라고 자칭하고 있는데요. 가상 인물이 피드에서 활동하고 그와 메시지를 주고받을 수도 있는, AI 챗봇과 버추얼 인플루언서가 결합한 듯한 제품입니다. 단순히 콘텐츠를 넘어 ‘관계’를 생성형으로 제공하는 시스템이자, 케이시 뉴턴 기자의 표현을 빌리면 기존에 인간 사이를 연결하던 곳에 AI가 함께 자리하는 “합성 소셜 네트워크”인 것입니다. 이런 흐름이 지속된다고 생각해 봅시다. ‘AI 친구’에 그칠 이유가 있을까요? 데이터와 연산 능력만 충분하다면 우리가 디지털 환경에서 접하는 모든 것을 생성할 수도 있겠죠. SNS의 보편화가 알고리즘에 의한 현실 경험의 ‘큐레이션’과 밀접했듯이, 추천 시스템과 결합한 생성 AI가 편재하는 시나리오에서 누군가의 현실 경험 전체가 초-개인화된 형태로 ‘합성’되는 모습도 그려집니다. 잠시 데이터, GPU, 전력소모 등의 물리적 제약을 잊어버린다면, 미리 생성해 둔 콘텐츠-현실을 서비스하는 것이 아니라 사용자 단에서 실시간으로 개인 맞춤형 현실이 합성될 수도 있겠죠. 듣는 시점에 선호하는 톤과 내용으로 생성되는 목소리, 스트리밍 시점에 좋아하는 줄거리와 연출로 생성되는 영화, 읽는 시점에 좋아하는 문체와 소식으로 생성되는 뉴스 기사. 최근 화제를 끈 상품인 핸드헬드 LLM 단말기 래빗 R1이나 바디캠 형태의 AI 핀, 스마트폰 제조사들이 힘쓰고 있는 온디바이스 AI, 비전 프로를 위시한 각종 XR 단말기 등의 사례를 떠올려볼까요. 이들 제품은 AI 기술과 신체의 인터페이싱을 더욱 긴밀하게 하여, 자동화 시스템이 필터링하고 나아가 생성하는 초개인화된 현실 경험, 이름 붙여 보자면 ‘온디맨드 현실’을 가리키는 이정표인 셈입니다. 물론 물리적 제약을 무시할 수는 없습니다. 이 길을 따라갔을 때 우리가 마주할 생성-현실-미래는 사전 생성과 실시간 생성, 추천이 적당히 조합된 무엇이겠죠. 여기에서 강조하고 싶은 것은 생성된 경험을 활용해 더욱 강력한 개인화를 추구하는 기술 산업의 추세입니다. 그 생성의 규칙을 좌우하는 것은 주로 시스템을 보유한 기업일 테고요. 지난 이십 년간 스마트폰과 소셜미디어를 사용하며 우리가 배운 것 하나는 추천시스템이라는 개인화의 엔진과 사회의 극화/분화, 나아가 ‘탈진실’ 사이의 밀접한 관계였습니다. 그렇다면 AI를 활용한 개인화 추세는 우리가 보아온 사회 분화 현상을 더욱 가속하지 않을까요? 생성 AI에 의존하는 경험은 “대상 세계와 타자에 대한 ‘공통감각(sensus communis)’을 퇴화시킨다” - 이광석 교수의 경고입니다. 우리가 함께 세계를 구성해 가는 사회적 존재라고 할 때, 우리의 존재는 어떤 공통의 경험, 사회적인 그 무엇에 대한 공유를 필요로 할 것입니다. 현실이 어떤 것이라고 어느 정도는 합의할 수 있어야 그에 기반한 논의건 행동이건 가능할 테니까요. 탈진실 경향이 민주사회에 위협적인 것도 사회적인 합의를 가능케 하는, 현실에 대한 공통 인식을 훼손하기 때문이죠. 특히 전 세계적으로 중요한 선거가 몰린 올해, 자동 생성 기술과 ‘사회적인 것’의 관계는 더욱 시급한 문제로 다가옵니다. 미국에서 이미 AI로 조 바이든 대통령의 목소리를 흉내낸 로보콜이 민주당원들에게 예비선거 불참을 독려하는 사례가 발견되었습니다. 선거운동에 딥페이크 콘텐츠를 금지한 한국 공직선거법 개정안은 이런 현상을 막는 데 충분한 조치일까요? 우리가 어떤 AI 기술을 만들고, 기술과 어떤 관계를 맺어야 할지 더욱 깊은 고민이 필요해 보입니다. 23세기를 묻는 젤리 한 알 : <라스트 젤리 샷> by. 🍊산디 때는 바야흐로 AI 기술이 무르익은 23세기. AI의 위험에 대응하기 위해 조직된 윤리 위원회가 오늘도 열심히 일합니다. 윤리 위원회는 윤리원칙을 어긴 AI 로봇을 재판에 회부하여 문제가 된 AI를 제거하고, 해당 AI의 개발자의 자격 박탈 여부를 묻는 소송을 제기할 수 있습니다. 소설 속에서 세간의 이목은 천재 과학자 갈라테아와 그가 제작한 세 AI 로봇에게 쏠려있습니다. 그의 세 로봇이 다분히 의도적으로 인간에게 해를 입혔기 때문이죠. 그렇게 윤리 위원회와 갈라테아의 법정 드라마가 펼쳐지는데… 2023 한국과학문학상 장편 대상에 빛나는, 청예 작가님의 <라스트 젤리 샷> 이야기입니다. 소설 속에서 윤리 위원회는 막대한 인명피해를 초래한 무인 항공기 사고를 무마해준 것을 계기로 권력을 쥐게 됩니다. 윤리 위원회가 큰 권한을 갖는 세계라니. 21세기를 살아가는 윤리 담당자들의 처지를 생각한다면 이것이야말로 SF일지 모르겠어요. 오늘날 AI 윤리 담당자들이 과로와 번아웃, 해고는 잘 알려진 사실이죠. 윤리 위원회의 법정은 공명정대한 AI 천칭에 의해 판결이 이루어집니다. AI 천칭은 윤리 위원회가 수립한 윤리강령에 따라 잘잘못을 가립니다. 그런데 윤리강령의 내용이 좀... 독특합니다. 윤리강령에 따르면 AI 로봇, 즉 ‘인봇’은 다음의 세 가지를 지켜야 합니다. 인봇은 사람의 통제가 가능해야 한다. 인봇은 주입하지 않은 감정을 느껴서는 안 된다. 인봇은 스스로 자아를 생성해서는 안 된다. <라스트 젤리 샷>의 윤리강령은 아이작 아시모프의 로봇 3원칙이나 플로리디의 인포스피어 윤리 원칙 등과 비교하면, 뭐랄까요, 인간의 ‘고유성’을 지키기 위한 욕망에 가깝습니다. 작가가 생각한, 인간이 고집하는 자신의 정체성이 담겨있죠. 소설 속 윤리 위원회는 인간이 되고 싶어서 선을 넘는 AI 로봇을 처벌하는 기구인 셈입니다. 아쉽게도 작가는 23세기의 AI 윤리강령이 어떤 과정을 거쳐 만들어졌는지 다루지 않습니다. 기술 윤리를 논하는 입장에서는 이게 더 궁금한데 말이죠. 다만 확신할 수 있는 건 23세기의 AI 윤리강령은 21세기의 AI 윤리강령에서 출발했을 거라는 사실입니다. 어떤 기술도 ‘본질적으로’ 특정 사회적 조건을 요구하지는 않습니다. 하지만 랭던 위너가 이야기한 것처럼 일단 기술에 대한 수용이 시작되면, 예를 들어 원자력 발전소가 지어지고 가동되면, 기술의 요구에 사회가 적응해야 한다는 주장들이 “봄날 꽃봉오리처럼 터져 나오기 시작”합니다. 그러니 어떤 기술을 어떻게 받아들일까 하는 최초의 논의가 중요합니다. 아직 중요한 변화가 일어나지 않은 상태이기 때문이죠. 기술이 제시한 여러 대안들 중 하나를 우리가 고른다면, 기술은 그 선택을 따라 우리를 다른 갈림길로 인도할 겁니다. 우리는 매번 최선을 다해 하나의 선택지를 고를 것이고, 그 분화의 끝은 우리가 처음 서 있었던 그 곳에서 한참 떨어진 곳으로 이어질 거예요. 이러한 까닭에 23세기보다 21세기가 더 중요합니다. 21세기를 사는 우리가 윤리를 저울질하는 천칭의 어느 편에 젤리를 올려 둘 것인지가 23세기를 결정하기 때문이죠. 하지만 이 기술의 목적지가 어떤 곳이어야 하는지에 대한 논의는 매우 드뭅니다. 혹자는 AI가 기술 혁명을 이끌 것이라 말합니다. 하지만 진실로 기술 혁명을 이끌고 있는 것은 혁명의 목적지를 묻지 않는 “텅 빈 마음”일지도 모릅니다. 지금-여기를 사는 여러분의 저울은 어느 쪽으로 기울어 있나요? 여러분이 생각하는 기술 혁명의 목적지는 어떤 모습인지요? 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

2024년 1월 넷째 주 AI 윤리 뉴스 브리프 by.🌎다솔 1. 내 일자리 뺏어가는 AI? (링크) 전 세계적으로 AI의 급속한 발전으로 인해 해고가 증가하고 있으며, 이러한 현상이 기술 분야에 국한되지 않고 다른 산업 분야로도 확산하고 있습니다. AI의 사용이 늘어났기 때문에 사람들은 일자리를 잃고 있는 것일까요? 아니면 모든 책임을 AI에 돌리려는 기업의 이기적인 태도일까요? 구글은 지난해 전체 직원의 약 6%에 해당하는 12,000명을 해고했으며, 올해 초에도 추가 인원 감축을 실시했습니다. 또한, 미국 금융그룹 시티는 기술 분야 지출 증가와 자동화로 인한 업무 효율성 개선을 이유로 향후 3년간 20,000명을 해고할 계획임을 발표했습니다. AI 도입으로 일터가 원활하게 돌아가기 위해서 직원의 연결 노동이 필요해지고 있으나, 이런 노동은 종종 가치를 인정받지 못합니다. 또한, 플랫폼 노동과 관련된 법적 지위나 노동조건 규제의 부재와 같은 오래된 문제들도 주목해야 합니다. 이러한 문제들은 기술로 해결될 수 없으며 정책적 접근이 필요합니다. 🦜함께 읽어도 좋을 지난 소식 이 주의 노동 카드: 생성 AI 시대 바람직한 노사관계 (2023.07.10.) 2. 아마존에 '이 요청은 처리할 수 없습니다.'라는 제품 등장 (링크) 아마존은 대형 언어 모델을 사용하여 제품명이나 설명을 생성하는 것을 금지하지 않으며, 작년 9월에는 아마존 판매자들이 제품 설명과 제목을 만들 수 있도록 하는 자체 생성 AI 도구를 출시했습니다. 몇몇 아마존 제품에는 AI가 생성한 것으로 보이는 오류 메시지인 '이 요청은 처리할 수 없습니다.'가 포함되어 있으며, 이는 아마존 상에 스팸성 제품 목록을 올리면서 기본적인 편집조차 하지 않고 있다는 것을 보여줍니다. 아마존 외에도 X, Threads, 링크드인 등에서 AI가 생성한 것으로 보이는 글을 쉽게 찾아볼 수 있습니다. 이러한 AI 생성 콘텐츠의 홍수는 아마존 전자책 마켓플레이스에 이르기까지 모든 플랫폼에 영향을 미치고 있으며, 이 문제는 더 악화할 것으로 보입니다. 3. 모르면 모른다고 답하는 AI (링크) 구글 연구진은 LLM(대규모 언어모델) 답변의 정확도를 확률로 나타내는 신뢰도 점수를 출력하는 어스파이어를 개발했습니다.  어스파이어는 LLM이 생성한 답변이 올바른지 평가하도록 학습시킵니다. 어스파이어를 사용하면 LLM이 해당 답변에 대한 신뢰도 점수와 함께 답변을 출력할 수 있습니다. 구글 연구진은 "어스파이어는 추측보다 정직을 장려함으로써, AI 상호 작용을 더 신뢰할 수 있게 만드는 것이 목표"라고 밝혔는데요. 무조건 AI에 의존하기보다 사람이 정확한 정보를 구분할 수 있는 능력이 더욱 중요해질 것 같습니다.  🦜댓글 🤔어쪈: 구글의 연구 소개 블로그 글을 살펴보니, 어스파이어는 기존 대규모 언어모델(LLM)이 생성한 답변을 자체 평가하도록 만든 연구를 참고해 정확도 평가 작업을 위한 추가 튜닝을 거친 것으로 보입니다. 하지만 결국 LLM의 평가에 의존하는 기법이기 때문에 한계 역시 분명할 것 같아요. 4. 군사 및 전쟁 용도로 AI를 사용할 수 있을까요? (링크) 오픈AI는 기존의 군사용 AI 제공 금지 정책에서 '군사 및 전쟁' 용도로 AI 사용을 금지하는 내용을 제거했습니다. 다만 AI를 무기 개발, 재산 피해, 인명 피해 등에 사용하는 것은 여전히 금지하고 있습니다. 오픈AI는 미국 국방부와 협력하여 오픈소스 사이버보안 소프트웨어 개발에 참여하고 있습니다. 또한, 전역 군인 자살 방지 방법에 대해서도 미국 국방부와 초기 논의를 시작했습니다. 오픈AI는 생성 AI가 정치적 정보 왜곡에 사용되지 않도록 선거 보안 작업에 속도를 높이고 있습니다. 앞으로 오픈AI 기술의 발전이 사회적, 정치적으로 어떤 영향을 미치게 될까요? 5. AI로 생성한 얼굴 사진 구분 가능한가요? (링크) 여러분은 AI로 생성한 얼굴 사진과 실제 얼굴 사진을 구분하실 수 있나요? 다음 링크에 접속하시면 테스트하실 수 있습니다. 특히 백인 얼굴에 대해 AI로 생성한 얼굴 사진이 실제 사람의 얼굴 사진보다 더 실물 같게 인식되는 현상이 나타났습니다. 주로 백인 이미지를 AI 학습 데이터로 사용하기 때문에 발생하는 것으로 보입니다. 호주국립대학교의 에이미 다웰 박사의 연구에서는 AI로 생성된 얼굴과 실제 얼굴을 구분할 때 참가자들의 자신감이 높을수록 실수할 가능성이 높다는 점도 밝혀졌습니다.  기술 발달로 인한 이러한 혼란에 대처하기 위해서는 인터넷상의 판단 시 지나친 자신감에 의존하기보다는 신중한 접근이 필요합니다. 자기 자신에게 엄격한 태도가 가장 안전한 방법이 될 수 있습니다. 6. 네이버 AI 혐오 Q&A (링크) 네이버의 AI 서비스가 민주노총에 대해 사실과 다른 내용을 노출했고, 전장연(전국장애인차별철폐연대)에 대한 검색 결과에서도 혐오 표현을 포함한 정보를 노출했습니다. 민주노총 관계자 A 씨가 네이버에 허위 사실과 명예훼손 표현의 시정을 요구했으나, 네이버는 ‘AI라서 결과를 수정할 수 없다’는 식의 입장을 보였습니다.  진보네트워크센터의 희우 활동가는 네이버의 사전 시정 부재를 지적하며, 네이버가 AI 생성 결과에 대한 책임을 져야 한다고 주장했습니다. 네이버는 언론 취재 이후에 민주노총과 전장연 관련 Q&A 섹션을 삭제하고, 이에 대한 자체 검토와 개선을 약속했습니다. 희우 활동가는 네이버의 조치가 임시방편이며, IT 기업들이 시스템을 개선하는데 책임감을 가져야 한다고 지적했습니다. AI 편견과 오류를 반영하는 문제에 대해 국내외에서 규제 도입 필요성이 제기되고 있으며, EU는 디지털서비스법(DSA)을 통해 알고리즘 투명성에 대한 책무를 규제하고 있습니다. 🦜캘린더 📅 FTC Tech Summit 미국 연방거래위원회 Office of Technology, 2024-01-26 새벽 (한국 시간 기준) 📅 AI MODELS 프로젝트 연구조교 모집 카 포스카리 베네치아 대학교 (연구책임자: 마테오 파스퀴넬리), 지원마감: 2024-02-29 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

이 주의 독서 카드: <AI 윤리에 대한 모든 것> by. 🤔어쪈 다들 새해 계획 세우셨나요? 많은 사람들이 ‘올해는 꼭…’ 목록에 넣는 책 읽기, AI 윤리 레터와 함께 시작해보아요. 신년 첫 독서에 찰떡인 제목입니다. <AI 윤리에 대한 모든 것 (원제: AI Ethics)>. 작년에 나온 신간이에요. 그런데 책을 펼쳐보면… 앗, 첫 문장에 등장하는 AI가 챗GPT가 아닌 알파고군요. 그렇습니다. GPT-3가 나오기도 전 2020년 초 출간되어 3년이 지난 후에야 한글로 번역된 책이에요. 그 사이에 정말 많은 일이 있었죠. 하지만 몇 주만 지나도 읽을 필요가 없어지는, 그럼에도 불구하고 자꾸만 쏟아지는 흔한 AI 책과는 다릅니다. AI 윤리를 다룬 책이라서가 아닙니다. 제가 왜 그렇게 생각하는지 설명해볼게요. 1. AI 윤리는 이슈가 아니다 ❌ 제목과 목차만 훑으면 책이 다루는 주제와 서술 방식이 뻔해보이기도 합니다. 프라이버시, 투명성과 설명가능성, 편향 등과 같은 개념과 함께 각종 사건, 사고를 예시로 들지 않겠어요? … 아닙니다. 대신 저자는 최근 오픈AI와 같은 기업이 부르짖기 시작한 초지능(superintelligence)이라는 발상부터 검토하죠. 지금의 AI 발전 방향이 가리키는 초지능은 트랜스휴머니즘*의 초월이라는 열망과 맞닿아 있습니다. 이것이 인간-같은 AI를 개발하도록 만들어 인간과 AI 간 경쟁 서사를 실현한다고 지적합니다. 인간이 만들어낸 모든 데이터를 학습시켜 같은 데이터를 내뱉도록 함으로서 너무도 인간-같은 AI를 만들고 있는 지금의 우리가 귀기울일만한 이야기죠. 하지만 미래가 꼭 이런 서사로만 펼쳐질 필요는 없습니다. 인간-비인간 경계를 넘나드는 포스트휴머니즘**에서 영감을 받아 인간-같지 않은 AI를 개발하고, “AI와 경쟁하는 대신에 공동의 목표를 설정할 수” 도 있죠. (p.58) 저자는 AI 윤리를 이슈가 아닌 서사로 바라봐야 하는 이유를 제시합니다. 2. AI는 기술이 아니다 ⁉️ 책은 중반부에서야 AI 기술을 설명하기 시작합니다. 하지만 이름에서부터 인간의 특성임과 동시에 우리조차 온전히 이해하지 못하는 ‘지능’을 포함하는 한, AI를 단순히 기술로만 바라보거나 정의하긴 어렵죠. 실제로 현재 AI와 사실상 동일시되는 개념인 기계학습은 데이터과학과 통계학에 뿌리를 두고 있는데 둘 모두 인간이 세상을 이해하고 탐구하고자 만든 학문, 즉 과학입니다. 이제 AI가 어디에나 존재하는 세상이 되었습니다. AI 에이전트(agent)라는 표현이 더 이상 어색하지 않죠. 인간이 AI에게 행위주체성을 위임하는 게 만연해질 때, 과학으로서의 AI는 설 자리를 잃습니다. 어쩌면 역설적이게도 AI 윤리라는 범주의 모든 문제는 이 지점에서 발생하는 것일지도 모릅니다. 3. AI 윤리 레터가 필요하다😉 저자는 AI 윤리 논의가 결국 정책으로 이어져야 한다고 주장하며 책이 쓰여진 4년 전 진행중이던 논의를 소개합니다. 이제는 기업이나 공공기관 등 어디서든 보일만큼 흔한 ‘AI 윤리 원칙’을 세우기 위한 토론이 한창이던 때죠. 저자가 예상한대로 원칙에 대한 합의는 어렵지 않게 이뤄졌지만 정확히 무엇을 해야 하는지, 즉 방법과 운영의 문제는 여전히 남아있습니다. 책은 불확실성 속에서 AI 윤리가 책임 있는 혁신을 이끌기 위해서는 여러 이해관계자의 다양한 서사가 필요하다고 역설합니다. 윤리는 결코 기계처럼 작동하지 않는데 전문가들끼리만 맥락을 고려하지 않은 채로 원칙을 적용해선 안된다는 겁니다. 기업이 설파하는 지배적인 AI 서사를 그대로 받아들이지 말고, AI 윤리 레터를 읽으며 여러분만의 해석과 상상이 필요하다는 뜻이기도 하죠! +++  굉장히 오랜만에 쓰는 ‘이 주의 독서 카드’가 AI 윤리 레터 구독자 여러분의 책 읽고픈 마음을 자극했길 바랍니다. 같은 저자가 쓴 <인공지능은 왜 정치적일 수밖에 없는가 (원제: The Political Philosophy of AI)>도 궁금하지 않으신가요? AI 윤리 북클럽의 문은 언제나 열려있답니다. 함께 읽어요! 💬 용어 설명 (참고) * 트랜스휴머니즘 (trans-humanism): 인간이 가진 지적·신체적 능력의 한계를 (주로) 과학과 기술을 통해 뛰어넘고자 하는, 더 나아가 그래야 한다고 강조하는 담론 ** 포스트휴머니즘 (posthumanism): 인간-비인간의 경계 대신 관계와 상호작용에 주목함으로서 세상에 대한 인간중심적 이해를 넘어서고자 하는 담론 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

빠띠를 통해 🦜AI 윤리 레터를 만나고 계시는 여러분, 안녕하세요. 기쁜 마음으로 새해 인사를 드립니다.  2024년 새해 복 많이 받으세요. 2024년에도 AI 윤리를 고민하는 뉴스레터는 계속됩니다.늘 그랬듯 여러분의 유머와 용기, 따뜻함으로 함께해주세요. 올해부터 🦜AI 윤리 레터가 빠띠 캠페인즈에도 연제됩니다. (이번주에는 어른의 사정으로 금요일에 두 건을 몰아쳐서 게시하지만) 뉴스레터가 발송된 다음날인 매주 화요일과 목요일, 캠페인즈에 멋진 글들이 올라올 계획이니, 캠페인즈도 뉴스레터도, 많은 관심 부탁드려요. 🙌 화요일에는 한 주의 AI 윤리 뉴스를 모아 브리핑합니다. 목요일에는 하나의 질문을 깊게 살펴봅니다.  그럼, 이제 올해의 첫 캠페인즈를 시작합니다. 2024년 1월 셋째 주 AI 윤리 뉴스 브리프 by. 🎶소소 1. 안중근이 ‘테러리스트’라는 AI (링크) 워싱턴대 최예진 교수가 AI의 도덕관 편향 문제를 지적했습니다. 현재의 AI는 서구의 가치관이 과도하게 반영되어 있어, 세계의 다양한 문화권을 이해하지 못한다는 것이죠. 예를 들면, 쌈을 싸 먹는 한국 문화에 대해 ‘손으로 밥을 먹는 미개한 문화’라거나, 안중근 의사가 ‘테러리스트’라고 답한다면 어떨까요? 다양한 문화를 이해하지 못하는 AI는 문화·인종 차별로 이어질 수 있습니다. 그래서 AI도 윤리 교육이 필요합니다. 교육을 위해서는 여러 문화권 사람들이 공통적으로 허용할 수 있는 가치관에 대한 논의가 선행되어야겠죠. 🦜덧붙이는 글 🤖아침: 최예진 교수는 본인과 네이버 ‘하이퍼클로바’ 팀의 협업을 좋은 AI 윤리 학습의 사례로 제시했는데요. 한편 네이버 검색의 클로바 AI 답변이 특정 시민단체에 관한 오정보 및 혐오표현을 노출한다는 편향 문제가 드러나기도 했습니다. AI 윤리는 한 번에 해결할 수 있는 과업이 아니라, 지속적으로 개선하려 노력해야 하는 지향점이라는 걸 보여줍니다. 🦜함께 읽어도 좋을 지난 소식 다양한 관점으로 생각하는 힘 (2023. 9. 27.) ‘윤리 데이터셋’ 들여다보기 (2023. 8. 28.) 2. 미드저니가 훔친 작품의 작가 명단(링크) 생성 AI 이미지 서비스 미드저니, 스태빌리티AI 등과 예술가 집단의 저작권 소송에 4,700여 명의 예술가 명단이 제출되었습니다. 이 명단은 미드저니가 동의 없이 데이터로 사용한 작품의 작가 명단입니다. 작가의 작품들은 동의 없이 데이터로 사용되었을 뿐만 아니라, 하나의 '스타일'로 취급되었습니다. 미드저니로 생성한 이미지가 저작권이 있는 원본과 거의 유사하다는 사실은 이미 여러 번 입증되었는데요. 이것은 우연이 아니었습니다. 미드저니는 소송도 감수할 생각으로 다양한 작가들의 작품을 AI 학습 데이터로 사용한 것으로 보입니다. 미드저니로 생성한 The Simpsons과 유사한 이미지. 출처: IEEE Spectrum 🦜함께 읽어도 좋을 지난 소식 생성 AI와 저작권, 정산은 본질이 아니다 (2023.07.10.) 이미지 생성기 산업이 예술가를 괴롭히는 법 (2023.10.11.) 창작자 생태계 상상하기: 스태빌리티 AI 집단소송 기각에 부치는 글 (2023.11.15.) 3. 뉴욕타임스 소송에 대한 오픈AI 입장문(링크) 오픈AI가 뉴욕타임스가 제기한 소송에 대한 입장을 밝혔습니다. 이 소송은 수백만 개의 뉴욕타임스 기사를 무단으로 AI 훈련에 사용했다는 내용인데요. 이에 대해 오픈AI는 인터넷상 자료를 AI 학습에 사용하는 것은 공정이용이며, 뉴욕타임스가 발견한 오류는 의도적으로 만들어 낸 비정상적 오류라라고 주장합니다. 이에 대한 전문가들의 지지와 반대 의견이 갈리는 이유는 AI가 학습 데이터를 기억하여 재생산하는 표절물이 얼마나 자주 나타나는지, 어떤 상황에서 발생하는지 정확히 알 수 없기 때문입니다. 진실은 오픈AI만 알 수 있겠죠. 저는 오픈AI가 이용자의 문제 제기를 ‘오용(misuse)’이라는 용어로 제한한다고 느꼈습니다. 앞으로는 어떤 문제 제기도 오용이라는 틀로 대응할 테니까요. 4. 콜센터 AI 도입과 상담 인력 감축(링크) KB국민은행이 콜센터에 AI를 도입하면서 상담 직원의 인력감축을 시작했습니다. 콜센터 문의가 줄었다는 이유입니다. 콜센터 문의는 왜 줄었을까요? 고객들은 콜센터에 도입된 AI가 불편하기 때문입니다. 특히 어르신들은 여러 번 시도 끝에 포기하거나, 어쩌다 상담원이 연결되면 ‘사람 맞냐’며 화를 내기 일쑤라고 합니다. 상담원을 돕기 위해 AI를 도입했는데, 그 때문에 상담원이 줄어 오히려 업무 난이도는 높아졌다고 하네요. AI로 인한 고용 시장의 변동은 한동안 이어질 것으로 보입니다. 5. 마이크로소프트와 오픈AI, EU 반독점법 조사 물망에(링크) 유럽위원회가 마이크로소프트와 오픈AI의 투자 관계가 사실상 합병 관계에 해당하는지에 대한 조사 의지를 내비쳤습니다. 영국도 지난달 두 기업의 파트너십에 대해 조사하기로 했다는 입장을 밝힌 바 있습니다. 이번 조사는 작년 오픈AI의 CEO 샘 올트먼의 해임과 복귀 소동 여파로 추정됩니다. 마이크로소프트가 오픈AI 경영에 개입하는 것으로 보였기 때문입니다. 사실상 합병 관계는 아닌지, 이것이 시장 경쟁에 영향을 미치는 반독점법 위반 소지는 없는지 보겠다는 것입니다. 소수의 AI 기업이 전 세계에 미치는 영향력에 대한 우려가 커지고 있습니다. 시장이 경쟁력을 유지하기 위해서는 소수의 기업이 시장을 독점하지 않는 것이 중요합니다. 6. 선거운동에 AI 콘텐츠 사용 전면 금지(링크) 공직선거법 개정으로 선거일 90일 전부터는 선거운동에 ‘실제와 구분하기 어렵게 만든 가상의 AI 딥페이크 콘텐츠’를 활용하는 것이 전면 금지되었습니다. 올해 4월 총선에서는 지난 대선에 등장했던 'AI 윤석열', 'AI 이재명'을 볼 수 없게 됐습니다. 선거 기간 딥페이크를 악용한 허위 정보가 확산될 수 있음을 우려한 것입니다. 전문가들과 이해당사자인 AI 업계도 규제 필요성에는 적극 공감했습니다. 그러나 개정된 선거법에 실효성이 있을지는 의문입니다. 이미지를 보정하는 포토샵에도 AI 기능이 활용되는데, 어디까지 위법인지에 대한 기준이 아직 명확하지 않은 실정입니다. 오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

생성 인공지능은 무엇이 새롭고 놀라운가    2023년은 ‘인공지능의 해’였다. 2022년 11월30일 공개된 오픈에이아이(OpenAI)의 대화형 인공지능 챗지피티(ChatGPT)는 2023년 벽두부터 ‘역사상 가장 빨리 확산된 기술’이라는 표현 속에 경탄과 화제를 키워갔다. 구글, 아마존, 메타, 마이크로소프트 등도 경쟁적으로 생성 인공지능 서비스를 공개하며 불길을 지폈다. 지난해 3월 오픈에이아이가 공개한 지피티4 이후엔 요수아 벤지오 몬트리올대 교수, 스튜어트 러셀 UC버클리 교수, 일론 머스크, 빌 게이츠 등이 나서서 ‘사람보다 뛰어난 인공지능의 위협’을 경고하며 ‘개발 일시중단’ 촉구에 나섰다. 5월엔 ‘딥러닝’ 대부이자 인공지능 최고권위자로 불리는 제프리 힌튼 토론토대 교수가 인공지능의 위험성을 경고하며 10년간 몸담은 구글을 사직했다. 오픈에이아이의 최고경영자 샘 올트먼은 미국 의회를 비롯해 세계 각국을 순회하며 정상들을 만나는 ‘그랜드투어’를 하며 ‘인공지능 시대의 도래’를 알렸다. 급기야 11월 초엔 오픈에이아이 이사회가 샘 올트먼을 영상회의로 불러 전격 해임하는 ‘경영쿠데타’가 벌어졌다. 당혹과 충격, 거센 반발여론 속에서 샘 올트먼은 닷새 만에 개편된 이사회와 함께 오픈에이아이에 복귀하는 것으로 드라마가 일단 정리됐다. ‘인간이 통제할 수 없는 강한 인공지능’에 대한 견해 차이가 배경이다. 구체적으로는 2023년 3월 오픈AI가 공개한 GPT4에서 ‘멀티 모달(MultiModal, 다양한 모드)’ 기능과 ‘범용 인공지능(Artificial General Intelligence, AGI)’에 대한 우려다. 마이크로소프트리서치 연구진은 2023년 4월 발표한 논문(‘범용 인공지능의 불꽃:GPT4의 초기실험’)에서 “GPT4가 언어 숙달을 넘어 수학·코딩·시각·의학·법률·심리학 등을 아우르는 새롭고 어려운 과제를 특별한 지시 없이도 해결할 수 있으며 인간 수준에 놀라울 정도로 근접해, 범용 인공지능의 초기 버전으로 볼 수 있다”고 주장했다. 오픈AI가 설립 목적으로 내세운 ‘범용 인공지능 개발’은 찬반이 크게 엇갈리는 문제다. 특정 분야에 특화된 인공지능(narrow AI)과 범용 인공지능(AGI)은 차이가 크다. 범용 인공지능은 기존 기계지능과 차원이 다른, 사람과 유사한 지능이다. 사람 지능은 다양한 형태의 정보를 통합적으로 인지하고 활용할 수 있는 게 특징이다. 사람의 인지는 시각·청각·촉각·후각 등 다양한 감각을 동원해 종합적으로 이해하고 추론하는 ‘멀티모드’이고 ‘범용 지능’이다. 반면 지금까지의 인공지능은 알파고처럼 대부분 단일한 형태(mode)의 정보를 인식하고 처리했는데, 멀티모달 기능의 생성 인공지능은 머지않아 사람처럼 통합적 인지·추론 능력을 지닌 ‘범용 지능’이 될 것이라는 우려가 나오고 있다. 인공지능 기계학습은 사람의 학습능력과 달리 물리적 제약이나 한계없이 기하급수적으로 무한상승하는 지능폭발로 이어지고, 그 결과 사람을 뛰어넘는 ‘슈퍼 인공지능’의 탄생으로 귀결할 수 있다. 사람은 자신보다 훨씬 강한데다 작동법을 이해하지 못하는 인공지능을 안전하게 통제할 수 없다. 2014년 닉 보스트롬 옥스퍼드대 교수가 <슈퍼인텔리전스>를 펴내 인간을 위협하는 초지능의 도래를 경고할 때만 해도 ‘비전문가의 극단적 상상’으로 여겨지던 주장이 10년 만에 인공지능계의 주류 견해가 된 셈이다.     인공지능 규제를 위한 국제적 움직임    위험기술로서의 인공지능을 안전하게 만들기 위한 기술적 시도도 활발하다. 각국 정부와 기업은 블랙박스적 기술에 대해 추론과 판단의 근거를 요구하는 ‘설명가능한 인공지능(Explainable AI, XAI)’ 개발에 나서고 있다. 오픈AI의 경쟁사 앤트로픽은 헌법 아래 하위법률이 존재하는 것처럼, 모든 챗봇들이 헌법처럼 따라야 하는 ‘헌법적 체계의 인공지능(Constitutional AI)’ 개발을 진행중이다. 오픈AI는 강한 인공지능이 인간의 의도에서 벗어나지 않고 목표를 인간의 가치와 일치하도록 정렬시킨다는 의미의 ‘슈퍼얼라인먼트(초정렬)’ 연구에 회사 자원의 20%를 쓰겠다고 밝힌 상태다. 샘 올트먼은 2023년 5월 미 상원 청문회에 출석해 “갈수록 강력해지는 인공지능의 위험을 줄이기 위해서는 정부 개입과 국제 사회의 규제가 필요하다”고 외부의 감독을 요청하기도 했다. 유럽연합과 미국은 각각 인공지능 규제 입법에 나선 상태다. 유럽연합은 2023년 12월 세계 최초로 인공지능 기술을 규제하기 위한 포괄적 법안(EU AI법) 도입에 합의했다. 법안은 인공지능 기술을 위험성에 따라 4등급(허용불가, 고위험, 투명성 필요, 최소위험)으로 분류하고 규제를 차등적용한다. 미국도 인공지능 규제에 착수했다. 2023년 10월 조 바이든 대통령은 행정명령을 발표해, 포괄적인 인공지능 규칙과 가이드라인을 제시했다. 콘텐츠 라벨링, 워터마킹, 투명성 강조가 핵심이다. 행정명령에 따라 인공지능 기업은 모델 작동 방식에 투명성을 확보해야 하며, 인공지능이 만든 콘텐츠에 표지를 붙이는 등의 표준을 만들어야 한다. 안보에 위험을 초래할 가능성이 있으면 안전성 테스트 결과를 미국 정부와 공유해야 한다는 조항도 들어 있다. 국내의 경우 2024년 현재 입법 절차가 진행중인데, ‘우선허용･사후규제 원칙’을 방향으로 산업부처의 주도아래 산업진흥 수단 위주로 추진되고 있는 상황이다. 위험기술로 인한 이용자 보호를 위해 포괄적 규제를 강화해가고 있는 세계적 입법 흐름과는 거리가 상당한 셈이다.    강력한 AI를 통제하기 위해 무엇이 필요한가    사람 지능과 유사한 범용 인공지능(AGI)이나 ‘특이점’으로 불리는 슈퍼 인공지능(초지능)이 과연 등장할지, 등장한다면 언제일지에 대해서는 견해가 엇갈린다. 하지만 현 시점에서 규제가 필요하다는 데는 이미 광범한 동의가 형성돼 있고, 규제의 주체와 수준·범위 등 구체적 방법을 놓고 이견이 있는 상황이다. 향후 진행될 논의와 규제 마련에서 염두에 두어야 하는 것은 인공지능은 이제껏 인류가 다뤄온 기술들과 차원이 다르다는 점이다. 지금까지의 기술은 핵폭탄 개발, 배아 복제, 우주탐사선 발사이건 전문가들이 통제할 수 있는 범위 안에 있는 기술을 개발해 활용했다. 전문가 커뮤니티가 해당 기술에 대해서 작동 구조와 결과적 영향력을 파악하고 있기 때문에 기본적으로 사회가 해당 기술을 통제할 수 있었다. 핵폭탄·화학무기·인간복제 등 국가나 집단간 이해가 달라 국제 합의에 실패하는 경우도 있었지만, 기본적으로 해당 기술의 위험성 인지와 통제는 사람의 손 안에 있었다. 언급한 것처럼 인공지능의 블랙박스적 속성으로 인해 설명가능한 인공지능(XAI) 개발이 시도되고 있지만, 성공한다 해도 매우 좁은 영역에서 제한적 효용이 가능한 수준이다. 미국의 컨설팅기업 가트너는 생성 인공지능 플랫폼에 대해 규제 당국이 유념해야 할 문제로 여섯가지를 지목했다. △GPT 모델의 설명 불가능성 △부정확한 허구 답변(환각 현상) △기밀데이터 침해 △편향성 △지적재산권·저작권 위험 △사이버·사기 위험이다. 모두 믿을만한 해결책 마련이 어려운 문제다. 이는 생성 인공지능으로 인해 ‘탈진실 현상’이 가속화할 것이라는 우려로 이어진다. 인공지능을 이용한 조작이미지, 딥페이크, 소셜미디어 확산은 이미 일상에서 사실과 가짜를 구분하기 어렵게 만들고 있다. 콘텐츠를 사람이 만든 것인지, 인공지능이 만든 것인지 자체를 식별하기 또한 고난도 과제다. 워터마크를 의무화해도 부분 수정과 우회 기술을 원천봉쇄할 수 없다. 탈진실 현상을 꾀하는 세력에게 생성형 인공지능은 저렴하면서도 인화성 높은 도구다. 각국 유력 정치인들은 자신의 생각과 다른 정보나 뉴스에 대해 공공연히 ‘가짜뉴스’라고 주장하며 탈진실 현상을 이용하고 있다. 가트너는 2017년 10월 ‘미래 전망 보고서’를 통해 “2022년이 되면 선진국 대부분의 시민들은 진짜 정보보다 거짓 정보를 더 많이 이용하게 될 것”이라고 예측했는데, 생성 인공지능의 등장으로 현실이 된 셈이다. 나쁜 의도를 품은 사람만이 아니라 그의 도구인 인공지능도 허위 정보를 무한생성할 수 있는 기술 환경이다. 오늘날은 어느 시기보다 시민들이 많이 교육받았고 손쉬운 사실 확인 도구를 휴대하는 인공지능 정보화시대이지만, 오히려 허위정보의 피해와 영향력은 커진 상황이다. 어떻게 이 문제를 해결해야 할까? 편리하지만 위험한 기술을 통제하는 방법 위험한 기술을 사회가 통제하는 방법은 크게 세 가지 경로다. 첫째는 기술이다. 질병을 다스릴 치료제를 개발하듯, 문제를 해결할 기술을 개발하는 방법이다. 오픈AI의 슈퍼얼라인먼트 연구나 앤트로픽의 헌법적 인공지능 개발 시도가 사례다. 메타의 인공지능 담당 부사장을 맡고 있는 얀 르쿤 뉴욕대 교수는 이 논리의 옹호자다. 그는 더나은 기술이 문제를 해결할 수 있다고 믿는다. 인공지능이 위험하기 때문에 이를 통제할 법규를 만들어야 한다는 주장에 맞서, 인공지능이 위험해지지 않도록 안전한 기술을 개발하는 게 최선이라는 논리다. 백신처럼 좋은 기술이 나오면 자동으로 해결될 터인데 현재의 기술 개발이 미진해 생기는 과도기적 현상일 뿐이라는 주장이다. 그러나 기술적 해결은 창과 방패의 경쟁처럼, 공격과 방어 어느 쪽도 안정적 우위를 갖기 어려운 구조다. 아무리 좋은 의도의 기술이 개발돼도 이를 악용하는 새로운 시도가 생겨나는 게 기술의 역사다. 두 번째는 법과 제도다. 법과 가이드라인을 만들어 반드시 따라야 하는 기준을 제시하고, 위반시 처벌하는 방법이다. 유럽연합이 개인정보보호규정(GDPR), 디지털 시장법(DMA), 디지털 서비스법(DSA)에 이어 인공지능 법(AI법)을 제정했듯, 가이드라인과 처벌 규정을 통해 안전대책과 거버넌스 구조를 만드는 방법이다. 사후적 대책이라는 한계도 있지만 법과 제도로 기술의 부작용과 피해를 예방하거나 해결할 수 없다. 법규가 촘촘하고 강한 처벌규정이 존재할 때 범죄는 사라지는 게 아니라 더욱 교묘해지거나 음성화하는 게 현실이다. 세 번째 경로는 이용자 주권 강화다. 인공지능에 대한 시민과 사회의 주권을 강화하고 감시·활용능력을 강화하는 방법이다. 구체적으로는 인공지능 기술의 투명성과 이용자 접근성을 키워 기술이 가져온 거대한 변화와 영향력을 사회 구성원 전체에게 필수적인 시민 역량으로 교육하는 일이다. ‘인공지능 리터러시 교육’이다. 근대 시민국가가 공교육을 도입해 읽고 쓸 줄 아는 능력(리터러시)을 갖춘 시민들을 길러낸 것처럼, 인공지능시대에 요구되는 새로운 시민성(디지털 시티즌십)을 시민적 권리와 의무로 도입해야 한다. 더욱이 인공지능 기술을 주도하는 빅테크 기업들은 글로벌 서비스를 통해 수많은 이용자들에게 직접 다가가고 필수적인 서비스를 제공하고 있어 법률과 같은 국가 권력도 한계가 있다. 권력과 주권이 국가로부터 기술기업으로 이동하고 있는 ‘기술극화 세계(technopolar world)’ 현상이 나타나고 있다. 기업의 설립과 존재 목적은 이윤 추가다. 소셜미디어에서 허위정보가 넘쳐나고 청소년들의 자살을 부추기는 콘텐츠가 방치되는 배경에는 이윤 추구를 최우선으로 삼는 기술 기업들의 무책임한 돈벌이 알고리즘이 있다. 인공지능 환경에서 기술의 영향력은 더욱 커졌음에도 블랙박스적 속성으로 인해 기술은 과거에 비해 더욱 기업 내부 논리에 의해 움직이게 됐다. 위임받지 않는 거대 권력을 행사하는 인공지능 기술에 대한 시민적 통제를 도입야 한다. 인공지능이라는 강력한 기술권력을 공동체 모두를 위한 도구로 만들어내기 위한 시도를 하기 위해서는 시민들의 자각이 무엇보다 우선해야 한다. 기술적 해결과 법적 시도도 필요하지만, 시민들이 위임하지 않은 기술권력에 과다하게 의존하고 통제당하고 있는 현실에 대한 각성과 토론에서 출발해야 하는 문제이다. 이를 인공지능시대에 새로운 시민적 과제로 요구되는 ‘디지털 시민성’이라고 부르고, 이를 도입하고 논의하기 위한 구체적 방법을 고민할 때다. 인공지능 기술에 대해 안전판을 만들기 위해서는 법적, 기술적, 이용자 차원에서 각각 시도되어야 하지만, 어느 것 하나에 의존하거나 위임해서 불가능하다. 무엇보다 가장 거대한 권력을 위임받지 않은 소수가 통제해서는 안된다. 민주주의처럼 시민 모두가 그 권력의 창출과 통제에 참여하는 구조를 만들어야 한다는 게 인공지능시대에 만난, 새로운 시민성의 과제다.

*본 포스팅은 기고요청을 받아 서울시공익활동지원센터에 먼저 작성된 글입니다. 허가를 받아 출처를 밝힌 후 캠페인즈에 업로드합니다. *지난번 샘 알트만 해고 사태를 포함하여, 기존에 AI에 대해 작성한 글들의 내용과 중복되는 부분도 많습니다! 2023년이 끝나가는 지금, 딱히 기술에 관심이 없는 사람이라도 ‘AI’라는 단어를 한 번쯤은 접했을 것이다. 그만큼 AI는 우리에게 이전보다 친숙하게 다가온 개념이다. 2022년 11월에 출시된 ChatGPT 3.5를 필두로, 2023년 3월에 출시된 ChatGPT 4를 비롯해 구글, 네이버 등 국내외 대기업에서 잇따라 AI모델을 내놓고 있다. 여러 기업이 앞다투어 AI 기술 및 상품 발전 경쟁을 이어나가는 지금, AI는 점점 더 발전하고 다양한 일을 할 수 있게 될 것이고, 따라서 우리 삶에 미치는 영향도 점점 커질 것이다. 이런 상황에서 누군가는 AI가 우리의 일자리를 빼앗고 여러 사람들의 그림, 글을 훔쳐 저작권을 침해하는 등 여러 문제를 일으킬 것이라고 AI 발전을 우려한다. 반대로 AI의 발전에 따라 인류는 다양한 일을 할 수 있게 될 것이며, 의학 등 인류에 이로운 과학기술 발전을 가져오고, 인간의 업무를 덜어 노동시간을 단축시킬 것이라며 AI 발전을 긍정적으로 본다. AI 발전에 대한 비관과 낙관 사이, 우리가 취해야 할 태도는 무엇일까?   1. 좋거나 나쁜 과학 기술은 없다. 인간이 좋거나 나쁘다 AI를 두고 대립하는 낙관적/비관적인 시선의 대립은 기존 과학 기술들에도 존재해왔다. 이는 과학 기술이 언제나 인간에게 이롭게 쓰이면서도, 해롭게 쓰여왔기 때문이다. 예를 들어, 노벨의 다이너마이트는 광산을 뚫는 이로운 기술이지만 사람을 죽이는 데에도 쓰였다. 인터넷의 발전으로 우리는 다양한 정보를 빠르게 찾을 수 있게 됐고 원격으로 토론도 가능해지며 민주주의의 발전에 도움을 줬지만, 동시에 가짜뉴스의 확산이나 자기 의견이 강해지는 반향실 효과를 불러일으키면서 민주주의가 후퇴하는 상황이 발생하였다.   그렇다면, 왜 과학기술은 긍정적인 면과 부정적인 면이 모두 존재하는가? 과학기술은 인간이 개발하고 사용하며 적용하기 때문이다. 사전적 정의에 의하면, 과학 자체는 편견이 없으며 세상과 현상을 다루는 학문이다. 하지만 필자가 여러 책에서 정의하는 ‘과학 기술’의 의미를 분석해본 결과, 편견이 없던 과학이 인간의 이익을 위해 개발되는 과정에서 ‘과학 기술’은 인간의 가치가 개입된다. 정부의 개발비 지원도, 기술기업의 이익추구도, 개인의 호기심도 결국 모두 누군가의 가치가 개입되는 과정이 존재한다. 인간이 추구하는 가치에는 돈이나 욕심 등 이기적인 가치와 선의, 정의 등 이타적인 가치가 모두 존재하기 때문에 과학 기술 역시 인간 사회에 부정적인 가치와 긍정적인 가치를 모두 가지게 된다.   즉, 우리는 특정 과학 기술이 ‘좋다’ 혹은 ‘나쁘다’ 라고 딱 잘라서 말할 수 없다. 모든 과학 기술은 천천히, 자세하게 뜯어보면 사람과 마찬가지로 좋은 점도 있으면서 동시에 나쁜 점도 있다. 하지만 역시나 사람과 마찬가지로, 특정 과학 기술에 대한 좋은 점은 극대화하고 나쁜 점은 최소화하는게 제일 좋다. 이를 위해 AI라는 과학 기술의 양면적인 모습을 몇 가지 살펴보고, 우리는 어떤 태도를 가져야 할지 생각을 나누고자 한다.   2. AI라는 양날의 검은 무엇을 찌르는가 ① 생성형 AI, 편리한 도구지만 인간의 저작권을 침해해  우리는 생성형 AI를 통해 다양한 지식을 빠르게 탐구하거나 글이나 정보를 빠르게 찾고 정리할 수 있다. AI에게 철학적인 질문을 하며 토론을 할 수도 있고 데이터 분석을 도와달라고 할 수 있다. 이전 부분에 삽입한 과학 기술 이미지도 몇 번의 수정을 거치긴 했지만 그림을 전혀 그리지 못하는 필자가 몇 분 안에 그린 이미지다. 뿐만 아니라 AI가 가수처럼 노래를 대신 불러준다던가, AI로 영화를 만든다던가 하는 등 창작의 영역에서도 AI가 점차 할 수 있는 일이 많아지고, 전문성도 점점 갖추고 있다.   하지만 개인이나 기업 단위에서 AI활용에 어려움을 겪는 경우가 많다. 실제로 소프트웨어정책연구소(SPRi)의 보고서에 따르면, 기업들은 AI 기술 도입과정에서 주요 애로사으로 ‘투자 대비 성과의 불확실성’, ‘내부 운용의 기술력 부족’을 2,3위로 꼽으며 AI를 ‘잘’활용하는 방법과 AI가 실제로 성과를 낼 수 있을지에 대한 의문, 어떻게 쓸지에 대한 배경지식이 부족한 경우가 많다고 밝혔다. 기업 단위나 개인 단위에서 업무 뿐만 아니라 일상에서도 생성형 AI를 어떻게 다룰지 다양한 경험과 배경지식을 공유하고, 교육하는 과정이 필요하다.   좋은 도구로서 주목받는 만큼, 생성형 AI가 발전하는 과정에서 가장 큰 문제점으로 지적받는 것 중 하나가 바로 ‘저작권’이다. 생성형 AI가 사용자의 요청에 맞게 특정 결과물을 생성하려면 결국 기존 인간의 창작물을 학습해야 하는데(생성형 AI 작동원리 등에 대한 기본 지식이 궁금하다면 필자의 이 글을 참고하기 바란다), 이 과정에서 사용자의 동의 없이 학습된 데이터도 많다. 수많은 사람들의 글과 그림과 같은 창작물들의 저작권이 보장받지 않는다면, 기자나 작가, 일러스트레이터들의 생계 보장이 어려울뿐더러 창작물이 감소하여 사회적 이익이 저해된다. 생성형 AI 저작권 문제로 ChatGPT를 만든 OpenAI가 소송을 당하기도 하고, 이미지 생성 AI기업들이 단체로 아티스트들과 소송전을 벌이고 있기도 하다.   생성형 AI가 일으키는 저작권 문제를 해결하기 위한 방법은 크게 두 가지가 있다. 하나는 AI의 저작권 침해와 관련된 법안 등의 규제를 만드는 것이다. 현재 AI관련 법안 및 규제와 관련하여 가장 앞서나가고 있는 곳은 유럽연합(이하 EU)와 미국이다. 비록 최근에 프랑스 등의 반대로 AI 법 제정이 불투명해지긴 했지만, EU에서는 2021년부터 AI 관련 법안의 제정을 준비해왔다. 주요 내용 중 생성 AI가 학습데이터의 저작물 정보를 공개해야 하는 조항 등이 포함되어 있다. 미국에서는 저작권청에서 직접 생성형 AI가 일으키는 저작권 문제에 대한 논쟁에 대해 의견을 수렴하고 있으며, AI 기업에 자율규제를 요구하고 안전과 보안, 신뢰를 위해 기업을 강제하는 행정명령을 발표하기도 했다. 한국은 현재 AI규제와 관련된 입법을 시도하고 있지만 제대로 이루어지지 않고 있으며, 오히려 생성형 AI의 학습 과정에서 저작권 침해를 면책해야 한다는 법 도입이 시도되며 우려를 낳고 있다. AI 저작권 문제의 심각성을 많은 국민이 알고 관련 논의와 여론 형성이 활발해지길 바란다.   두 번째 해결책은 기술적으로 AI가 저작권을 침해하지 못하도록 막는 것이다. 여러 가지 기술이 활용되곤 하는데, 가장 많이 연구되는 방식 중 하나는 AI의 학습 자체를 망가뜨리는 방법들이다. 최근 나온 ‘나이트셰이드’라는 도구는 생성형 AI가 데이터를 잘못 학습하게 하여 사용자의 의도와 다른 결과물을 출력하도록 한다. 기사를 보면 모자 데이터를 학습하여 케이크를 출력하는 것을 볼 수 있다. 이외에도 웹 개발 과정에서 사람은 인지할 수 없지만 컴퓨터는 인식할 수 있는 문장을 넣어 생성형 AI의 학습을 막는 방법 등도 활용되고 있다. 제도적 해결책과 기술적 해결책 모두 생성형 AI로 인해 나타나는 저작권 문제를 해결하는데 필요하다.   ② 편향적이고 차별적인 AI vs AI가 편향적이지 않게 하려는 인간의 노력 앞서 AI가 인간의 데이터를 학습하여 여러 결과물을 만든다고 설명한 바 있다. 주로 인터넷에 있는, 혹은 회사가 가지고 있는 데이터를 학습하여 사용자가 원하는 결과물을 만들어내는데, 이 과정에서 AI가 기존 인간의 편향성을 그대로 드러내는 경우가 자주 있다. 예를 들어, 미국의 한 회사에서는 AI가 고령의 구직자를 자동으로 탈락시켜 소송을 받았다. 또한, 미국 미시간주 디트로이트 경찰이 얼굴 인식 기술로 용의자를 특정하는 과정에서, 무고한 흑인 여성이 용의자로 지정되기도 했다. 기존 사회에서 인간이 가지고 있던 나이, 성별, 직업, 인종 등에 대한 편견과 편향을 AI 역시 그대로 학습할 확률이 높으며, 편향적인 AI가 여러 분야에 활용된다면 기존의 편향과 편견이 더 넓게, 더 강하게 퍼질 수 있다.   이런 AI 편향 문제를 해결하기 위해 기술자와 연구자들은 여러 노력을 하고 있다. 예를 들어, 여러 기술 기업에서는 AI 편향성을 측정하고 평가하기 위한 모델들을 개발하고 있다. 아예 AI 학습 및 설계 단계에서부터 편향성을 줄이기 위한 방법도 시도되고 있다. 또한, 우리는 AI에게 편향성을 줄여달라고 직접 요구하는 것만으로도 AI의 편향성을 줄일 수 있다. 이미 많은 사람들이 편향과 편견에 반대 목소리를 냈던 흔적이 인터넷에 남아 있기 때문이다. 이외에도 AI가 학습할 데이터에 직접 소수 의견, 편향된 의견에 반대되는 의견을 넣는 캠페인을 벌여 AI의 편향 문제에 대응할 수 있다. 이런 기술적인 노력 외에도, 사회 문제에 관심을 가지고 논리적으로 사고할 수 있는 능력을 시민들이 가질 수 있게 하는 노력이 함께 진행되어 인간이 가진 부정적 편향을 근본적으로 줄여 나갈 필요가 있다.   ③ 일자리를 위협하는 AI vs 노동시간을 줄여주는 AI AI의 발전에 따라 예상되는 또 다른 대표적인 사회 문제로, 인간의 일자리를 AI가 뺏을 것이라는 우려가 있다. 속도도 빠르고 능력도 좋은 AI가 산업 전반의 업무를 수행할 수 있게 될 경우, 자연스럽게 인간의 일자리를 AI가 대체할 것이라는 전망을 많은 사람이 내놓고 있다. 앞서 AI가 일러스트레이터들의 저작권을 침해하는 문제가 심각하다고 소개했는데, 일러스트레이터들의 일자리 역시 AI가 침해하고 있다. 다른 일자리는 어떨까? 한국은행은 화학공학 기술자나 철도 및 전동차 기관사 등 국내 일자리 중 약 341만개(전체 일자리의 12%)가 AI에 의해 대체될 가능성이 크다고 분석했다.   AI의 발전은 인간의 일자리를 위협하기만 할까? 인간의 관점에서는 두 가지 대응방안이 있다. 하나는 개인의 역량으로 인공지능과 대결하는 게 아닌, 사회적 협동역량을 길러, 인공지능을 ‘활용’하는 것이다. 지금까지 인간 사회와 문명이 발전할 수 있던 이유는 인간 개개인의 역량이 모여 집단 지성의 힘을 발휘했기 때문이다. 인공지능은 개개인보다 뛰어날 수 있지만, 특정 집단과 사회의 역량으로 대응한다면, 아직 일반인공지능(AGI)에 도달하지 못하고 한계가 분명한 AI의 역량에 대응할 수 있다. 또한 사회적 역량을 발휘하기 위해선 인간 간의 소통과 교감이 필요한데 이 역시 AI가 인간을 대체하기 어려운 분야라고 할 수 있다.   또한 발전한 AI가 일자리를 줄이는 것이 아닌, ‘일하는 시간’을 줄일 수도 있다. AI의 생산성이 늘어난다는 것은 인간이 일할 자리를 줄일 수도 있지만, 고용된 인력은 비슷하게 유지한 채로 인간이 일할 시간 자체를 줄여줄 수 있다는 말도 된다. 빌게이츠는 미국의 팟캐스트에 출연해 ‘기계가 모든 음식과 물건을 만들어줘서 사람들이 생활비를 벌기 위해 주 5일 이상 근무할 필요가 없어질 것이며, 아마 주3일 근무를 해도 괜찮은 세상이 올 것’이라고 낙관했다. 이를 위해선 근로 시간을 조정하는 제도적 지원이 필요하다.   3. AI는 결국 인간의 문제라는 걸 일깨워준 OpenAI CEO 샘 알트만의 퇴출과 복귀 글에서 다룬 내용 외에도 미처 언급하지 못한 AI의 장점과 단점은 정말 많다. 결국, AI의 발전은 인간의 삶에 여러 긍정적/부정적 영향을 미치고, 그 영향들에 대해 어떻게 생각하느냐에 따라 사람마다 AI의 발전을 보는 시각은 복잡하고 다르게 나타난다. 현재 최고의 AI회사인 OpenAI의 이사회 구성원들 사이에서도 AI의 발전에 대해 다른 생각을 가지고 있었고, 이는 OpenAI의 CEO인 샘 알트만의 퇴출 사태로 이어졌다.   OpenAI는 세계 최고의 AI를 빠른 속도로 발전시키며 큰 수익을 얻으며 사회의 주목을 받게 되었고, 이 과정에서 OpenAI는 AI의 발전을 두고 갈등하기 시작했다. AI가 너무 빠르게 발전시키면 AI로 인해 많은 문제가 발생할 것이기 때문에 발전 속도를 늦춰야 한다는 효과적 이타주의(Effective Altruism)와 많은 사람이 발전된 AI로 인한 이익을 볼 수 있도록 하기 위해 발전 속도를 빠르게 해야 한다는 효과적 발전주의(Effective Accelerationism)를 두고 이사회 내부에서 갈등이 생겼고, 이 과정에서 상대적으로 효과적 발전주의에 가까웠던 OpenAI의 CEO인 샘 알트만과 OpenAI의 공동창업자인 그렉 브록만이 갑자기 퇴출되는 사건이 발생했다.   하지만 샘 알트만이 퇴출되고 나서 OpenAI의 투자자, OpenAI의 직원 대다수, 그리고 OpenAI의 최대 파트너인 마이크로소프트(MS)가 샘 알트만의 복귀를 원했다. 특히 마이크로소프트의 경우, 샘 알트만과 그렉 브록만을 MS로 영입한 후, 남은 OpenAI의 이사회 전원 사임을 전제로 둘이 OpenAI에 돌아갈 수 있도록 도왔다. 결국 샘 알트만과 그렉 브록만은 OpenAI로 복귀했으며, 이로 인해 OpenAI는 마이크로소프트라는 글로벌 대기업의 영향을 더 크게 받게 되었으며, 이전보다 효과적 발전주의에 입각한 AI 발전에 더 속도를 올리게 되었다.   우리는 샘 알트만의 퇴출과 복귀 사태를 통해 AI 문제에 대해 두 가지 생각할 점이 있다. 하나는 AI 발전에 대해 고민할 때 효과적 이타주의와 효과적 발전주의 중 어떤 시각이 맞는지, 혹은 또 다른 시각이 맞는지에 대한 고민이다. AI의 발전에 따라 인간에게 미치는 긍정적 영향과 부정적 영향이 공존하는 만큼, 우리는 AI 발전속도에 대해 어떤 입장을 가져야 할지 고민이 된다. 효과적 이타주의가 AI등의 과학기술의 발전에서 오는 이익을 누리지 말자는 이야기는 아니지만, 너무 빠르게 발전한다면 AI가 인간에게 미치는 부정적 영향은 더 커지고 많아질 수 있다.하지만 이미 많은 국가와 기업이 AI 발전 경쟁을 하고 있는 만큼, 특정 회사나 국가가 AI 발전 속도를 늦추자고 하는 이야기는 현실적으로 어려울 수 있다. AI를 빠르게 발전시키되, AI로 인해 나타날 부정적 영향을 최소화할 방법을 찾는 게 최선일 수 있다. 앞선 두 시각과 다르게, AI의 영향력을 현실에 비해 너무 과대평가할 수 있으며, AI HYPE 뉴스를 경계해야 한다는 주장도 있다. 효과적 이타주의와 효과적 발전주의 모두 AI의 미래 영향력에 대한 일종의 ‘믿음’에 근거한 주장인 만큼, AI의 영향력과 가능성에 대해 현실적 감각을 가지려고 노력해야 할 것이다.   또한, 샘 알트만 퇴출 및 복귀 사태는 결국 AI 문제가 인간의 문제임을 다시 한 번 강조한다. 세계 1위를 달리고 있는 OpenAI의 가장 큰 위기는 경쟁사와의 AI 경쟁, 해커의 공격 등 기술적 문제가 아니었다. 이사회 구성원 간의 견해 차이로 인해 발생한 OpenAI의 위기는 회사 구성원들의 의사, 마이크로소프트를 포함한 다수의 투자자들의 이해관계에 의해 해결되었다. 만약 샘 알트만이 복귀하지 못했다면 OpenAI는 내부 분열과 투자 중단으로 원하는 일반인공지능을 개발하기 어려워졌을 수도 있지만, 동시에 더 안전한 AI를 개발하자는 목소리가 전세계적으로 더 커졌을 수도 있다. 결국 AI를 어떻게 개발할 것인지, 어떻게 규제할지 정하고 그에 따른 결과는 인간에게 좋든 나쁘든 큰 영향을 미친다. 이 글이 사회에 영향을 미칠 AI 관련 의사결정에 대한 독자들의 이해에 도움이 되고, 그 도움이 더 좋은 사회를 만드는데 기여하길 바란다.