세상에서 가장 유명한 윤리 딜레마 by. 🥨 채원 이런 밈을 보신 적 있으실까요? 단연코 현 시대에 가장 널리 알려진 윤리적 딜레마가 아닐까 싶은 트롤리 딜레마(광차 문제)입니다. 트롤리의 딜레마는 영국의 철학자인 필리파 풋 (Philippa Foot)에 의해 고안된 윤리학의 사고 실험으로, 1967년에 출간된 <낙태의 문제와 이중 효과 원칙 (“The Problem of Abortion and the Doctrine of Double Effect”)>에서 처음 소개되었습니다. 낙태 문제를 탐구하기 위해 들었던 예시인 이 사고 실험은, 이후에 수많은 윤리 문제를 연구에 사용되어왔습니다. 특히 자율 주행 차량의 윤리학을 다룬 모럴 머신 실험 (The Moral Machine Experiment)에 사용되어 AI 윤리에서도 널리 논의되어 왔죠. 모럴 머신은 온라인에서 누구나 참여할 수 있는 실험으로, 자율 주행 자동차가 직면한 다양한 도덕적 딜레마를 탐구합니다. 출시된 이래 233개국 이상, 4천만 건 이상의 결정을 모으며 꾸준한 관심을 받고 있습니다. 모럴 머신 실험은 2018년 네이처지에 실린 논문을 비롯하여 다양한 학술적 성과를 이루어냈습니다. 이러한 성공과 더불어, 트롤리 딜레마의 한계도 지적되고 있습니다. 트롤리 딜레마는 조금씩 변형하여 다양한 도덕적 의사 결정을 내리는 사고 실험을 하는 데 유용하긴 하지만, 한편으로는 AI 윤리의 논의대상을 물리적이고 기계적인 문제들로 제한한다는 것입니다. 베르겐 대학교의 마리야 슬라브코빅(Marija Slavkovik)과 같은 학자는 이러한 한계는 예컨데 온라인 상 콘텐츠 검열과 같이 정해진 수의 보기가 명확하게 없는 문제에서 극명한 한계를 보인다고 비판합니다. 두 가지 결정 중에 반드시 하나를 선택해야만 하는 이분법적인 접근을 요하는 트롤리 딜레마와 달리, 콘텐츠 검열의 경우 복잡한 스케일 안에서 미묘한 차이에 기반한 다양한 선택 중 하나를 결정해야 하는 경우가 대부분입니다. 예컨대 같은 아동의 사진이라도 아동을 대상으로 하는 성착취물와 전쟁의 참사를 드러내는 사진은 명백히 다른 함의를 가진다는 거죠. 복잡한 사회적 맥락을 고려하지 않고 기계적인 이분법적 잣대를 바탕으로 내리는 의사 결정에는 근본적인 한계가 존재할 수 밖에 없습니다. AI 윤리, 기계 윤리, 데이터 윤리 등 다양한 이름으로, 새로운 기술이 사회에 미치는 영향과 거기서 파생되는 새로운 문제들이 탐구되고 있습니다. 모럴 머신 실험은 한국에서도 AI 윤리 교육에 활용되는 등 활발하게 다루어져왔습니다. 다만 AI 윤리의 문제가 모두 트롤리의 딜레마로 치환될 수 없다는 점은 명심해야 할 것입니다. 혹시나 궁금하실 분들을 위해, 지난주 베를린에서 열린 2024년 기계+행동 학회 (Machine+Behaviour Conference) 중, <기계 윤리 예시: 앞으로 나아가기 (”Machine Ethics Examples: Moving Forward”)>라는 제목으로 마리야 슬라코빅 교수가 발표한 내용은 여기에서 다시 볼 수 있습니다. 신뢰 : AI가 살아남기 위한 조건 by. 🍊산디 막스 베버는 <직업으로서의 학문>에서 공학자가 아닌 일반인이 어떻게 자동차를 신뢰할 수 있는지 이야기합니다. 그는 자동차의 작동 방식을 알지 못하더라도 “원하기만 하면 언제든 ‘배울 수 있다’고 알고 있거나 또는 그렇게 믿고”있기 때문에 자동차를 신뢰할 수 있다고 생각했습니다. 자동차는 신비한 힘이 아니라 계산 가능한, 통달할 수 있는, 탈주술화되어 있는 도구죠. 베버의 관점에서 본다면, 일반인에게 AI는 신뢰할 수 없는 기술입니다. 미지의 ‘블랙박스’로서 AI는 이해할 수 없는, 주술과 같은 영역이기 때문이죠. AI의 탈주술화를 위해 전 세계 연구자들이 연구에 박차를 가하고 있습니다. 의사결정 과정과 이유를 설명할 수 있는 AI(explainable AI), 인간 윤리를 학습한 AI를 개발하려는 노력이 이루어지고 있죠. 이러한 공학적 접근은 AI 자체가 투명하고 윤리적이어야 신뢰할 수 있다는 관점에 입각합니다. AI 자체를 개선하려는 접근은 분명 AI의 신뢰 가능성을 높이는 데 도움이 됩니다. 하지만 기술 자체의 속성만으로 신뢰 가능성이 결정되지는 않습니다. 신뢰는 사회적 실체이기 때문이죠. 기술적으로 완벽하지만 사회적으로 믿을 수 없는 기술이 있을 수 있습니다. 반대로 엉성하다 못해 복장 터지는 기술임에도 불구하고 신뢰받는 경우도 많죠. 자동차 사례로 돌아가봅시다. 저는 자동차의 작동 방식에 별 관심이 없습니다. 그럼에도 불구하고 제가 특정 자동차 모델을 구매하기로 결정했다면 이는 1) 다른 사람들도 해당 자동차 모델을 구매했고, 2) 자동차를 제조한 기업의 과거 행동과 평판에 대해 알고 있고, 3) 자동차를 규제하는 법 제도가 존재함을 알기 때문일 것입니다. 사진: Unsplash의 Jason Leung AI 역시 마찬가지입니다. 인간-AI 상호작용에서 AI를 신뢰할 수 있는지에 대한 판단은 다른 사람도 해당 AI를 사용하는지, AI 제조사를 믿을 수 있는지, AI에 대한 법 제도적 장치가 마련되어 있는지와 같은 AI를 둘러싼 사회적 맥락을 함께 고려하여 이루어집니다.  인간의 윤리를 완전히 학습했다고 주장하는 ‘궁극의 AI'가 혹시라도 가능하고, 또한 등장할 수 있다 하더라도, 그것의 신뢰 가능성은 기술력에 의해 결정되지 않습니다. 사람들은 AI 기업이 어떤 노력을 보여주었는지, 이용자들과는 어떤 관계를 맺고 있는지, 관련 법제도의 정비 수준은 어떠한지를 따져 물을 거예요. 만약 신뢰할 수 없다면, ‘궁극의 AI’는 역사에서 사라질 겁니다.  이용자의 신뢰를 얻을 수 있는 AI가 인류와 함께 살아 남을 것입니다. 이것이 기업과 정부가 AI 윤리를 적극적으로 이야기해야 하는 이유입니다.   오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요. 남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다. 

윤석열 대통령의 발언 사실인지 같이 확인해볼까요? 오늘 오전 10시부터 윤석열 정부 2년 국민보고 및 기자회견이 진행되고 있습니다. 생중계는 아래에서 보실 수 있는데요. 대통령이 국민에게 전달하는 메시지와 기자회견에서 하는 발언은 공식입장에 가까운만큼 함께 살펴보고, 근거가 있는지 같이 확인해야 합니다. 그래서 여러분과 함께 윤석열 대통령의 발언이 사실인지 같이 확인하고 발언의 사실 여부, 근거를 모으는 활동을 코멘트로 함께 해보려 합니다. 국민보고와 기자회견을 같이 보면서 발언과 사실 여부를 확인할 수 있는 근거 링크를 아래 예시처럼 남겨주세요! *함께 모은 코멘트 중 세밀한 검증이 필요한 정보는 추후 콘텐츠로 정리할 예정입니다.   [예시] "정부는 반도체 클러스터에 622조 원을 투자한다" https://www.kocis.go.kr/korean...

[팩트체크] 대한민국의 언론자유지수 순위가 2016년에 제일 낮았다는 더불어민주당 노종면 당선인의 발언을 팩트체크 해보았습니다.

국민연금 개혁 논의가 결렬됐습니다. 500명의 시민이 공론조사에 참여해 개혁안을 골랐지만, 국회는 합의에 이르지 못했어요. 국회 연금개혁특별위원회의 활동은 종료됐고, 공은 22대 국회로 넘어갈 가능성이 큽니다. 연금개혁이 1년 지체될 때마다 국민들의 부담액은 수십조 원 늘어납니다. 그런데도 ‘폭탄 돌리기’만 계속되는 이유는 무엇일까요. 최대한 간단하게 정리해봤어요. 국민연금은 국가에 보험료를 내고 노후에 연금으로 돌려받는 사회보험제도입니다. 보험료의 일부는 연금으로 지급되고, 나머지는 기금으로 적립됩니다. ⚙️보험료율: 월 소득에서 국민연금 보험료가 차지하는 비율. 보험료율이 높을수록 보험료 금액이 커집니다. ⚙️소득대체율: 연금액이 생애 평균 소득을 대체하는 비율. 소득대체율이 높을 수록 돌려받는 연금액이 커집니다. 현행 국민연금은 보험료율 9%, 소득대체율 40%입니다. 2007년 노무현 정부의 연금 개혁을 마지막으로 바뀌지 않았죠. 이대로라면 1990년생이 연금을 받기 시작하는 2055년에 국민연금은 고갈됩니다. 원인은 저출산과 고령화입니다. 보험료를 낼 인구는 줄어드는데, 연금을 받을 사람은 늘어납니다. 2078년에 지금과 같은 수준의 연금을 받으려면 보험료율을 35%까지 올려야 합니다. 현재 5세 이하인 아이들이 일하는 시기입니다 공론조사 결과 어땠어? 공론조사에서 검토한 안은 2가지입니다. 일명 ‘소득보장론’과 ‘재정안정론’입니다. 1️⃣ 소득보장론: 더 내고 더 받기 보험료율은 13%로 올리되, 소득대체율을 50%까지 올리자는 안입니다. 기금 고갈 시점을 2061년으로 미룹니다. (+6년) 기금 고갈 뒤 미래 세대가 내야 할 보험료율은 43.2%로 현행 안보다 오릅니다. ⭕ 찬성: “국민연금에 대한 신뢰를 회복하려면 연금 가입자들의 소득 안정이 중요하다. 소득대체율이 높아져 연금액이 많아지면 내수도 활성화된다. 소득대체율이 높아져 생기는 구멍은 국가 재정을 투입하면 감당할 수 있다.” ❌ 반대: “기금 소진 후의 미래 세대 부담이 커진다. 높은 소득대체율은 고소득 장기가입자에게 혜택을 준다. 국가 재정은 연금 가입자 전체보다 연금을 덜 받는 사람을 지원하는데 써야 한다.” 2️⃣ 재정안정론: 더 내고 그대로 받기 보험료율은 12%로 올리되, 소득대체율은 40%로 유지하자는 안입니다. 기금 고갈 시점을 2062년으로 미룹니다 (+7년) 기금 고갈 뒤 미래 세대가 내야 할 보험료율은 35.1%로 현행 안과 비슷합니다. ⭕ 찬성: “미래 세대를 위해 안정적인 재정 운영이 중요하다. 노후소득 보장은 기초연금, 퇴직연금을 함께 강화해 해결해야 한다.” ❌ 반대: “국민연금이 낮은 상황에서 기초연금과 퇴직연금을 올리긴 어렵고, 다층 연금제도를 강화하면 민간 연금의 영향력이 커질 우려도 있다. 보험료를 안 내도 세금으로 지원하는 기초연금이 오히려 미래 세대에게 부담이다.” 시민대표단이 선택한 안은 1안입니다. 참여자 56%가 찬성했어요. 조사가 진행될수록 1안으로 의견이 기울었습니다. 미래 세대의 부담이 더 높은데도 불구하고 20대의 찬성율이 높다(53.2%)는 점이 주목할 만 합니다. 그만큼 20대가 노후를 막막하게 생각한다는 의미로 해석됐어요. 한편 공론조사가 제대로 진행되지 않았다는 비판도 나옵니다. ✅ 공론조사 과정이 잘못됐어 숙의 토론이 총선 직후 급하게 이뤄졌다는 지적이 있습니다. 공론조사가 여론과 떨어져 진행되면서 제대로 된 ‘공론화’는 없었다는 겁니다. 토론 자료가 공론조사 막바지에 올라와 충분히 검토되지 못하기도 했습니다. ✅ 팩트체크 제대로 안됐어 시민대표단 참여자는 “양측의 데이터 산정 방식이 너무 달라 결론 도출에 한계가 뚜렷했다”고 말했습니다. 어느 쪽의 데이터가 정확한지는 확인되지 않았습니다. 토론 자료에도 오류가 있었습니다. 소득안정론 측 자료에 소득대체율을 올리면 저소득층 월 연금이 50만원 오른다고 적혔는데, 실제로는 23만원이 오릅니다. 양측이 반박을 주고받지 못하고 각자의 주장만 나열하는 식으로 진행돼 시민대표단이 혼란스러웠다는 지적도 있습니다. 국회에서는 어떻게 한대? 결론적으로 여야는 합의에 실패했고, 국회 연금특위는 5월 7일 종료됐습니다. 시민단체들은 “정치가 시민을 버렸다”며 분노했습니다. ✅ 연금특위 결과 공론조사 결과에 대해 민주당은 수용, 국민의힘은 수정을 요구했습니다. 보험료율을 9%에서 13%로 인상하는 것에는 여야가 합의했습니다. 소득대체율을 두고 의견 차를 좁히지 못했습니다. 45%가 절충안으로 제안됐지만, 국민의힘이 43%를 언급하면서 합의가 멀어졌어요. 국민의힘은 보험료율과 소득대체율의 숫자만 논할 것이 아니라 구조개혁이 필요하다고 주장합니다. ✅ 제3의 관점 ‘소득보장 VS 재정안정’이라는 구도 자체가 문제라는 주장도 있어요. 두 가지 모두 연금개혁의 목표가 되어야 하기에 한 쪽으로 기울어져 해석되면 안 된다는 겁니다. KDI에서는 국민연금을 ‘구연금’과 ‘신연금’으로 나누자는 안을 제시했어요. 구연금의 적자는 국고로 지원하고, 신연금(2006년생부터 적용)은 보험료를 낸 만큼만 연금을 받게 하자는 내용입니다. 개혁신당에서 지지하는 안이에요. 공론 과정에서는 청년층을 중심으로 ‘안 내고 안 받으면 안 되겠느냐’는 얘기도 나왔어요. 연금제도에 대한 불신을 보여주는 대목입니다. 연금개혁은 윤석열 정부의 3대 개혁 과제 중 하나입니다. 하지만 정부는 구체적인 안을 제시하지 않았어요. 윤석열 대통령은 지난주 영수회담에서 연금개혁을 22대 국회로 넘기자고 언급했습니다. 다음 국회로 공이 넘어가면 특별위원회 구성부터 다시 시작해야 합니다. 지금까지의 논의가 소득이 없는 것은 아닙니다. 여야는 보험료율 인상을 두고 공감대를 형성했고, 소득대체율 안도 2%p밖에 차이나지 않습니다. 타협의 여지는 남아있습니다. 진보 진영은 소득보장론, 보수 진영은 재정안정론을 주장해왔지만, 각 진영 내에서 이견이 생기기도 했습니다. 인구구조가 너무 빠르게 바뀌고 있고, 연금 사각지대에 있는 노동자들이 많아지고 있기 때문입니다. 정의당이 지난 대선에서 ‘소득대체율 인상 없는 보험료율 인상’을 공약한 것이 대표적입니다.