총
1649
개
379
죽음의 기술과 효율성
AI 윤리 뉴스 브리프
2024년 4월 둘째 주
by. 🍊산디
1. 죽음의 기술과 효율성
전쟁의 현장에서 벗어나 있는 우리는 첨단 기술이 살상을 효율화한다는 설명을 듣습니다. 무인 무기로 아군의 피해를 최소화하고, 적을 정확히 지정(pinpoint), 정밀타격(surgical strike)한다는 것이죠. 심지어는 인간 행위자의 판단 없이 AI의 자체 ‘판단’으로 ‘적’을 살상하기도 합니다. 우크라이나 군의 AI 드론이 자체 ‘판단’으로 인간을 살상했습니다. 우크라이나군의 AI 드론이 조종 신호가 끊겨도 독자적으로 살상하도록 프로그래밍 되어 있었기 때문입니다. 그게 더 효율적이기 때문입니다.
이스라엘의 팔레스타인 폭격에도 AI가 쓰이고 있습니다. 라벤더라는 이름을 가진 이 AI는 3만7천여 명의 ‘타겟’을 학습했고, 10% 정도의 오류율을 보이는 것으로 알려져 있습니다. 인간이 ‘타겟’ 식별 결과를 확인하는 데 쓰는 시간은 20초. 살상을 결정하는 데 쓰는 시간입니다. 군수 시장도 가세합니다. 이스라엘 군수 스타트업들은 이번 전쟁에서 쓰인 AI를 수출할 계획입니다. …정말 여러모로 효율적이네요.
효율은 인간을 잘 죽일 수 있도록 AI를 개발하고, 기술에 대한 감독 책임에서 슬쩍 빠져 나오는 모든 행위를 정당화하려 시도합니다. 우스운 일입니다. 어떤 미사여구로도 전쟁은 정당화 되지 않습니다.
여러 기구에서 전쟁의 중단을 요청하는 서명을 진행하고 있습니다. 그 중 러시아의 우크라이나 침략 중단, 이스라엘/팔레스타인 휴전을 촉구하는 앰네스티의 온라인 서명 운동을 링크합니다. 부디 원래 전쟁이 그런 거라며 쉬이여기거나, 그것에 무뎌지거나, 좌절하지 않길 바랍니다.
더 읽어보기
전쟁과 죽음의 기술(2023-10-30)
자동화된 아파르트헤이트(2023-05-15)
2. 빅테크의 기발한 데이터 수집
새삼스럽게 유튜브가 이용자와의 계약을 강조하기 시작했습니다. 오픈AI가 유튜브 영상을 동영상 생성 AI 모델 소라(Sora) 학습에 활용했다면, 이는 명백히 서비스 이용 약관을 무시한 처사라고 비판한 것이죠. 오픈AI의 CTO 미라 무라티가 소라 학습에 유튜브 동영상이 쓰였는지 묻는 질문에 ‘모른다’ 답한 것에 대한 대응으로 판단됩니다.
데이터는 생성형 AI 제작에 필요한 핵심적인 ‘자원’입니다. 이미 2021년 말부터 더 이상 학습할 영어 텍스트 데이터가 남아 있지 않았던 오픈AI는 동영상으로부터 텍스트를 추출하는 음성 인식 도구인 ‘위스퍼(Whisper)’를 제작합니다. 뉴욕타임즈의 취재 결과, 위스퍼를 활용해 오픈AI는 백만 시간 이상의 유튜브 동영상을 복사했습니다. 위스퍼 데이터는 GPT-4 개발에 활용된 것으로 알려 있습니다. 같은 보도에 따르면 오픈AI는 이러한 일련의 과정이 유튜브 약관에 위배된다는 사실을 내부적으로 논의했던 것으로 보입니다.
하지만 데이터에 목마른 것은 구글도 매한가지입니다. 지난해 구글은 문서, 지도 등으로부터 AI 학습에 활용할 데이터를 얻기 위해 개인정보보호 약관을 변경하였습니다. 빅테크의 필요에 따라 서비스 약관은 무시되거나 바뀌고 있습니다. 인터넷 등장 이후 우리가 지켜내려 해온 권리들은 생성형 AI의 등장 앞에 무력한, 과거의 것으로 치부되어야 하는 걸까요.
더 읽어보기
AI 학습용 데이터 팝니다(2024-03-04)
데이터, 어떻게 팔아야 잘 판 걸까? … 팔아야 하는 걸까?(2024-03-25)
3. AI가 나의 음성을 학습하는 걸 막을 수 있을까?
작곡 공모전에서 1위 곡이 알고 보니 생성형 AI가 만든 것이었다는 작곡가의 놀라움 섞인 한탄부터 인간이 새로운 창의 역량을 발휘할 수 있게 되었다는 평가까지, 음악 생성형 AI의 발전 또한 놀라운 속도를 보여주고 있습니다.
빌리 아일리시, 이매진 드래곤 등 200여 명의 예술가들이 예술가 권리 연합(Artists’ Rights Alliance)의 AI 음악 생성 작업의 중단과 보상을 촉구하는 공개서한에 서명했습니다. 빅테크들이 음악 생성 모델들을 공개하는 와중에 등장한, 직접적인 이해당사자의 입장 표명입니다. 서명은 생성형 AI의 엄청난 잠재력에 대해서 동의하면서도, 무책임한 개발과 이용은 창작자의 프라이버시와 생계 모두를 심각하게 위협한다는 사실을 지적합니다.
관련 법 제정 움직임도 관찰됩니다. 지난달, 미국 테네시 주는 ‘엘비스(ELVIS) 법(Ensuring Likeness Voice and Image Security Act)을 제정했습니다. 주지사가 테네시 주 상원 및 하원 다수당 대표들과 함께 제출한 법안이었죠. 엘비스법은 이름과 이미지, 초상을 보호해 오던 기존 퍼블리시티법의 보호 대상에 음성을 추가하고, 공연 목적으로 AI 음성을 무단 사용하는 것을 금지했습니다.
한국에서 ‘인격표지영리권’으로도 불리는 퍼블리시티권은 통상 “성명, 초상 등이 갖는 경제적 가치를 상업적으로 사용하거나 배타적으로 지배하는 권리”로 정의되어 왔습니다. 대체로 음성은 보호 범위 밖에 있었죠. 게다가 한국에서 인격표지영리권은 법에 명문화되지 않고 판례로서 보호되어 왔습니다. 지난 2022년 12월, 법무부는 (AI를 염두에 두었던 것은 아닌 듯 합니다만) 연예인뿐만 아니라 국민 모두의 인격표지영리권을 보호하는 민법 개정을 추진한다고 밝힌 바 있습니다. 기술 환경이 변화한 만큼 관련 논의도 새로운 국면을 맞이할 수 있지 않을까요?
오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.
인공지능
·
343
육아기 유연근무, 어떤 노력이 필요할까요?
정부는 올해부터 육아기 자녀를 둔 근로자의 유연근무를 허용하는 기업에 대한 지원금이 확대하겠다고 밝혔는데요. 대상에게 시차출퇴근제도를 도입한 중소 및 중견기업에 장려금을 지급하고, 재택과 원격근무 중심으로 진행되었던 컨설팅과 인프라 지원도 유연근무에 확대되어 개편될 예정입니다(출처 시사저널).
그렇다면 육아기 유연근무, 잘 정착되려면 어떤 노력이 필요할까요?
기업 입장에서는 워킹맘, 워킹대디의 출산과 육아 공백의 타격이 여전히 크기 때문에 육아기 유연근무에 대해서는 부정적인 입장이 많습니다. 업무공백으로 인해 피해를 보는 직원들 간의 노노갈등도 심심치 않게 발생하고 있습니다. 경제적 지원은 물론 인식을 바꾸는 교육과 분위기 정착도 고려해야 할 사안입니다.
유연근무제를 사용하는 대부분이 대기업과 정규직 노동자입니다. 그러나 정부의 정책은 대부분 중소 및 중견기업에게 혜택을 주는 것에 머물러 있기 때문에 그 대상을 확대할 필요가 있습니다.
육아기 유연근무 뿐만 아니라 기업의 근무환경 자체도 유연하게 바꿀 필요도 있습니다. 일과 삶이 양립될 수 있는 구조가 자연스러워져야 어떤 상황에서도 본인의 시간을 활용하면서 업무의 성과도 낼 수 있습니다. 근무혁신을 통해 오히려 성장을 한 케이스도 많습니다. 실제로 ‘코어타임제(의무 근무기간 외에 자유로운 출퇴근 시간 설정 가능)’를 적용한 회사의 관계자는 “직원들이 업무에만 집중할 수 있는 환경이 되어 오히려 업무 능률이 향상되었다. 프로젝트 완성도는 빠르게 높아지고 불필요한 야근도 없어졌다”며 대체로 만족감을 표하고 있습니다(출처 한국경제TV).
그렇다면 올해 총선에서 육아기 육아근무, 돌봄과 관련되어 주요 정당은 어떤 정책을 내놓고 있을까요?(출처 중앙선거관리위원회 정책 공약마당).
- 더불어민주당: 저출생 극복을 위한 결혼-출생-양육 양립이 가능한 사회구조 실현을 위해 우리아이 보듬주택 마련, 결혼-출산-양육 드림 패키지(출생기본소득), 아이돌봄서비스 국가 무한책임 보장, 남성육아휴직 강화, 지자체 협력형 온동네 초등돌봄재능학교 도입, 저출산 대응을 위한 소득세제 개선을 공약으로 내놓고 있습니다. 이행기간은 2025년부터 단계적으로 시행하여 연간 최소 10조원에서 최대 23조원 소요될 것으로 예상되는 저출생 대책 재원은 정부재정 지출구조 조정분(경직성경비를 제외한 재량지출의 10%인 18조원 수준) 및 2023~2027 국가재정운용계획에 따른 연간 총수입 증가분(2023~2027년 연평균 증가율 3.7%, 2025년 49조원 증가) 등으로 충당할 계획을 내놓았습니다.
- 국민의힘: 국가 차원의 저출생 문제를 대응하고 일하는 부모에게 아이와의 시간을 보장하며 육아기 유연근무를 기업문화를 정착하는 데 목표를 두고 있습니다. 이를 위해 저출생 문제 해결을 위한 부총리급 인구부 신설, 아빠휴가 1개월(유급)의무화, 초3까지 유급 자녀돌봄휴가 신설, 배우자에게도 임신 중 육아휴직 사용 허용, 육아기 유연근무 취업규칙 등 정기적 공지 의무화 및 육아기 근로기간 단축 급여 상한 인상, 육아휴직 동료수당 활용 활성화 등 현재의 고용보험기금 재원을 활용하여 제공할 예정입니다.
- 조국혁신당: 저출생 대응 책임부서 설치와 재정지출 전면 재검토, 높은 수준의 아동 보육과 교육서비스 제공과 평등한 생애 출발 지원, 여성청년세대의 삶과 육아를 지원하는 육아친화 사회구축 등을 올해부터 단계적 추진하여 부처별로 분산되어 있는 저출생 돌봄 예산의 합리적 조정과 지출, 재정 수입 혁신과 개혁을 통해 재정을 마련할 계획을 내놓았습니다.
- 녹색정의당: 저출생 5대 요인인 '고용불안, 주거부담, 출산 및 육아부담, 교육경쟁 심화, 일·생활 조화 어려움' 해소에 중점을 두고 삶의 질 개선하는 것을 목표로 함께 살면 10년, 아이가 태어나면 10살이 될 때까지 공공주택과 주거지원비를 제공하는 방안, 임신 출생 사회책임제로 무상 임신, 출생 실현, 자동육아휴직제 및 노동시간 단축 등을 22대 국회 임기내 실현을 목표로 일반회계, 특별회계, 지방교육재정교부금으로 예산을 조달할 계획을 내놓았습니다.
이러한 정책이 잘 정착되기 위해서는 혜택을 받는 부모의 실정을 이해하여 정책을 설계하는 것은 물론 기업과의 적극적인 공조가 필요합니다. 실제 기업의 참여는 미온적인 것이 대부분입니다. 실태를 파악하고, 기업과 수혜자 모두가 만족할 수 있는 근무환경을 만들기 위한 보다 섬세한 노력이 필요할 것입니다.
새 이슈 제안
·
520
세월호를 기억하는 방식
세월호를 기억하는 방식들
2014년 TV 화면에서 세월호란 이름을 처음 마주했다. 가라앉는 배와 그 주변을 둘러싼 헬기와 구명보트, 기자의 브리핑 등 분주한 화면 속에 사고 현장에 저렇게 많은 사람이 있으니 배는 가라앉더라도 안에 있는 사람들은 무사히 구출되지 않을까. 그렇게 뉴스에 나오는 교통사고같이 세월호는 스쳐 지나가는 하나의 소식이었고 그렇게 ‘문제없이’ 끝날 줄 알았다. 하지만 시간이 지나도 생존자 구출에 대한 이야기는 들리지 않았고 여러 이유로 구조에 어려움을 겪고 있다는 기사만 쏟아져나오며 배는 점점 바다 아래로 가라앉았다.
세월호 참사가 일어나고 1년 뒤 TV 화면에는 세월호 유가족들이 진상규명을 촉구하며 시위하고 있었다. 이를 보던 아버지는 혀를 차며 유가족 흉을 봤다. 저 사람들 때문에 나라의 경제가 어렵게 되었다고, 보상도 받았다고 하던데 이제 그만할 때도 된 거 아니냐고. 혼잣말이었지만 내 귀에 들릴 정도로 작은 목소리가 아니었다. 저런 생각을 옳다고 생각하며 아무렇지 않게 이야기할 수 있는 건가? 경제와 보상의 진실 여부를 떠나 아버지에게 묻고 싶었다. 만약 세월호 희생자가 나였어도 아버지는 혀를 차실까? 죽은 애들 가지고 장사한다고 감히 말할 수 있을까? 하지만 나는 그 자리에서 아무 말도 하지 못했다.
2017년 박근혜 퇴진 시위 때 다시 세월호를 마주했다. 퇴진 시위에 참여한 수많은 인파 사이로 세월호 희생자 가족들이 깃발을 들고 행진하고 있었다. 그 중 한 사람의 눈과 우연히 마주쳤다. 몸이 얼어붙고 저절로 눈물이 났다. ‘슬프다’는 표현 외 다른 단어가 떠오르지 않았다. 미안했다. 나의 정치적 무관심으로 인해 유가족들이 감당하기 어려운 짐을 짊어지고 있는 게 아닐까. 거짓으로 선동된 지식에 맞서 어떤 말도 하지 못한 나의 소극적인 태도에 죄책감이 들었고 매주 거리를 나오는 원동력이 되었다. 광화문 거리를 걷고 걸었다. 속죄하는 마음으로 그리고 다시는 이런 일이 일어나지 않는 세상이 되기를 바라는 마음으로.
다큐 <장기자랑이>이 기억하는 애도의 방식
누군가는 진실을, 누군가는 거짓을 말하며 진실 전쟁이 거듭되었다. 그 사이 4.16 세월호 참사도 10년이 흘렀다. 10년 동안 유가족들이 원하는 진상규명은 제대로 이뤄지지 않았다. 그리고 22년 10월 세월호처럼 사고가 예견된 이태원 참사가 일어났다. 여전히 안전하지 못한 사회에서 마음 한편에 남아있는 부채감과 언제 다가올지 모르는 위험 속에 작년 이소현 감독의 <장기자랑>을 봤다. 세월호 엄마들 중심으로 수학여행 속 장기자랑을 배경으로 한 극을 준비하는 과정을 담은 다큐였다. 피해자다움에서 벗어나 엄마들의 욕망이 솔직하게 드러나는 점이 흥미로웠다. 아이들의 못 이룬 꿈을 대신 이뤄준다는 의미에서 의욕적으로 임하는 사람이 있지만, 누군가는 웃으며 연극을 참여하는게 맞는지 의문을 품는다. 또한 배역에 대한 욕심 때문에 갈등이 일어나고 이 과정에서 누군가는 극단을 떠나기도 한다. 그럼에도 다큐의 마지막은 어느 한 고등학교에서 연극 <장기자랑>이 펼쳐지는 것으로 마무리된다.
"엄마가 대신 그 무대에 서서 한 번 놀아볼게." 아이들과 똑같은 교복을 입고 무대 위에서 웃고 즐기는 엄마들의 모습은 참사를 바라보고 기억하는 새로운 방법을 보여줘 반갑다. 아픔을 아픔으로만 남기지 않겠다는 결심이 낳은 애도 방식이다. (출처 : 노컷뉴스)
10년이 흐르는 동안 죄책감이 희미해지고 세월호를 다루는데 피곤함이 느껴질 때도 종종 있었다. 그래서 다큐 <장기자랑>이 반가웠다. 참사 피해자의 피해자다움에서 벗어나 엄마들이 실천하는 애도의 방식은 이소현 감독이 말하고 싶었던 좀 더 가까운 이웃으로, 욕망을 가진 주체로서 내 기억에 남게 되었다. 그리고 나란 사람도 죄책감으로 세월호를 남겨두는 것이 아닌, 내일을 위해 ‘무엇을’을 기억할 것인지 세월호를 기억하는 방식을 다시 묻게 되었다. 여전히 세월호 참사에 풀리지 않는 문제의 실타래가 있고 하루빨리 해결되어야 한다. 그리고 세월호에 대한 기억을 더 넓게 가져보는 순간도 남아있는 우리를 위해 꼭 이야기해야 할 시점이 아닐까.
