AI 윤리 뉴스 브리프

2024년 6월 둘째 주

by 🧙‍♂️텍스

1. 당신의 동의를 구하지는 않았지만, 퍼가요~

• 5월 22일 페이스북은 공식 뉴스룸 포스팅을 통해 생성형 AI를 유럽 지역에 확대하는 계획을 발표했습니다. 현재 북미에서만 서비스 중인 Llama 어시스턴트를 유럽으로 확대할 예정입니다. 메타는 이달 유럽의 인스타그램과 페이스북 사용자에게 공개 게시물이 6월 26일부터 인공지능(AI) 훈련에 사용될 수 있다고 데이터 거버넌스 변경을 알렸습니다.
• 이와 함께 메타는 변경 계획이 유럽의 GDPR(General Data Protection Regulation)을 준수하며, 사용자가 원하지 않을 경우 데이터 사용을 제외할 수 있는 옵트아웃(Opt-out) 설정 옵션 또한 제공한다고 밝혔습니다. 5월 29일 유로뉴스의 기사에 따르면 메타는 아일랜드 데이터 보호 위원회가 제기한 여러 문의에 대응 후 현재와 같은 일정으로 거버넌스 변경을 연기했다고 합니다.
• 하지만 프라이버시에 있어서 유럽이 녹록한 곳은 아닙니다. 6월 6일 비영리단체인 유럽 디지털 권리 센터(noyb)는 메타의 거버넌스 변경이 사용자의 옵트아웃 이후에도 시스템에 이미 탑재된 데이터의 잊혀질 권리(GDPR 17조)가 보장되지 않는 등 여러 근거를 들어 GDPR 위반을 주장하며 11개 국가의 데이터 관련 기관에 6월 26일 전에 메타의 거버넌스 변경의 신속한 중지를 요청했습니다.
• 변경된 데이터셋을 반영하려면 알고리즘을 처음부터 새로 학습시켜야 해서 큰 비용과 긴 학습 시간을 요구로 합니다. 따라서, 빅테크 기업들은 해당 요구를 무시 혹은 우회하는 전략을 취하리라 조심스럽게 예상해 봅니다. 유럽 정책 당국이 이 사안을 어떻게 판단할지 지켜봐야 할 것 같습니다.

🦜더 읽어보기
- 4. 데이터, 어떻게 팔아야 잘 판 걸까? ...팔아야 하는 걸까? (2024-03-25)
- 1. AI 학습용 데이터 팝니다 (2024-03-04)
- 이용자 몰래 데이터를 활용하고 싶은 기업들 (2023-08-23)

2. 저작권에 꽂혀있는(?) 유인촌 문화체육관광부 장관

• 작년 12월 27일 문화체육관광부 (이하 문체부)는 저작권에 관한 총체적인 전략인 저작권 강국 실현, 4대 전략을 발표했습니다. 4대 전략에 따라 문체부는 AI 선제 대응을 위해서 생성형 인공지능(AI) 저작권 안내서를 발행했고 현재 회색지대에 놓여 있는 AI 저작권 관련한 R&D 기술 개발을 지원합니다.
• 또한, 저작권 사각지대 해소 방안으로는 안무·건축 등 소외분야 권리행사 지원 강화 등을 언급하였습니다. 올해 4월 24일에는 안무저작권협회가 출범하여 안무저작권 수익 분배 구조 등을 논의하며 문체부 정책들과 상응하는 모습들도 보입니다. 또한 4월 26일 출판업계 현장 간담회에서는 책이 다른 콘텐츠의 원천이라는 점 또한 언급하면서 출판 저작권 보호또한 언급되었습니다.
• 연합뉴스의 기사에서 유인촌 장관은 "AI가 창작물을 만들려면 데이터로 학습을 했을 텐데, 제공된 데이터에 대한 보상은 이뤄져야 한다는 게 개인적인 의견"이라고 이야기했습니다. 아무쪼록 향후 저작권 제도의 발전이 창착자 권리 보장과 지속 가능한 창작 환경이라는 두 개의 상충점을 잘 조율 하기를 기대합니다.

🦜더 읽어보기
- 4. 데이터를 사모으는 어도비 (2024-04-22)
- AI에 맞서는 저술노동자들의 목소리(2024-04-15)
- 2. 미드저니가 훔친 작품의 작가 명단 (2024-01-15)
- 창작자 생태계 상상하기: 스태빌리티 AI 집단소송 기각에 부치는 글(2023-11-15)
- 이미지 생성기 산업이 예술가를 괴롭히는 법 (2023-10-11)
- 옵트-아웃 오픈AI / 뉴스 저작권 그 다음은? (2023-09-25)
- 생성 AI와 저작권, 정산은 본질이 아니다 (2023-07-10)

3. 콜센터 인공지능을 지탱하는 상담사의 그림자 노동

• 한겨레의 세 건의 기사로 묶인 AI의 습격 인간의 반격 이슈는 콜센터의 인공지능 도입이 상담원 노동을 어떻게 변화시켰는지 분석했습니다. 약 3~4년 전 콜센터 인공지능 도입 초창기에는 인공지능이 고객의 단순한 상담 요청을 처리해서 상담원의 수고를 덜어주리란 기대가 있었습니다. 하지만 현재는 완성도 낮은 인공지능 때문에 상담원들이 화난 고객들 대하는 감정 노동해야 하거나 시스템을 보조하느라 업무가 편해지기는커녕 오히려 복잡해졌다는 지적입니다.
• 기사의 설문조사에서 44%의 상담사가 콜센터 업무 외에 인공지능 고도화를 위한 추가적인 그림자 노동을 수행했다고 했습니다. 이들 중 86%는 이에 대한 정당한 보상 및 대가를 받은 적이 없다고 응답했습니다. 절반 이상의 (51%) 상담사는 인공지능 기술 고도화에 상담사들의 노하우가 활용되고 있다고 이야기합니다. 기사에서는 이러한 현실을 AI 학습을 위한 지식재산권 침해 사례로 언급했습니다.
• 우선적으로 2020년대에도 여전한 사전협의 없는 부당한 업무 지시를 근절해야 할 것입니다. 그리고 장기적으로는 민주적 데이터 거버넌스를 수립하여 인공지능을 지탱하는 이들을 위한 보상 체계를 마련해야 할 것입니다. 어렵겠지만 인공지능의 적절한 이익 분배 정책은 인공지능의 사회적 포용 및 효용을 동시에 달성할 수 있는 길이라 예상됩니다.

🦜더 읽어보기
- 원격 계산원과 키오스크 (2024-04-29)
- 강화학습이 강화하는 역사 (2024-04-24)
- 4. 콜센터 AI 도입과 상담 인력 감축 (2024-01-15)

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.