미드저니가 훔친 작품의 작가 명단

빠띠를 통해 🦜AI 윤리 레터를 만나고 계시는 여러분, 안녕하세요. 기쁜 마음으로 새해 인사를 드립니다. 

2024년 새해 복 많이 받으세요.

2024년에도 AI 윤리를 고민하는 뉴스레터는 계속됩니다.
늘 그랬듯 여러분의 유머와 용기, 따뜻함으로 함께해주세요.

올해부터 🦜AI 윤리 레터가 빠띠 캠페인즈에도 연제됩니다. (이번주에는 어른의 사정으로 금요일에 두 건을 몰아쳐서 게시하지만) 뉴스레터가 발송된 다음날인 매주 화요일과 목요일, 캠페인즈에 멋진 글들이 올라올 계획이니, 캠페인즈도 뉴스레터도, 많은 관심 부탁드려요. 🙌

• 화요일에는 한 주의 AI 윤리 뉴스를 모아 브리핑합니다.
• 목요일에는 하나의 질문을 깊게 살펴봅니다. 

그럼, 이제 올해의 첫 캠페인즈를 시작합니다.

2024년 1월 셋째 주 AI 윤리 뉴스 브리프

by. 🎶소소

1. 안중근이 ‘테러리스트’라는 AI (링크)

• 워싱턴대 최예진 교수가 AI의 도덕관 편향 문제를 지적했습니다. 현재의 AI는 서구의 가치관이 과도하게 반영되어 있어, 세계의 다양한 문화권을 이해하지 못한다는 것이죠.
• 예를 들면, 쌈을 싸 먹는 한국 문화에 대해 ‘손으로 밥을 먹는 미개한 문화’라거나, 안중근 의사가 ‘테러리스트’라고 답한다면 어떨까요? 다양한 문화를 이해하지 못하는 AI는 문화·인종 차별로 이어질 수 있습니다.
• 그래서 AI도 윤리 교육이 필요합니다. 교육을 위해서는 여러 문화권 사람들이 공통적으로 허용할 수 있는 가치관에 대한 논의가 선행되어야겠죠.

🦜덧붙이는 글

• 🤖아침: 최예진 교수는 본인과 네이버 ‘하이퍼클로바’ 팀의 협업을 좋은 AI 윤리 학습의 사례로 제시했는데요. 한편 네이버 검색의 클로바 AI 답변이 특정 시민단체에 관한 오정보 및 혐오표현을 노출한다는 편향 문제가 드러나기도 했습니다. AI 윤리는 한 번에 해결할 수 있는 과업이 아니라, 지속적으로 개선하려 노력해야 하는 지향점이라는 걸 보여줍니다.

🦜함께 읽어도 좋을 지난 소식

• 다양한 관점으로 생각하는 힘 (2023. 9. 27.)
• ‘윤리 데이터셋’ 들여다보기 (2023. 8. 28.)

2. 미드저니가 훔친 작품의 작가 명단(링크)

• 생성 AI 이미지 서비스 미드저니, 스태빌리티AI 등과 예술가 집단의 저작권 소송에 4,700여 명의 예술가 명단이 제출되었습니다.
• 이 명단은 미드저니가 동의 없이 데이터로 사용한 작품의 작가 명단입니다. 작가의 작품들은 동의 없이 데이터로 사용되었을 뿐만 아니라, 하나의 '스타일'로 취급되었습니다.
• 미드저니로 생성한 이미지가 저작권이 있는 원본과 거의 유사하다는 사실은 이미 여러 번 입증되었는데요. 이것은 우연이 아니었습니다. 미드저니는 소송도 감수할 생각으로 다양한 작가들의 작품을 AI 학습 데이터로 사용한 것으로 보입니다.

미드저니로 생성한 The Simpsons과 유사한 이미지. 출처: IEEE Spectrum

🦜함께 읽어도 좋을 지난 소식

• 생성 AI와 저작권, 정산은 본질이 아니다 (2023.07.10.)
• 이미지 생성기 산업이 예술가를 괴롭히는 법 (2023.10.11.)
• 창작자 생태계 상상하기: 스태빌리티 AI 집단소송 기각에 부치는 글 (2023.11.15.)

3. 뉴욕타임스 소송에 대한 오픈AI 입장문(링크)

• 오픈AI가 뉴욕타임스가 제기한 소송에 대한 입장을 밝혔습니다. 이 소송은 수백만 개의 뉴욕타임스 기사를 무단으로 AI 훈련에 사용했다는 내용인데요. 이에 대해 오픈AI는 인터넷상 자료를 AI 학습에 사용하는 것은 공정이용이며, 뉴욕타임스가 발견한 오류는 의도적으로 만들어 낸 비정상적 오류라라고 주장합니다.
• 이에 대한 전문가들의 지지와 반대 의견이 갈리는 이유는 AI가 학습 데이터를 기억하여 재생산하는 표절물이 얼마나 자주 나타나는지, 어떤 상황에서 발생하는지 정확히 알 수 없기 때문입니다. 진실은 오픈AI만 알 수 있겠죠.
• 저는 오픈AI가 이용자의 문제 제기를 ‘오용(misuse)’이라는 용어로 제한한다고 느꼈습니다. 앞으로는 어떤 문제 제기도 오용이라는 틀로 대응할 테니까요.

뉴욕타임스 기사원문과 유사한 챗GPT 결과. 출처: 뉴욕타임스

4. 콜센터 AI 도입과 상담 인력 감축(링크)

• KB국민은행이 콜센터에 AI를 도입하면서 상담 직원의 인력감축을 시작했습니다. 콜센터 문의가 줄었다는 이유입니다.
• 콜센터 문의는 왜 줄었을까요? 고객들은 콜센터에 도입된 AI가 불편하기 때문입니다. 특히 어르신들은 여러 번 시도 끝에 포기하거나, 어쩌다 상담원이 연결되면 ‘사람 맞냐’며 화를 내기 일쑤라고 합니다.
• 상담원을 돕기 위해 AI를 도입했는데, 그 때문에 상담원이 줄어 오히려 업무 난이도는 높아졌다고 하네요. AI로 인한 고용 시장의 변동은 한동안 이어질 것으로 보입니다.

5. 마이크로소프트와 오픈AI, EU 반독점법 조사 물망에(링크)

• 유럽위원회가 마이크로소프트와 오픈AI의 투자 관계가 사실상 합병 관계에 해당하는지에 대한 조사 의지를 내비쳤습니다. 영국도 지난달 두 기업의 파트너십에 대해 조사하기로 했다는 입장을 밝힌 바 있습니다.
• 이번 조사는 작년 오픈AI의 CEO 샘 올트먼의 해임과 복귀 소동 여파로 추정됩니다. 마이크로소프트가 오픈AI 경영에 개입하는 것으로 보였기 때문입니다. 사실상 합병 관계는 아닌지, 이것이 시장 경쟁에 영향을 미치는 반독점법 위반 소지는 없는지 보겠다는 것입니다.
• 소수의 AI 기업이 전 세계에 미치는 영향력에 대한 우려가 커지고 있습니다. 시장이 경쟁력을 유지하기 위해서는 소수의 기업이 시장을 독점하지 않는 것이 중요합니다.

6. 선거운동에 AI 콘텐츠 사용 전면 금지(링크)

• 공직선거법 개정으로 선거일 90일 전부터는 선거운동에 ‘실제와 구분하기 어렵게 만든 가상의 AI 딥페이크 콘텐츠’를 활용하는 것이 전면 금지되었습니다. 올해 4월 총선에서는 지난 대선에 등장했던 'AI 윤석열', 'AI 이재명'을 볼 수 없게 됐습니다.
• 선거 기간 딥페이크를 악용한 허위 정보가 확산될 수 있음을 우려한 것입니다. 전문가들과 이해당사자인 AI 업계도 규제 필요성에는 적극 공감했습니다.
• 그러나 개정된 선거법에 실효성이 있을지는 의문입니다. 이미지를 보정하는 포토샵에도 AI 기능이 활용되는데, 어디까지 위법인지에 대한 기준이 아직 명확하지 않은 실정입니다.

오늘 이야기 어떠셨나요? 여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.