AI 윤리 뉴스 브리프

2024년 6월 첫째 주
by 🍊산디

1. 문건 유출로 드러난 구글의 알고리즘 투명성 훼손

• 2500장에 달하는 구글 검색 알고리즘 내부 문건이 깃허브에 유출되었습니다. 문건은 구글 검색 결과가 어떤 요소를 고려하여 우선 노출되는지를 다루고 있습니다.
• 문제는 공개된 문건의 내용과 구글이 그간 주장해온 바가 일치하지 않는다는 점입니다. 유출된 문건에 따르면 구글 검색 알고리즘은 구글 크롬 브라우저를 통해 수집한 이용자 데이터, 권위있는 브랜드를 우선 노출하기 위한 도메인 권위 지표 등을 반영하여 노출 순서가 정해집니다. 이는 그동안 구글이 부정해온 요소들입니다.
• 이번 사건은 구글이 다분히 의도적으로 알고리즘 투명성을 훼손해왔음을 보여줍니다. 이번에는 구글의 ‘실수’로 정황이 드러났지만, 우리의 일상에 함께하는 다른 많은 알고리즘들은 어떻게 감시할 수 있을까요.

2. 시민이 주도하게 하라
(Put the Public in the Driver’s Seat)

• AI NOW, Accountable Tech 등 13개 기관은 그림자 보고서, <시민이 주도하게 하라(Put the Public in the Driver’s Seat)>을 발표했습니다. ‘그림자 보고서(shadow report)’는 비정부기구가 정부 보고서를 비판적으로 보완하며 제시되는 보고서를 뜻합니다. 이번 보고서는 미국 상원의 AI 정책 로드맵(AI Policy Roadmap)을 비판적으로 보완합니다.
• 지난 5월 15일, 미국 상원의원 민주당 원내대표 척 슈머(Charles Ellis Schumer)는 AI 정책 로드맵을 공개했습니다. 그림자 보고서는 로드맵 제작 과정이 시민사회에는 폐쇄적이었던 데 반해 일론 머스크, 샘 올트먼 등 기업 관계자에게는 활짝 열려 있었다는 사실을 지적합니다. 내용 측면에서도 로드맵은 AI의 산업적, 안보적 가치에 초점을 맞추고 있는 것으로 보입니다.
• 그림자 보고서 <시민이 주도하게 하라>는 AI와 관련된 우려들을 11개 분야로 정리하여 제시합니다. AI 책임성, 노동, 빈곤, 민주주의, 기후위기 등의 문제들과 함께 소비자 보호, 빅테크에 의한 독점 방지, 공적 자금의 AI 투자 등 AI 시장이 공익에 부합하는 방향으로 움직이도록 하기 위한 방법에 대해서도 폭넓게 다루고 있어요. 각 분야마다 최신 연구들(Mountains of Evidences)이 정리되어 있으니 한번 훑어보셔도 좋을 듯 합니다.

3. 교사 개인정보 유출,
AI 디지털 교과서는 준비 되었나

• 지난 5월 20일, 교육부는 17개 시·도교육청에 ‘교실혁명 선도교사 연수대상자 선정 결과’ 안내 공문을 보내며 연수 대상자 명단이 담긴 엑셀파일을 첨부했습니다. AI 디지털 교과서 도입을 위해 열린 첫 번째 연수의 대상자를 안내하는 공문이었죠. 그러나 4곳의 교육청에는 암호화되지 않은 파일이 전송되었고, 1만1000여 교사의 이름, 소속, 휴대전화 번호가 열람할 수 있는 상태로 노출되었습니다.
• 교육부는 공문의 열람 범위를 제한해줄 것을 요청하는 등의 조치를 취했으며, 연수 대상자분들에게 사과와 재발방지대책을 담은 이메일을 보냈다고 합니다. 교육부는 개인정보보호위원회에 해당 사실을 보고하였으며 향후 조사에 성실히 임한다는 입장입니다.
• 이번 개인정보 유출을 AI 디지털 교과서의 안전성과 아무 관련 없는 일이라고 이해할 수도 있을 것입니다. 하지만 교육 현장의 교사와 학생들에게는 정부가 AI 디지털 교과서를 통해 수집한 학습정보를 어떻게 보호할 것인지 물을 기회가 주어져야합니다. 교원단체들은 AI 디지털 교과서 재검토를 요청했습니다. 교육부는 2025년부터 영어, 수학, 정보, 특수교육 국어 등 4개 교과목에 AI 디지털 교과서를 도입할 계획입니다.

🦜 같이 읽어도 좋은 글
- AI 교과서는 우리 아이 데이터 채굴기? (2024-01-29)
- 외부인의 ‘AI 디지털 교과서’ 단상 (2024-02-21)
- AI 디지털 교과서, 결정권은 누구에게 있는가

4. 안녕하십니까, 지역언론 AI 앵커입니다

• JIBS 제주방송에서는 매주 토요일 AI앵커가 지역 뉴스를 소개합니다. 그 모습도 실제 JIBS 기자국 기자의 음성과 몸짓을 모델로 제작되어 매우 현실감 있죠. 영상으로 보더라도 ‘AI 앵커’라는 안내 문구가 없다면 AI라는 사실을 알 수 있을까 싶습니다. 제주만이 아닙니다. 청주방송이 이미 지역민방 최초로 AI뉴스를 도입하였고, KNN과 G1 방송 등 지역민영방송사들이 속속 AI 앵커를 도입하는 추세입니다.
• 지역민영방송노조는 AI 앵커가 그저 비용 절감을 추구한 결과일 뿐, 재난방송이나 속보 등에 대응할 수 없고 지역민의 뉴스에 대한 신뢰를 더욱 떨어뜨릴 수 있다고 지적합니다. 노조는 고용조건과 노동조건, 방송윤리 등에 영향을 주는 중요한 사안인 만큼, 방송사가 노조와 더 깊이 협의할 것을 요구합니다.
• AI 앵커는 언론이 AI로 인해 겪는 많은 변화들 중 하나입니다. 물론 AI 도입에 무조건 반대할 필요는 없습니다. 오히려 생산성을 높여 새로운 투자가 이루어질 수도 있겠죠. 하지만 새로운 기술이 미처 알지 못했던 부작용을 야기하지는 않는지, 조직 구성원과 지역 주민들은 어떤 영향을 받는지, 언론 조직의 관행은 어떤 영향을 받는지 예의 주시해야 할 겁니다. 언론은 여느 때보다도 예민하게 변화와 대응이 필요하고, 이러한 변화는 언론 가치를 최우선에 두어야 합니다.
• 그나저나, 김동은 기자님이 퇴사하면 ‘김동은 AI 앵커’도 삭제되는 걸까요? 관련해서 회사와 계약서는 쓰셨겠죠…?

🦜 같이 읽어도 좋은 글
- 온고지신 할리우드(2023-07-24)

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.