AI 윤리 뉴스 브리프

2024년 10월 둘째 주
by 🤔어쪈

1. 우리나라 AI 정책 소식 (1): 국가AI위원회 출범

• 세계 3대 AI 강국을 위한 국가 총력전. 지난 9월 26일 국가AI위원회 출범식에서 위원장 윤석열 대통령은 전쟁에 빗댄 표현으로 국가 AI전략의 필요성을 역설했습니다. 30명의 민간위원과 10여명의 정부위원으로 구성된 위원회는 향후 정책과제로 구체화될 국가 AI전략을 수립 및 이행하는 역할을 맡게 됩니다.
• 과학기술정보통신부가 미리 설정한 국가 AI전략의 정책방향은 4대 AI 플래그십 프로젝트로 구성되어 있습니다. 이 중 4번에 해당하는 <AI 안전·안보·글로벌 리더십 확보>는 다른 것에 비해 제목에서부터 여러 요소가 혼재된 모습입니다. 올해 11월 AI 안전연구소 설립, 연내 AI 기본법 제정을 언급하고 있으나 그 목적이 안전보다는 글로벌 AI 거버넌스 주도에 방점이 찍혀있는 것으로 읽힙니다.
• 시의성 있는무엇을 위한 3대 AI 강국인지, 애초에 3대 AI 강국이란 무엇인지에 대한 설명조차 부족한 청사진이 강제징집령처럼 느껴지는 건 저만 그럴까요? 심지어 각종 수사를 걷어내면 5년전 정부가 발표했던 <인공지능 국가전략>과도 내용이 대동소이한 점은 정책의 효과에도 의구심을 갖게 합니다. 앞으로 위원회에서 이 총력전의 목적과 수단이 무엇인지 명확히 해주길 바랄 뿐입니다.

2. 우리나라 AI 정책 소식 (2): AI 기본법 공청회 개최

• 정부가 AI를 위한 총력전을 발표한 후 언론의 시선은 국회로 쏠렸습니다. AI 기본법은 언제 만드냐는 지적입니다. 물론 올해 22대 국회 개원과 동시에 여러 의원이 각기 법안을 발의하긴 했습니다. 그러나 그간 주무위원회인 과학기술정보방송통신위원회의 업무가 지체되었고, 발의안 대부분이 이전 국회에 제출된 내용을 재탕하여 최신 생성형 AI 기술이나 딥페이크 성착취물 등의 현안 반영이 필요해 아직 갈 길이 먼 상태입니다. 지난 9월 24일 국회에서 AI 기본법 공청회가 열린 배경입니다.

• 여당 국민의힘은 이전 레터에서 해당 법안에 대한 시민사회의 우려를 중심으로 다뤘던 정점식 의원안을 당론으로 정했습니다. 민주당은 아직 당론을 도출하진 못했으나 의원별 발의안 내용이 대동소이하기에 채택이 오래걸리진 않을 것으로 보입니다. 여기에 더해 공청회에서는 참여연대와 정보인권연구소 등의 시민단체가 준비한 이른바 시민사회안을 함께 논의했습니다.
• 국회 밖 재촉하는 목소리가 커져만 가는 상황에서 공청회는 법안의 방점을 산업 진흥에 두고 일단 통과시킬 것인지, 위험 방지를 위한 안전 규제를 보완할 것인지를 두고 갈팡질팡하는 모습이었습니다. 특히 AI 기본법이 중요하다는 점에 이의를 제기하는 사람은 없었지만 일부 의원은 기본법 제정이 정말 시급한지 질문을 던지기도 했습니다. 시민사회안을 제출한 시민단체들은 이후 논평에서 정책입안자의 실질적인 AI 위험성에 대한 인식이 여전히 부재하다며 이제부터라도 구체적인 쟁점 논의가 필요하다고 지적했습니다. 이 와중에 AI가 국가의 미래 30년을 좌우할 것이라는 정부가 3개월 남은 올해 안에 기본법이 통과되길 기대하고 있다는 점이 마음에 걸립니다.

3. 캘리포니아 주지사: ‘규제는 필요하나, 이 법안은 아니다.’

• 지난주 AI 윤리 레터에서 미국 캘리포니아주의 AI 규제 법안 SB1047을 재차 다룬 직후, 개빈 뉴섬(Gavin Newsom) 주지사의 거부권 행사 소식이 들려왔습니다. 레터에서 지적했듯 AI 모델 개발자에게 해당 모델의 파생 모델이나 서비스로 인한 피해에 대해서도 책임을 묻는 등 다소 파격적인 내용 때문에 논쟁을 불러일으킨 바 있죠. 실리콘밸리가 속한 곳이자 AI 상위 50개 기업 중 32개가 적을 둔 곳인만큼 단순 한개 주의 법 이상의 의미를 갖고 있는 법안이었습니다.

• 뉴섬 주지사는 성명서를 통해 법안의 방향성과 AI 규제 필요성에는 공감한다면서도 아래와 같은 이유로 해당 법안에 동의하기 어렵다고 했습니다:
  • 실질적인 위험성보다 비용과 계산 규모에 따라 대규모 모델에만 초점을 맞춰 규제를 도입하여 위험한 소규모 특화 모델을 간과할 수 있음
  • 고위험 환경이나 중요한 의사결정, 민감 데이터 사용 여부를 고려하지 않고 모든 대규모 시스템에 엄격한 기준을 적용함
• 이를 두고 벤처캐피탈을 비롯한 산업계의 로비가 성공했다는 평가도 있지만, 뉴섬 주지사가 지난 한달여 간 주의회를 통과한 17개의 생성형 AI 규제 법안에 서명한 것을 보면 규제 여부보다 방식에 대한 고민의 결과로 보입니다. 그중에는 딥페이크 성착취물을 규제하기 위한 법안들도 포함되어 있죠. 동시에 캘리포니아 주정부는 과학적 증거 기반의 생성형 AI 위험 분석이 필요하다며 새로운 이니셔티브를 출범시켰습니다. 보는 눈이 많아 늦지 않게 정책을 도출해야 할 것으로 보입니다.

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.