AI 윤리 뉴스 브리프

2024년 6월 셋째 주
by 🤖아침

1. AI용 전력이 부족하다고? 원전을 지으면 되지!

• AI 때문에 전력수요가 늘어나므로 원전을 새로 짓는다. 제11차 전력수급기본계획에 드러난 정부 기조입니다. 정부가 2년마다 수립하는 이 계획의 전문가 실무안이 나왔는데요. 2038년까지 10.6GW 규모의 발전 설비를 새로 지어야 하고, 이를 대/소형 원전 및 열병합 등으로 충당한다는 것입니다.

• 하지만 원전이 AI 산업 육성에 얼마나 도움이 될지는 모르겠습니다. 데이터센터를 지속가능한 방식으로 운영하라는 압박을 받는 테크업계 입장에서는 재생에너지가 아무래도 매력적일 듯합니다. 아마존 관계자가 한국에서 재생에너지를 구하기 어렵고 이는 투자에 영향을 줄 수도 있다는 발언을 최근 하기도 했습니다.
• AI 기술 중에서도 현재 유행하는 거대 딥러닝 모델이 유독 에너지 집약적이라는 점도 짚을 필요가 있습니다. 유명한 <확률론적 앵무새의 위험> 논문도 모델 거대화 추세를 문제시하며, 이런 경향이 필연적이거나 애초에 필요하긴 한 것인지 묻지요. 거대 AI를 향해 달려가는 경주 속에서 더 효율적인 기술의 가능성이 차단되는 것 아닌지 의문입니다.
• 한편 위 계획에는 데이터센터가 증가한다는 전제가 깔려 있지요. 데이터센터는 운영에 드는 에너지뿐만 아니라 설립 자체로 탄소배출 등 기후비용을 발생시킨다는 점도 잊어선 안 되겠습니다. AI 산업을 위한 자원 투자가 기후위기 대응을 방해하는 셈입니다. 이런 사회적/지구적 비용을 들여야 할 만큼 AI 기술이 실질적이고 광범위한 혜택을 만들어낼지, 냉정하게 판단해야겠습니다.

🦜더 읽어보기
- 우리 회사 AI는 에너지 1등급일까? (2024-05-13)

2. 다소 식어가는 생성형 AI 열기

• 혜택이란 단어가 나온 김에 말이죠. 생성형 AI를 도입 중인 기업 경영진 및 관리직급 2,500여 명을 설문한 루시드웍스(검색 소프트웨어 기업)에 따르면, “AI 사업 실행에 따른 수익 성과는 형편없는 수준”입니다. 비용 문제와 AI 답변 정확성에 대한 우려까지 겹친 상황에서, 기업들이 AI 관련 지출에 훨씬 조심스러워졌다는 설문 결과입니다 (지출을 늘리려는 곳이 63%로 전해 93% 대비 크게 감소). 보고서는 이렇게 표현합니다. “생성형 AI의 허니문 단계는 끝났다.”
• 국내에도 많은 기업과 공공기관이 생성형 AI 도입에 열을 올리고 있지만, 실질적으로 (즉 기대감에 편승해 투자를 유치하는 등의 방식을 제외하고) 어떤 이익을 얻었는지는 아리송합니다. 제 주변에도 업무에 생성형 AI를 사용한다는 사람이 이따금 있는데요. 그것을 통해 뭔가 대단한 편익을 얻었다거나 삶의 질이 개선되었다는 얘기는 들어보지 못했습니다. 생성형 AI의 진정한 가치는 무엇이고, 그것은 언제 도래하는 것일까요?

3. 감시 최고전문가를 영입한 오픈AI

• 디지털 기술로 돈을 버는 검증된 방식이라면 한 가지 있지요. ‘감시’입니다. 오픈AI가 이사회에 미국 국가안전보장국(NSA)의 수장을 지낸 폴 나카소네를 영입했습니다. 명목은 AI 안전성을 확보하는 데 나카소네의 전문성이 도움이 되리라는 것인데요.
• 나카소네의 전문성과 위상을 생각할 때 앞으로 오픈AI의 미국 정보기관이나 국방성 관련 사업이 가속화되어도 이상하지 않겠습니다. 자사 정책에서 ‘군사 및 전쟁’ 용도의 AI 사용을 금지하던 조항을 올해 초 삭제한 것과 같은 맥락에서 이해할 수 있습니다.
• 나카소네 재임 중 NSA는 자국 민간인 통신 데이터를 대량 구매하여 불법 사찰하는 등 대중감시 확산에 힘써왔습니다. 이러한 전문성과 AI의 만남이 어떤 결과를 초래할지, 우려도 됩니다.

4. 어도비 이용약관 개정 소동의 시사점

• 6월 초, 어도비가 포토샵 등 프로그램의 이용약관을 변경하고 이용자들에게 필수 재동의를 받았습니다. 재동의는 약관 개정 때 발생하는 의례적인 절차일 수도 있지만, 이용자가 클라우드에 올린 “콘텐츠를 어도비가 자동 및 수동으로 접근할 수 있다”는 내용이 담겨 있고 재동의하지 않으면 프로그램을 사용하거나 심지어 삭제할 수조차 없었는데요. 얼핏 창작자의 작업물에 어도비 측이 마음대로 손댈 수 있고 생성형 AI 등 다른 제품을 만드는 데 활용할 수 있다는 뜻으로 해석할 수 있는 조항에 대한 반발이 소셜미디어에서 강하게 퍼졌습니다.

• 이용약관이 화제가 되자 어도비는 해명하는 글을 내놓았습니다. 이용자 작업물을 파이어플라이 생성형 모델 학습 데이터로 사용하거나 작업물에 대한 소유권을 사측이 주장하는 일은 없으며, 콘텐츠에 접근하는 이유는 1) 파일 조회, 편집 등 프로그램 기능 제공을 위해 2) 뉴럴 필터 등 클라우드 기반 기술 개선용 자료 확보 차원에서 3) 아동성착취물, 스팸 등 불법콘텐츠 및 오남용을 방지하기 위해서라고 설명합니다.
• 아주 납득할 수 없는 설명은 아니지만, 이용자 데이터를 AI 학습용으로 활용하거나 판매하는 플랫폼이 속속 늘어나는 추세 속에서 플랫폼과 이용자 간 불신이 커지고 있음을 보여주는 사례입니다. 플랫폼이 내미는 이용약관을 이용자가 거절할 수 없다는 점에서 권력 비대칭 또한 작용하고 있지요. 클라우드 플랫폼을 이용하는 이상 어떤 활동이건 언제든지 감시의 대상이 될 수 있다는 현실을 상기시키기도 합니다.

🦜더 읽어보기
- ‘윤리적’ AI를 그렇지 못한 데이터로 만들 수 있을까? (2024-04-15)
- 웅성👥👤마이크로소프트가 책임진대👤👥웅성 (2023-09-13)

📆 소식
- 인공지능은 왜 확률적 앵무새일까? (2024년 6월 21일, 온오프라인 하이브리드, 무료)
진보넷, 인권활동가를 위한 거대언어모델 이해하기 세미나
- 아트랩클럽 <AI 윤리 북클럽> (7월중 오프라인 진행, 참가비 1만5천원)
아트코리아랩 (마감일: 2024-06-26)

#feedback

오늘 이야기 어떠셨나요?
여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.
남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.