🦜책임있는 AI를 위한 HYPE 뉴스 체크리스트

[세줄요약] 

1. AI 관련 과대광고 및 공포 마케팅을 부추기는 'AI 하이프 뉴스'가 많습니다.
2. 이런 AI 하이프 뉴스가 왜 문제인지 함께 생각해보고,
3. AI 하이프 뉴스의 특징을 정리한 체크리스트를 참고해 주변 사례를 모아봐요!

생성 AI, 얼굴 인식, 추천 알고리즘 등 AI 기술은 빠르게 일상으로 침투하고 있습니다. 단순히 신기한 첨단 기술을 넘어 실제 수요를 가진 서비스로 시장을 열고 있죠. 그 과정에서 AI가 인류의 생존을 위협한다는 두려운 주장도 접하게 됩니다.

AI의 대가로 꼽히는 제프리 힌튼은 구글을 떠나며 AI 기술 발전이 초래하는 위협에 대해 두려움을 느낀다는 의견을 냈습니다. 오픈AI는 AI 시스템이 10년 이내에 대부분의 영역에서 전문가 수준을 능가하는 초지능에 도달할 것이라 주장합니다. GPT-4보다 강력한 AI의 개발을 잠시 중단해야 한다거나, AI로 인한 인류 멸종 위험에 대비해야 한다는 선언도 등장합니다. 저명한 학자와 기업인들이 이러한 주장을 하고 있는데다 언론이 상당한 지면을 제공하면서 신빙성 있는 주장인 것처럼 보이기도 합니다.

많은 경우 이러한 주장들은 과학적인 근거를 갖추고 있지 못합니다. 게다가 앞으로 살펴보겠지만, 공동체가 당면하고 있는 여러 문제를 논의하는 데에 오히려 장애물이 됩니다. ?AI 윤리 레터는 AI에 대한 과대 광고부터 그것이 인류 생존을 위협한다는 뉴스까지, 이러한 주장들을 AI 하이프 뉴스라고 부를 것을 제안합니다. 가트너의 하이프 사이클이 보여주듯, 기술의 과대광고 주기는 일정한 패턴을 보입니다. AI 역시 마찬가지입니다. 지금 우리는 AI의 성능을 과대광고하는 시점을 지나고 있고, AI 하이프 뉴스에 매일같이 노출되고 있습니다.

AI 하이프 뉴스는 이런 특징을 보입니다.

• AI 기술을 과도하게 의인화 함
• 근거 없이 과장된 주장을 함
• 이해관계자, 특히 기업의 목소리를 그대로 받아 적음
• AI의 한계를 살펴보지 않음

누군가는 경제적 이익을 얻고 동시에 도덕적 책임을 면하기 위해 AI 하이프 뉴스를 더욱 부풀립니다. 그리고 AI가 야기하고 있는 여러 문제들로부터 주의를 돌리게 하죠. AI 하이프 뉴스로 누가 이익을 보고 있을까요? AI 하이프 뉴스는 어떤 사회적 효과를 낳을까요?

누가 AI 하이프를 만드나

AI 하이프는 기업에게 경제적 이익이 됩니다

생성 AI는 시장에 신선한 충격을 주었습니다. 챗지피티는 출시 두 달 만에 1억 명 이상의 사람들이 사용했고, 오픈에이아이는 마이크로소프트로부터 100억 달러의 투자를 받았습니다. 2022년 생성 AI 분야 스타트업에 투입된 벤처 캐피털 투자금만 45억 달러에 달합니다. 맥킨지는 생성 AI가 세계 경제에 최대 연 4조4천억 달러의 가치를 더할 것이라 추정했죠. 4조4천억 달러는 영국의 2021년 GDP에 맞먹는 규모입니다. PwC는 2030년까지 AI가 세계 경제에 기여할 경제적 가치가 15조 7천억 달러에 달할 수 있다고 추정했습니다.

맥킨지, PwC 보고서의 추정치가 얼마나 정확한지와 무관하게 기업 입장에서 하이프는 곧 돈입니다. AI에 관심과 돈이 쏠리는 이 시점에, 기업들은 자사 서비스에 AI가 적용되었다고 홍보하기 시작했죠. 돈의 흐름을 따라 기업은 AI 하이프를 적극적으로 만들어냅니다. AI가 위대해질 수록 자사의 서비스도 위대한 것이 됩니다. 일부 싱크탱크, 콘텐츠 생산자는 AI가 너무나 강력한 기술이라 인류에 위협이 된다는 공포 마케팅을 펼치며 산업계와 상생관계를 이룹니다. AI의 성능을 홍보하는 목소리건, 인간과 경쟁하는 AI가 인류에게 위험이 된다는 목소리건, 드러나지 않은 경제적 의도를 가지고 있을 수 있습니다. 이에 맞서 미국 FTC는 이미 AI 과장 광고를 규제하겠다고 경고한 바 있습니다.

AI 하이프는 기업이 도덕적 책임을 면할 수 있도록 합니다

AI 하이프를 통해 기업이 얻는 효용은 경제적인 것에 그치지 않습니다. AI 하이프의 관점에서 AI는 이미 인간의 통제를 벗어나 자체적으로 ‘진화’합니다. 인간이 이해할 수 없는, 닥쳐버린 미래죠. 이러한 관점을 가정하면 기업 역시 AI를 통제하지 못합니다. 그렇게 기업은 도덕적 책임으로부터 자유로워집니다.

AI는 우리 사회가 그동안 가지고 있었던 문제들을 수면 위로 끌어올렸습니다. AI의 편향과 차별, 프라이버시와 저작권 침해, 안전한 AI를 만들기 위한 마이크로 노동의 불안정성, 기후위기 등 적극적으로 논의되어야 할 사안들이 많습니다. AI 하이프는 이 문제들로부터 기업의 책임을 경감합니다. AI는 어차피 인간이 통제할 수 없기 때문이죠. AI 하이프는 AI를 개발하고 있고, 심지어는 수익을 내고 있는 기업이 손 쓸 도리가 없다고 주장하는 근거가 됩니다.

오히려 AI와 스스로를 성공적으로 분리한 기업은 자신을 AI가 야기하고 있는 문제들을 해결할 영웅으로 포장합니다. 초지능에 대응할 거버넌스 기구를 만들거나, 인간이 안전한 초지능을 만들겠다는 등의 발표가 그것이죠. 하지만 규제를 열렬히 환영하는 듯 했던 오픈AI가 EU를 대상으로 비공개 로비를 해온 사실이 밝혀진 바 있고, 기업은 너무나도 당연하게 인간이 안전한 서비스를 개발해야 합니다.

어렵더라도 AI 하이프에 속지 말아야 하는 이유

그렇다고 하더라도, ‘대가’라고 불리는 전문가들까지도 AI 하이프에 동조하고 있으니 이를 무시하기란 쉽지 않은 일입니다. 국내 언론도 대거 보도한 ‘(GPT-4보다 강력한) AI 개발을 6개월간 중단하자’는 FLI(Future of Life Institute) 성명서나, ‘AI로 인한 인류 멸종 위험을 팬데믹이나 핵전쟁과 같은 수준으로 다뤄야 한다’는 CAIS(Center for AI Safety)의 선언문에는 일론 머스크나 샘 올트먼 같은 기업가 말고도 요슈아 벤지오, 스튜어트 러셀, 제프리 힌튼, 피터 노빅 등의 수많은 학계 AI 전문가 역시 이름을 올리고 있으니까요.

AI가 곧 인공일반지능으로 발전해 인류에게 실존적 위협이 될 것이란 주장은 AI 하이프의 극단적인 모습입니다. 이러한 의견은 조경현 교수가 지적하듯 소수의 과학자들만 AI의 위험을 멈출 수 있다는 매력적인 영웅 서사로 포장되어 확산됩니다. 또는 AI가 인간의 통제를 벗어나 자발적으로 ‘진화’해 ‘인간 이상의 존재’가 될 거라는 두려움을 먹으며 자라나죠.

하지만 AI 하이프에 현혹되지 말 것을 경고하는 전문가 역시 적지 않습니다. 대표적으로 거대언어모델의 위험을 다룬 기념비적인 논문 ‘확률론적 앵무새의 위해’의 저자들은 FLI의 성명서를 정면으로 반박하는 성명서(원문, 번역본)를 발표한 바 있습니다.

해당 성명서를 비롯해 AI 하이프에 우려를 표하는 전문가들은 다음과 같은 부정적인 효과를 지적합니다.

첫째, AI의 능력을 과장할수록 AI를 주체적인 존재로 인식하게 됩니다. 이는 AI가 다만 인간이 만드는 기술임을, 특히 기업이 설계하고 개발한다는 사실을 잊게 만듭니다. AI 자체를 두려워하게 되면 AI 때문에 인류가 멸종할 거라며 목소리를 키우는 기업이 마치 영웅처럼 보입니다. 현실의 AI 기술은 그들이 원하는대로 만들어지고 작동하는데도요.

둘째, 극단적인 위험을 강조할수록 당면한 문제들이 축소되고 관심에서 멀어집니다. AI는 이미 전쟁 무기로 도입되고 있고, 국경 또는 점령지역에서 난민이나 토착민의 인권을 침해하는 데 쓰이고 있습니다. 생성 AI 개발에 필요한 학습 데이터는 창작자의 동의 없이 수집되어 도리어 창작자의 일자리를 위협합니다. 기업은 부적절한 결과물을 필터링하기 위해 저임금 노동자들에게 외주를 주고, 노동자들은 정신적 트라우마를 안고 살아갑니다. 사회적인 관심과 논의, 연구 등 위험에 대응하기 위한 한정적인 자원이 ‘AI가 인류를 위험에 빠뜨린다’는 상상 속 위험에 쏠립니다. 그만큼 현실 문제 해결은 요원해집니다.

언론은 AI 하이프에 편승하고 하이프를 부풀린다

AI 하이프에 매력을 느끼는 건 언론도 매한가지입니다. 한 사람이라도 더 많이, 1초라도 더 오래 플랫폼에 묶어 두어야 하는 언론에게 AI 하이프는 예나 지금이나 흥미진진한 소재입니다. 1958년 뉴욕타임즈는 새로 개발된 로봇 퍼셉트론이 곧 "걷고, 말하고, 보고, 쓰고, 복제하고, 자신의 존재를 의식하게 될 것이다.“라고 보도했었죠.

AI 하이프가 한창인 요즘, 언론은 하이프에 편승합니다. 예를 들어 볼까요. 지난 6월, AI 드론이 임무에 방해가 되어 인간 조종사를 살해했다는 보도를 접하셨을 겁니다. AI가 인간을 살해했다는 충격적인 소식을 언론사들은 쉽게 보도했습니다. 하지만 보도 내용은 사실이 아닙니다. 조종사의 죽음은 가상의 ‘사고실험’이었습니다. 실제 사망한 사람뿐만 아니라, 가상훈련조차 없는 일이었죠.

이외에도 비슷한 사례는 많습니다. 곧 인간보다 뛰어난 초지능이 등장할 거라 전하는 뉴스나, AI로 인해 인류가 퇴화할 거라는 자극적인 인터뷰, 인공지능은 인류의 마지막을 컴퓨터 부품으로 예측한다는 보도 등등. 이런 뉴스들은 기술의 사회적 맥락을 진단하기는 커녕 AI 하이프를 증폭할 뿐입니다.

우리가 당면하고 있는 여러 문제들이 AI 하이프에 의해 가려지지 않도록 하기 위해서는 AI 하이프 뉴스를 알아보는 것이 필요합니다. AI 하이프 뉴스를 비판적으로 읽는 작업은 책임있는 AI를 위한 실천이 될 수 있어요. 우리는 기업과 언론이 AI와 그것을 만드는 사람들을 영웅시하는 것을 멈추고, AI의 사회경제적 맥락을 전달할 것을 요구해야합니다.

그러려면 무엇이 AI 하이프 뉴스인지 알아야겠죠. AI 하이프 뉴스를 알아볼 수 있도록 돕는 AI 윤리 레터의 AI 하이프 뉴스 체크리스트를 소개합니다.

☑️ AI 하이프 뉴스 체크리스트

아래 특징을 가진 뉴스라면 AI 하이프 뉴스인지 의심해볼 수 있어요.

🤖🤨 AI 도구와 인간을 섣불리 비교하기

• AI 시스템이 인간의 개입 없이 자율적으로 행동한다고 주장하고 있나요?
• 로봇, 뇌 등 AI가 마치 ‘신체’가 있는 것처럼 표현하는 이미지를 사용하나요? (특히 본문이 로봇 기술과 무관한 경우에 더 잘 살펴보세요!)
• AI 알고리즘 학습을 인간이 배우는 방식, 인간의 뇌 작동에 비교하나요? (AI는 어린아이가 아니며, ‘지능’을 갖고 있지 않습니다.)
• AI가 무언가를 인간만큼, 혹은 인간보다 더 잘 한다고 표현하나요? (AI는 아주 특정한 상황에서만 작동합니다. 예를 들어 AI가 기사를 잘 쓴다고 할 때 ‘기사’는 화면 속 글자만을 가리킵니다. AI가 취재를 하진 않죠.)

🚀❓  과장된 표현, 근거 없는 주장

• 명확한 근거 없이 AI를 일컬어 ‘혁명’, ‘획기적’, ‘대변혁’, ‘무한’, ‘마법’ 등 거창한 표현을 사용하나요?
• 명확한 근거 없이 AI를 산업혁명, 전기의 발명, 인터넷 같은 역사적 대전환에 비교하거나 AI가 미래에 어떤 변화를 가져올 것이라고 주장하나요? (‘초지능’이나 ‘인공일반지능’ 도래를 기정사실화하는 것도 포함됩니다.)
• AI 도구가 실제로는 할 수 없는 일을 할 수 있다고 표현하나요?
• 학술 연구를 인용하면서 실제 연구 내용과는 다른 주장을 하나요?
• 내용과 무관한 분야의 전문가 의견을 인용하고 있나요? (예를 들어 교육 분야의 전망에 관해서는 AI 연구자 말고 교육 전문가의 의견이 적합할 수 있겠죠.)

🎙️🦜  보도자료 받아쓰기

• 기업 홍보 담당자, 소속 연구자의 입장 위주로 보도하고 있나요?
• AI 제품을 만든 기업의 보도자료 내용을 그대로 전하고 있나요?

🚧🤷‍♀️한계 및 단점 누락

• 도구의 한계에 관한 논의가 빠져 있나요? (AI 기술에는 검증 오류, 편향, 악용 위험 등의 문제가 항상 따라다닙니다.)
• 한계를 지나가듯 살짝만 언급하거나 기사 맨 마지막에 사족처럼 달아두었나요?
• 한계에 대한 지적이 일부 ‘AI 반대론자’의 주장인 것처럼 축소해서 표현하나요?
• AI 구축에 인간 노동이 차지하는 비중을 과소평가하나요? (AI는 자동으로 만들어지지 않으며 오히려 노동집약적입니다.)
• 정확도 같은 성능 관련 수치를 설명 없이 제시하나요?
• ‘AI의 작동 방식은 이해할 수 없다’고 쉽게 설명을 포기하나요? (AI는 제작자의 설계와 의사결정에 따라 만들어진 시스템이라는 걸 잊지 맙시다.)

어떤가요. 그동안 접해 왔던 AI 하이프 뉴스들이 머릿속을 지나가지 않나요? 불현듯 떠오른 AI 하이프 뉴스를 공유해주세요. 왜 AI 하이프 뉴스라고 생각하셨나요? 더 좋은 뉴스가 되기 위해서는 무엇이 필요했을까요?

이 캠페인을 통해 우리 주변에서 볼 수 있는 AI 하이프 뉴스의 사례를 모으고, 더 나은 논의가 이루어질 수 있도록 함께 고민해보아요.

[참여방법]

• AI 하이프 뉴스에 해당하는 보도를 캠페인즈 참여하기 기능으로 공유하고
• 왜 AI 하이프 뉴스라고 생각했는지도 함께 남겨주세요!

체크리스트 원자료 출처

프린스턴 대학의 사야시 카푸르, 아르빈드 나라야난이 작성한 <AI 저널리즘의 18가지 함정 체크리스트>를 요약 정리하고, 🦜AI 윤리 레터 팀에서 일부 내용을 추가했습니다.

커버이미지 출처

Yasmin Dwiputri & Data Hazards Project / Better Images of AI / Managing Data Hazards / CC-BY 4.0