AI 윤리 뉴스 브리프 2025년 1월 넷째 주by 🍊산디 1.트럼프만 바라보는 엔비디아 엔비디아가 바이든 행정부의 수출 규제 강화에 작심한 듯 성명을 발표했습니다. 바이든 행정부의 <AI 확산 프레임워크(AI Diffusion Framework)> 발표에 대한 반감을 노골적으로 드러낸 것인데요. 백악관은 AI가 국가 안보의 핵심이 되고 있고, 적대 세력이 고급 AI를 남용할 수 없는 환경을 만드는 것이 중요하다는 입장입니다. 안보를 위해 고급 AI 모델과 그 생산수단의 해외 이전을 막고 미국의 ‘노선(rail)’ 안에서 개발되도록 하겠다는 것이지요. AI 확산 프레임워크는 미국의 안보가 글로벌 AI 산업에서 기술적 리더십을 유지해야만 달성 가능하다고 명시합니다. AI 확산 프레임워크에 따르면, 중국·러시아 등 22개 ‘적성국’에는 챗GPT 등 고성능 폐쇄형 AI 모델의 수출이 차단됩니다. 미국의 AI 반도체는 18개 우방국에만 자유롭게 판매됩니다. 이외 국가는 보안 및 신뢰 기준을 충족하여야 하고, 확보할 수 있는 컴퓨팅 자원도 제한됩니다. 바이든 행정부의 국가안보보좌관인 제이크 설리번은 미국의 언론사 Axios와의 인터뷰에서 향후 몇 년 안에 AI 군비 경쟁에서 누가 승리할 것인지가 결정될 것이라고 내다보았습니다. 그는 AI 윤리, 일자리 불안, 허위정보 등 백악관이 AI에 관해 다룬 모든 논의는 결국 중국이 AI 분야에서 미국을 앞서지 않도록 하기 위해 이루어졌다고까지 말합니다. 결국은 그것만이 중요하다고요. 반면 엔비디아는 바이든 행정부가 ‘반중(anti-China)’를 내세우며 자유로운 시장 경쟁을 억제해 미국의 혁신을 가로막고, 소비자용 하드웨어까지도 통제하게 될 것이라고 주장합니다. 엔비디아 매출의 56%는 미국 외에서 발생합니다. 무역 제재가 달가울 리 없겠죠. 엔비디아의 성명은 트럼프에게 호소하며 마무리됩니다. 트럼프 1기 행정부가 그랬던 것처럼 혁신과 경쟁, 공유의 정책이 필요하다면서요. 이목은 트럼프에게 쏠립니다. 그래서일까요. 그의 취임식에는 일론 머스크, 제프 베조스, 팀 쿡, 샘 올트만 심지어 틱톡의 CEO 추 쇼우즈까지 빅테크 인사들이 대거 참석한다고 하네요. 2.틱톡 미국 서비스 잠정 중단 1월 19일, 틱톡이 미국에서의 서비스를 중단했습니다. 미국 내에서 틱톡은 현재 서비스 접속이 안 될 뿐더러 앱스토어에서도 삭제되었습니다. AI를 비롯한 미중무역분쟁이 보여주는 사건인 만큼 AI 윤리 레터에서도 다루어 보려 합니다. 미국 의회는 국가 안보를 이유로 ByteDance가 틱톡을 매각하지 않으면 미국 내에서 틱톡을 금지하는 법을 통과시킨 바 있습니다. ByteDance는 이 법이 미국 내 1억 7000만 이용자의 표현의 자유를 위반한다며 위헌 여부를 판단해 달라는 소송을 걸었으나, 대법원은 법안이 합헌이라고 판단했습니다. 틱톡은 얼마나 위험한 서비스인 걸까요. BBC는 ByteDance가 수집하는 이용자 데이터가 다른 소셜 앱과 비슷한 수준이고, 중국 정부가 미국 이용자의 개인정보를 감시할 수 있는 법적 근거가 존재한다는 것은 사실이 아니며, 텍사스에 데이터 센터를 건설 중이고, 틱톡 플랫폼 내에서 정치 검열 사례가 거의 발생하지 않았다고 보도했습니다. 서비스를 (잠정) 중단한 틱톡이 이용자에게 보여주는 메시지가 의미심장합니다. “트럼프 대통령이 취임 이후 틱톡의 복권을 위해 협력하겠다는 의사를 밝혀 다행”이라는 팝업을 띄운 것이지요. 마침 트럼프의 취임일은 1월 20일. 그는 취임식 당일에 틱톡 금지 조치를 유예할 가능성이 ‘매우 높다’고 했습니다. 정작 이 사안은 트럼프가 문제 제기하면서 시작된 건인데 말이죠. 이 와중에 트럼프는 시진핑과 ‘양측 모두에게 매우 좋은 통화’를 했다고 알렸습니다. 트럼프 정권은 국제관계에 어떤 변화를 가져올까요? 🦜더 읽어보기- 틱톡을 금지하라?!(2023-05-22)- 탈세계화 시대의 플랫폼1: 틱톡(Tik Tok) 금지 법안 통과(2024-04-29) 3.예산 먹는 AI 디지털교과서 “학생 개인의 능력과 수준에 맞는 맞춤 학습 기회를 지원할 수 있도록 다양한 학습자료 및 학습지원 기능 등을 탑재한” AI 디지털 교과서가 옵니다. KERIS는 AI 디지털교과서 통합지원센터를 만들고 관련 서비스 지원에 나섰습니다. 하지만 대부분의 정보는 기업에게만 제공되는 것으로 보이네요. 교육부는 AI 디지털교과서 개발, 검정, 인프라 구축 등을 위해 2025년 1조 2797억원을 편성했습니다. 올해 예산은 시도교육청에 지급되는 보통교부금을 줄이고 특별교부금을 인상했습니다. 인상된 특별교부금은 ‘디지털 교육혁신’에 사용하도록 용처를 특정했습니다. 지방교육재정은 보통교부금과 특별교부금으로 나뉩니다. 보통교부금은 교원의 봉급, 학교 경영 경비와 같이 통상 예측되는 재정입니다. 특별교부금은 재해 발생 등 예측되지 않는 특별한 재정수요에 대응합니다. 보통교부금을 줄이고 특별교부금을 인상했다는 것은 시도교육청이 AI 디지털 교과서 도입을 위해 학교 운영에 드는 일반 재정은 줄여야 함을 뜻합니다. AI 디지털교과서의 성능과 실효성, 안전성에 의문이 남는 가운데, 과연 이러한 재정 운영이 합리적인지 평가가 필요해 보입니다. 🦜덧붙이는 글- (🍊산디) 미국 <AI 행정명령>은 정부 기관들의 AI 활용 사례와 위험 관리 내용에 대해 공개하도록 하고 있습니다(2024년 12월 16일 현재, 미국 연방 기관들은 1700건 이상의 AI 활용 사례를 공개했습니다). 기관이 AI를 도입할 능력을 갖추고 있는지 평가하도록 규정하고 있기도 합니다.AI 행정명령에 따라 미 예산관리국이 발표한 <연방기관 AI 이용 정책>은 연방 정부와의 계약을 이행하는 과정에서 처음 생산되거나 연방 정부에서 전액 자금을 지원하는 코드(custom-developed code)라면, 모델과 그 가중치를 공개하도록 하고 있습니다. 이는 국가 재정을 투여하는 AI 서비스에 대하여 1) 소비자와 연구자가 안심할 수 있도록 투명성을 높이고 2) 모델 공개를 통해 혁신 생태계를 활성화하기 위함입니다.물론, AI 디지털교과서의 검정 프로세스는 정부 조달과 다릅니다. 예산 구조도 다르고요. 하지만 AI의 위험에 대응할 수 있는 제도적 장치에 대한 논의는 어디로 간 걸까요? 위험 예방과 대응을 위한 제도적 논의가 빈곤한 상태에서 AI 도입 그 자체만을 추구했을 때 치르게 될 비용은 누구의 부담일까요. #feedback 오늘 이야기 어떠셨나요?여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

[슬로우폴리시] 미국에 57만 명 일자리 창출… 보호무역 기조에 수출 둔화, 해외 생산 비중 50% 돌파. “도시 하나가 미국으로 가버렸다.” 이한주(민주연구원 원장)가 현대자동차 미국 공장을 두고 한 말이다. 20일 국회에서 민주연구원 주최로 열린 토론회 발언이다. ‘경제는 민주당’이라는 주제로 진행하는 연속 토론회다. 현대차그룹은 생산 공장과 R&D 연구시설 등 포함해 미국에 30조 원을 투자해 57만 명의 일자리를 창출하기로 했다. 이한주는 “좋은 일자리를 가진 도시 하나가 미국으로 가 버렸다”고 지적했다. “오늘 현대차가 있기까지 국민들의 노력도 있던 것 아닌가. 미국에 투자하지 않으면 안 사겠다고 하니 어쩔 수 없는 걸 알지만, 심하게 이야기하는 사람은 ‘미국이 기업을 훔쳐갔다’고 말한다.” 이한주는 “국내에서 열심히 지원하면 다 미국으로 가는데, 이를 어떡하나 싶다”고 했다. 이게 왜 중요한가. 자동차 업체들 해외 생산 비중이 늘어나는 추세다. 관세 장벽이 높아지고 있고 전기차 보조금 등 세제 혜택을 받으려면 현지 공장이 유리하기 때문이다. 2023년 기준으로 현대차와 기아차의 해외 생산 비중은 각각 55%와 44%인데 더 늘어날 가능성이 크다. 수출 물량은 2020년 156만 대에서 지난해 278만 대로 꾸준히 늘어나는 추세지만 성장의 축이 해외 공장으로 넘어가고 있다. 해외 생산은 국내 고용을 창출하지도 않고 수출로 잡히지도 않는다. 국내 투자도 줄고 고용의 질도 악화된다. 장기적으로 산업 공동화로 이어질 수도 있다. 트럼프는 20일 취임과 동시에 전기차 의무화 정책을 폐기했다. 보조금 폐지도 검토하고 있다. 바이든 정부는 2030년까지 신차 판매량의 56%를 전기차로 판매하는 정책을 추진했는데 트럼프 정부 들어 중단될 판이다. 전기차 보조금을 보장한 인플레이션 감축법(IRA)도 폐기 또는 축소될 운명이다. 한국 자동차 공장이 계속해서 해외로 더 빠져나갈 가능성이 크다는 이야기다. 핵심 키워드는 ‘(국내) 고용 없는 성장’이다. 자동차 절반은 해외 공장에서 만든다. 자동차는 반도체와 함께 한국 제조업의 두 축 가운데 하나다. 지난해 한국의 자동차 수출은 708억 달러, 전체 수출 6838억 달러의 10.4% 규모다. 반도체에 이어 2위 수출 품목이다. 현대차는 2023년 기준으로 399만 대 가운데 204만 대를 해외 공장에서 만들었다. 기아차는 2023년 기준으로 289만 대 가운데 128만 대를 해외 공장에서 만들었다. 각각 51.2%와 55.6%다. 미국에서 차를 만들어야 하는 이유. 트럼프는 취임과 동시에 전기차 보조금을 폐지하고 전기차 의무화 비율도 없애기로 했다. 관세 인상은 아직 발표하지 않았지만 10~20% 보편 관세를 부과한다는 공약을 내걸고 당선됐다. 당장 현대차와 기아차는 20% 관세가 적용되면 영업이익이 19%까지 줄어들게 된다. 바이든이 프렌드쇼어링(동맹국 중심의 공급망 재편)을 강조했다면 트럼프는 미국 공급망 중심의 ‘온쇼어링(해외 공장 자국 내 유치)으로 가겠다는 입장이다. 당장 멕시코에 최대 35%의 징벌적 관세를 부과하겠다고 벼르고 있는데 멕시코에서 연간 40만 대를 생산하는 기아차가 큰 타격을 입는다. 두 회사가 미국 생산을 늘리고 있는 것도 이런 이유에서다. 현대차와 기아차는 앨라배마와 조지아에서 각각 37만 대와 34만 대를 만들고 있다. 조지아 공장이 완공되면 30만 대를 추가 생산하게 된다. 현대차가 해달라는 것. 김주홍(한국자동차모빌리티산업협회 전무)은 정부와 국회에 크게 다섯 가지를 건의했다. 첫째, 미국을 상대로 한 아웃리치(지원 활동)에 한국의 미국 경제 기여도를 강조해 달라. 둘째, 일본·독일 등 대미 자동차 무역수지 흑자국과 협력하고, 관세 인상 같은 미국 정책 변화의 영향을 최소화해 달라. 셋째, 전기차 보급 활성화를 지원해 달라. 넷째, 미래 자동차 투자 지원을 개선해 달라. 다섯째, 부품 기업과 자율주행 등 미래차 전환 지원을 강화해 달라. 이밖에도 전기차 보조금을 늘려주고 친환경차 세제 지원을 유지하고 전기차 전용 차선을 허용하는 등의 구체적인 요구도 나왔다. 정부가 해주겠다는 것. 정부를 대표해 나온 박태현(산업통상자원부 자동차과장)은 네 가지 지원 방향을 제시했다. 첫째, 친환경모빌리티에 대한 소비자 부담을 완화하고 신뢰를 높인다. 둘째, 첨단 기술 경쟁력을 확충하고 자율주행과 같은 미래 기술을 상용화한다. 셋째, 배터리 산업 생태계를 강화하고 공급망 안정성을 확보한다. 넷째, 대외 불확실성에 대응하고 수출 시장을 다변화한다. 박태현은 전기차 캐즘(일시적 수요 정체)의 대응 일환으로 ‘청년에 대한 구매 보조금’을 강조했다. 청년이 첫 차를 전기차로 구매하면 20% 추가 감면 혜택을 준다는 것이다. 돈 줄을 쥔 기획재정부와 협의 끝에 나온 결과물이다. 박태현은 “보조금을 늘리는 방안을 기재부와 계속 이야기하고 있다”며 “기재부와 협의 결과가 이번 ‘청년 첫 차 보조금’”이라고 설명했다. “국내 생산 유지한다.” 김동욱(현대차 부사장)은 “약 330만 대의 국내 생산 능력을 유지하고 있다”면서 “여전히 국내 생산 기지가 부품 제조 생태계 안정과 경쟁력 유지를 위해 필요하다”고 강조했다. 50만 대의 국내 전기차 생산을 100만 대까지 늘리겠다고도 했다. 정의선(현대차 회장)은 올해 24.3조 원을 국내에 투자할 계획이라고 밝힌 바 있다. 연간 기준으로 역대 최대 규모고 지난해보다 19% 늘어난 규모다. 요구 조건 많지만 ‘한국 탈출’ 대책은 없다. 김주홍이 과밀 억제 권역 투자를 세액 공제 대상에 포함해야 한다고 주장한 것과 달리 박지혜(민주당 의원)는 “당내 토론이 필요하다”고 난색을 표했다. “발전 정도가 낮은 지역에 배려가 필요하지만 지역 균형 발전의 요구를 외면할 수 없다”고 보기 때문이다. 박지혜는 자동차 산업을 넘는 ‘큰 틀’도 이야기했다. 친환경 미래차로의 산업 전환이 장밋빛 미래만 보장하는 건 아니라는 진단이다. 부품과 장비 등 국내 자동차 제조업에 수많은 업체들이 존재하는데 이들의 산업 전환 시도에는 사회적 비용과 위기가 뒤따를 수 있다. 당장 국내 중소 부품사들은 탈탄소화 압력에 사면초가다. 제대로 대응하지 못하면 수출이 막혀 공급망에서 퇴출될 수 있다. 이한주는 “자동차 산업의 그린 디지털 전환에 따른 생태계 부작용이 만만치 않을 것”이라며 “정부와 기업이 함께 이 문제를 검토하지 않으면 갈등에 취약한 우리 사회 비용이 커질 수 있다”고 지적했다. 분석과 전망: 국가 전략이 없다. 트럼프는 예고된 악재였지만 별다른 대책 없이 지난 반 년을 흘려보냈다. 박태현은 “미국 내 우호 그룹과 협력하고 비슷한 처지에 있는 국가들과 대응을 검토할 것”이라며 “말레이시아나 태국 등과 FTA 협상 등을 통해 수출 시장을 다변화하고, 해외 완성차와 국내 부품 기업을 매칭해 글로벌 공급망 편입 지원을 강화할 것”이라고 밝혔다. 강훈식(민주당 의원)은 “의원들의 외교도 중요하지만 KAMA(한국자동차모빌리티산업협회) 같은 단체도 지금부터 미국 상원의원 전체를 대상으로 압력을 넣을 필요가 있다”고 강조했다. “민과 관, 국회가 발을 맞춰 대응해야 한다”는 이야기다. 정부 역할이 중요하다는 의견도 많았다. △자동차 산업 공급망을 안정적으로 확보해야 하고 △취약한 중소기업에 자금과 기술 개발을 지원해야 한다. △산업 인력 양성도 과제다.