AI 윤리 뉴스 브리프 2024년 5월 셋째 주 by 🤖아침 1. 스택오버플로의 태세 전환과 보복성 제재 스택오버플로가 오픈에이아이에 모델 학습용 API를 제공하기로 했습니다. 이에 반발한 이용자들이 자신이 작성한 질문·답변을 삭제·수정하자, 운영진은 해당 이용자를 차단하는 등 제재를 가했습니다. 적잖은 플랫폼이 축적한 데이터를 AI 개발용으로 판매하는 추세 속에서도, 개발자 지식 공유 커뮤니티로 큰 상징성을 갖는 스택오버플로의 이런 행보는 인터넷 생태계 변화의 중요한 사례로 남을 것입니다. 얼마 전까지도 해당 플랫폼은 생성형 AI 사용을 금지했고, ‘커뮤니티를 중심에 두겠다’고 선언했다는 점에서 이용자들의 배신감이 배가될 듯합니다. 스택오버플로 이용약관에는 이용자가 작성한 모든 콘텐츠를 플랫폼이 영원히 이용할 수 있으며 이는 철회할 수 없다는 조항이 있습니다. 이용약관을 지렛대 삼아 플랫폼이 이용자 데이터를 마음대로 활용하는 현상은 물론 새로운 일이 아닙니다. ‘남용약관’이 플랫폼 자본주의의 기본적 작동 방식이라고도 볼 수 있죠. 앞으로도 계속 보게 될 이 광경을, 일반 이용자는 그냥 받아들이는 수밖에 없을까요? 게임의 규칙을 바꾸는 게 가능할까요? 덧붙이는 글 🎶소소: 커뮤니티 정신을 강조하던 스택오버플로, 정말 실망이네요. 결국 커뮤니티를 만든 이용자들이 아니라 돈이 되는 커뮤니티만을 중요하게 생각한다는 점이 여실히 드러나네요. 더 읽어보기 데이터, 어떻게 팔아야 잘 판 걸까? ...팔아야 하는 걸까? (2024-03-25) 스택오버플로, ‘(사람) 커뮤니티가 AI의 미래다’ (2023-07-31) 2. 싱가포르 출판·문학계는 데이터 제공이 탐탁지 않다 싱가포르 출판·문인들이 출판물을 AI 데이터로 활용하려는 정부 기조에 반발하고 나섰습니다. 싱가포르 정부는 말레이어, 타밀어, 화어 등 싱가포르에서 사용하는 언어 데이터를 반영하는 자체 다국어 멀티모달 LLM*을 구축하려 하고 있습니다. 이 과정에서 문인들을 상대로 저작물을 학습 데이터로 활용하는 데 대한 의견 수렴을 했는데요. 의견 수렴 이메일에서는 해당 데이터가 ‘연구 목적’으로만 활용될 것이라고 명시하고 있으나, 이용에 대한 보상이나 저작권 보호 관련된 설명이 부족하다고 판단한 문인들이 상당수 거부 의사를 표한 것입니다. 저작권자 동의 없이 일단 모델을 구축하는 행태가 보편적인 분위기에서, 어떻게 보면 이 정도 의견 수렴도 정부 입장에서는 꽤 진취적인 행보라고 볼 수도 있습니다. 한편 결국에는 정부 마음대로 문화콘텐츠를 이용할 것이라는, 회의적인 의견도 기사에 등장하고요. 하지만 비영어권 데이터가 부족한 현실을 고려할 때, 장기적으로 출판·문인들의 신뢰와 협조를 얻는 일은 싱가포르 정부에게 생각보다 더 중요할지도 모릅니다. * 텍스트 모델을 기반으로 하되 여러 모달리티(modality)를 처리할 수 있는 AI 모델. 예를 들어 챗봇에 이미지를 주고 내용을 묘사하는 글을 출력하는 방식. 모달리티는 기호학에서 글/이미지/음악 등의 양태를 가리키는 용어인데, AI 맥락에서는 ‘데이터 형식’과 비슷한 뜻으로 이해할 수 있습니다. 3. 현대중공업 노사갈등과 미국 대학 시위의 연결고리 지난 4월, HD현대중공업이 설치한 협력업체 근로자 출입 관리용 안면인식 출입시스템을 노조가 철거하고, 사측은 노조 간부를 경찰에 고발했습니다. 사측은 보안 관리상 안면인식기가 필요하다는 입장이고, 노조는 기존 수단으로도 관리가 가능한데 안면인식은 노동자를 감시/통제하는 수단일 뿐이라며 맞서고 있습니다. 금속노조 현대중공업지부는 성명서에서 공공장소의 얼굴인식 기술이 가져오는 ‘위축 효과’를 지적합니다. 개인 추적이 용이해지면서 합법적인 집회·결사의 자유 행사를 꺼리게 된다는 것이지요. 사업장과 공공장소는 같지 않다고 말할 수도 있겠지만 위축 효과는 확실히 생겨날 것 같습니다. Photo byArthur Mazi on Unsplash 미국 각지 대학교에서는 이스라엘의 팔레스타인 학살을 반대하는 시위가 한창입니다. 대학 당국이 시위 진압을 위해 안면인식 기술을 보유한 경찰에 공권력 투입을 요청하는 상황에서, 참여자들은 신상 노출에 따른 괴롭힘을 피하고자 케피예나 마스크를 쓰곤 합니다. 감시 기술이 시민 활동에 미치는 영향을 드러내는 사례입니다. 이스라엘, 러시아, 홍콩… 지난 몇 해간 계속 보아온 현상이죠. 앞으로 현대중공업 노동 쟁의 참여자 색출에 안면인식 시스템이 활용되리라 상상하는 것도 어렵지 않습니다. 더 읽어보기 [스트레이트] 탈탈 털린 스마트폰..검찰 ‘디넷’과 빅브라더 (MBC, 2024-04-28) 4. 우리 회사 AI는 에너지 1등급일까? AI 기술의 환경영향에 관한 정량연구를 꾸준히 해오고 있는 허깅페이스 연구팀에서 “AI 모델용 에너지소비효율등급”(Energy Star Ratings for AI Models)을 마련한다고 합니다. 여러 AI 모델이 일정한 작업을 수행하는 데 소비하는 전력량을 측정하여 효율등급을 부여하고, ‘녹색 AI 리더보드’ 순위표를 운영할 예정이라고 해요. 한국의 에너지소비효율등급과 직접적인 연관은 없습니다. 데이터센터의 탄소배출, 냉각수 등 AI 기술의 막대한 환경비용을 지적하는 목소리가 커지고 있지만 모델의 환경비용 측정은 여러 이유로 쉽지 않습니다. 데이터 수집에서 모델 구축, 실사용을 아우르는 전 과정이 수많은 이해관계자와 인프라 사이에 걸쳐 있고, 기술 개발을 주도하는 기업 측에서 정보 공개를 꺼리기도 하지요. 과학적 근거는 비판에 힘을 실어줍니다. 위 연구는 하드웨어, 입력값, 설정값 등을 통제한 조건에서 AI 시스템의 작동을 비교하여 환경비용에 관한 양적 데이터를 만듭니다. 특정 용도에 최적화한 모델보다 (프롬프트를 조작해 다용도로 활용하는) 제로샷 모델이 같은 작업을 할 때도 훨씬 에너지 소모가 크다는 초기 실험 결과는, 현재 테크업계의 파운데이션 모델 구축 경쟁이 기후에 미치는 악영향에 대한 근거인 셈입니다. 궁극적으로는 끝없는 스케일 경쟁보다 효율적이고 친환경적인 기술을 중시하는 쪽으로 패러다임이 전환되기를 기대해 봅니다. 더 읽어보기 미래의 시간을 쓰는 우리 (2023-12-18) 이 주의 인물 카드: 사샤 루치오니 (2023-07-03) 오늘 이야기 어떠셨나요?여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다.

[팩트체크] 특검은 수사기관의 수사가 끝난 이후 결과가 미진할 때 도입한다는 김종혁 국민의힘 조직부총장의 발언이 사실인지 확인해봤습니다

영화 'Her'를 보면, 사람들이 주로 음성으로 AI와 의사소통을 합니다. 이 과정에서 주인공인 테어도어는 인간처럼 반응해주는 AI '사만다'와 사랑에 빠지는데요. AI가 사람처럼 자연스럽게,빠르게 응답해 준다면 AI에게 감정을 느낄 수도 있겠다 싶죠. 한국 시간으로 2024년 5월 14일 새벽, OpenAI는 음성 비서 기능을 강화한 새로운 멀티모달모델(LMM)인 'GPT-4o'를 공개했습니다(관련 기사). 여기서 o는 모든 것이라는 '옴니'를 뜻한다고 하니, 한국어로 부르면 GPT-4 옴니 라고 불러야 할 지도 모르겠네요. 언론사들이 제목으로 '보고,듣고, 말할 수 있는 AI 등장'이라고 하는 내용은 사실과 조금 다른데요. 진작에 ChatGPT-4를 포함한 여러 AI에서 음성이나 사진, 영상을 보고 말할 수 있었기 때문입니다. 하지만 이번 모델에 와서 성능이 대폭 향상된 것은 사실입니다. 아직 일반 유저에게 공개되지는 않았지만, Chatgpt-4o를 통해 실시간으로 AI와 영상통화를 할 수 있는 것은 물론이고, 카메라를 통해 보는 정보를 실시간으로 해석해줍니다. 위에 영상에서는 표정을 읽고 해석하는 것은 물론이고, AI에게 '지금 실시간으로 너의 성능에 대해 발표하고 있어'라고 하니까 '부끄러우니 멈춰주세요' 라고까지 합니다. 영상을 보시면 목소리도 진짜 부끄러워 하는 듯 보입니다.위 영상 외에 다른 시연 영상에서는 '목소리를 기계처럼 바꿔서 말해줘'라고 하자 기계처럼 말하는 등 자연스러운 기능이 많아졌으며, 실시간으로 사람이 AI의 말을 끊고 대화에 간섭할 수 있는 등 놀라운 기능이 많아졌습니다. 이런 기능에 대한 업데이트나 데스크톱 앱 출시 등을 점차 진행할 예정이라고 하네요. 실시간 음성 채팅은 아직 업데이트가 되지 않아 사용해보지 못했지만, 업데이트된 GPT-4o는 현재 사용해볼 수 있어 직접 성능을 비교하고자 몇 가지 실험을 해봤습니다. 우선, 이미지를 이전보다 얼마나 질 인식하는지 궁금했습니다. 이전에 GPT-4에서는 이미지 인식 기능, 특히 이미지 안의 한자 등을 읽는 OCR기능이 아쉬웠거든요. 직접 보시면 아시겠지만, GPT-4는 엉뚱한 대답을 한 반면, GPT-4o는 어떤 한자가 쓰였는지 정확히 읽어냈으며, 그 맥락을 사진 내의 다른 정보인 '옛날손짜장'을 읽어내면서 더 똑똑하게 유추하는 모습입니다. 그 다음으로는 웹사이트 검색 및 요약 기능을 테스트해보고자 했습니다. 이전 버젼인 ChatGPT-4도 검색은 가능했지만, 기능 측면에서 아쉬운 점이 있었거든요. 이 질문에 대한 대답 차이는 조금 길어서, 제가 각각 따로 복사해 인용하겠습니다. - ChatGPT-4  윤석열 대통령 취임 2주년 기자회견에 대한 한겨례와 중앙일보의 보도는 각기 다른 내용과 초점을 담고 있어, 이들 언론사의 편집 방향성이 어떻게 다른지를 잘 보여줍니다.한겨례는 채상병 특검법과 김건희 여사와 관련된 논란 등에 대한 대통령의 책임과 투명성을 강조하는 보도를 했습니다. 이 보도는 정치적, 대중적 요구에 대해 윤 대통령이 사과하고 구체적인 조치를 취할 것을 촉구하는 내용을 중점적으로 다루면서, 민감한 사안들에 대한 대통령의 대응을 비판적으로 조명했습니다. 투명하고 반응적인 거버넌스 필요성을 강조하는 태도를 보였습니다.반면, 중앙일보는 지난 2년 간 윤 대통령의 성과와 미래 계획에 초점을 맞추어 긍정적인 보도를 했습니다. 경제 정책, 시장 경제 안정화, 규제 장벽 감소, 그리고 특히 판매 외교 강화와 한미 안보 및 경제 동맹과 같은 국제 외교의 진전을 강조하며, 행정의 방향을 긍정적으로 전망하였습니다.이렇게 한겨례와 중앙일보의 다른 초점은 현재 윤석열 대통령 행정부를 어떻게 해석하고 있는지에 대한 다양한 해석을 보여줍니다. 한겨례는 정치적 및 대중적 압력에 대한 행정의 반응을 검토하고, 중앙일보는 정책 성공과 미래 지향적 전략을 축하합니다.  - ChatGPT-4o(옴니)  윤석열 정부의 취임 2주년 기자회견에 대한 한겨레와 중앙일보의 보도를 비교해보겠습니다. 두 언론사의 보도는 각기 다른 시각에서 접근하여 다양한 해석을 제공하고 있습니다. 한겨레의 보도 요약 한겨레는 윤석열 대통령의 기자회견에 대해 비판적인 시각을 유지했습니다. 주요 내용은 다음과 같습니다: 소통 방식에 대한 비판: 한겨레는 윤 대통령의 기자회견이 일방적인 소통 방식에 머무르고 있다고 지적합니다. 기자회견에서 민감한 사안에 대한 명확한 답변을 피한 점을 비판합니다 (한겨레_세상을 보는 눈) (한겨레_세상을 보는 눈). 정책 실효성에 의문: 한겨레는 정부의 주요 정책이 실질적인 문제 해결보다는 형식적인 소통에 그치고 있다고 주장합니다. 특히 경제와 사회 정책에서 나타나는 한계점을 강조합니다 (한겨레_세상을 보는 눈). 사회적 논란: 한겨레는 김건희 여사와 관련된 논란 및 기타 사회적 이슈에 대해 윤 대통령이 충분히 해명하지 않았다고 평가합니다 (한겨레_세상을 보는 눈). 중앙일보의 보도 요약 중앙일보는 윤석열 정부의 성과를 강조하며 긍정적인 평가를 내렸습니다. 주요 내용은 다음과 같습니다: 정책 성과 강조: 중앙일보는 윤석열 대통령이 지난 2년간 경제 성장과 외교 성과를 이루었다고 강조했습니다. 특히 글로벌 중추국가 외교 강화, 경제의 체질 개선, 민간주도 성장 등을 주요 성과로 언급했습니다 (중앙일보) (중앙일보) (중앙일보) (중앙일보) (중앙일보). 미래 계획 발표: 기자회견에서 윤 대통령은 저출생 대응을 위한 기획부 신설, 사회적 약자 지원 강화, 경제적 공정성 제고 등의 미래 계획을 발표했습니다. 중앙일보는 이러한 계획들이 긍정적인 영향을 미칠 것이라고 평가했습니다 (중앙일보) (중앙일보). 김건희 여사 관련 논란에 대한 사과: 중앙일보는 윤 대통령이 김건희 여사와 관련된 논란에 대해 사과한 점을 강조하며, 대통령의 진솔한 태도를 긍정적으로 평가했습니다 (중앙일보). 보도 뉘앙스 차이 한겨레는 윤석열 대통령의 기자회견을 비판적인 시각에서 다루며, 소통 방식과 정책의 실효성에 대한 의문을 제기합니다. 한겨레는 정부의 성과보다는 문제점과 한계를 부각시키며 비판적인 입장을 유지합니다.반면, 중앙일보는 윤석열 정부의 성과를 긍정적으로 평가하며, 기자회견에서 발표된 정책 성과와 미래 계획을 중심으로 보도합니다. 중앙일보는 대통령의 사과와 진솔한 태도를 강조하며 긍정적인 논조를 유지합니다.이처럼 두 언론사는 각각의 시각에서 접근하여 독자들에게 다른 관점을 제공합니다.  윤석열 취임 2주년 기자회견의 내용에 대해 잘 모르는 사람이 봐도 차이를 쉽게 느낄 정도로 ChatGPT-4와 ChatGPT-4o의 검색 및 문서 작성 성능은 큰 차이가 있습니다. 제가 느낀 차이점은 크게 세 가지 입니다. 이전과 다르게, 특정 웹사이트에 직접 들어가 검색하려는 시도를 합니다. 예를 들어 위에 질문을 받았을 때, 이전 모델인 GPT-4는 '윤석열 기자회견 한겨례'라고 검색한다면, GPT-4o는 'hani.co.kr에서 윤석열 기자회견 검색'과 같은 과정을 수행하는 게 보입니다. 물론 이 기능은 테스트해본 결과, 검색을 막아둔 웹사이트들은 진행하지 못합니다. 이전보다 더 다양한 웹사이트를 참고하려고 합니다. GPT-4의 경우 인용한 웹사이트 링크가 여러 개여도 하나의 웹사이트 내에서 여러 내용을 인용하는 경우가 많았다면, GPT-4o은 같은 중앙일보 인용이어도 최대한 다양한 기사를 인용하며 총 5가지 기사에서 정보를 인용했습니다. GPT-4에서 특정 업무를 수행할 때, 요청한 정보나 데이터가 나오는 속도가 사람이 읽는 속도보다 느린 경우가 많았는데, 지금 GPT-4o에게 일을 시키면.. 수행하고 출력하는 속도가 너무 빨라 도저히 제 읽는 속도로 따라갈 수가 없는 정도입니다. 혹시 유료버젼을 쓰고 계신 분들이라면 시도해보세요. 전혀 과장이 아님을 아실 겁니다. 바로 위에 저 내용을 조사한 후 출력하는 데 5초도 안걸렸습니다. 최근 Meta의 오픈소스인 LLaMA-3의 성능이 아주 뛰어나게 출시됐고, Antrophic사의 Claude-3의 성능이 ChatGPT-4보다 좋다는 뉴스가 나오며 OpenAI가 어떤 반격을 준비하고 있나 궁금해하던 사람이 많았을텐데, 역시 OpenAI는 대중을 실망시키지 않았습니다.성능이 정말 많이 뛰어나고, 특히 '인간적인'교감이 가능해진 만큼 AI가 'Her'에 나오는 비서처럼 유능할 수도 있고, 'Her'에 나오는 것 처럼 AI가 가진 여러 문제점 역시 더 가시화될 수도 있습니다. 이런 내용들은 추후 다른 글로 천천히 다뤄보겠습니다.

[팩트체크] 방심위원장은 탄핵 대상이 아니라는 박지원 전 국정원장의 말이 사실인지 확인해보았습니다.