[AI 토의 시리즈3] AI 개발, 지금 필요한 건 규제? 혁신?
2023.06.02
챗 GPT의 등장과 함께 인공지능(AI)이 큰 관심을 받고 있습니다. 새로운 기술의 등장은 사회를 발전시키기도 하지만 여러 문제를 발생시키기도 합니다.
인공지능과 관련해서도 개발부터 규제까지 여러 논의가 진행중입니다. 인공지능은 우리 삶에 어떤 영향을 끼칠까요? 우리는 인공지능과 함께 살아갈 미래를 맞이할까요? 그렇다면 우리는 어떻게 대비해야 할까요?
이번 시리즈는 인공지능의 개발을 비롯해 인공지능으로 인해 발생할 수 있는 문제들을 다뤄보려 합니다. 지난 한 주간 캠페인즈에선 [AI 토의 시리즈2] AI의 ‘잘못’, 누가 책임져야 할까요?라는 주제로 투표가 진행됐습니다. 캠페이너들로부터 가장 많은 표를 받은 선택지는 ‘인공지능의 잘못이 발생하지 않도록 개발자, 기업이 대비해야 해요’였는데요. 그래서 시리즈의 세 번째 주제는 인공지능 개발 기업의 규제 필요 여부입니다. 여러분은 어떻게 생각하시나요?
🚩AI 개발을 적극적으로 규제해야 해요
유럽연합 소비자보호위원회는 인공지능 기술이 활용된 다양한 분야에서 소비자의 피해가 발생할 수 있는 상황을 적극적으로 규제하겠다고 밝혔습니다. 소비자보호위는 “원격 안면인식 기술 등 생체 감시 및 사용자 감정분석 등의 기능”, “학교나 직업별로 사람을 분류하고 대출 지원자를 걸러내는 등 AI로 ‘사회신용도’를 매기는 것” 등을 금지하는 내용을 규제 방안에 담았습니다. 또한 “챗GPT나 미드저니 등 이용자의 특정 요구에 따라 결과를 만들어내는 ‘생성 AI’가 만들어낸 글이나 이미지는 사용자에게 기계에 의해 작성된 것이라고 명확히 알리는 등 투명성 강화 조처”도 규제에 포함했으며 이를 위반할 경우 연간 수익의 최대 6%에 해당하는 벌금을 부과할 수 있도록 했습니다.(경향신문.2023.05.12.)
리처드 브리먼솔 상원 법제사법위원회 사생활·기술·법소위원회 위원장은 AI 청문회에서 규제의 필요성을 강조했습니다. 브리먼솔 위원장은 인공지능이 본인 목소리를 활용해 만들어낸 연설을 재생한 뒤 “내 목소리가 재미있을 수 있지만, 만약 이것이 우크라이나 침공이나 블라디미르 푸틴을 옹호하는 내용이라면 어땠을지 공포스럽다”라고 설명했습니다. 이어 “AI는 희망적인 동시에 정보의 무기화, 불평등의 조장, 목소리 복제 사기 등 잠재적 해악도 품고 있다”라며 잠재적 위험을 대비하기 위해 규제가 필요하다고 주장했습니다.(연합뉴스.2023.05.17.)
🚩AI 개발을 규제하되, 대안을 마련해야 해요
샘 올트먼 오픈AI 최고경영자는 AI 청문회에서 규제의 필요성을 이야기 하면서도 대안 마련을 촉구했습니다. 올트먼 최고경영자는 “미국 정부는 AI 모델을 개발하고 출시하는 데 있어 일정 역량 이상의 허가와 시험 조건을 고려할 수 있다”라며 “나라면 일정 규모 이상 활동에 대해 허가권을 가진 새로운 기관을 설립하고, 위험 요소에 대한 평가 기준을 만들겠다”, “독립적 전문가로 구성된 별도의 감사도 필요하다”라고 발언했습니다.
그는 “우리는 글로벌한 무언가가 필요하다”라며 미국에 한정되지 않은 국제기구 설립 필요성을 언급하기도 했는데요. “순진하게 들릴 수 있지만 국제원자력기구(IAEA)와 같은 선례가 있다. 미국이 다른 국가와 협력해 AI 국제 표준을 설정하는 것은 비현실적으로 들리지만 실제 가능하고 전 세계에 큰 도움이 될 것”이라며 예시와 방안을 제시하기도 했습니다.(연합뉴스.2023.05.17.)
🚩혁신을 위해선 규제를 최소화해야 해요
정만기 무역협회 부회장은 AI 스타트업 회사들이 모인 ‘AI 스타트업 비즈니스 라운드테이블’에서 “지금은 AI관련 산업과 시장이 형성되어가고 있는 초기 단계라는 점을 감안한다면, 각국이 새로운 입법규제를 도입하기보다는 산업생태계 구축을 어떻게 지원할 지 모색하는 게 중요하다”라고 주장했습니다. (ZD넷코리아.2023.05.16.)
김은수 서울대 인공지능정책 이니셔티브 박사는 규제로 인해 기술 발전이 지체될 것을 우려했습니다. 김 박사는 “AI 산업 관련 규제를 섣부르게 도입할 경우, 생각지 못한 기술의 잠재력을 막을 수 있다”라고 주장했습니다. 이어 “개발 단계에서 의지를 낮추는 것이 아니라 문제가 발생 가능한 환경을 만들어 두고, 실제 문제가 발생했을 때 이를 어떻게 규제할 건지 빠르게 논의하는 게 중요하다”라며 규제 이전에 기술 개발 의지를 북돋을 수 있는 환경의 필요성을 강조했습니다.(서울파이낸스.2023.03.14.)
💁🏻♀️AI 개발 규제 어떻게 해야할까요? 여러분의 의견을 들려주세요!
💡인공지능 개발 규제, 어떻게 생각하시나요?
📑선택지 중 하나를 고르고 댓글에 의견을 남겨 주세요!
🤔고민 되나요? 질문이나 기타 의견이 있나요? 댓글로 자유롭게 남겨주세요!
코멘트
9기술의 발전은 긍정적으로 보지만, 발생하는
문제에 대해 고민이 필요합니다
규제를 해서 사람들의 일자리를 대폭 늘려야합니다!
그리고 영국혁명 근대화덕에 임금재분배도 안됐죠
최근 캠페인즈에 올라온 글들을 보며 인공지능에 규제가 필요하다는 것을 느꼈습니다. 소수의 인간만 감당과 논의가 가능한 영역으로 공고화되어가는 것 같습니다. 물론 발전하고 있는 산업의 발목을 잡자는 것은 아니지만, 이렇게 중요하다고 여겨지는 문제라면 한번은 브레이크를 걸어야 하지 않을까요?
혁신을 이유로 규제를 최소화하거나 없애는 데에는 반대합니다. 규제의 범위나 대상을 구체화할 필요는 있다고 생각합니다.
저는 AI를 위해 법적 규제가 필요하다고 생각하지만, 혁신을 막는 규제는 피해야 한다고 생각해요. 우선, 이 논의에 참여하는 모든 사람들이 'AI는 큰 사회적 변화를 불러올 것이다'라는 내용에는 대부분 동의할 것이라고 봐요. 그런데 그 큰 변화가 속도가 빠르고 인간의 생명을 위협하는 등(바로 아래 드론의 AI 시뮬레이션 사례를 잘 정리해 주셨네요) 중대하다면, 강제성이 부족한 독립적 기관 등으로는 한계가 있을 것으로 보입니다. AI와 관련된 문제와 관해 사회 전체에 일관된 영향을 미치며 강제성을 부여할 수 있는 법적 규제가 필요합니다. 다만, 독립적 기구나 민간 협의체 등이 여러 의견을 모으는 공론장의 역할이나 민간이 나아가야 할 방향의 제시 등은 가능하겠죠. 샘 알트만이 IAEA를 예시로 들었는데, 그래서 북한이 핵 개발을 멈췄는지를 살펴본다면 한계는 명확합니다.
하지만 아예 로봇에 세금을 매겨버리는 '로봇세' 형태의 조세 제도나(핵심 주제는 아니지만, 기업의 고용자 숫자에 비례한 세금이 아닌 수익에 비례한 세금을 매겨야 한다는 입장입니다) 특정 기업을 선정해서 지원하는 등 법적 규제나 지원이 혁신에 역행한다면 그것 역시 바람직하지 못하다고 생각합니다. 기술의 발전이 필연적이라면 혁신을 저해하는 규제를 지양하여 국가에 긍정적으로 활용하는 방향으로 나아가야 합니다.
얼마 전 미 공군 AI 드론이 가상훈련서 방해된다는 이유로 드론을 통제하는 조종사를 제거했다는 뉴스를 본 적이 있습니다. 예전 AI가 인간을 지배했던 SF 영화들이 생각났어요. 인간이 교통, 의료, 교육 그 밖에 다양한 영역에서 AI 기술을 통해 여러 혜택을 받고 있지만 인간의 생명까지 위협(?)받고 있는 지금 AI 기술에 대한 다양한 논의가 필요하다고 생각합니다.
윤리적 사용을 위한 규제는 반드시 필요합니다. 그런 의미에서 혁신을 위해 모든 방식의 규제를 하지 말아야 한다는 주장에 동의하기 힘듭니다. 인공지능에 대한 다양한 평가가 있지만 우려하는 것과 같이 인간을 뛰어넘는 수준의 인공지능이 등장할 수 있다면 규제를 통한 대비가 이뤄져야 합니다. 또한 개발 과정에서 지속가능성이 없는, 환경을 파괴하고, 과도한 탄소를 배출하는 것이 확인된다면 이또한 강력한 규제로 막아야 합니다.
Ai는 총과 같은거라 생각합니다
법적 테두리안에서 규제도 필요하겠지만 정부의 직접적인 관리가 필요하지 않을까 싶네요. 예를 들면, 인공지능부 또는 인공지능청 정도에 해당하는 기관이 설립되서 민간과 협력을 하고 필요하면 규제도 해야겠죠. 관련 법안만 만들기에는 부족하지 않을까 싶습니다. 법안이나 관련 부서가 만들어지는 과정에서 끊임없이, 규모와 상관없이 공론화가 필요하다고 생각합니다.