캘리포니아 주지사 개빈 뉴섬은 너무 혁신적이면 통제 할 수없는 위험을 초래할 수 있다고 말하면서 논란의 여지가있는 인공 지능 법안에 거부권을 행사했습니다.

캘리포니아 주지사 개빈 뉴섬은 많은 논란이 되고 있는프론티어 인공지능 모델에 대한 안전 및 보안 혁신법(SB 1047) 을 발의하여 인공지능(AI) 개발에 대한 엄격한 규제를 시행하고자 했습니다. 9월 30일, 뉴섬 주지사는 AI 안전은 중요하지만 이 법안이 혁신을 저해하고 기술로 인한 실제 위험을 해결하지 못할 것이라고 주장하며 이 법안을 거부했습니다.

샌프란시스코 상원의원 스콧 위너가 주도한 이 법안은 OpenAI, Meta, Google과 같은 주요 기업이 개발한 AI 모델에 대해 의무적인 안전 테스트를 요구했습니다. 또한 극도의 위험이 발생할 경우 AI 시스템을 비활성화하는 '킬 스위치' 조항이 포함되어 있으며, 가상의 AI 그리드 탈취와 같은 지속적인 위협이 발생할 경우 AI 개발자에게 법적 책임을 지우도록 했습니다.

실리콘 밸리의 반발

이 법안은 과도한 규제로 AI 개발에 부담을 줄 것을 우려한 실리콘밸리와 기술 업계 리더들의 강력한 반대에 부딪혔습니다. 주요 기술 기업과 AI 정책 입안자를 포함한 비평가들은 이 법안이 캘리포니아에서 이 분야의 성장을 크게 저해할 수 있다고 주장했습니다.

뉴섬은 성명에서 이러한 우려를 반영하여, 이 법안이 AI와 관련된 더 중요한 위험을 다루지 않고 상위 AI 기업과 기본 기능을 규제하는 데 너무 집중하고 있다며 우려를 표명했습니다.
그는 "이것이 기술로 인한 실제 위협으로부터 대중을 보호하는 최선의 접근 방식이라고 생각하지 않습니다."라고 설명했습니다.

혁신과 안전의 균형

뉴섬 주지사는 SB 1047을 거부했지만 AI 안전 조치의 필요성은 여전히 인정한다고 강조했습니다. 그는 캘리포니아가 과학에 기반한 위험 평가를 통해 정보를 얻을 수 있는 '실행 가능한 가드레일'을 만들 수 있도록 최고의 AI 안전 전문가들의 도움을 받았다고 말했습니다.

뉴섬 주지사는 주 정부 기관이 AI의 잠재적 재앙적 위험에 대한 평가를 확대하여 적절한 안전장치를 마련해야 한다고 덧붙였습니다. 그는 규제 당국이 대중을 보호하기 위한 조치를 취하기 전에 재난이 발생할 때까지 기다리지 말아야 한다고 강조했습니다.
거부권 행사에도 불구하고 뉴섬 주지사는 지난 30일 동안 18개 이상의 AI 관련 법안에 서명하는 등 AI 규제에 적극적으로 나서고 있습니다.

관련 읽기：인지 혁명: '인공지능이 인간을 능가할 때'를 요약합니다;

분열된 반응

거부권 행사는 엇갈린 반응을 불러일으켰습니다. 하원의장과 같은 저명한 인사들은낸시 펠로시 와 OpenAI 같은 기업들은 이 법안이 AI 혁신을 저해할 수 있다고 경고하며 반대의 목소리를 냈습니다.

반면에엘론 머스크 자체 AI 모델인 Grok을 개발 중인 머스크는 이 법안에 대해 신중한 지지를 표명하며 더 광범위한 AI 규제를 옹호했습니다. 머스크는 SB 1047 법안 통과가 '어려운 결정'이 될 것이라는 점을 인정하면서도 더 강력한 안전 조치를 지지하는 쪽으로 기울었다고 밝혔습니다.
1억 달러 이상의 비용이 드는 모델을 대상으로 하는 이 법안의 광범위한 영향은 추후 소규모 AI 개발자를 대상으로 확대되어 전반적으로 혁신을 저해할 수 있다는 우려를 불러일으켰습니다.
뉴섬 주지사의 거부권 행사로 SB 1047의 특정 조항이 중단될 수는 있지만, 캘리포니아가 대중을 보호하는 동시에 산업이 번창할 수 있도록 보다 균형 잡힌 접근 방식을 모색하고 있는 만큼 AI 규제에 대한 논의는 아직 끝나지 않았습니다.