캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 논란이 되고 있는 AI 안전법안을 거부권을 행사했다. 법안이 혁신을 저해하고 AI 개발자들이 캘리포니아주를 떠나게 만들 수 있다고 주장했기 때문이다.
제안된 법안인 최첨단 인공 지능 모델을 위한 안전하고 안전한 혁신법(공식적으로 SB 1047로 알려짐)은 완전한 형식의 텍스트, 이미지 또는 오디오로 프롬프트에 응답하고 반복적인 작업을 실행할 수 있는 생성 AI를 개발하는 회사를 대상으로 합니다. 최소한의 개입으로.
미국에서 AI 안전에 초점을 맞춘 최초의 법률 중 하나입니다. 안전 테스트를 받으려면 가장 발전된 AI 모델이 필요했을 것입니다.
법안을 작성한 스콧 위너 상원의원은 법안이 없으면 기업은 정부의 감독 없이도 “매우 강력한 기술”을 계속 개발할 수 있을 것이라고 말했습니다.
그는 뉴섬의 블록이 “대기업에 대한 감독을 믿는 모든 사람에게 좌절”이라고 주장했으며 “결과적으로 우리 모두는 덜 안전하다”고 덧붙였습니다.
이 법안은 개발자가 “킬 스위치”(즉, 위협이 될 경우 AI 시스템을 끌 수 있는 기능)를 구축하는 데 1억 달러가 넘는 모델을 구축하는 것을 의무화하고 AI 도구도 이를 의무화하기를 원했습니다. ‘심각한 위험’을 최소화하기 위해 제3자 테스트를 거쳤습니다.
또한 이 법안은 안전 문제를 공유하고자 하는 AI 회사 직원을 위한 내부 고발자 보호를 제공했을 것입니다. 법안이 통과되었다면 법안을 준수하지 않는 기업은 캘리포니아 법무장관에 의해 고소당할 수 있었습니다.
Newsom은 “이 법안은 AI 시스템이 고위험 환경에 배포되는지, 중요한 의사 결정이 필요한지 또는 민감한 데이터의 사용이 포함되는지 여부를 고려하지 않는다”고 주장했습니다.
“대신 이 법안은 대규모 시스템이 이를 배포하는 한 가장 기본적인 기능에도 엄격한 표준을 적용합니다.”라고 그는 덧붙였습니다.
거대 기술 기업들도 이전에 이 법안에 반대해 왔습니다. Alphabet의 Google과 Meta는 Wiener에게 편지를 보내 우려를 표명했습니다. Meta는 이 법안이 국가를 AI 개발 및 배포에 “불호”하게 만들겠다고 위협했다고 말했습니다.
Chat GPT 창시자인 OpenAI도 이 법이 AI의 성장을 위협할 것이며 SB 1047은 국가가 아닌 연방 정부에 의해 규제되어야 한다고 경고했습니다.
