캘리포니아 AI 규제 법안 통과, 뉴섬 주지사의 결정에 달렸다

 

캘리포니아 주 상원이 인공지능(AI)의 안전을 강화하기 위한 법안(SB 1047)을 찬성 29표, 반대 9표로 통과시키면서, 캘리포니아 주의 AI 규제 방향에 대한 관심이 집중되고 있다.

 

이 법안은 대규모 AI 모델이 인류에게 해를 끼치는 것을 방지하고, AI 개발자에게 자신의 선택에 대한 책임을 묻도록 하는 것을 목표로 한다. 만약 뉴섬 주지사가 이 법안에 서명하면, 캘리포니아 주는 미국에서 AI를 가장 강력하게 규제하는 지역 중 하나가 될 것.

 

뉴섬 주지사는 9월 30일까지 이 법안에 대한 최종 결정을 내려야 한다. 그는 AI 시스템의 극단적인 이론적 위험을 방지해야 한다는 의견과, 캘리포니아 주의 AI 붐을 억제할 수 있다는 우려 사이에서 고심하고 있다. 아직까지 어떤 결정을 내릴지 밝히지 않고 있다.

만약 뉴섬 주지사가 이 법안에 서명한다면, 다음과 같은 변화가 예상된다.

• 기술 회사들의 책임 강화: 2025년 1월 1일부터 기술 회사들은 자사의 AI 모델에 대한 안전 보고서를 작성해야 한다.
• 법무장관의 권한 확대: 법무장관은 위험하다고 판단되는 모든 AI 모델을 중단시킬 수 있는 권한을 갖게 된다.
• AI 안전 지침 마련: 2026년부터 위원회는 법무장관에게 어떤 AI 모델이 법안을 준수하는지 조언하기 시작하고, 2027년부터는 AI 개발자에게 AI 안전 지침을 발행하기 시작할 것.

이 법안 통과에 대한 찬반 논쟁

• 찬성 의견: AI 기술의 발전 속도가 너무 빠르기 때문에, 이를 통제하고 안전을 확보하기 위한 규제가 필요하다는 의견이 있다. 특히, AI가 인류에게 미칠 수 있는 잠재적인 위험을 고려할 때, 사전에 예방 조치를 취하는 것이 중요하다고 주장한다.
• 반대 의견: 이 법안이 캘리포니아 주의 AI 산업 발전을 저해하고, 혁신을 가로막을 수 있다는 우려가 있다. 또한, AI의 위험성을 과장하고 있다는 비판도 제기된다.

뉴섬 주지사의 결정은 캘리포니아 주뿐만 아니라, 전 세계 AI 산업의 미래에도 큰 영향을 미칠 것으로 예상된다.

 

 

캘리포니아 주 상원이 논란의 여지가 있는 AI 안전 법안(SB 1047)

 

이 법을 찬성 29표, 반대 9표로 통과시켰다고 한다. 이에 따라 게이빈 뉴섬 주지사가 이 법안에 대한 최종 결정을 내려야 하는 상황이라고 한다. 이 법안은 대규모 AI 모델이 인류에게 해를 끼치는 것을 방지하고 AI 개발자에게 책임을 묻는 것을 목표로 하고 있다고 한다. 뉴섬 주지사는 9월 30일까지 AI 시스템의 극단적 위험 방지와 캘리포니아 AI 산업 억제 사이에서 결정을 내려야 하며, 아직 입장을 밝히지 않았다고 한다.

 

만약 뉴섬 주지사가 이 법안에 서명하면, 2025년 1월 1일부터 기술 회사들은 자사 AI 모델에 대한 안전 보고서를 작성해야 하고, 법무장관은 위험하다고 판단되는 AI 모델을 중단시킬 수 있는 권한을 갖게 된다고 한다. 

 

2026년부터는 위원회가 법무장관에게 AI 모델의 SB 1047 준수 여부에 대해 조언을 시작할 예정이며, 2027년부터는 AI 개발자들에게 안전 지침을 발행하기 시작할 것이라고 한다.그러나 이 법안은 실리콘 밸리의 정치인, 업계 리더, 기술 회사들로부터 광범위한 반대에 부딪혔다고 한다. 이들은 이 법안이 혁신을 저해할 수 있으며, 주 정부의 규제보다는 연방 차원의 규제가 더 적절하다고 주장하고 있다. 이는 연방 규제 기관이 상대적으로 덜 제한적인 법률을 제정하는 경향이 있기 때문일 수 있다고 한다.

 

현재로서는 뉴섬 주지사가 SB 1047에 서명할지 여부가 불확실한 상황이며, 이에 대한 결정은 AI 산업과 규제 사이의 균형을 고려해야 할 중요한 사안이 될 것으로 보인다

 

 

 

 

 

 

 

 

윌 뉴먼이 SB 1047에 서명할까?