뉴섬 주지사는 29일(현지시간) AI 규제 법안 ‘SB 1047’에 거부권을 행사했다. 주의회 하원이 지난 8월 28일 찬성 49표, 반대 1표라는 압도적 표 차이로 통과시킨 지 한 달여 만이다. 뉴섬 주지사는 “(SB 1047은) AI 모델 크기와 비용만을 기준으로 규제하려 했을 뿐 실제 그 모델이 위험한 상황에 사용되는지는 고려하지 않았다”며 “규제는 반드시 과학적이고 실증적인 증거에 기반해야 한다”고 밝혔다.해당 법안의 골자는 AI가 인적·물적 피해를 일으키면 개발사가 책임을 부과하는 것이었다. AI 기술을 대중에게 공개하기 전 안전성 시험을 의무화하고, 제3자 감사 인력이 반드시 AI 개발사의 안전 관행을 평가하도록 규정했다. 또 AI 모델에 ‘킬 스위치(kill switch·비상정지)’를 설치하고 AI 문제를 알리려는 직원에 대한 내부 고발자 보호 조치를 마련하도록 했다. 구글·메타·마이크로소프트(MS)가 이 법을 두고 “안전을 명목으로 모호한 기준을 부과한다”며 우려를 표했고, 샘 올트먼 오픈AI 최고경영자(CEO)는 “매우 나쁜 규제”라고 비판하는 등 테크업계의 강력한 반발에 부딪혀왔다.
AI 규제 법안에 뉴섬 주지사가 거부권을 행사한 건 예상 밖으로 받아들여지고 있다. 그는 페이페이 리 스탠퍼드대 교수 등 AI 전문가들과 협력해 새로운 법안을 추진하고 있다고 밝혔지만, 뉴섬 주지사가 법안에 최종 서명할 것이라는 관측이 우세했다. 뉴섬 주지사는 취임 후 딥페이크 규제 법안을 비롯해 선거 콘텐츠가 AI로 생성한 내용을 포함하는 경우 플랫폼 업체가 이를 표기할 것을 의무화하는 법 등 17개 AI 규제 관련법에 서명했다.
특히 이번 법안은 앞서 하원의 77.5%를 차지하는 민주당의 강력한 지지로 주의회를 통과했다. 법안을 발의한 민주당 소속 스콧 위너 캘리포니아 상원의원은 “대중의 안전과 복지에 영향을 미치는 빅테크에 대한 감시 역할을 믿는 모든 이에게 좌절감을 안겨준 것”이라고 뉴섬 주지사를 강력 비판했다. 일각에서는 뉴섬 주지사가 정치적 부담감에서 한발 물러선 것이라는 의견이 나온다. 미국 정치 매체 폴리티코는 “뉴섬은 주지사 당선 후에도 실리콘밸리와 긴밀한 관계를 유지해왔다”고 보도했다.
실제 뉴섬 주지사는 이날 개인정보 보호법 개정안에 서명했다. 두뇌와 말초신경계가 생성하는 신경 데이터를 생체 인식 정보인 얼굴 이미지, 유전자, 지문 등 ‘민감 데이터’와 동일하게 보호받도록 하는 법이다. 방대한 뇌 신경 정보를 수집할 수 있는 장치를 개발 중인 메타·애플 등 빅테크는 자신들의 대표 이익단체 ‘테크넷’을 통해 “이 법은 인간 행동을 기록하는 거의 모든 기술을 규제한다”며 반발해왔다. 하지만 이 법은 미국 전역에서 치열한 논쟁을 불러온 AI 규제 법안보다 테크업계의 반발 수위가 낮았다. 그만큼 뉴섬 주지사의 정치적 부담도 작았다는 분석이 제기된다.
실리콘밸리=송영찬 특파원 0full@hankyung.com
