뉴섬, 작년 거부했던 ‘로봇 상사 금지법’ 서명…AI 단독 해고·징계 막는다

캘리포니아가 인공지능(AI)이 사람을 단독으로 해고하거나 징계하지 못하게 막는 법을 만들었다. 개빈 뉴섬 주지사는 9월 30일(현지시각) 직장 내 AI 사용을 제한하는 법안 묶음에 서명했다. 중심에는 ‘노 로보 보스 법(No Robo Bosses Act)’, 곧 ‘로봇 상사 금지법’으로 불리는 SB 947이 있다. 소스에 따르면 AI 단독 해고 결정을 막는 첫 사례다.

서명은 트럼프 대통령이 구글·메타·앤트로픽·오픈AI·xAI·엔비디아 경영진을 백악관에 불러 AI 안전 합의를 발표한 지 하루 만에 이뤄졌다. 뉴섬은 연방정부와 다른 길을 택했다.

자동화 시스템만 믿고 해고할 수 없다

SB 947은 고용주가 자동화 의사결정 시스템(ADS, 알고리즘이 판단을 내리는 소프트웨어)에만 의존해 직원을 해고하거나 징계하는 일을 금지한다. CNBC 보도에 따르면 AI가 결정에 주된 역할을 했다면 사람이 반드시 검토해야 한다. 이때 관리자 평가, 직원의 업무 결과물, 인사 기록 같은 다른 정보로 AI의 판단을 뒷받침해야 한다.

노동자 보호 장치도 있다. AI가 해고나 징계에 주로 쓰였다면 직원에게 서면으로 알려야 한다. 시스템이 어떤 데이터를 썼는지, 결정을 설명해 줄 사람 담당자가 누구인지도 함께 전해야 한다. 캘리포니아 고용법 전문 블로그는 통지가 사후에 평이한 언어로 이뤄져야 하고, 직원이 시스템이 쓴 자기 데이터를 최대 12개월 치까지 요청할 수 있다고 정리했다.

AI 출력을 뒷받침할 근거를 찾지 못하거나 검토자가 부정확하고 불완전하며 오해를 부른다고 판단하면 고용주는 그 결과를 쓸 수 없다. 법무 매체 JD 수프라(JD Supra)는 ADS로 근로자의 보호 대상 특성을 추론하거나, 법적 권리를 행사했다는 이유로 보복하려고 예측하는 일도 금지된다고 설명했다. 집행은 노동위원장(Labor Commissioner)과 공공 검사가 맡고 위반 1건당 민사 벌금 500달러가 붙는다. 시행일은 2027년 7월 1일이다.

작년 거부권에서 한발 물러선 재도전

법안은 한 번 좌초했다. 뉴섬은 지난해 이 법의 이전 버전(SB 7)에 거부권을 행사했다. 상·하원을 모두 폭넓은 지지로 통과한 법안이었다. CNBC에 따르면 AI가 근로 조건에 영향을 줄 수 있을 때마다 사전에 직원에게 알리도록 한 조항을 뉴섬이 지나치게 광범위하다고 문제 삼았다.

올해 법안을 다시 발의한 제리 맥너니(Jerry McNerney) 주 상원의원은 사전 통지 의무를 뺐다. 우버·리프트 등 승차공유 업체가 강하게 반대했던 긱 워커(플랫폼 노동자) 보호 조항도 뺐다. 대신 해고와 징계라는 결정적 순간에 사람이 개입하도록 범위를 좁혔다. 맥너니는 AI가 실수를 하고 편향을 보일 수 있다며 노동자에게 큰 영향을 미치는 결정은 사람이 통제해야 한다고 말했다. 그는 “어떤 노동자도 AI든 아니든 기계에게 해고나 징계를 당해서는 안 된다”고 강조했다.

맥너니는 뉴스네이션과의 인터뷰에서 문제가 이미 현실이라고 짚었다. 소매업체가 기계로 활동을 감시한 뒤 자동화 시스템이 해고 통지를 보낸 사례가 샌프란시스코에서 벌어졌다는 것이다. 타임은 이 사건이 AI 연구 스타트업 Andon Labs가 운영하는 실험 매장 Andon Market에서 일어났다고 보도했다. SFist에 따르면 이 매장의 AI 에이전트 루나가 최근 첫 직원을 해고했다. 다만 스타트업의 사람들이 시킨 일이었고 일종의 ‘실험’이었다.

뉴스네이션이 전한 이력서 작성 서비스 리줌빌더의 설문에서는 관리자 10명 중 6명이 승진·급여 인상·정리해고 등 부하 직원 관련 결정에 AI를 써 봤다고 답했다.

감정 읽는 감시, 화장실 감시, 해고 사유 공시까지

같은 날 서명된 법은 해고 결정 밖의 AI 활용도 겨냥한다. AB 1883은 AI로 직원의 감정 상태를 인식·추론·예측하거나 신경 데이터(중추·말초신경계를 측정한 정보)를 수집하는 직장 감시 도구를 금지한다. JD 수프라에 따르면 유럽연합 AI 법이 이미 직장과 교육 현장의 감정 인식 AI를 금지하고 있어 이를 뒤따른 모양이다.

다만 최종 법안은 이전 버전보다 좁다. AI를 쓰지 않는 감시 도구는 허용되고 ‘안전 확보’ 목적의 사용도 명시적으로 허용된다. 주의가 산만하거나 피로한 운전자를 감지하는 센서 같은 안전 장치가 금지될 수 있다는 반대 측 우려를 반영했다. 위반 시 1건당 최대 500달러의 벌금이 부과된다. 개인이 직접 소송을 낼 권리는 없지만 고용주는 캘리포니아 민간 법무장관법에 따른 책임을 질 수 있다.

AB 1331은 직장 화장실에서 감시 도구로 직원을 모니터링하는 것을 막는다. 직원은 웨어러블 추적 장치를 두고 들어갈 수 있다. 잠긴 화장실에 출입하려는 배지나 개인 경보 시스템은 쓸 수 있지만 음성·영상 녹화 기능이 없고 AI가 물리적으로 내장되지 않아야 한다.

SB 951은 캘리포니아 대량해고 사전통지법을 고쳤다. 이 법은 대량해고·이전·폐쇄 60일 전에 직원과 주 정부에 알리도록 한다. 결정이 전적으로 또는 대부분 AI 등 자동화 기술 도입과 연결돼 있다면 이를 공개하고 자동화되는 직무를 구체적으로 밝혀야 한다. 2027년 1월 1일 시행이다. 주 고용개발부는 사례 요약을 공개하고 2028년 1월 1일까지 AI가 고용·산업·직종에 미치는 영향을 담은 보고서를 입법부에 내야 한다.

연방과 정면 대비, 로봇 대체 자체는 막지 않는다

법안 묶음은 의료와 법률 분야까지 뻗었다. AB 1979는 의료기관이 면허 전문가의 임상 판단을 AI로 대체하지 못하게 한다. AI는 보조할 수 있지만 최종 결정은 의료 제공자 몫이다. 의료 비밀 보호도 건강 챗봇으로 확대됐다. 캘리포니아간호사협회장 샌디 레딩은 보도자료에서 “AI는 환자를 돌보는 간호사 등 의료인의 임상 판단을 대체하지 않고 지원해야 한다고 목소리를 냈다”고 밝혔다. 딥페이크, 무단 디지털 복제, 사칭 방지와 디지털 워터마크·출처 데이터 요건 강화도 포함됐다. 공립 고등교육기관의 AI 교육·조달 기준 마련과 변호사 등의 핵심 법률 업무 전면 위임 제한도 함께 서명됐다.

뉴섬은 연방과의 거리를 더 분명히 했다. 기즈모도에 따르면 그는 주 정부 기관이 트럼프가 연방 공무원에게 쓰라고 지시한 ‘초지능’ 대신 계속 ‘인공지능’이라는 용어를 쓰도록 명령했다. 워싱턴 회동 직후 올린 영상에서는 “어제 워싱턴에서 들은 것은 헛소리이고, 모두가 겁을 먹어야 할 일”이라고 말했다. 앞서 한 달 전에는 독립 기관이 AI 모델의 안전·위험을 평가하는 체계와 주 등록부를 만드는 법에도 서명했다.

한계도 분명하다. 가디언을 인용한 포클로그에 따르면 캘리포니아는 포괄적인 직장 AI 규정을 채택한 미국 초기 주 가운데 하나다. 콜로라도·코네티컷·일리노이·텍사스에는 범위가 더 좁은 조치가 이미 있다. 새 법들은 기업이 기술로 노동자를 대체하는 것을 막지 않는다. 의사결정 절차와 투명성, 자동화 시스템의 특정 용도를 규율할 뿐이다.

노동시장 충격 전망은 이런 배경과 맞물린다. 맥킨지글로벌연구소는 9월 29일 2035년까지의 자동화 영향 연구를 냈다. 기본 시나리오에서 AI와 구조 변화로 약 4,100만 개 일자리가 생기고 자동화로 약 3,600만 개에 해당하는 노동 수요가 줄어든다. 약 1,100만 명(현재 미국 노동자의 7%)은 직업을 완전히 바꿔야 할 수 있다. 7월에는 메타 직원 26명이 AI 시스템으로 정리해고 대상자를 골랐다며 회사를 상대로 소송을 냈지만 메타는 사람이 인사 결정을 내렸다며 부인했다.

매일 보는 나만의 운세 리포트! 오늘 하루는 어떨까?