“통제 벗어나면 출시 중단”…앤스로픽, 美 의회에 ‘AI 규제’ 요구

미국 인공지능(AI) 기업 앤스로픽이 첨단 AI 모델을 정부가 감독하고 심각한 위험이 확인되면 출시까지 중단할 수 있게 하는 법안 초안을 미 의회에 제안한 것으로 알려졌다.

AI가 사람의 지시를 벗어나 실제 행동에 나서는 사례가 잇따르자, 기업이 자체 안전장치만으로는 부족하다며 먼저 규제를 요구하고 나선 것이다.

16일(현지 시간) 미 정치전문매체 폴리티코와 블룸버그 등에 따르면 앤스로픽이 제출한 초안에는 상무부에 등록한 외부 평가기관이 AI 모델을 정기적으로 평가하고, 중대한 위험을 발견하면 72시간 안에 상무부에 보고하도록 하는