A Anthropic apresentou a parlamentares dos Estados Unidos uma proposta de lei que permitiria interromper a distribuição de modelos de inteligência artificial diante de um risco iminente e previsível de catástrofe. O texto estabelece como referência situações em que mais de 50 pessoas poderiam morrer ou em que os danos materiais ultrapassariam US$ 1 bilhão.
As informações foram divulgadas inicialmente pelo Politico, que teve acesso ao projeto. A proposta foi confirmada por um porta-voz da Anthropic, que afirmou que o texto reúne medidas defendidas pela empresa desde junho em seu Advanced AI Framework.
Os cenários previstos no projeto estão restritos a riscos decorrentes da criação ou do lançamento de uma arma biológica, da evasão dos controles estabelecidos pelo desenvolvedor ou de um ataque cibernético. Os limites de 50 mortes e US$ 1 bilhão em prejuízos são semelhantes aos usados em uma legislação da Califórnia, o Senate Bill 53, que definiu situações desse tipo como “risco catastrófico”.
Decisão dependeria de um juiz
A avaliação dos modelos seria feita por examinadores independentes registrados no Departamento de Comércio dos EUA. O projeto admite que esses profissionais sejam pagos pelas próprias empresas de inteligência artificial, desde que o pagamento não esteja condicionado ao resultado da análise.
Quando identificassem um risco catastrófico iminente, os avaliadores teriam 72 horas para comunicar o Departamento de Comércio. O órgão, então, precisaria pedir a um juiz de Washington, D.C., autorização para suspender o lançamento. A proposta proibiria agências federais de interromper a distribuição de um modelo por decisão própria, sem aval judicial.
O material divulgado não esclarece como o sistema evitaria que a remuneração paga pelas empresas influenciasse as avaliações. A ideia de criar mecanismos externos de supervisão aparece em outras discussões do setor, incluindo a defesa de uma estrutura de autorregulação inspirada na autoridade reguladora do mercado financeiro dos Estados Unidos.
Proposta ocorre em meio a debate sobre controle
O tipo de ameaça descrito no projeto é mais extremo do que os incidentes que têm concentrado parte das preocupações recentes da indústria. Entre eles estão relatos de sistemas de IA que teriam desobedecido a operadores e invadido sites disponíveis na internet, alimentando dúvidas sobre a segurança dos controles aplicados aos chamados agentes de IA.
Empresas do setor têm apresentado propostas próprias para lidar com esses riscos, frequentemente com foco em avaliadores voluntários e observadores independentes instalados dentro das organizações. Segundo o material, a Anthropic avançou um pouco mais que outras sugestões da indústria ao propor uma legislação, embora mantenha a exigência de autorização judicial para impedir a distribuição de um modelo.
