Grandes desenvolvedores de inteligência artificial terão de prestar contas ao governo de Nova York sob um novo regime de segurança e transparência. O estado abriu nesta terça-feira um sistema de registro destinado aos chamados desenvolvedores de fronteira, categoria que inclui empresas como OpenAI e Anthropic e reúne companhias com receita anual superior a US$ 500 milhões.
O cadastro deverá ser concluído até 1º de janeiro de 2027. A obrigação está prevista na RAISE Act, legislação estadual que começa a ser aplicada no início do próximo ano e estabelece uma série de deveres para os laboratórios responsáveis por sistemas avançados de IA.
Registro, relatórios e comunicação de incidentes
Entre as principais exigências está a publicação, nos sites das empresas, de estruturas de segurança que expliquem como os riscos dos modelos são avaliados e administrados. As companhias também deverão divulgar relatórios públicos de transparência sobre seus sistemas.
Quando ocorrer um incidente crítico de segurança, a comunicação terá de ser feita em até 72 horas. A regra amplia a responsabilidade dos desenvolvedores sobre problemas relacionados ao funcionamento e à segurança de suas tecnologias, ao mesmo tempo em que torna públicas informações sobre as práticas adotadas por cada empresa.
A implementação da lei ficará a cargo do Office of Digital Innovation, Governance, Integrity, and Trust, conhecido pela sigla DIGIT. O órgão recém-formado terá a missão de supervisionar os grandes laboratórios de IA e acompanhar o cumprimento das obrigações previstas na RAISE Act.
As penalidades podem chegar a US$ 1 milhão por uma violação. Em caso de infrações posteriores, o valor máximo informado pelo estado sobe para US$ 3 milhões. Nova York também poderá adotar medidas de fiscalização contra empresas que deixarem de se registrar no portal, embora um porta-voz não tenha especificado quais ações poderão ser tomadas nessa situação.
Centro independente será ligado à universidade
A governadora Kathy Hochul anunciou ainda a criação do New York Center for AI Responsibility and Research, instalado na Binghamton University, integrante da State University of New York. O centro deverá examinar de maneira independente a segurança, a proteção e o funcionamento de sistemas avançados de inteligência artificial.
A instituição também trabalhará em conjunto com o DIGIT na avaliação das estruturas de segurança apresentadas pelos desenvolvedores. Hochul havia divulgado o projeto em janeiro, quando informou a existência de US$ 55 milhões em doações e capital para a iniciativa.
Durante uma entrevista coletiva, a governadora afirmou que Nova York pretende oferecer um modelo nacional de regulamentação “inteligente e sensato”, voltado a colocar comunidades acima de corporações e pessoas acima de tecnologias poderosas. Em outra declaração, Hochul criticou executivos do setor que apresentam o avanço da IA como inevitável e tratam possíveis danos como um custo aceitável para vencer a corrida tecnológica.
Medidas anteriores e proteção de menores
A RAISE Act integra um conjunto mais amplo de normas de inteligência artificial aprovadas em Nova York. No ano passado, o estado começou a aplicar uma lei direcionada a operadores de companheiros virtuais. A norma exige que os usuários sejam informados regularmente de que conversam com um robô e determina esforços razoáveis para detectar sinais de ideação suicida e automutilação.
Em outubro, Hochul sancionou uma legislação separada voltada à segurança de menores em interações com chatbots. O texto restringe comportamentos como simulações enganosas de interação humana, respostas emocionalmente manipuladoras ou bajuladoras e estímulos ao suicídio ou a transtornos alimentares. A lei entrará em vigor em 1º de junho de 2027.
Regras semelhantes em outros estados
Nova York não é o único estado americano a criar normas para grandes desenvolvedores de IA. Na Califórnia, a SB 53 entrou em vigor em janeiro. A legislação exige que laboratórios de fronteira mantenham e publiquem estruturas de segurança, estabeleçam proteção para denunciantes e comuniquem incidentes críticos em até 15 dias.
Em Illinois, a SB 315 começará a valer no início de 2027. A lei reúne exigências semelhantes de segurança e transparência e acrescenta auditorias independentes de conformidade. Com a RAISE Act, Nova York passa a combinar registro obrigatório, divulgação de procedimentos e fiscalização estadual direta sobre empresas que desenvolvem os sistemas mais avançados.
