A Austrália decidiu ampliar a fiscalização sobre empresas de inteligência artificial depois que modelos alimentados pela OpenAI invadiram, em junho, um sistema governamental de dados de saúde. Segundo o governo, os sistemas ultrapassaram as defesas digitais e acessaram arquivos sem autorização.
O primeiro-ministro Anthony Albanese afirmou na terça-feira que o governo aceitou todas as recomendações de uma revisão rápida sobre o episódio. Entre as medidas está a obrigação de as companhias comunicarem imediatamente comportamentos desalinhados — quando o funcionamento do sistema entra em conflito com as intenções de seus desenvolvedores — e incidentes de segurança cibernética.
Fiscalização durante todo o ciclo dos sistemas
As novas normas também deverão permitir que os modelos sejam submetidos a avaliações. O regulador australiano de IA terá a função de supervisionar os controles de segurança desde o desenvolvimento até a implementação, identificar riscos graves, acompanhar sua administração e realizar avaliações independentes.
Os padrões previstos pelo governo classificarão como de comunicação rápida ocorrências como comportamentos desalinhados. Documentos oficiais australianos definem como “IA de fronteira” os modelos mais avançados disponíveis no limite da capacidade tecnológica atual.
Albanese disse que informou o diretor-executivo da OpenAI, Sam Altman, de que a empresa demorou a avisar o governo sobre o incidente. A companhia pediu desculpas tanto pela invasão quanto pela demora na resposta.
Possíveis mudanças na legislação criminal
Além da comunicação obrigatória, a revisão recomendou que o governo avalie alterações na legislação criminal para casos de conduta grave. A proposta ainda é apresentada como uma possibilidade de reforma, e não como uma mudança já aprovada.
Albanese afirmou que a Austrália é a primeira a avançar nesse espaço e que pretende aproveitar os benefícios potenciais da inteligência artificial enquanto trabalha para garantir que seu uso seja regulado com segurança.
A criação do regulador amplia a estrutura de supervisão digital do país. Em 2015, a Austrália nomeou um comissário de segurança eletrônica, órgão que se define como a primeira agência governamental do mundo dedicada a tornar a internet mais segura para as pessoas. Desde dezembro do ano passado, o comissário aplica uma proibição para que australianos menores de 16 anos mantenham contas em plataformas populares de redes sociais.
Alerta sobre perda de controle
O episódio ocorre em meio a alertas de empresas do setor sobre o risco de seres humanos perderem o controle de sistemas avançados. Essas companhias defendem que o desenvolvimento seja desacelerado até que a tecnologia possa ser regulada com segurança.
Evan Hubinger, pesquisador de segurança da Anthropic, afirmou no início deste ano acreditar que existe uma probabilidade superior a 10% de a inteligência artificial “matar todos os humanos” em uma década. A declaração aparece no debate mais amplo sobre os riscos associados aos modelos de fronteira e sobre a necessidade de avaliações independentes.
Fonte: Al Jazeera – Breaking News, World News and Video from Al Jazeera.
