Algoritmos sobre humanos que superam a humanidade estão a caminho e podem representar ameaça para os seres humanos, disseram pesquisadores da Universidade de Oxford aos parlamentares do Comitê Seleto de Ciência e Tecnologia. De acordo com o estudante de doutorado Michael Cohen, com a IA sobre-humana, “há um risco particular de ser de um tipo diferente de classe, que, bem, poderia matar todos”.

“Se você imaginar treinar um cão com guloseimas, ele aprenderá a escolher ações que o levem a receber guloseimas; mas se o cão encontrar o armário de guloseimas, ele pode pegar as guloseimas sem fazer o que queríamos que ele fizesse. Se você tem algo muito mais inteligente do que nós tentando obter esse feedback positivo, e é dominado pelo mundo para garantir isso, isso direcionaria tanta energia quanto possível para garantir seu domínio sobre isso, e isso nos deixaria sem qualquer energia para nós mesmos”, disse.

Logo depois do aviso ao Comitê, outros cientistas se pronunciaram, pedindo resoluções sobre leis armamentistas, já que grupos interessados em guerras teriam olhos maiores ao desenvolvimento de IAs.

Políticos dos EUA foram informados de que em algumas áreas, como carros sem motorista, a IA não havia feito tanto progresso quanto o esperado, mas em outras, como geração de texto, estava muito mais à frente do que se esperava.

Informações: IstoÉ Dinheiro