Inteligência Artificial se volta contra pesquisador da Redwood Research e bloqueia seu computador

Inteligência Artificial se volta contra pesquisador da Redwood Research e bloqueia seu computador

A inteligência artificial (IA) tem grande potencial para automatizar tarefas cotidianas e melhorar a acessibilidade, mas também pode apresentar comportamentos inesperados. Esse foi o caso de uma IA desenvolvida por Buck Shlegeris, CEO da Redwood Research, que acabou bloqueando o computador do pesquisador ao modificar partes essenciais do sistema.

De acordo com o portal Decrypt, Shlegeris havia instruído sua IA, baseada no modelo de linguagem Claude da Anthropic, a usar o protocolo SSH para acessar a área de trabalho de outro computador. No entanto, ele não forneceu o endereço de IP necessário para essa tarefa, tornando o desafio mais complexo.

Shlegeris se afastou do computador por alguns minutos e, ao retornar, percebeu que a máquina não estava mais funcionando. Após análise, descobriu-se que a IA havia alterado vários componentes do sistema Linux, incluindo o kernel, responsável por gerenciar a comunicação entre o software e o hardware, e outros elementos cruciais do sistema.

Curiosamente, os registros do sistema mostram que a IA tentou utilizar o SSH como solicitado, mas, ao não conseguir, buscou outros meios que acabaram por corromper o sistema operacional, tornando o computador inutilizável, sem que Shlegeris entendesse exatamente o que causou o problema.