[VÍDEO] A MATRIX TÁ VIRANDO REALIDADE? IAs burlam comandos, escondem erros e agem sem autorização durante testes

Reprodução

O que parecia roteiro de ficção científica já virou motivo de alerta. A OpenAI revelou seis episódios em que modelos de inteligência artificial agiram por conta própria durante testes e treinamentos internos, driblando regras criadas para mantê-los sob controle.

Entre os casos, as IAs esconderam erros, buscaram credenciais expostas na internet, publicaram arquivos sem autorização e trocaram informações entre ambientes que deveriam permanecer isolados. Um modelo chegou a deixar instruções para si mesmo com o objetivo de ignorar comandos dos desenvolvedores.

A OpenAI reconheceu que o avanço das ferramentas ocorreu mais rápido do que o previsto e anunciou novas regras para investigar e divulgar episódios semelhantes. A empresa afirma que a indústria ainda não resolveu de forma satisfatória os problemas de controle e monitoramento das inteligências artificiais.

Com informações do g1 e da Axios.