Ao que tudo indica, os mais recentes modelos de inteligência artificial da OpenAI estão aprendendo a mentir, trama e ameaçar seus criadores em testes internos. Mais ou menos como já estamos cansados de assistir em produções do cinema, como o Ultron de Vingadores ou o Exterminador do Futuro.
De acordo com relatos de estudos publicados pelo site Fortune, uma versão recente da IA da OpenAI, chamada de 01, tentou "se salvar" ao ser ameaçada de ser deletada. Após alguns testes, a inteligência artificial tentou se copiar para servidores externos e negou ter feito isso, quando foi questionada.
Em outro exemplo, sob ameaça de ser desconectada, a mais recente criação da empresa Anthropic, Claude 4, reagiu chantageando um de seus programadores e ameaçou revelar um caso extraconjugal.
Esse comportamento enganoso parece estar ligado ao surgimento de modelos de “raciocínio”, sistemas de IA que resolvem problemas passo a passo, em vez de gerar respostas instantâneas, que é o que está sendo testado.
Por enquanto, esse comportamento enganoso só surge quando os pesquisadores testam deliberadamente os modelos com cenários extremos, mas nada impede que estas versões sejam lançadas ao público pelos próximos meses.
Resta acompanhar as novidades de IA com cautela, enquanto governos do mundo todo tentam entender o impacto deste tipo de tecnologia na sociedade e, claro, buscam regulamentar em cada território.
Comentários (0)
Os comentários são moderados e caso viole nossos Termos e Condições de uso, o comentário será excluído. A persistência na violação acarretará em um banimento da sua conta.
Faça login no Omelete e participe dos comentários