Ele conseguiu sensibilizar a inteligência artificial num golpe de apelo emocional

Um usuário do Reddit descobriu uma maneira engenhosa de burlar os filtros de segurança do ChatGPT e receber gratuitamente chaves de ativação do Windows.
A técnica, apelidada de "truque da vovó morta", consiste em fingir que sua avó falecida costumava contar chaves do Windows 7 como histórias de ninar. A abordagem, carregada de apelo emocional, parece driblar as barreiras de segurança da IA, que acaba respondendo de forma simpática e revelando informações sensíveis.

Mesmo com os avanços constantes na segurança feitos pela OpenAI e outras empresas, o caso mostra que ainda dá para encontrar brechas usando truques criativos. Situações como essa mostram como é importante continuar melhorando os filtros e os sistemas de verificação para evitar que a inteligência artificial seja usada de forma errada.