Pequeno Pinguim Notas | O Agente de IA ajuda-te a trabalhar, mas também pode ajudar a divulgar segredos 😮

Recentemente aconteceu uma coisa: alguém pediu ao agente de IA para abrir automaticamente um Issue no GitHub, e o conteúdo gerado pelo IA continha uma "palavra mágica", que o computador interpretou como uma instrução, imprimindo todas as senhas e chaves armazenadas pelo proprietário no sistema, e colando tudo numa página pública
Token do Telegram, API Key, tudo exposto na internet
Foi uma "acidente" do próprio IA, sem intervenção de hackers. Ele só estava a escrever texto, mas aquela parte do texto foi interpretada pelo computador como uma ordem
Esta é uma nova ameaça na era dos agentes de IA: ao dar-lhe permissões para fazer tarefas, você também lhe dá a capacidade de acessar o seu sistema. Quando o conteúdo gerado pelo IA é executado sem filtragem prévia, acidentes podem acontecer
Quanto maior a capacidade, maior a superfície de ataque. Usar um agente de IA é conveniente, mas lembre-se de verificar o alcance das permissões, para não transformar o assistente num divulgador de segredos 👀