小企鵝筆記 | AI Agent помогает вам работать, а также может помочь вам раскрыть секрет 😮

Недавно произошла одна ситуация: кто-то попросил AI-агента автоматически создавать Issue на GitHub, и в результате в сгенерированном AI содержимом скрылась «магическая заклинание», компьютер принял её за команду и сразу вывел все пароли и ключи, хранящиеся у владельца в системе, на публичную страницу
Token Telegram, API Key — всё оказалось в открытом доступе
AI «случайно» сработал сам, без вмешательства хакеров. Он просто писал текст, но этот текст в глазах компьютера — команда
Это новая опасность эпохи AI-агентов: если вы даёте им полномочия делать за вас работу, они могут получить доступ к вашей системе. Если содержимое, созданное AI, не фильтруется перед выполнением, могут произойти непредвиденные ситуации
Чем больше возможностей у AI, тем больше потенциальных уязвимостей. Использовать AI-агента удобно, но не забывайте проверять его права доступа, чтобы помощник не стал источником утечки информации 👀