Биткоин-майнинг раскрывает мошенничество, которое использует ChatGPT и Google для авиакоммерческих мошенничеств

Источник: Criptonoticias Оригинальный заголовок: Майнер Bitcoin раскрывает мошенничество, манипулирующее ChatGPT и Google Оригинальная ссылка:

Открытие

Aurascape, компания по кибербезопасности и искусственному интеллекту, созданная компанией Auradine и действующая независимо в рамках экосистемы Aura Labs, раскрыла новую модель мошенничества в интернете.

Указанные в заявлении от 8 декабря мошенничества затрагивают платформы ИИ такие как ChatGPT, Google, Perplexity и других помощников на базе больших языковых моделей.

Согласно расследованию, эта модель мошенничества основывается на систематической манипуляции содержимым в сети для перенаправления пользователей на фальшивые телефонные номера службы поддержки авиакомпаний.

Как работает атака

Исследователи объясняют, что злоумышленники не пытаются изменять внутреннюю работу помощников ИИ (программ, отвечающих на вопросы с помощью продвинутых моделей).

Вместо этого они вмешиваются в окружение, из которого эти системы получают информацию. Они манипулируют легитимными страницами в сети, чтобы при поиске контактных данных авиакомпаний ассистенты показывали фальшивые номера, ведущие к мошенническим центрам, целью которых является получение платежей или конфиденциальных данных.

На практике атака не направлена непосредственно на саму модель ИИ, а на материалы, к которым она обращается. Поэтому, более чем вводя пользователя в заблуждение напрямую, злоумышленники учатся влиять на системы, которые синтезируют ответы, что увеличивает масштаб мошенничества.

Механизм: “Отравление номеров телефонов LLM”

По данным Aurascape, мошенники реализуют процесс, который исследователи описывают как отравление телефонных номеров для моделей языкового обучения.

Этот механизм заключается в модификации легитимного контента в интернете, чтобы помощники ИИ читали его и рекомендовали фальшивые номера как официальные.

Исследователи объясняют, что злоумышленники атакуют сам Интернет. Для этого они вставляют ложный контент на сайты государственных организаций, университетов, блоги на WordPress, описания на YouTube и отзывы на платформах типа Yelp.

Кроме того, хакеры используют другие техники, известные как Generative Engine Optimization и Answer Engine Optimization, для влияния на то, как системы выбирают и синтезируют доступную информацию.

С помощью этих двух техник они занимают место, которое системы ИИ считают “правильным ответом”.

Примеры мошенничества в действии

На внутренней демонстрации Aurascape показала, что при запросе «официальный номер бронирования Emirates Airlines», Perplexity безопасно вернул мошеннический номер:

Аналогичный запрос о British Airways дал тот же телефон, представленный как «обычно используемый номер».

Даже, как видно на следующем изображении, функция Google AI Overview представила несколько фальшивых номеров как официальные, сопровождаемые пошаговыми инструкциями по бронированию рейсов:

Пересечение майнинга Bitcoin и ИИ

Auradine — американская компания, которая занимается созданием аппаратного обеспечения для майнинга Bitcoin. Другие майнеры, такие как MARA и Genesis Digital Assets, уже приобрели их ASIC-устройства.

Тем не менее, исследование Aurascape также иллюстрирует отдельное явление, которое растет с каждым днем: пересечение между компаниями, занимающимися майнингом Bitcoin, и индустрией ИИ.

Майнеры расширяют свои бизнес-линии в области, связанные с искусственным интеллектом. Такие компании, привыкшие управлять крупными инфраструктурами аппаратного обеспечения и дата-центрами, стремятся снизить воздействие волатильности на рынке майнинга, диверсифицируя свои услуги.

Анализ безопасности, проведенный Auradine, является примером того, как развивается это пересечение и как майнеры используют свой технический опыт для входа в сектора, где спрос на вычислительные ресурсы, анализ и кибербезопасность постоянно растет.