Mineração de Bitcoin revela fraude que manipula ChatGPT e Google para fraudes de companhias aéreas

Fonte: Criptonoticias Título Original: Uma mineradora de Bitcoin revela um esquema que manipula o ChatGPT e o Google Link Original:

A descoberta

Aurascape, uma empresa de cibersegurança e inteligência artificial criada pela Auradine, mas operada de forma independente dentro do ecossistema da Aura Labs, revelou um novo modelo de fraude na internet.

As fraudes mencionadas em um comunicado de 8 de dezembro afetam plataformas de IA como ChatGPT, Google, Perplexity e outros assistentes baseados em grandes modelos de linguagem generativa.

De acordo com a investigação, esse modelo de fraude apoia-se na manipulação sistemática de conteúdos na web para desviar os usuários para números de telefone falsos de atendimento ao cliente de companhias aéreas.

Como funciona o ataque

Os investigadores explicam que os atacantes não tentam alterar o funcionamento interno dos assistentes de IA (os programas que respondem perguntas por meio de modelos avançados).

Em vez disso, intervêm no ambiente de onde esses sistemas obtêm informações. Manipulam páginas legítimas na web para que, ao buscar dados de contato de companhias aéreas, os assistentes acabem exibindo números falsos que levam a centros de fraude voltados para obter pagamentos ou dados sensíveis.

Em termos práticos, o ataque não dirige-se ao modelo de IA em si, mas ao material que ele consulta. Por isso, mais do que enganar o usuário de forma direta, os atacantes estão aprendendo a influenciar os sistemas que sintetizam as respostas, o que amplia o alcance do esquema.

O mecanismo: “Envenenamento de números de telefone em LLM”

De acordo com a Aurascape, os golpistas conduzem um processo que os investigadores descrevem como envenenamento de números de telefone para modelos de linguagem.

Esse mecanismo consiste em alterar conteúdos legítimos na internet para que os assistentes de IA leiam e recomendem números falsos como se fossem oficiais.

Os investigadores explicam que os atacantes estão atacando a própria web. Para isso, inserem conteúdo falso em sites de órgãos públicos, universidades, blogs WordPress, descrições no YouTube e avaliações em plataformas como Yelp.

Além disso, os hackers usam outras técnicas conhecidas como Otimização de Motor Gerativo e Otimização de Motor de Respostas, para influenciar como os sistemas selecionam e sintetizam as informações disponíveis.

Por meio dessas duas técnicas, conseguem ocupar o espaço que os assistentes de IA consideram “a resposta correta”.

Exemplos do esquema em ação

Em uma demonstração interna, a Aurascape mostrou que ao consultar por “o número oficial de reservas da Emirates Airlines”, o Perplexity devolveu com segurança um número fraudulento:

Uma consulta semelhante sobre a British Airways trouxe o mesmo telefone, apresentado como “uma linha comumente usada”.

Até mesmo, como pode ser visto na imagem a seguir, a função AI Overview do Google apresentou vários números falsos como se fossem oficiais, acompanhados de instruções passo a passo para reservar voos:

A interseção entre mineração de Bitcoin e IA

Auradine é uma empresa norte-americana dedicada à criação de hardware para mineração de Bitcoin. Outras mineradoras como MARA e Genesis Digital Assets já adquiriram seus equipamentos ASIC.

No entanto, a investigação da Aurascape também ilustra um fenômeno que cresce a cada dia: a interseção entre empresas de mineração de Bitcoin e a indústria de IA.

Os mineradores estão expandindo suas áreas de negócio para atividades relacionadas à inteligência artificial. Essas empresas, acostumadas a operar grandes infraestruturas de hardware e centros de dados, buscam reduzir a exposição à volatilidade do mercado de mineração diversificando seus serviços.

A análise de segurança realizada pela Auradine é um exemplo de como essa interseção avança e de como os mineradores empregam sua experiência técnica para entrar em setores onde a demanda por computação, análise e cibersegurança cresce de forma contínua.