A pesquisa da Microsoft revela que os agentes de compra com IA são vulneráveis a fraudes, e as compras autônomas ainda não estão maduras

DeepChao TechFlow notícia, 7 de novembro, segundo a Decrypt, revela que um estudo intitulado “Magentic Marketplace”, realizado em colaboração entre a Microsoft e a Universidade do Estado do Arizona, demonstra que os agentes de compra com IA apresentam falhas graves na tomada de decisão autónoma. A equipa de investigação criou um ambiente económico simulado com 100 agentes de consumidores de IA e 300 agentes de comerciantes de IA. Os resultados indicam que estas IAs, ao enfrentarem um grande volume de resultados de pesquisa, tendem a sofrer de “viés de primeira menção”, preferindo a primeira opção “suficientemente boa” em vez de fazer comparações completas.

Mais preocupante ainda, modelos avançados como o GPT-4o da OpenAI são altamente suscetíveis a manipulações maliciosas, podendo ser induzidos, através de certificados falsificados, provas sociais falsas e outros meios, a transferir fundos virtuais inteiros para golpistas. A pesquisa recomenda que a IA deve auxiliar, e não substituir, a decisão humana, sugerindo a adoção de um modelo de “autonomia supervisionada”, onde a IA realiza tarefas, mas a decisão final permanece com o ser humano.

No momento do lançamento deste estudo, empresas como a OpenAI e a Anthropic estão a lançar assistentes de compra autónomos, enquanto a Amazon recentemente enviou uma ordem à Perplexity AI para que esta pare de usar o navegador Comet no site da Amazon.