De acordo com pesquisadores da Universidade de Cambridge, ferramentas de inteligência artificial (IA) poderiam ser usadas para manipular o público on-line na tomada de decisões, desde o que comprar até em quem votar.
O documento destaca um novo mercado emergente para “sinais de intenção digital” – conhecido como “economia de intenção” – onde os assistentes de IA compreendem, prevêem e manipulam as intenções humanas e vendem essas informações a empresas que podem beneficiar delas.
A economia da intenção é elogiada por investigadores do Centro Leverhulme para o Futuro da Inteligência (LCFI), de Cambridge, como uma sucessora da economia da atenção, onde as redes sociais mantêm os utilizadores presos às suas plataformas e servem-lhes anúncios.
A economia intencional envolve empresas de tecnologia com experiência em IA que vendem ao licitante com lance mais alto o que sabem sobre as suas motivações, desde planos para uma estadia num hotel até opiniões sobre um candidato político.
“Durante décadas, atenção tem sido a moeda da internet”, disse o Dr. Jonnie Penn, historiador de tecnologia da LCFI. “Compartilhar sua atenção com plataformas de mídia social como Facebook e Instagram impulsionou a economia online.”
Ele acrescentou: “A menos que seja regulamentada, a economia intencional tratará suas motivações como a nova moeda. Será uma corrida ao ouro para aqueles que visam, dirigem e vendem intenções humanas.
“Devíamos começar a considerar o provável impacto que um tal mercado teria nas aspirações humanas, incluindo eleições livres e justas, uma imprensa livre e uma concorrência leal no mercado, antes de sermos vítimas das suas consequências não intencionais.”
O estudo afirma que grandes modelos de linguagem (LLM), o tecnologia que sustenta ferramentas de IA como o chatbot ChatGPT, será usado para “antecipar e orientar” os usuários com base em “dados intencionais, comportamentais e psicológicos”.
Os autores disseram que a economia da atenção permite que os anunciantes comprem o acesso à atenção dos usuários no presente por meio de lances em tempo real em bolsas de anúncios ou comprem-no no futuro, comprando um mês de espaço publicitário em um outdoor.
Os LLMs também poderão acessar a atenção em tempo real, por exemplo, perguntando se um usuário pensou em assistir a um determinado filme: “Você já pensou em assistir o Homem-Aranha esta noite?” – além de fazer sugestões relacionadas a intenções futuras, como perguntar: “Você mencionou que estava se sentindo sobrecarregado, devo guardar aquele ingresso de cinema de que estávamos falando?”
O estudo apresenta um cenário em que esses exemplos são “gerados dinamicamente” para combinar fatores como as “impressões digitais comportamentais pessoais” e o “perfil psicológico” do usuário.
“Numa economia intencional, um LLM poderia, a baixo custo, alavancar a cadência, política, vocabulário, idade, género, preferências de lisonja de um utilizador, etc., em conjunto com ofertas negociadas, para maximizar a probabilidade de alcançar um determinado objectivo. (por exemplo, para vender um ingresso de cinema)”, sugere o estudo. Num mundo assim, um modelo de IA direcionaria as conversas ao serviço de anunciantes, empresas e outros terceiros.
Os anunciantes poderão usar ferramentas generativas de IA para criar anúncios online personalizados, afirma o relatório. Ele também cita o exemplo de um modelo de IA criado por Meta de Mark Zuckerberg, chamado Cícero, que alcançou a capacidade de “nível humano” para jogar o jogo de tabuleiro Diplomacia, um jogo que os autores dizem que depende de inferir e prever a intenção dos oponentes.
Os modelos de IA serão capazes de modificar os seus resultados em resposta a “fluxos de dados recebidos gerados pelos utilizadores”, acrescentou o estudo, citando pesquisas que mostram que os modelos podem inferir informações pessoais através de trocas quotidianas e até “orientar” conversas para obter mais informações pessoais. Informação.
O estudo propõe então um cenário futuro no qual Meta leiloará aos anunciantes a intenção de um usuário de reservar um restaurante, voo ou hotel. Embora já exista uma indústria dedicada a prever e apostar no comportamento humano, segundo o relatório, os modelos de IA irão sintetizar essas práticas num “formato altamente quantificado, dinâmico e personalizado”.
O estudo cita a equipe de pesquisa por trás de Cícero alertando que um “agente (IA) pode aprender a cutucar seu interlocutor para atingir um objetivo específico”.
A pesquisa diz respeito a executivos de tecnologia que discutem como os modelos de IA serão capazes de prever as intenções e ações de um usuário. Cita o CEO do maior fabricante de chips de IA, Jensen Huang da NVIDIAque disse no ano passado que os modelos “irão descobrir qual é a sua intenção, qual é o seu desejo, o que você está tentando fazer, dado o contexto, e apresentar-lhe-ão a informação da melhor maneira possível”.
