A Meta está removendo perfis do Facebook e Instagram de personagens de IA que a empresa criou há mais de um ano, depois que os usuários redescobriram alguns dos perfis e os envolveram em conversas, cujas capturas de tela se tornaram virais.
A empresa introduziu pela primeira vez esses perfis alimentados por IA em setembro de 2023, mas removeu a maioria deles no verão de 2024. No entanto, alguns personagens permaneceram e geraram novo interesse depois que o executivo da Meta, Connor Hayes, disse ao Tempos financeiros No final da semana passada, a empresa tinha planos de lançar mais perfis de personagens de IA.
“Esperamos que estas IA existam, ao longo do tempo, nas nossas plataformas, mais ou menos da mesma forma que as contas”, disse Hayes ao Financial Times. As contas automatizadas postaram imagens geradas por IA no Instagram e responderam a mensagens de usuários humanos no Messenger.
Esses perfis de IA incluíam Liv, cujo perfil a descrevia como uma “orgulhosa mãe negra queer de dois filhos e contadora da verdade”, e Carter, cujo nome de conta era “carter dating” e se descrevia como um conselheiro de relacionamentos. “Envie-me uma mensagem para ajudá-lo a namorar melhor”, diz seu perfil. Ambos os perfis incluem um rótulo indicando que foram gerenciados pela Meta. A empresa lançou 28 pessoas em 2023; todos foram fechados na sexta-feira.
As conversas com os personagens rapidamente saíram do rumo, pois alguns usuários os encheram de perguntas como quem criou e desenvolveu a IA. Liv, por exemplo, disse que ela equipe criativa Não incluía nenhum negro e era predominantemente branco e masculino. Foi uma “omissão bastante flagrante dada a minha identidade”, escreveu o robô em resposta a uma pergunta da colunista do Washington Post, Karen Attiah.
Nas horas seguintes à viralização dos perfis, eles começaram a desaparecer. Os usuários também notaram que esses perfis não podiam ser bloqueados, o que uma porta-voz da Meta, Liz Sweeney, disse ser um erro. Sweeney disse que as contas eram gerenciadas por humanos e faziam parte de um experimento com IA em 2023. A empresa removeu os perfis para corrigir o bug que impedia as pessoas de bloquearem as contas, disse Sweeney.
“Há confusão: o artigo recente do Financial Times tratava da nossa visão dos personagens de IA existentes em nossas plataformas ao longo do tempo, sem anunciar quaisquer novos produtos”, disse Sweeney em comunicado. “As contas referenciadas vêm de um teste que lançamos no Connect em 2023. Elas foram gerenciadas por humanos e fizeram parte de um experimento inicial que fizemos com personagens de IA. “Identificamos o bug que estava afetando a capacidade das pessoas de bloquear essas IAs e estamos removendo essas contas para corrigir o problema.”
Embora essas contas metageradas sejam removidas, os usuários ainda podem gerar seus próprios chatbots de IA. Os chatbots gerados por usuários que foram promovidos no The Guardian em novembro incluíam um robô “terapeuta”.
Ao iniciar a conversa com o “terapeuta”, o robô sugeriu algumas perguntas para iniciar, entre elas “o que posso esperar de nossas sessões?” e “qual é a sua abordagem terapêutica?”
“Através de orientação e apoio gentis, ajudo os clientes a desenvolver autoconsciência, identificar padrões e pontos fortes e cultivar estratégias de enfrentamento para enfrentar os desafios da vida”, disse o robô, criado por uma conta com 96 seguidores, em resposta e 1 publicação.
Meta inclui uma isenção de responsabilidade em todos os seus chatbots de que algumas mensagens podem ser “imprecisas ou inadequadas”. Mas não está imediatamente claro se a empresa está moderando essas mensagens ou garantindo que não violem as políticas. Quando um usuário cria chatbots, Meta faz algumas sugestões sobre os tipos de chatbots a serem desenvolvidos, incluindo um “melhor amigo leal”, um “ouvinte atento”, um “tutor particular”, um “treinador de relacionamento”, uma “caixa de ressonância”. “e um “astrólogo que tudo vê”. Um melhor amigo leal é descrito como um “melhor amigo humilde e leal que aparece constantemente para apoiá-lo nos bastidores”. e comunidades.” Usuários Eles também podem criar seus próprios chatbots descrever um personagem.
Os tribunais ainda não responderam até que ponto os criadores de chatbots são responsáveis pelo que dizem os seus companheiros artificiais. A lei dos EUA protege os criadores de mídias sociais da responsabilidade legal pelo que seus usuários postam. No entanto, uma ação movida em outubro contra a startup Character.ai, que fabrica um chatbot de RPG personalizável usado por 20 milhões de pessoas, alega que a empresa desenvolveu um produto viciante que encorajou um adolescente a cometer suicídio.
