Meta remove perfis de personagens de IA após reações e acusações de racismo

Meta tem feche suas contas de personagens de IA Após a reação, a NBC News e outros relataram.

Embora Meta tenha lançado esses personagens em 2023, junto com Personagens de IA com avatares de celebridadesmuitos online (re)descobriram-nos esta semana depois de um recente Tempos financeiros entrevista com o vice-presidente de produto para IA generativa da Meta, Connor Hayes. Hayes mencionou personagens de IA no Instagram e no Facebook, dizendo: “Esperamos que, com o tempo, essas IAs existam em nossas plataformas, mais ou menos da mesma forma que as contas”.

“Eles terão biografias e imagens de perfil e serão capazes de gerar e compartilhar conteúdo baseado em IA na plataforma… é aí que vemos tudo isso acontecendo”, continuou ele.

Meta encerrou seus avatares de IA de celebridades no ano passadomas os perfis de IA que não eram famosos continuaram, embora muitos pararam de publicar em 2024, informou a 404 Media. Ele Tempos financeiros A entrevista, porém, fez com que as pessoas buscassem esses perfis. O que descobriram foram representações ofensivas de grupos marginalizados. Um exemplo é o perfil da personagem de IA de Meta, “Liv”, que foi descrita como uma “mãe negra queer de dois filhos, orgulhosa e que diz a verdade”:

O tweet pode ter sido excluído.

costumes da vida Washington Post colunista Karen Attiah em chats que seus criadores “admitiram que careciam de referências diversas”, afirmando posteriormente que nenhum negro participou de sua criação.

Além de Liv, Meta também criou perfis como “vovô Brian“, um empresário negro aposentado, e “Carter”, um treinador de namoro. A descoberta destes perfis causou grande indignação em desconhecido, céu azule propriedade Meta TraposNBC News informou, e no momento da publicação, Meta removeu os 28 perfis de IA anunciou em setembro de 2023, tanto famosos quanto não famosos.

Um porta-voz da Meta disse à NBC News e à 404 Media que esses perfis foram removidos devido a um “bug” na capacidade dos usuários de bloquear perfis:

Há confusão: o artigo recente do Financial Times tratava da nossa visão dos personagens de IA existentes em nossas plataformas ao longo do tempo, sem anunciar nenhum produto novo… As contas referenciadas são de um teste que lançamos no Connect em 2023. Elas foram gerenciadas por humanos. e fizeram parte de um dos primeiros experimentos que fizemos com personagens de IA. Identificamos o bug que estava afetando a capacidade das pessoas de bloquear essas IAs e estamos removendo essas contas para corrigir o problema.