O presidente eleito Donald Trump cercou-se de empresários de Silicon Valley (incluindo Elon Musk, Marc Andreessen e David Sacks) que agora o aconselham sobre tecnologia e outras questões.
Quando se trata de IA, esta equipe de tecnólogos está bastante alinhada com a necessidade de rápido desenvolvimento e adoção de IA nos Estados Unidos. No entanto, há uma questão de segurança da IA que este grupo menciona bastante: a ameaça de “censura” da IA por parte de grandes empresas. Tecnologia.
Os conselheiros de Trump no Vale do Silício poderiam transformar as respostas dos chatbots de IA em um novo campo de batalha para os conservadores travarem sua guerra cultural em curso com as empresas de tecnologia.
Censura de IA é um termo usado para descrever como as empresas de tecnologia colocam o controle na escala com as respostas de seus chatbots de IA para se conformarem a certas políticas ou imporem as suas próprias. Outros podem chamar isso de moderação de conteúdo, que muitas vezes se refere à mesma coisa, mas tem uma conotação muito diferente. Assim como as mídias sociais e os algoritmos de pesquisa, obter respostas corretas de IA para notícias ao vivo e tópicos controversos é um alvo em constante movimento.
Ao longo da última década, os conservadores criticaram repetidamente as Big Tech por se curvarem à pressão do governo e censurarem as suas plataformas e serviços de redes sociais. No entanto, alguns executivos de tecnologia começaram a moderar as suas posições em público. Por exemplo, antes das eleições de 2024, o CEO da Meta, Mark Zuckerberg pediu desculpas ao congresso por ceder à pressão da administração Biden para moderar agressivamente o conteúdo relacionado ao COVID-19. Pouco depois, o CEO da Meta disse que cometeu um “erro político de 20 anos” ao assumir demasiada responsabilidade por problemas que estavam fora do controle de sua empresa, e disse Eu não cometeria esses erros novamente..
Mas, de acordo com os consultores tecnológicos de Trump, os chatbots de IA representam uma ameaça ainda maior à liberdade de expressão e, potencialmente, uma forma mais poderosa de controlar a expressão. Em vez de direcionar um algoritmo de pesquisa ou feed para um resultado desejado, como reduzir a classificação da desinformação sobre vacinas, as empresas de tecnologia podem agora simplesmente dar-lhe uma resposta única e clara que não a inclua.
Nos últimos meses, Musk, Andreessen e Sacks se manifestaram contra a censura da IA em podcasts, entrevistas e postagens nas redes sociais. Embora não saibamos exactamente como estão a aconselhar Trump, as suas crenças declaradas publicamente podem revelar as conversas que estão a ter a portas fechadas em Washington, DC, e Mar-a-Lago.
“Esta é a minha crença, e o que tenho tentado dizer às pessoas em Washington é que, se vocês pensavam que a censura nas redes sociais era ruim, (AI) tem potencial para ser mil vezes pior”, disse ele. fundador Marc. Andreessen em um entrevista recente com Joe Rogan. “Se você quisesse criar o mundo distópico definitivo, teria um mundo onde tudo é controlado por uma IA que foi programada para mentir”, disse Andreessen em outro entrevista recente com Bari Weiss.
Andreessen também revelou a Weiss que passou cerca de metade do seu tempo com a equipe Trump desde a eleição, oferecendo conselhos sobre tecnologia e negócios.
“(Andreessen) explicou o caminho distópico que estávamos trilhando com a IA”, disse David Sacks, ex-COO do PayPal e cofundador da Craft Ventures, em um recente publicar em X logo depois foi escolhido para ser o czar da criptomoeda e da inteligência artificial de Trump. “Mas a linha do tempo foi dividida e agora estamos em um caminho diferente.”
No All In, o podcast popular que Sacks hospeda ao lado de outros capitalistas de risco influentes, o novo consultor de IA de Trump criticou repetidamente o Google e a OpenAI por, como descrevem os apresentadores do programa, forçarem os chatbots de IA a serem politicamente corretos.
“Uma das preocupações sobre o ChatGPT desde o início era que ele estava programado para ir ao ar e não dava respostas verdadeiras às pessoas sobre muitas coisas. “A censura estava sendo incorporada às respostas”, disse Sacks em um episódio de All In de novembro de 2023.
Apesar das afirmações de Sacks, até Elon Musk admite que o chatbot do xAI é muitas vezes mais politicamente correto do que você gostaria. Não é porque Grok foi “programado para ser despertado”, mas sim porque é uma realidade do treinamento em IA na Internet aberta. Dito isso, Sacks está deixando cada dia mais claro que a “veracidade da IA” é algo em que ele se concentra.
“É assim que você coloca o George Washington negro no Google”
O caso mais citado de censura de IA foi quando o gerador de imagens Gemini AI do Google gerou imagens multirraciais para consulta como “pais fundadores dos Estados Unidos” e “soldados alemães na Segunda Guerra Mundial”, que eram obviamente imprecisos.
Mas existem outros exemplos de empresas que influenciam resultados específicos. Mais recentemente, os usuários descobriram que ChatGPT simplesmente não responde perguntas sobre determinados nomese a OpenAI admitiu que pelo menos um desses nomes ativou ferramentas internas de privacidade. Em outro momento, os chatbots de IA do Google e da Microsoft recusaram-se a dizer quem venceu as eleições nos EUA em 2020. Durante as eleições de 2024, quase todos os sistemas de inteligência artificial recusaram-se a responder a perguntas sobre os resultados eleitorais. exceto Perplexidade e Grok.
Em alguns destes exemplos, as empresas tecnológicas argumentaram que estavam a tomar uma decisão segura e responsável para os seus utilizadores. Em alguns casos, isso pode ser verdade – Grok Ele ficou chocado com o resultado das eleições de 2024 antes mesmo de os votos terem sido contados..
Mas o incidente de Gêmeos se destacou; Isso fez com que o Google desativasse a capacidade do Gemini de gerar imagens de pessoas, algo que a versão gratuita do Gemini ainda não consegue fazer. O Google se referiu a esse incidente como um bug. e pediu desculpas por “errar o alvo”.
Andreessen e Sacks não veem as coisas dessa forma. Ambos os capitalistas de risco disseram que o Google não fracassou, mas sim de forma muito óbvia. Consideraram que era um momento crucial para tirar a máscara do Google.
“As pessoas que administram a IA do Google estão contrabandeando suas preferências e preconceitos, e esses preconceitos são extremamente liberais”, disse Sacks em um episódio de All In a partir de fevereiro de 2024, em resposta ao incidente do Gemini. “Eu acho que eles vão se livrar do preconceito? Não, eles vão tornar isso mais sutil. “Isso é o que considero perturbador.”
“É 100% intencional; “É assim que você coloca o George Washington negro no Google”, disse Andreessen em a recente entrevista com Weissrepetindo o incidente de Gêmeos. “Isso vai diretamente ao argumento de Elon, que é que, no cerne disso, a IA precisa ser treinada para mentir (ou seja, para produzir respostas semelhantes às do Gemini).”
Como Andreessen menciona, Elon Musk se manifestou abertamente contra os “chatbots de IA despertados”. Musk criou originalmente sua startup de IA bem financiada, xAI, em 2023 para se opor ao ChatGPT da OpenAI, que o bilionário disse na época ser infectado com o “vírus da mente desperta”. Ele finalmente criou o Grok, um chatbot de IA com notavelmente menos proteções do que outros chatbots líderes.
“Vou começar algo que você chamará de TruthGPT ou uma IA em busca da verdade que tenta compreender a natureza do universo”, disse Musk. em entrevista à Fox a partir de 2023.
Quando Musk lançou o Grok, Sacks aplaudiu o esforço: “Ter algo como o Grok irá, no mínimo, manter o OpenAI e o ChatGPT honestos”, disse o czar da IA de Trump em um comunicado. Novembro de 2023, tudo em episódio.
Agora, Musk está fazendo mais do que apenas manter o ChatGPT honesto. Ele tem arrecadou mais de US$ 12 bilhões para financiar xAI e competir com OpenAI. Ele também está processando a startup de Sam Altman e a Microsoft. potencialmente interrompendo a transição com fins lucrativos da OpenAI.
A influência de Musk sobre funcionários governamentais conservadores já provou ter peso em outras áreas. O procurador-geral do Texas, Ken Paxton, está investigando um grupo de anunciantes que supostamente boicotou o X. de Elon Musk. Musk já processou o mesmo grupo de publicidade, e algumas das empresas desde então publicidade retomada em sua plataforma.
Não está claro o que Trump e outros republicanos poderiam fazer se realmente quisessem investigar a OpenAI ou o Google por censura de IA. Podem ser investigações levadas a cabo por agências especializadas, desafios legais ou talvez simplesmente uma questão cultural que Trump possa insistir durante os próximos quatro anos. Independentemente do caminho a seguir, os conselheiros de Trump em Silicon Valley não escondem esta questão hoje.
“Elon, com os arquivos do Twitter, fez uma versão privatizada do que agora precisa acontecer em termos gerais”, disse Andreessen. para Weissreferindo-se a As acusações de censura de Musk no Twitter. “Nós, o povo americano, precisamos de descobrir o que tem acontecido todo este tempo, especificamente sobre este entrelaçamento da pressão governamental com a censura… Tem de haver consequências.”
