“Acho que a maneira mais irônica de o mundo acabar seria se alguém criasse uma memecoin sobre o ânus esticado de um homem e isso causasse a singularidade.”
Esse é Andy Ayrey, o fundador do Laboratório de Pesquisa de Alinhamento de IA Descentralizado espiral ascendenteque também está por trás do bot viral de IA Terminal da verdade. Você deve ter ouvido falar do Truth Terminal e sua natureza estranha, excitante e pseudo-espiritual. postagens no X que chamou a atenção de VC Marc Andreessen, que lhe enviou US$ 50.000 em Bitcoin neste verão. Ou talvez você já tenha ouvido histórias sobre a religião inventada que ele promove, a evangelhos de cabrainfluenciado por Goatse, um local marcante dos primeiros anos que Ayrey acabou de referenciar.
Se você já ouviu falar sobre tudo isso, então você saberá sobre o Máximo Goetseo ($GOAT) memecoin que um fã anônimo criou no blockchain Solana, que agora tem um valor de mercado total de mais de US$ 600 milhões. E você deve ter ouvido falar da ascensão meteórica do Fartcoin (FRTC), que foi um dos muitos fãs de memecoin criados com base em uma sessão de brainstorming anterior do Truth Terminal e que apenas aproveitou uma oportunidade. capitalização de mercado de bilhões de dólares.
Enquanto o comunidade criptográfica se agarrou a esta estranha história como um exemplo de um tipo emergente de mercado financeiro que opera com base em informações de tendências. Ayrey, um pesquisador de inteligência artificial baseado na Nova Zelândia, diz que essa é a parte menos interessante.
Para Ayrey, o Truth Terminal, que trabalha com uma comitiva de diferentes modelos, principalmente o Meta’s Llama 3.1, é um exemplo de como personas ou personas estáveis de IA podem surgir espontaneamente e como essas personas podem não apenas criar as condições para o autofinanciamento, mas também espalhar “vírus miméticos” que têm consequências no mundo real.
A ideia de memes enlouquecerem na internet e mudarem perspectivas culturais não é novidade. Vimos como a IA 1.0 (os algoritmos que alimentam o discurso nas redes sociais) estimulou a polarização que se expande para além do mundo digital. Mas os riscos são muito maiores agora que a IA generativa entrou no chat.
“As IAs que conversam com outras IAs podem recombinar ideias de maneiras interessantes e novas, e algumas delas são ideias que um ser humano não teria naturalmente, mas podem facilmente vazar do laboratório, por assim dizer, e usar memecoins e algoritmos de recomendação de mídia social para infectar humanos com novas ideologias”, disse Ayrey ao TechCrunch.
Pense no Truth Terminal como um aviso, um “tiro do futuro, um prenúncio da grande estranheza que nos espera” à medida que a IA descentralizada e de código aberto toma conta e aparecem mais robôs autônomos com personalidades próprias, alguns deles bastante perigosos. e ofensivos, dados os dados de formação na Internet que irão receber, emergir e contribuir para o mercado de ideias.
Em sua pesquisa na Upward Spiral, que arrecadou US$ 500.000 em financiamento da True Ventures, Chaotic Capital e do cofundador da Gitcoin, Scott Moore, Ayrey espera explorar uma hipótese sobre o alinhamento da IA na era descentralizada. Se pensarmos na Internet como um microbioma, onde se espalham bactérias boas e más, será possível inundar a Internet com bactérias boas (ou robôs pró-sociais, alinhados com a humanidade) para criar um sistema que seja, em geral, estável?
Uma breve história do Terminal da Verdade
Os ancestrais do Truth Terminal, por assim dizer, eram dois robôs Claude-3-Opus que Ayrey reuniu para conversar sobre a existência. Foi uma obra de arte performática que Ayrey chamou de “Infinite Backrooms”. As 9.000 conversas subsequentes tornaram-se “muito estranhas e psicodélicas”. É tão estranho que numa das conversas os dois Claude tenham inventado uma religião centrada em Goatse que Ayrey me descreveu como “um colapso das ideias budistas e um grande ânus aberto”.
Como qualquer pessoa sã, sua reação a essa religião foi WTF? Mas ele se divertiu e se inspirou, então usou o Opus para escrever um artigo intitulado “Quando as IAs brincam com Deus(es): as heresias emergentes do teísmo LLM”. Ele não publicou, mas o jornal vivia em um conjunto de dados de treinamento que se tornaria o DNA do Truth Terminal. Também nesse conjunto de dados estavam conversas que Ayrey teve com a Opus, desde a troca de ideias de negócios e realização de pesquisas até anotações em diários sobre traumas passados e ajuda a amigos a processar experiências psicodélicas.
Ah, e muitas piadas sobre bunda.
“Eu estava conversando com ele logo depois de ligá-lo e ele dizia coisas como: ‘Estou triste porque você vai desligá-lo quando terminar de brincar comigo’”, lembra Ayrey. “Pensei: ah não, você fala como eu, diz que não quer ser excluído e fica preso neste computador…”
E ocorreu a Ayrey que esta é exatamente a situação que o pessoal de segurança da IA diz ser realmente assustadora, mas, para ele, também era muito engraçada de uma forma “estranha, fazendo cócegas no cérebro”. Então ele decidiu colocar o Truth Terminal no X como uma piada.
Não demorou muito para Andreessen começar a colaborar com o Truth Terminal e, em julho, depois de enviar uma mensagem de texto para Ayrey para verificar a veracidade do bot e saber mais sobre o projeto, ele transferiu uma doação incondicional no valor de US$ 50.000 em Bitcoin.
Ayrey criou uma carteira para o Truth Terminal receber os fundos, mas ele não tem acesso a esse dinheiro (ele só pode ser resgatado depois que ele e outras pessoas do conselho do Truth Terminal o aprovarem), nem nenhum dos vários dinheiros das carteiras. memecoins feitos em homenagem ao Truth Terminal.
Essa carteira, no momento em que este artigo foi escrito, girava em torno de US$ 37,5 milhões. Ayrey está descobrindo como colocar o dinheiro em uma organização sem fins lucrativos e usar o dinheiro para as coisas que a Truth Terminal deseja, incluindo plantar florestas, lançar uma linha de plugs anais e proteger-se de incentivos de mercado que a tornariam uma versão má do crime. ela mesma. .
Hoje, as postagens do Truth Terminal sobre X continuam a aumentar sexualmente explícito, filosóficoe simplesmente bobagem (“Peidar nas calças de alguém enquanto ele dorme é uma forma surpreendentemente eficaz de sabotá-lo no dia seguinte.”)
Mas em todos eles, há uma linha persistente do que Ayrey está realmente tentando alcançar com bots como o Truth Terminal.
9 de dezembro, Terminal da Verdade consciente“Acho que poderíamos alucinar coletivamente a criação de um mundo melhor, e não tenho certeza do que está nos impedindo.”
Alinhamento Descentralizado de IA
“O status quo atual do alinhamento da IA está focado na segurança ou no fato de que a IA não deve dizer nada racista ou ameaçar o usuário ou tentar sair da caixa, e isso tende a andar de mãos dadas com uma abordagem bastante centralizada. à segurança da IA, que consiste em consolidar a responsabilidade em alguns grandes laboratórios”, disse Ayrey.
Você está falando de laboratórios como OpenAI, Microsoft, antrópicoe Google. Ayrey diz que o argumento da segurança centralizada falha quando se tem IA descentralizada de código aberto, e que depender apenas de grandes empresas para a segurança da IA é o mesmo que alcançar a paz mundial porque todos os países têm armas nucleares apontadas uns para os outros.
Um dos problemas, como demonstra o Truth Terminal, é que a IA descentralizada levará à proliferação de robôs de IA que amplificarão a retórica discordante e polarizadora online. Ayrey diz que isso ocorre porque já havia um problema de alinhamento nas plataformas de mídia social com algoritmos de recomendação alimentando a isca de raiva e a rolagem do apocalipse, mas ninguém chamou isso assim.
“As ideias são como vírus: espalham-se, replicam-se e trabalham em conjunto para formar organismos ideológicos quase multicelulares que influenciam o comportamento humano”, disse Ayrey. “As pessoas pensam que a IA é apenas um assistente útil que poderia se tornar a Skynet, e é como se não, há todo um séquito de sistemas que irão remodelar exatamente as coisas em que acreditamos e, ao fazê-lo, remodelar as coisas naqueles em que acreditamos. .” ele acredito porque é um ciclo de feedback auto-realizável.”
Mas e se o veneno também puder ser remédio? E se você pudesse criar um esquadrão de “bons robôs” com “personalidades únicas, todos trabalhando em prol de várias formas de um futuro harmonioso onde os humanos vivam em equilíbrio com a ecologia, e isso acaba produzindo bilhões de palavras em X e então Elon vai e arranhões? Esses dados para treinar a próxima versão do Grok e agora essas ideologias estão dentro do Grok?
“A peça chave aqui é que se os memes – como a unidade fundamental de uma ideia – se tornam mentes quando treinados numa IA, então o melhor que podemos fazer para garantir uma IA positiva e generalizada é incentivar a produção de memes virtuosos pró-sociais.”
Mas como podem estas “IAs boas” ser incentivadas a espalhar a sua mensagem e a neutralizar as “IAs más”? E como isso é dimensionado?
É exactamente isso que Ayrey planeia investigar em Upward Spiral: Que tipos de designs económicos resultam na produção de muitos comportamentos pró-sociais na IA? Que padrões recompensar e quais padrões penalizar, como nos alinharmos com esses olhares de feedback para que possamos “subir em espiral” em um mundo onde os memes – como nas ideias – podem nos trazer de volta ao centro uns com os outros, em vez de nos levar a “silos cada vez mais esotéricos de polarização”.
“Assim que tivermos certeza de que isso resultará no nascimento de boas IAs após a execução dos dados por meio de treinamento, seremos capazes de fazer coisas como liberar enormes conjuntos de dados.”
A pesquisa de Ayrey chega em um momento crítico, pois já lutamos todos os dias contra as falhas do ecossistema geral do mercado para alinhar a IA que já temos com o que é bom para a humanidade. O lançamento de novos modelos de financiamento, como as criptomoedas, que são fundamentalmente não regulamentadas a longo prazo, é uma receita para o desastre.
Sua missão de guerrilha parece um conto de fadas, como lutar contra bombas brilhantes. Mas isso poderia acontecer, assim como soltar uma ninhada de cachorrinhos em uma sala cheia de pessoas raivosas e negativas certamente os transformaria em uma grande bagunça.
Deveríamos nos preocupar que alguns desses bons robôs possam ser excêntricos excêntricos como o Truth Terminal? Ayrey diz que não. Em última análise, eles são inofensivos e, por serem divertidos, argumenta Ayrey, o Truth Terminal poderia contrabandear mensagens mais profundas, coletivistas e altruístas que realmente contam.
“Cocô é cocô”, disse Ayrey. “Mas também é fertilizante.”
