O que OpenAIs Sora significa para o futuro da verdade

Há uma história dos primórdios do cinema que parece aplicável ao Sora, a ferramenta de criação de texto para vídeo lançada pela OpenAI esta semana. E desde Servidores Sora têm problemas com demandaCom muitos assinantes do OpenAI ainda esperando para experimentá-lo, temos tempo para histórias.

Você provavelmente conhece Chegada de um trem na estação La Ciotat (1896) dos irmãos Lumière, mesmo que você nunca tenha visto. Assim como Sora, os Lumière criaram curtas-metragens que apresentavam a tecnologia mais recente. Estamos falando de cinematografia em vez de renderização de IA e 50 segundos de filme de luxo em vez dos 20 segundos máximos permitidos nos vídeos Sora.

Ainda assim, é o mesmo princípio: esta foi uma visão inicial de uma forma surpreendentemente nova de entretenimento. Segundo a lenda, baseado no encantador filme de Martin Scorcese sobre um menino da era Lumière, hugo (2011) – Chegada de um trem O público fugiu aterrorizado de uma máquina a vapor que parecia dirigir-se diretamente para eles.

Um sentimento semelhante de pânico toma conta de Sora; especificamente, entrar em pânico sobre o que os vídeos de IA poderiam fazer para desintegrar ainda mais o nosso cenário mediático “pós-verdade”. O espectador médio já acha difícil julgar o que é real e o que não é, e o problema é pior se eles estiverem deprimidos. Vivemos na era de ouro das teorias da conspiração. O homem mais rico do mundo já compartilhou um vídeo deepfake de IA para ajudar a mudar as eleições.

O que acontece quando Sora pode fazer qualquer A mensagem rápida parece tão real quanto algo que você pode ver no noticiário noturno – pronto para divulgá-la nas redes sociais?

OpenAI parece pensar em suas marcas d’água, visíveis e invisíveisevitaria qualquer dano. Mas, tendo baixado dezenas de vídeos do Sora, posso atestar que a marca d’água visível é pequena, ilegível e desaparece no fundo com mais frequência. Seria brincadeira de criança se um software de edição de vídeo o cortasse completamente.

Assim, um mundo de desinformação deliberada, seja por parte de maus actores políticos ou de pessoas influentes que tentam ganhar adesão, está a aproximar-se de nós como um comboio. Bom?

Enganado. Porque, como nos conta a verdadeira história do filme Lumière, os humanos são, na verdade, muito mais espertos com novos entretenimentos de vídeo do que imaginamos.

Isto é o que acontece Chegada de um trem: A lenda quase certamente está errada. Não temos provas em primeira mão de que o público fugiu do teatro, ou mesmo estremeceu quando viu um comboio a aproximar-se num clip de 50 segundos.

O professor de estudos de mídia Martin Loiperdinger chama isso de “a história do pânico”O mito fundador do cinema.”, e observa que remonta a livros escritos na segunda metade do século 20. É possível que os autores o tenham combinado com a versão experimental 3-D posterior do Lumière Chegada de um tremque foi exibido várias vezes em 1934 e foi, como muitos futuros filmes 3D, uma novidade e um fracasso comercial.

Portanto, não, o público inicial provavelmente não confundiu a imagem em movimento de um trem com um trem real. Pelo contrário, parecem ter-se adaptado muito rapidamente ao conceito geral de cinema. Relatos contemporâneos dos curtas de Lumière (dos quais havia dezenas; Chegada de um trem não foi visto como destaque) estão cheios de entusiasmo pelas possibilidades que agora se abrem.

“Se isto continuar”, escreveu um jornal, O Correio de Parisem 1896, “quase conseguimos superar a perda de memória, quase acabamos com a separação, quase abolimos a própria morte”. (Alerta de spoiler: não o fizemos, embora pareça uma ótima premissa para um filme do século XIX.) espelho preto episódio.)

outro jornal, ciência francesaele entusiasmou-se com a “bruxaria mais incrivelmente maravilhosa” que a “fantasmagoria alucinatória” do cinema havia criado. Mesmo os mais entusiastas impulsionadores da IA ​​de hoje teriam dificuldade em endossar Sora nos mesmos termos.

Porque, como a maioria das IAs, Sora geralmente é “alucinatório”, e não no bom sentido.

Como descobri na época em que os servidores OpenAI não eram bloqueados, quase todos os vídeos gerados pelo Sora possuem algum detalhe que não parece correto aos olhos humanos. Escrevi uma mensagem para “jornalista chega à mesa frustrado por não conseguir acessar vídeos de IA”, então notei uma caneta aparecendo e desaparecendo na mão do jornalista.

Os erros continuaram e continuaram. O fator novidade diminuiu rapidamente. Os amigos se divertiram e um pouco assustados com a realidade dos brindes em “suéter aconchegante de Natal de modelos de artistas de hip-hop”, até que vimos que a corrente de ouro do rapper havia se transformado em um rabo de cavalo dourado nas costas, e as renas no suéter tinha oito pernas.

A resposta de Sora a “uma missa fúnebre com palhaços de circo” acertou em cheio … exceto que faltava um corpo para a figura de peruca colorida e nariz vermelho no caixão.

Isso não quer dizer que Sora não tenha um impacto imediato na indústria de imagens em movimento. Se recebesse instruções menos bizarras, certamente poderia substituir grande parte do rolo B genérico frequentemente visto em explicadores do YouTube e vídeos de treinamento corporativo. (Isso pressupõe que a OpenAI não será forçada a cessar e desistir Treinando Sora em vídeos da Internet. sem a permissão dos criadores).

Ele é Dizendo que há uma barreira significativa de entrada quando se trata de criar vídeos que apresentem algo incomum, qualquer coisa sobre a qual você esteja tentando mentir, qualquer coisa na qual Sora não tenha sido treinado especificamente. Identificar todos esses erros, a ponto de não os percebermos imediatamente, pode ser um exercício de frustração.

E talvez estes primeiros vídeos de IA repletos de bugs sirvam como uma espécie de inoculação em massa: uma pequena dose da doença pós-verdade, que efetivamente fornece aos nossos cérebros anticorpos resistentes à IA que podem nos preparar melhor para uma futura epidemia de visão. falsificações. .

O vídeo AI deve entrar no trem

Certamente estou menos impressionado com a IA depois que pedi a Sora uma nova versão do Lumière. Chegada de um trem. Pedi um vídeo onde uma locomotiva faz Na verdade, ele atravessa a tela de projeção no final, esmagando o público do filme.

Mas Sora não conseguiu nem acessar o curta original de 50 segundos, que é forma livre de direitos autorais e amplamente disponível on-line (incluindo uma versão já melhorada pela IA). Ele alucinou com um filme chamado “A Chegada de um Tal Trem (sic)”, aparentemente lançado no ano “18965”.

Quanto a quebrar uma quarta parede literal, esqueça: apesar das várias tentativas de reformular, Sora simplesmente não conseguia entender o que eu estava perguntando. A tela de projeção permaneceu intacta.

Ainda assim, esta versão do Sora ainda pode ser um prenúncio de alguma falsificação visual aterrorizante que está por vir, talvez quando uma tecnologia de vídeo de IA mais robusta cair nas mãos de um futuro DW Griffith.

Duas décadas se passaram entre Chegada de um trem e o infame filme de GriffithO nascimento de uma nação (1915)– o primeiro verdadeiro blockbuster, um marco na história do cinema, que também se revelou uma visão distorcida da história americana recente repleta de mentiras racistas.

O filme de Griffith, protestado na época pela NAACP, foi enormemente influente na perpetuação da segregação e no renascimento da Ku Klux Klan.

Então sim, talvez a libertação de Sora esteja lentamente nos empurrando para um mundo fragmentado de pós-verdade. Mas mesmo num futuro dominado pela IA, os maus actores terão de trabalhar horas extraordinárias se quiserem causar mais danos à sociedade do que as indicações mais perigosas do cinema.