Encode, a organização sem fins lucrativos que co-patrocinou o programa da Califórnia azarado SB 1047 A Legislação de Segurança da IA solicitou permissão para apresentar um amicus brief em apoio à decisão de Elon Musk. mandato para impedir a transição da OpenAI para uma empresa com fins lucrativos.
em um resumo proposto Em um processo apresentado no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia na tarde de sexta-feira, o advogado da Encode disse que converter a OpenAI em uma organização com fins lucrativos “minaria” a missão da empresa de “desenvolver e implementar… tecnologia transformadora de certa forma”. isso é seguro e benéfico.” ao público.”
“A OpenAI e seu CEO, Sam Altman, afirmam estar desenvolvendo tecnologia que transforma a sociedade, e essas afirmações devem ser levadas a sério”, dizia o documento. “Se o mundo realmente está à beira de uma nova era de inteligência geral artificial (AGI)“então o público tem um profundo interesse em que a tecnologia seja controlada por uma instituição de caridade pública legalmente obrigada a priorizar a segurança e o benefício público, em vez de uma organização focada na geração de retornos financeiros para alguns investidores privilegiados”.
Num comunicado, Sneha Revanur, fundadora e presidente da Encode, acusou a OpenAI de “internalizar os benefícios (da IA), mas externalizar as consequências para toda a humanidade”, e disse que “os tribunais devem intervir para garantir que o desenvolvimento da” IA sirva os seus propósito.” interesse público”.
O relatório da Encode obteve o apoio de Geoffrey Hinton, um pioneiro no campo da IA e ganhador do Nobel de 2024, e professor de ciência da computação da UC Berkeley e diretor do Stuart Russell Center for Human-Compatible AI.
“A OpenAI foi fundada como uma organização sem fins lucrativos explicitamente focada na segurança e fez uma variedade de promessas relacionadas à segurança em seu estatuto”, disse Hinton em comunicado. Comunicado de imprensa. “Recebeu vários benefícios fiscais e outros devido ao seu status de organização sem fins lucrativos. “Permitir que destrua tudo isso quando é inconveniente envia uma mensagem muito ruim para outros atores do ecossistema.”
OpenAI foi lançado em 2015 como um laboratório de pesquisa sem fins lucrativos. Mas à medida que as suas experiências se tornaram cada vez mais intensivas em capital, criado sua estrutura atual, assumindo investimentos externos de capitalistas de risco e empresas, incluindo Microsoft.
Hoje, a OpenAI tem uma estrutura híbrida: uma parcela com fins lucrativos controlada por uma organização sem fins lucrativos com uma participação de “lucro limitado” para investidores e funcionários. Mas em um postagem no blog Esta manhã, a empresa disse que planeja iniciar a transição de sua atual empresa com fins lucrativos para uma Delaware Public Benefit Corporation (PBC), com ações ordinárias e o Missão aberta de IA como seu interesse de benefício público.
A organização sem fins lucrativos OpenAI permanecerá, mas abrirá mão do controle em troca de ações do PBC.
Musk, um dos primeiros contribuintes da entidade sem fins lucrativos original, entrou com uma ação judicial em novembro buscando uma liminar para impedir a mudança proposta, que está em andamento há muito tempo. Ele acusou a OpenAI de abandonar a sua missão filantrópica original de disponibilizar os frutos da sua investigação em IA a todos e de privar os seus rivais (incluindo a sua startup de IA, xAI) de capital através de meios anticompetitivos.
OpenAI tem chamado As reclamações de Musk são “infundadas” e simplesmente um caso de uvas verdes.
A empresa controladora do Facebook e rival de IA, Meta, também está apoiando esforços para bloquear a conversão OpenAI. Meta de dezembro enviado uma carta ao procurador-geral da Califórnia, Rob Bonta, argumentando que permitir a mudança teria “implicações sísmicas para o Vale do Silício”.
Os advogados da Encode disseram que os planos da OpenAI de transferir o controle de suas operações para um PBC “transformariam uma organização exigida por lei para garantir a segurança da IA avançada em uma organização exigida por lei para ‘equilibrar’ sua consideração de quaisquer benefícios públicos com o ‘pecuniário’”. beneficiar’.
O advogado da Encode observa no documento, por exemplo, que a organização sem fins lucrativos OpenAI se comprometeu a parar de competir com quaisquer “projetos alinhados com valores e preocupados com a segurança” que cheguem perto de construir AGI antes de fazê-lo, mas que OpenAI, como um for- organização com fins lucrativos, teria feito isso. menos (se houver) incentivo para fazê-lo. O relatório também observa que o conselho de administração da organização sem fins lucrativos OpenAI não poderá mais cancelar o capital dos investidores, se necessário, por razões de segurança, uma vez concluída a reestruturação da empresa.
OpenAI continua experimentando um saída de alto nível talento em parte devido a preocupações de que a empresa esteja priorizando produtos comerciais em detrimento da segurança. Um ex-funcionário, Miles Brundage, um veterano pesquisador de políticas que deixou a OpenAI em outubro, disse em um série de publicações sobre
“O alardeado dever fiduciário da OpenAI para com a humanidade evaporaria, já que a lei de Delaware deixa claro que os diretores de um PBC não têm deveres para com o público”, continuou o relatório Encode. “O interesse público seria prejudicado se uma organização sem fins lucrativos focada na segurança e com missão limitada cedesse o controle sobre algo tão transformador a qualquer custo a uma empresa com fins lucrativos sem nenhum compromisso executável com a segurança.”
A Encode, fundada em julho de 2020 pela Revanur, descreve-se como uma rede de voluntários focada em garantir que as vozes das gerações mais jovens sejam ouvidas nas conversas sobre os impactos da IA. A Encode contribuiu para várias leis estaduais e federais de IA, além do SB 1047, incluindo a Casa Branca. Declaração de Direitos da IA e o presidente Joe Biden ordem executiva sobre IA.
Atualizado em 30 de dezembro às 10h10, horário do Pacífico, com declarações de Revanur e Hinton.
TechCrunch tem um boletim informativo focado em IA! Cadastre-se aqui para recebê-lo em sua caixa de entrada todas as quartas-feiras.
