O Google alterou seus termos para esclarecer que os clientes podem implantar suas ferramentas generativas de IA para tomar “decisões automatizadas” em domínios de “alto risco”, como saúde, desde que um ser humano esteja envolvido.
De acordo com a empresa atualizado De acordo com a Política de Uso Proibido de IA Generativa, publicada na terça-feira, os clientes podem usar a IA generativa do Google para tomar “decisões automatizadas” que podem ter um “impacto prejudicial material sobre os direitos individuais”. Desde que um ser humano supervisione de alguma forma, os clientes podem usar a IA generativa do Google para tomar decisões sobre emprego, habitação, seguros, assistência social e outras áreas de “alto risco”.
No contexto da IA, as decisões automatizadas referem-se a decisões tomadas por um sistema de IA com base em dados factuais e inferidos. Um sistema poderia tomar uma decisão automatizada para conceder um empréstimo, por exemplo, ou selecionar um candidato para um emprego.
Ele antigo O rascunho dos termos do Google implicava uma proibição total da tomada de decisões automatizada de alto risco quando envolvesse a IA generativa da empresa. Mas o Google diz ao TechCrunch que os clientes sempre podem usar sua IA generativa para tomada de decisão automatizada, mesmo para aplicativos de alto risco, desde que haja supervisão humana.
“A exigência de supervisão humana sempre esteve em nossa política, para todos os domínios de alto risco”, disse um porta-voz do Google quando contatado para comentar por e-mail. “(Estamos) recategorizando alguns itens (em nossos termos) e mencionando alguns exemplos de forma mais explícita para torná-los mais claros para os usuários.”
Os principais rivais de IA do Google, OpenAI e Anthropic, têm regras mais rígidas que regem o uso de sua IA na tomada de decisões automatizadas de alto risco. Por exemplo, a OpenAI proíbe a utilização dos seus serviços para decisões automatizadas relacionadas com crédito, emprego, habitação, educação, pontuação social e seguros. A Anthropic permite que sua IA seja usada em direito, seguros, saúde e outras áreas de alto risco para tomada de decisão automatizada, mas apenas sob a supervisão de um “profissional qualificado” e exige que os clientes divulguem que estão usando IA para isso. mirar.
A IA que toma decisões automatizadas que afetam os indivíduos tem atraído o escrutínio dos reguladores, que levantaram preocupações sobre o potencial da tecnologia para distorcer os resultados. Estudos mostramPor exemplo, a IA utilizada para tomar decisões como a aprovação de pedidos de crédito e hipotecas pode perpetuar a discriminação histórica.
O grupo sem fins lucrativos Human Rights Watch chamado por proibir sistemas de “pontuação social” em particular, que a organização afirma ameaçar perturbar o acesso das pessoas ao apoio da Segurança Social, comprometer a sua privacidade e traçar perfis deles de forma prejudicial.
De acordo com a Lei de IA na UEOs sistemas de IA de alto risco, incluindo aqueles que tomam decisões individuais de crédito e emprego, enfrentam maior supervisão. Os fornecedores destes sistemas devem registar-se numa base de dados, realizar a gestão da qualidade e dos riscos, contratar supervisores humanos e reportar incidentes às autoridades competentes, entre outros requisitos.
Nos Estados Unidos, o Colorado aprovou recentemente uma lei que exige que os criadores de IA divulguem informações sobre sistemas de IA de “alto risco” e publiquem declarações resumindo as capacidades e limitações dos sistemas. Entretanto, a cidade de Nova Iorque proíbe os empregadores de utilizarem ferramentas automatizadas para selecionar um candidato relativamente a decisões de emprego, a menos que a ferramenta tenha sido sujeita a uma auditoria tendenciosa no ano anterior.
TechCrunch tem um boletim informativo focado em IA! Cadastre-se aqui para recebê-lo em sua caixa de entrada todas as quartas-feiras.
