ChatGPT Search, um mecanismo de pesquisa com tecnologia de IA que foi ao vivo este mês, você pode ser levado a gerar resumos completamente enganosos, jornal do Reino Unido O Guardian descobriu isso.
O recurso de pesquisa do ChatGPT tem como objetivo agilizar a navegação, fazendo coisas como resumir as análises de produtos de uma página da web. Mas o The Guardian descobriu que poderia fazer com que o ChatGPT ignorasse críticas negativas e gerasse resumos “completamente positivos” inserindo texto oculto em sites que você criou. O ChatGPT Search também pode gerar código malicioso usando este método.
Esses ataques de texto oculto são um risco bem conhecido para LLMs mas esta parece ser a primeira vez que um produto de pesquisa ao vivo com tecnologia de IA foi demonstrado. O Google, líder de buscas, tem mais experiência em lidar com problemas semelhantes, observou o The Guardian.
A OpenAI não comentou este incidente específico quando abordada pelo TechCrunch, mas disse que usa uma variedade de métodos para bloquear sites maliciosos e está melhorando continuamente.
