{"id":83280,"date":"2025-01-30T08:00:29","date_gmt":"2025-01-30T11:00:29","guid":{"rendered":"https:\/\/dev.abes.com.br\/?p=83280"},"modified":"2025-01-17T21:48:24","modified_gmt":"2025-01-18T00:48:24","slug":"abordando-alucinacoes-de-ia","status":"publish","type":"post","link":"https:\/\/dev.abes.com.br\/en\/abordando-alucinacoes-de-ia\/","title":{"rendered":"Abordando alucina\u00e7\u00f5es de IA"},"content":{"rendered":"

\"\"*Por Emily Shenfield e Alvin Lee<\/span><\/p>\n

\u00c0 medida que as ferramentas de IA generativa (GenAI) crescem em disponibilidade e usabilidade, as empresas est\u00e3o fazendo novos avan\u00e7os em automa\u00e7\u00e3o, tomada de decis\u00e3o e interatividade com o cliente. No entanto essas ferramentas \u2014 e os grandes modelos de linguagem (LLMs) que as alimentam \u2014 n\u00e3o s\u00e3o infal\u00edveis. Essas alucina\u00e7\u00f5es de IA podem representar riscos reais, especialmente quando os sistemas GenAI s\u00e3o respons\u00e1veis por executar tarefas cr\u00edticas ou interagir com os clientes.<\/p>\n

As alucina\u00e7\u00f5es de IA s\u00e3o resultados incorretos ou enganosos gerados pelos modelos de IA. Elas ocorrem quando um LLM gera informa\u00e7\u00f5es que parecem plaus\u00edveis, mas s\u00e3o, na verdade, imprecisas ou totalmente fabricadas. Um exemplo pode ser dado quando se est\u00e1 consultando os detalhes legais de um caso, e se busca com refer\u00eancias e antecedentes, como casos semelhantes que j\u00e1 foram julgados no passado, e a IA alucina, inventando um caso inexistente, com decis\u00f5es e refer\u00eancias falsas.<\/p>\n

Como as aplica\u00e7\u00f5es de GenAI geralmente oferecem suas respostas com um tom de certeza e confian\u00e7a, distinguir uma resposta alucinada de uma correta pode ser dif\u00edcil para usu\u00e1rios comuns. Isso pode levar \u00e0 dissemina\u00e7\u00e3o de informa\u00e7\u00f5es incorretas.<\/p>\n

Mas por que as alucina\u00e7\u00f5es de IA ocorrem? Os LLMs s\u00e3o treinados em vastos conjuntos de dados, mas, em \u00faltima an\u00e1lise, eles n\u00e3o \u201csabem\u201d fatos. Em vez disso, eles preveem a pr\u00f3xima palavra ou frase com base em padr\u00f5es aprendidos durante o treinamento. Quando um LLM n\u00e3o tem contexto suficiente ou os dados certos para responder a um prompt, essas habilidades preditivas podem tomar um rumo selvagem.<\/p>\n

Essa reviravolta pode acontecer por causa de um LLM muito ansioso, pronto para concordar com qualquer fato apresentado em um prompt. Tamb\u00e9m pode acontecer quando o conjunto de dados de treinamento cont\u00e9m informa\u00e7\u00f5es factualmente incorretas.<\/p>\n

Se sua empresa usa GenAI para efici\u00eancia operacional ou servi\u00e7os voltados ao cliente, \u00e9 importante estar ciente de como as alucina\u00e7\u00f5es de IA podem surgir e como mitigar esses riscos. Quando informa\u00e7\u00f5es incorretas de uma alucina\u00e7\u00e3o de IA se infiltram em seus dados internos, isso pode levar voc\u00ea a tomar decis\u00f5es de neg\u00f3cios com base em informa\u00e7\u00f5es incorretas.<\/p>\n

Em um exemplo, uma demonstra\u00e7\u00e3o de IA encarregada de resumir um relat\u00f3rio financeiro respondeu com v\u00e1rias imprecis\u00f5es factuais. E se uma empresa usasse essa resposta imprecisa para informar suas pr\u00f3prias estrat\u00e9gias? Em outro exemplo, um escrit\u00f3rio de advocacia enviou uma pesquisa jur\u00eddica alucinada por IA em um processo judicial e foi multado pelo erro.<\/p>\n

Eros\u00e3o da confian\u00e7a do cliente<\/strong><\/p>\n

A marca e a reputa\u00e7\u00e3o da sua empresa dependem muito da confian\u00e7a do cliente. O que aconteceria com essa confian\u00e7a se o seu chatbot de atendimento ao cliente com tecnologia GenAI fornecesse respostas ocasionalmente alucinadas \u00e0s perguntas dos clientes? Ou considere as repercuss\u00f5es se voc\u00ea publicasse conte\u00fado de marketing gerado por IA que n\u00e3o fosse verificado quanto a erros factuais.<\/p>\n

GenAI ainda \u00e9 uma tecnologia emergente. E enquanto o LLM avan\u00e7a para reduzir a probabilidade de alucina\u00e7\u00f5es de IA, o fen\u00f4meno continua sendo uma preocupa\u00e7\u00e3o. Atualmente, eliminar completamente as alucina\u00e7\u00f5es de IA n\u00e3o \u00e9 uma meta razo\u00e1vel. Em vez disso, as empresas que usam GenAI devem adotar estrat\u00e9gias para mitig\u00e1-las.<\/p>\n

A gera\u00e7\u00e3o aumentada por recupera\u00e7\u00e3o (RAG) \u00e9 uma abordagem que aprimora um sistema GenAI buscando informa\u00e7\u00f5es \u2014 em tempo real \u2014 que s\u00e3o relevantes para o prompt de um usu\u00e1rio. Ao recuperar informa\u00e7\u00f5es adicionais para suplementar o conjunto de dados de treinamento original do LLM, um sistema RAG fornece conhecimento e contexto adicionais para a IA. Isso diminui a oportunidade de alucina\u00e7\u00f5es e aumenta a relev\u00e2ncia e a precis\u00e3o da resposta.<\/p>\n

O RAG pode contribuir muito para reduzir as alucina\u00e7\u00f5es da IA, embora n\u00e3o as elimine totalmente, pois a maioria dos modelos recorrer\u00e1 aos seus dados de treinamento. Em muitos casos, elaborar cuidadosamente seus prompts pode ajudar a minimizar as inst\u00e2ncias de alucina\u00e7\u00f5es de IA. T\u00e9cnicas b\u00e1sicas de engenharia de prompts incluem:<\/p>\n