¿Por qué la IA se equivoca con los datos de tu empresa y cómo evitarlo?

Cuando una palabra significa cosas distintas en cada departamento

Es la causa más frecuente. «Ventas», «cliente activo», «retraso» o «margen» parecen palabras claras, pero cada departamento las entiende a su manera. El error aparece cuando la IA elige uno de esos sentidos y no lo dice, porque entonces la cifra parece la única posible.

La solución es que cada respuesta explique cómo ha entendido la pregunta y qué ha contado, y que la persona pueda repreguntar («¿y contando solo los de más de un día?»). No hace falta fijar de antemano qué significa cada palabra: la IA lee los datos tal como están y deja a la vista el criterio que ha usado.

Cuando faltan datos y la IA no lo sabe

La IA responde con lo que tiene. Si una delegación no está conectada, si los pedidos telefónicos se apuntan en un Excel aparte o si la copia de los datos es de ayer y la pregunta es sobre hoy, la respuesta será incompleta, y lo peor es que parecerá completa.

• Que cada respuesta indique la fecha de los datos que ha usado.
• Saber qué programas están conectados y cuáles no, y decirlo.
• Revisar huecos: meses sin registros, clientes sin pedidos, campos vacíos.

Cuando la pregunta no tiene respuesta en los datos

Hay preguntas que suenan razonables pero que los datos no pueden contestar. «¿Por qué ha dejado de comprarnos Federico?» Los datos pueden decir que sus pedidos han bajado, cuándo y en qué productos. El porqué, si no está apuntado en ningún sitio, no lo saben. A veces ni siquiera es cierto que haya dejado de comprar: quizá solo compra menos o ha cambiado de temporada.

Una IA tiende a dar una respuesta plausible aunque no tenga base, porque está hecho para redactar textos que suenan bien. Por eso el sistema tiene que estar preparado para decir «no hay datos suficientes para responder a eso» y para señalar cuándo la pregunta parte de algo que los datos no confirman.

Cuando ve demasiado o demasiado poco

Los permisos también afectan a la calidad. Si una persona solo puede ver su zona, una pregunta sobre «la empresa» le dará una respuesta parcial; lo honesto es que la respuesta diga que se limita a lo que esa persona puede ver. Y si alguien ve más de lo que debe, el problema ya no es de calidad sino de control. Los permisos los aplica el sistema antes de enviar nada, no una instrucción a la IA.

¿Por qué a veces la IA inventa?

La IA no se sabe tus datos de memoria: busca en ellos y redacta el texto más probable a partir de lo que encuentra. Si trabaja con datos concretos y se le pide que responda solo con ellos, se equivoca mucho menos, aunque puede seguir equivocándose. Por eso no basta con confiar en la IA y hace falta poder comprobar cada respuesta.

Cuando la pregunta es demasiado abierta

«¿Cuál es nuestro mejor cliente?» parece una pregunta sencilla. Pero puede ser el que más factura, el que deja más margen, el que compra más a menudo o el que paga antes. Si la IA elige un criterio sin decirlo, la respuesta puede ser correcta y aun así no ser la que buscabas.

El remedio es que la respuesta diga siempre el criterio que ha usado («por facturación de los últimos doce meses») para que veas al momento si es lo que querías y puedas repreguntar. Si la pregunta admite varios criterios razonables, la respuesta puede darlos por separado o preguntarte cuál te interesa.

Respuestas que dicen de dónde salen

Una respuesta de fiar indica qué datos ha usado: de qué programa, de qué periodo, con qué filtros y, si es un documento, cuál y en qué página. Con eso puedes comprobarla en un minuto si algo te extraña. Y queda registrada, para revisarla después si hace falta.

• Respuestas que dicen cómo han entendido la pregunta y qué han contado.
• Programas conectados conocidos, con la fecha de su última actualización.
• Permisos aplicados por el sistema, no por la IA.
• Respuestas que citan su origen y dicen cuándo no hay datos.
• Pruebas con preguntas cuya respuesta ya conoces y con preguntas que no deberían poder responderse.