Cuando la IA parece correcta: la automatización complica verificar sus resultados
Notipress.- La velocidad con la que la inteligencia artificial procesa información y genera respuestas está modificando la forma de evaluar la confiabilidad de los resultados. A diferencia de los modelos analíticos tradicionales, los sistemas actuales pueden automatizar decisiones a gran escala y entregar respuestas aparentemente creíbles sin que el usuario observe de forma directa los datos y procesos que las produjeron.
Thomas Roehm, vicepresidente de marketing corporativo de SAS, explicó durante una conferencia de prensa en el SAS Innovate Tour 2026 en Ciudad de México que uno de los principales cambios frente a la analítica de los años noventa es el volumen de datos, la velocidad de procesamiento y el avance de la propia tecnología. En los modelos predictivos o pronósticos de aquella etapa, agregó, era posible observar los datos de entrada y determinar si el resultado parecía razonable antes de utilizarlo.
Con la inteligencia artificial generativa y agéntica, esa dinámica puede cambiar. Roehm señaló que la automatización ocurre ahora a una velocidad mucho mayor, por lo que las personas pueden terminar viendo únicamente el resultado final. El riesgo aparece cuando una organización adopta una respuesta que luce convincente sin revisar suficientemente cómo fue obtenida.
Confiabilidad
Por su parte, la facilidad de interacción también modifica la percepción de confiabilidad. Kristi Boyd, especialista sénior en IA confiable de SAS, planteó que la analítica tradicional exigía conocimientos técnicos y matemáticos más especializados, mientras las interfaces actuales redujeron la barrera de entrada al permitir que más personas interactúen con los sistemas mediante lenguaje natural.
Ese cambio introduce un componente humano adicional: las personas pueden confiar más en sistemas que se comunican de una manera semejante a ellas. Boyd indicó que, según el estudio realizado con IDC, la IA agéntica puede recibir mayor confianza por defecto que otros sistemas de aprendizaje. El desafío, sostuvo, consiste en aprovechar la eficiencia y la innovación sin asumir que una respuesta es correcta solamente porque resulta familiar o convincente.
Ante ese escenario, SAS coloca la gobernanza, trazabilidad y explicabilidad como elementos para sostener la supervisión. La compañía plantea que los datos utilizados por los sistemas deben poder rastrearse y que los modelos requieren mecanismos que permitan comprender cómo se produjeron determinadas decisiones.
Asimismo, la escala de la IA también obliga a reconsiderar la participación humana. Boyd distinguió entre mantener a una persona dentro de cada decisión y supervisar el comportamiento general de los sistemas. Revisar individualmente cada resultado puede dejar de ser viable en operaciones de gran escala, por lo que la supervisión puede concentrarse en detectar patrones, desviaciones y comportamientos que indiquen que un sistema está operando fuera de lo esperado.
El problema de confianza, por tanto, no deriva únicamente de que una IA pueda equivocarse. La combinación de velocidad, automatización y lenguaje natural puede hacer que un resultado incorrecto resulte suficientemente convincente como para incorporarse a una decisión antes de ser cuestionado.
