Por qué la IA puede sonar segura de sí misma y aun así equivocarse

Imagina hacerle a una computadora una pregunta difícil sobre historia o ciencias. En cuestión de segundos, responde con oraciones completas y bien redactadas. Usa palabras sofisticadas y suena exactamente como un maestro experto o una enciclopedia ambulante. Como la respuesta es fluida y suena segura, es fácil suponer que cada palabra es cierta. Sin embargo, una respuesta generada por la inteligencia artificial, o IA, puede sonar completamente segura de sí misma y aun así estar equivocada o incompleta.

Para entender por qué ocurre esto, ayuda saber cómo funciona realmente la IA generativa. Las herramientas de IA generativa no piensan, razonan ni comprenden los hechos como lo hacen los seres humanos. En cambio, son potentes programas informáticos entrenados con enormes colecciones de textos, que incluyen libros, artículos y sitios web. Cuando le haces una pregunta a una IA, esta no observa el mundo exterior, ni visita una biblioteca, ni revisa una lista de datos comprobados. Por el contrario, predice qué palabras tienen más probabilidades de ir a continuación según los patrones que aprendió de toda esa información.