Cuando la IA se equivoca, nosotros seguimos confiando: un estudio revela que ya no sabemos decir "no lo sé"

Un equipo de investigadores de universidades de París, Roma y Milán ha publicado un estudio que analiza cómo la interacción con sistemas de inteligencia artificial (IA) está modificando la disposición de las personas a admitir su propia ignorancia. El trabajo, que reunió a más de 3.000 participantes, muestra que los usuarios tienden a confiar en las respuestas de la IA incluso cuando estas son incorrectas, y que esa confianza se mantiene incluso después de que el sistema haya cometido errores evidentes.

Los investigadores diseñaron experimentos en los que los participantes debían responder preguntas de conocimiento general, con la posibilidad de consultar a un asistente de IA. En una de las variantes, el asistente ofrecía respuestas deliberadamente erróneas en una proporción controlada. Los resultados indicaron que, en lugar de cuestionar al sistema, los usuarios ajustaban su propio criterio para alinearse con la IA, y que la frecuencia con la que decían "no lo sé" disminuyó significativamente cuando tenían acceso al asistente.

El estudio también midió la confianza subjetiva de los participantes en sus propias respuestas, y encontró que aquellos que más usaban la IA mostraban una mayor seguridad, incluso cuando sus respuestas eran incorrectas. Los autores señalan que este fenómeno podría deberse a un sesgo de automatización, por el cual las personas tienden a sobrevalorar la precisión de los sistemas automatizados.