"No me preocupa que usen la IA. Me preocupa que la IA los esté usando a ellos." Patricia, directora de operaciones, lo dijo después de leer una recomendación de compras que le llegó en la mañana.
La había preparado Emilio, que entró al área hace tres meses. Le pidió a la IA que comparara a los proveedores de empaque y la respuesta fue impecable: tabla, gráfica y una conclusión clara. Cambiar al proveedor más barato.
Don Ramón, que lleva años comprando ese material, la leyó en un minuto. "Ese precio no trae flete. Y ese proveedor nos dejó sin caja en diciembre." Nada de eso estaba en los datos que Emilio le dio a la IA. Estaba en la cabeza de don Ramón.
La respuesta corta es esta: para revisar lo que produce la IA, alguien tiene que saber hacer la tarea sin ella. La IA acelera a quien ya tiene el criterio. A quien todavía no lo tiene, le entrega respuestas que suenan bien y que nadie puede detectar cuando están mal.
Qué es la dependencia excesiva en la IA
La dependencia excesiva en la IA es aceptar una respuesta incorrecta de la IA sin notarlo. Así la define la revisión de Microsoft Research sobre el tema, que juntó cerca de 60 estudios.
No es un problema de la herramienta. La IA hizo bien su trabajo: comparó los precios que le dieron y eligió el menor. El hueco está en lo que nadie le dijo, y en que Emilio todavía no sabía que había algo que decirle.
Un estudio de Microsoft Research y Carnegie Mellon lo pone en números. Encuestaron a 319 profesionales que usan IA cada semana. Quienes confían más en la IA piensan menos de manera crítica sobre lo que les entrega. Quienes confían más en lo que ellos saben de la tarea revisan más.
La buena noticia está en la segunda mitad. La confianza que hace falta para revisar a la IA no es confianza en la tecnología. Es dominio del proceso, y eso sí se puede enseñar.
Por qué el criterio que falta es el que nunca se escribió
El criterio es el conjunto de reglas con que alguien decide dentro de un proceso. En compras, por ejemplo, es saber qué se suma al precio antes de comparar y a qué proveedor no se le confía un pedido urgente.
Don Ramón no revisó la tabla de Emilio con un manual. La revisó con años de comprar ese material y de ver qué sale mal. Esto es lo que cada uno podía ver:
| Lo que la IA ve en los datos | Lo que sabe don Ramón |
|---|---|
| El precio unitario de cada proveedor | Que un precio llega con flete y el otro no |
| El tiempo de entrega prometido | Quién cumplió en diciembre y quién no |
| El volumen de cada pedido | Qué línea se para si la caja no llega |
| La conclusión más lógica con esos datos | La pregunta que hay que hacer antes de concluir |
La columna derecha es la valiosa, y casi nunca está escrita. Vive en la persona que lleva años en el puesto. Por eso aplica aquí completa una frase que vale para casi cualquier proceso: la IA no automatiza lo que nunca se escribió. Tampoco lo revisa.
Antes, el nuevo aprendía ese criterio a fuerza de equivocarse con un jefe al lado. Hoy la IA le resuelve la tarea desde el primer día, y se salta justo la parte donde se aprendía a revisarla. Don Ramón es la persona más valiosa de esta historia, y el reto es que lo que sabe no se quede solo con él.
Cómo aprende alguien a revisar a la IA
La solución no es prohibirle la IA a Emilio. Es darle, antes, lo que don Ramón aprendió en años: las preguntas que hay que hacerse antes de aceptar una respuesta.
Eso tiene dos partes. La primera es escribir el criterio, porque mientras viva en una sola cabeza nadie más puede usarlo. La segunda es que quien empieza haga la tarea a mano al menos una vez, con alguien que la domina al lado. No para siempre, solo lo suficiente para saber dónde suele estar el error.
Con eso, la IA cambia de papel. Deja de ser la que decide y pasa a ser la que acelera a alguien que ya sabe qué revisar.
Ejercicio de una hora: la lista de revisión
No necesitas presupuesto ni proveedor. Solo a la persona que domina el proceso, a alguien que lo está aprendiendo y una tarea que ya le encargan a la IA.
- Elige una tarea que ya resuelven con IA. Una comparación de proveedores, un reporte semanal o la respuesta a un cliente.
- Pide a quien la domina que la haga a mano, en voz alta. Quien está aprendiendo se sienta al lado y escribe.
- Anoten cada pregunta que se hace. "¿Este precio trae flete?" "¿Quién nos falló la última vez?" Esas preguntas son el criterio.
- Quédense con las cinco que más cambian el resultado. Esa es la lista de revisión.
- Que el nuevo haga la tarea una vez a mano con la lista. Una sola vez basta para entender de dónde sale cada pregunta.
- Ahora sí, con IA. La lista va dentro de la instrucción que le da a la IA, y después revisa la respuesta contra la misma lista.
- Guarden la lista junto al proceso. Si algo cambia, se actualiza ahí y no en la cabeza de alguien.
Si tu equipo de TI también está resolviendo de todo con IA, aquí platicamos cómo decidir en qué usar esos superpoderes. Y si quieres que tu equipo aprenda a trabajar así con Copilot, aquí está cómo armamos la capacitación para que el criterio se quede en tu equipo.
Por cierto, la siguiente comparación de Emilio llegó con una columna nueva: precio con flete. Y una nota al pie: "este proveedor falló en diciembre". Don Ramón la aprobó sin cambios.
Media hora basta para saber por dónde empezar
La IA no va a dejar de mejorar, y eso es una gran noticia. Entre más rápido responda, más vale tener en tu equipo a alguien que sepa revisarla. Ese criterio ya existe en tu operación. Solo falta escribirlo y pasarlo.
Si quieres platicar qué tarea elegir para el ejercicio, con gusto lo vemos juntos. Aquí explicamos cómo madura un proceso paso a paso, desde que vive en una persona hasta que el sistema lo sostiene.