Acabo de leer el informe de Gartner (Tecnologías emergentes: Hoja de ruta hacia la madurez de la IA agencial) Si entiendo bien el mensaje, la IA agencial se impondría como la próxima gran promesa. No dudo de que las organizaciones se embarcarán en este camino. Pero estoy convencido de que se producirán importantes contratiempos.
IA agentiva: una tecnología no determinista en el centro de la toma de decisiones
En el ámbito de las compras, mi tema favorito, y más ampliamente en cualquier entorno de toma de decisiones críticas, hay una cuestión que sigue estando muy subestimada: ¿Se puede industrializar la toma de decisiones basándose en una tecnología no determinista?La IA agentiva es probabilística, contextual y no estrictamente reproducible. Sin embargo, las compras se basan en lo contrario: trazabilidad, justificación y auditabilidad. Y eso sin tener en cuenta el factor humano. Cuanto más eficaz es la IA, más se la sigue, menos se cuestiona y más disminuye la vigilancia. Por lo tanto, cabe estimar que existe un riesgo real de pérdida de conocimientos técnicos, de dependencia cognitiva y de debilitamiento del criterio.
Decisiones de compra e IA agentiva: un importante reto en materia de responsabilidad
Por lo tanto, el riesgo no es solo tecnológico. Y es que una decisión de compra siempre conlleva:
- Financieramente,
- Contractualmente,
- Jurídicamente
Y una decisión que no se pueda explicar a la perfección plantea una pregunta sencilla: ¿Quién es responsable? Ahí radica la paradoja. Cuanto más creíble es la IA, más aumenta el riesgo de forma silenciosa. El verdadero peligro no es que la IA se equivoque. Es que el ser humano deje de verificar. En ese momento, ya no deberíamos hablar de un comprador «aumentado», sino… de un comprador «disminuido». La cuestión, pues, no es hasta dónde puede llegar la IA. sino ¿hasta dónde debemos dejarle tomar la decisión? (Continuará) 