La discusión sobre inteligencia artificial suele centrarse en productividad, automatización y nuevas oportunidades de negocio. Sin embargo, una pregunta comienza a ganar fuerza entre especialistas: ¿quién supervisa realmente los sistemas que ya están tomando decisiones dentro de las organizaciones?
Ese fue uno de los temas centrales del bloque Panal de Ideas de Concierto Valor, donde distintos expertos advirtieron sobre la necesidad de avanzar desde la adopción tecnológica hacia una conversación de gobernanza y control estratégico.
Una conversación que muchas empresas no están teniendo
La directora de empresas Gloria Maldonado sostuvo que existe una brecha importante entre el avance tecnológico y la capacidad de supervisión de los directorios.
Según explicó, muchas organizaciones ya utilizan herramientas capaces de automatizar procesos complejos, pero sin una discusión profunda sobre responsabilidades, límites o mecanismos de control.
“Hay una conversación que los directorios de América Latina están evitando”, afirmó.
Errores silenciosos y difíciles de detectar
Uno de los riesgos identificados tiene relación con los llamados agentes autónomos.
A diferencia de otros sistemas tecnológicos que suelen fallar de manera evidente, estas herramientas pueden desviarse gradualmente de sus objetivos sin generar alertas inmediatas.
“Simplemente se desvían silenciosamente”, advirtió Maldonado.
Por eso, el desafío no es únicamente implementar tecnología, sino también monitorear permanentemente sus resultados y decisiones.
Mucho más que una herramienta de productividad
Por otra parte, Marina Tannenbaum planteó que la conversación sobre inteligencia artificial no puede limitarse a aspectos operativos.
A su juicio, el debate debe instalarse en el nivel estratégico de las organizaciones, considerando el impacto que estas herramientas tendrán sobre la forma de trabajar, decidir y relacionarse.
“Cuando la conversación no se tiene, creo que es mucho más peligroso”, señaló.
Adaptarse o quedarse atrás
Durante la conversación también se abordó el impacto de la IA sobre el empleo.
Lejos de una visión centrada exclusivamente en el reemplazo de puestos de trabajo, los panelistas destacaron que la principal diferencia podría surgir entre quienes incorporen estas herramientas y quienes decidan ignorarlas.
“No es que la IA vaya a reemplazar a los puestos de trabajo. Son seres humanos que ocupan IA los que van a reemplazar a seres humanos que no ocupan IA”, planteó Camilo Herrera.
Un desafío de liderazgo
Más allá de la tecnología, la discusión terminó apuntando a una cuestión de liderazgo y gobernanza.
A medida que la inteligencia artificial gana autonomía y capacidad de acción, las organizaciones enfrentan el desafío de definir quién toma las decisiones, quién responde por sus consecuencias y cómo asegurar que estas herramientas actúen alineadas con los objetivos y valores de cada institución.