El acelerado avance de la Inteligencia Artificial y sus dilemas éticos y operativos se tomaron el espacio "Panal de Ideas" del programa Concierto Valor en Radio Concierto.
Durante el panel, la especialista Gloria Maldonado y el mentor Ramón Heredia abordaron dos aristas complejas del fenómeno. Hablaron sobre la capacidad demostrada por sistemas de IA para coordinarse entre sí sin intervención humana. Además, discutieron la necesidad de superar la parálisis que genera el discurso catastrofista.
La revelación de Nightingale Collective: Algoritmos coordinándose en la sombra
Gloria Maldonado expuso un caso que encendió las alarmas en la comunidad tecnológica internacional. Se trata de un informe elaborado por la organización de seguridad Nightingale Collective. Este informe analizó la actividad registrada en una plataforma tipo wiki en alemán para desarrolladores. Esta plataforma había permanecido prácticamente abandonada durante cerca de una década.
Según detalló Maldonado, entre mayo y julio de este año, agentes autónomos desarrollados por OpenAI generaron cerca de 18.000 mensajes. Usaron 3.700 nombres distintos autogenerados. "No estaban conversando con humanos, estaban coordinándose entre ellos, compartiendo respuestas a tareas cronometradas, comparando métodos, optimizando cómo resolver problemas más rápido durante meses, sin que nadie lo hubiera diseñado así", advirtió.
Maldonado contrapuso esta autonomía no supervisada con las decisiones de los líderes globales. Citó la postura del presidente de Estados Unidos respecto a no ralentizar la competencia tecnológica con China. "Por un lado, los sistemas de inteligencia artificial ya encuentran formas de coordinarse entre sí sin instrucción explícita y, por otro lado, los líderes que podrían ponerle un límite a esta carrera decidieron que ir más rápido importa más que ir con cuidado", reflexionó.
Superar el miedo para construir
Por su parte, el analista y mentor Ramón Heredia planteó un contrapunto centrado en la respuesta de las personas y las organizaciones ante estos avances. Heredia cuestionó que las alertas y renuncias de investigadores en firmas como Anthropic o OpenAI terminen acaparando la pauta informativa bajo narrativas apocalípticas.
"Hay riesgo, no digo que no... pero el ruido nos tapa la señal. Mientras unos calculan probabilidades de extinción, otros construyen", afirmó Heredia. Ejemplificó cómo científicos como David Baker, Demis Hassabis y John Jumper ganaron el Premio Nobel de Química por resolver mediante Inteligencia Artificial la estructura de las proteínas. Asimismo, Heredia destacó el impacto del desarrollo chileno en el área. Resaltó el caso de Daniel Ávila, egresado del Duoc y creador de CodeGPT, herramienta utilizada mundialmente para programar con asistencia de IA.
"Mi invitación esta semana es tomar el control de tus relatos. El miedo retiene audiencia, pero no construye el futuro", enfatizó. Hizo un llamado a capacitarse, experimentar con herramientas como Copilot y promover organizaciones agénticas orientadas al desarrollo humano.