La inteligencia artificial avanza a una velocidad que está obligando a gobiernos, empresas y organismos internacionales a discutir cómo establecer límites a su desarrollo. Sin embargo, existe una contradicción en el centro del debate: quienes advierten sobre los riesgos de la tecnología también participan en una industria que compite por desarrollarla cada vez más rápido.
En Concierto Valor, la especialista en inteligencia artificial y cofundadora de Plide, Marina Tannenbaum, y el socio fundador de Gulliver Bomas, Felipe Contreras Haye, abordaron esta tensión a propósito de la discusión sobre gobernanza de la IA en Naciones Unidas.
La conversación incluyó la intervención de referentes del sector, como Sam Altman, Dario Amodei y Yoshua Bengio, en el debate internacional sobre los riesgos de la tecnología.
Para los panelistas, el problema no se limita a reconocer que existen peligros. También consiste en determinar quién puede establecer las reglas y qué incentivos tienen las empresas para cumplirlas.
Un automóvil cada vez más potente, pero sin frenos claros
Marina Tannenbaum utilizó una comparación para explicar la diferencia entre la velocidad del desarrollo tecnológico y la capacidad de establecer mecanismos de seguridad. “Construimos los seres humanos un auto que es increíble, es rápido, es potente, puede hacer cosas que no nos imaginamos, pero resulta que no tenemos frenos, no sabemos cuál es el cinturón de seguridad”.
La analogía apunta a una preocupación central: el aumento de las capacidades de la inteligencia artificial no necesariamente está acompañado por mecanismos de control que avancen al mismo ritmo. El debate, desde esta perspectiva, no consiste únicamente en determinar qué nuevas tareas podrá realizar la tecnología.
También requiere preguntarse cómo se evaluarán sus riesgos, quién responderá ante eventuales consecuencias y qué límites deberían existir antes de ampliar su utilización. Tannenbaum planteó que las advertencias sobre el desarrollo de la IA deberían impulsar una respuesta más activa de las instituciones y de la sociedad.
¿Por qué las empresas no quieren detenerse?
Uno de los principales obstáculos aparece en la propia dinámica competitiva de la industria.
Las empresas tecnológicas buscan desarrollar modelos más capaces, atraer inversiones y ampliar su presencia en un mercado que continúa creciendo.
En ese contexto, Tannenbaum cuestionó la posibilidad de que las compañías establezcan límites suficientes por iniciativa propia. “El gran problema es que nadie se quiere autosancionar o autocontrolar”.
Felipe Contreras Haye expresó una preocupación similar, aunque desde el escepticismo frente a los llamados a detener el avance tecnológico. “Estoy escéptico de parar cuando hacen llamados a parar la tecnología [...] las curvas de crecimiento de las startups de inteligencia artificial no tienen ningún incentivo para parar. ¿Quién para?”.
Su planteamiento apunta a una dificultad práctica: aunque una empresa decida reducir la velocidad de su desarrollo, otras podrían continuar avanzando. Esto convierte la discusión sobre los límites de la IA en un problema que no necesariamente puede resolverse mediante compromisos individuales de las compañías. También plantea la necesidad de discutir mecanismos de coordinación y reglas que no dependan exclusivamente de la voluntad de cada desarrollador.
De una discusión tecnológica a un problema geopolítico
La presencia del debate sobre inteligencia artificial en Naciones Unidas refleja que sus implicancias van más allá del funcionamiento de las empresas tecnológicas.
Para Tannenbaum, la discusión ya debe entenderse también desde las relaciones internacionales. “La diferencia es que hoy día la conversación que están poniendo sobre la mesa no es solo tecnológica, es claramente geopolítica”.
El desarrollo de la inteligencia artificial involucra a compañías que compiten por inversiones y capacidades tecnológicas, pero también a países que buscan definir cómo se utilizará y regulará una herramienta con efectos potenciales sobre múltiples actividades. Por eso, establecer límites plantea preguntas que exceden las decisiones internas de una empresa:
- ¿Qué ocurre cuando distintos países adoptan reglas diferentes?
- ¿Quién determina los estándares de seguridad?
- ¿Cómo se coordinan las respuestas frente a riesgos que pueden trascender las fronteras?
Estas interrogantes forman parte del desafío de gobernanza abordado durante la conversación.
Las advertencias no bastan si no existe una respuesta
Tannenbaum también recurrió a una comparación cotidiana para explicar por qué considera necesario reaccionar cuando comienzan a aparecer señales de alerta. “Cuando se levantan las alarmas es como que en la casa empezamos a decir: ‘La criatura tiene fiebre, algo pasa... llamemos al psicólogo porque efectivamente tenemos un problema’”.
La especialista utilizó esa imagen para transmitir que reconocer una señal de preocupación debería conducir a examinar el problema y buscar una respuesta, en lugar de limitarse a constatar que existe.
En el caso de la inteligencia artificial, esa respuesta involucra tanto a quienes desarrollan los modelos como a las instituciones responsables de discutir su utilización y sus posibles efectos. La dificultad está en que la velocidad de la innovación y los incentivos económicos no necesariamente coinciden con los tiempos que requiere establecer acuerdos sobre seguridad y regulación.
El desafío de establecer reglas sin depender del autocontrol
La discusión planteada por los panelistas deja una diferencia importante entre advertir sobre los riesgos de la inteligencia artificial y construir mecanismos capaces de abordarlos.
Las empresas pueden reconocer que existen problemas potenciales, pero eso no garantiza que estén dispuestas a limitar por sí solas el desarrollo de sus productos. Al mismo tiempo, los llamados generales a detener la tecnología enfrentan la pregunta planteada por Contreras Haye: quién estaría dispuesto a hacerlo en un mercado donde otros competidores pueden seguir avanzando.
El desafío que llega a la discusión internacional es cómo establecer reglas compartidas y mecanismos de seguridad en una industria que no tiene incentivos suficientes para detenerse por iniciativa propia.
La analogía de Tannenbaum resume esa tensión: la humanidad está construyendo un vehículo tecnológico cada vez más potente, mientras continúa debatiendo cuáles deberían ser sus frenos.