Noticias

Desarrolladores de IA descubren la "caja negra": ¿Qué es?

Expertos señalan que pueden existir riesgos si la tecnología no es controlada por sus propios desarrolladores.

Francia Quezada |

Proyecto Nuevo (39)

Proyecto Nuevo (39)

Los desarrolladores de inteligencia artificial (IA) de Google se encontraron hace poco con la misteriosa "caja negra". Según informó BBC News, mientras los ingenieros trabajaban en un software, inesperadamente adquirió la habilidad de entender un nuevo idioma.

"Descubrimos que con muy pocas indicaciones en bengalí, ahora puede traducir todo el bengalí", contó James Maneka, el jefe de la división de IA de Google, en la reciente emisión del programa 60 Minutes, de la cadena televisiva estadounidense CBS.

Y agregó: "No lo entiendes del todo. No puedes decir muy bien por qué (el robot) dijo esto o por qué se equivocó en esto otro. Tenemos algunas ideas y nuestra capacidad para entenderlo mejora con el tiempo. Pero ahí es donde estamos hasta ahora".

La caja negra

Por su parte, el director ejecutivo de Google, Sundar Pichai, indicó que la capacidad de los programa de Inteligencia Artificial de generar habilidades y ofrecer respuestas de forma inesperada, los expertos la denominan como "caja negra".

En ese sentido, expertos señalan que pueden existir riesgos si la tecnología no es controlada por sus propios desarrolladores, como el que adquieran habilidades para las que no fueron instruidas.

¿Cómo se desarrolla la IA?

A diferencia de la programación de software tradicional, que se basa en la implementación de instrucciones para obtener un resultado. En el desarrollo de la IA, los ingenieros trabajan para conseguir un sistema que imite las "redes neuronales" de la inteligencia humana.

Lo anterior involucra una alta cantidad de procesadores interconectados. Los que pueden manejar gran cantidad de datos, además de detectar patrones entre millones de variables utilizando el aprendizaje automático y auto adaptarse en respuesta a lo que están haciendo.

David Stern, gerente de investigación cuantitativa en G-Research, empresa que utiliza el aprendizaje automático para predecir precios en el mercado financiero. Advirtió que "el progreso más rápido en la investigación de IA en los últimos años, ha implicado un enfoque de "caja negra" cada vez más basado en datos".

 

 

Lo más reciente

PAES de invierno 2025: fechas, horarios y comunas donde se rendirá la prueba en Chile

Revisa fechas, horarios y sedes de la PAES de invierno 2025 en Chile. La prueba se rendirá del 16 al 18 de junio para el proceso de admisión 2026.

Restricción vehicular para el miércoles 28 de mayo de 2025: estos autos no pueden circular en Santiago

Este miércoles 28 de mayo rige la restricción vehicular 2025 en Santiago. Conoce qué autos y motos no podrán circular, horarios y cómo evitar multas.

¿Cómo ver el Primavera Sound 2025 desde Chile? Cartel, fechas y transmisión en vivo

Disfruta de los shows de Charli XCX, LCD Soundsystem y más en el Primavera Sound 2025 desde Chile vía streaming por Prime Video y Twitch.

Cortes de luz en Santiago para el miércoles 28 de mayo: horarios, sectores y comunas afectadas

Cuatro comunas de la Región Metropolitana tendrán cortes de luz este miércoles por trabajos de Enel. Revisa los horarios aquí.

Chile hace historia en la Antártica: construyó la primera estación nacional permanente y tendrá a la primera mujer jefa en invierno

La base científica Profesor Julio Escudero estará liderada por Viviana Pérez, del Instituto Antártico Chileno.

Los 5 consejos clave para cuidar a tu mascota este invierno, según experta veterinaria

Con la llegada del frío, una veterinaria entrega 5 claves, desde vacunas hasta nutrición, para proteger la salud de perros y gatos y evitar el "estrés térmico".