Noticias

¿Una IA puede dejarte sin trabajo o crédito? La advertencia de una experta sobre los errores que podrían costarte una oportunidad

¿Puede un algoritmo rechazarte para un trabajo o crédito? Experta explica los riesgos de las decisiones automatizadas y cómo enfrentar posibles errores.

Benjamín Carrasco |

IA Deja Sin Empleos

IA Deja Sin Empleos

Postular a un trabajo y recibir un rechazo sin llegar a una entrevista, o solicitar un crédito y obtener una respuesta negativa sin explicaciones. Ambas situaciones podrían estar relacionadas con decisiones automatizadas.

Aunque estas herramientas permiten agilizar procesos, también plantean interrogantes sobre el uso de información incorrecta, posibles discriminaciones y las responsabilidades de las empresas. Cristina Fritz, cofundadora de Digital eXp, consultora especializada en arquitectura tecnológica para implementar agentes de inteligencia artificial, advierte sobre los riesgos de confiar completamente en estos sistemas.

¿Cómo puede afectar la inteligencia artificial a una postulación laboral?

Uno de los principales problemas aparece cuando las empresas utilizan algoritmos para evaluar currículums y seleccionar candidatos. Una investigación de 2024, publicada en la Revista Chilena de Derecho y Tecnología por Alberto Coddou y Roberto Padilla, analizó los posibles riesgos de discriminación en estos procesos.

Según Fritz, un filtro automatizado podría descartar personas capacitadas si interpreta equivocadamente sus antecedentes laborales. “Un filtro mal diseñado puede confundir una trayectoria distinta con una falta de capacidad”, advierte.

La especialista sostiene que las empresas deben revisar los criterios utilizados y permitir que las decisiones sean cuestionadas.

¿Qué ocurre si un algoritmo rechaza una solicitud de crédito?

Los problemas también pueden extenderse al ámbito financiero, especialmente cuando las evaluaciones utilizan antecedentes incorrectos o desactualizados. El 21 de octubre, la Comisión para el Mercado Financiero (CMF) abrió una consulta para modificar las normas del Registro de Deuda Consolidada.

La propuesta aborda mecanismos para actualizar, rectificar, complementar y cancelar información. El proceso recibe comentarios hasta el 18 de noviembre. La consulta no demuestra la existencia de errores generalizados, pero permite abordar la importancia de mantener antecedentes correctos.

Fritz advierte que corregir un dato puede resultar insuficiente si otros sistemas siguen utilizando versiones anteriores. “La corrección tiene que llegar a los procesos que consumen esa información”, explica.

¿Quién responde cuando una inteligencia artificial se equivoca?

Para la cofundadora de Digital eXp, la responsabilidad debe mantenerse en las empresas que implementan estas tecnologías. “‘Lo decidió el sistema’ no puede convertirse en la nueva forma de lavarse las manos”, afirma.

La especialista propone establecer mecanismos que permitan identificar los datos utilizados, revisar los criterios de evaluación y corregir los resultados. También recomienda incorporar revisión humana con capacidad real de modificar decisiones automatizadas.

En procesos de contratación, plantea utilizar perfiles ficticios para detectar posibles exclusiones injustificadas. “Si una empresa quiere ahorrar tiempo y costos automatizando decisiones, también tiene que hacerse cargo cuando se equivoca”, sostiene Fritz.

La advertencia apunta a que la eficiencia tecnológica no debe reemplazar la responsabilidad empresarial, especialmente cuando una decisión puede afectar las oportunidades laborales o financieras de una persona.

Lo más reciente

Faith No More podría regresar a Chile y este es el nuevo video que lo confirmaría

Faith No More podría regresar a Chile: Lotus publicó un reel con el logo de la banda y el mensaje «¡Esto será EPIC!». Conoce las pistas del posible concierto.

¡James Bond tiene nuevo protagonista! El actor que tomará el lugar de Daniel Craig como el agente 007

Robert Pattinson fue anunciado como el nuevo James Bond y sucederá a Daniel Craig. Conoce qué dijo el actor y quién dirigirá la próxima película del agente 007.

Pronostican hasta 25 mm de lluvia y tormentas eléctricas en Chile: las regiones afectadas esta semana

Pronostican lluvias y tormentas eléctricas en Chile del 16 al 22 de noviembre. Revisa las regiones afectadas, los días clave y cuántos milímetros caerían.

Ocho nominaciones y décadas sin una estatuilla: la legendaria actriz que finalmente recibió su primer Oscar

Glenn Close y Ridley Scott recibieron sus primeros Oscar honoríficos tras décadas de carrera. Conoce los homenajes y las reacciones de Hollywood.

Premios Grammy 2027: revisa la lista de principales nominados a la ceremonia más importante de la música

Conoce la lista de nominados a los Premios Grammy 2027. Revisa los artistas y canciones que competirán en las principales categorías de la ceremonia.

Fue un éxito mundial, pero años después recibió un título inesperado: la canción que muchos consideran la peor de los 80

El éxito de 1985 encabezó las listas de Estados Unidos, pero años después recibió duras críticas que cuestionaron su sonido y sus letras.