Noticias

¿Una IA puede dejarte sin trabajo o crédito? La advertencia de una experta sobre los errores que podrían costarte una oportunidad

¿Puede un algoritmo rechazarte para un trabajo o crédito? Experta explica los riesgos de las decisiones automatizadas y cómo enfrentar posibles errores.

IA Deja Sin Empleos
Getty Images

Postular a un trabajo y recibir un rechazo sin llegar a una entrevista, o solicitar un crédito y obtener una respuesta negativa sin explicaciones. Ambas situaciones podrían estar relacionadas con decisiones automatizadas.

Aunque estas herramientas permiten agilizar procesos, también plantean interrogantes sobre el uso de información incorrecta, posibles discriminaciones y las responsabilidades de las empresas. Cristina Fritz, cofundadora de Digital eXp, consultora especializada en arquitectura tecnológica para implementar agentes de inteligencia artificial, advierte sobre los riesgos de confiar completamente en estos sistemas.

¿Cómo puede afectar la inteligencia artificial a una postulación laboral?

Uno de los principales problemas aparece cuando las empresas utilizan algoritmos para evaluar currículums y seleccionar candidatos. Una investigación de 2024, publicada en la Revista Chilena de Derecho y Tecnología por Alberto Coddou y Roberto Padilla, analizó los posibles riesgos de discriminación en estos procesos.

Según Fritz, un filtro automatizado podría descartar personas capacitadas si interpreta equivocadamente sus antecedentes laborales. “Un filtro mal diseñado puede confundir una trayectoria distinta con una falta de capacidad”, advierte.

La especialista sostiene que las empresas deben revisar los criterios utilizados y permitir que las decisiones sean cuestionadas.

¿Qué ocurre si un algoritmo rechaza una solicitud de crédito?

Los problemas también pueden extenderse al ámbito financiero, especialmente cuando las evaluaciones utilizan antecedentes incorrectos o desactualizados. El 21 de octubre, la Comisión para el Mercado Financiero (CMF) abrió una consulta para modificar las normas del Registro de Deuda Consolidada.

La propuesta aborda mecanismos para actualizar, rectificar, complementar y cancelar información. El proceso recibe comentarios hasta el 18 de noviembre. La consulta no demuestra la existencia de errores generalizados, pero permite abordar la importancia de mantener antecedentes correctos.

Fritz advierte que corregir un dato puede resultar insuficiente si otros sistemas siguen utilizando versiones anteriores. “La corrección tiene que llegar a los procesos que consumen esa información”, explica.

¿Quién responde cuando una inteligencia artificial se equivoca?

Para la cofundadora de Digital eXp, la responsabilidad debe mantenerse en las empresas que implementan estas tecnologías. “‘Lo decidió el sistema’ no puede convertirse en la nueva forma de lavarse las manos”, afirma.

La especialista propone establecer mecanismos que permitan identificar los datos utilizados, revisar los criterios de evaluación y corregir los resultados. También recomienda incorporar revisión humana con capacidad real de modificar decisiones automatizadas.

En procesos de contratación, plantea utilizar perfiles ficticios para detectar posibles exclusiones injustificadas. “Si una empresa quiere ahorrar tiempo y costos automatizando decisiones, también tiene que hacerse cargo cuando se equivoca”, sostiene Fritz.

La advertencia apunta a que la eficiencia tecnológica no debe reemplazar la responsabilidad empresarial, especialmente cuando una decisión puede afectar las oportunidades laborales o financieras de una persona.


Contenido patrocinado

Compartir