El peligro de cribar currículums solo con IA: sesgos que cuestan demandas
Varias empresas han sido denunciadas por usar sistemas de IA para filtrar candidatos que replicaban sesgos históricos de contratación (edad, género, origen) presentes en los datos con los que se entrenaron.
Cómo funciona en la práctica
El riesgo legal es real: en varias jurisdicciones ya existe normativa específica que obliga a poder explicar por qué un sistema automatizado descartó a un candidato.
A tener en cuenta
Este es un ejemplo claro de por qué automatizar decisiones que afectan a personas sin supervisión humana es un riesgo, no solo ético sino legal y económico.
Cómo aparece el sesgo en un sistema de selección
- Datos históricos: si en el pasado se contrató sobre todo a un perfil, el sistema aprende a preferirlo.
- Variables "inocentes": el código postal, los huecos en el CV o ciertas aficiones pueden actuar como indicadores indirectos de origen, edad o género.
- Criterios mal definidos: pedir "cultura de empresa" sin concretar deja la puerta abierta a prejuicios.
Qué dice la normativa europea
El Reglamento General de Protección de Datos (RGPD) reconoce el derecho a no ser objeto de decisiones basadas únicamente en tratamientos automatizados que produzcan efectos significativos, con algunas excepciones y garantías. Además, el Reglamento europeo de Inteligencia Artificial clasifica como de alto riesgo los sistemas de IA usados para seleccionar o evaluar candidatos, con obligaciones específicas de supervisión humana, documentación y transparencia. Su calendario de aplicación tiene varias fases, así que conviene revisar qué obligaciones están ya en vigor.
Buenas prácticas si usas IA en selección
- Usa la IA para ordenar y resumir, no para descartar automáticamente.
- Define criterios objetivos ligados al puesto antes de ver ningún CV.
- Revisa una muestra de descartados para detectar patrones raros.
- Informa a los candidatos de que se usan herramientas automatizadas.
- Documenta el proceso por si tienes que explicar una decisión.
Preguntas frecuentes
¿Es legal que una empresa descarte mi CV con IA?
El RGPD limita las decisiones basadas únicamente en tratamientos automatizados con efectos significativos y exige garantías. Si crees que te ha pasado, puedes pedir información a la empresa sobre cómo se tomó la decisión.
¿Cómo evito que un filtro automático descarte mi CV?
Usa un formato sencillo y legible, incluye las palabras clave de la oferta de forma natural y adapta el resumen a cada puesto.
¿Qué es un sistema de IA de alto riesgo?
Es una categoría del Reglamento europeo de IA para usos con impacto importante en las personas, como el empleo, que exige más controles y supervisión humana.
Cómo se monetiza
- Cómo se monetizaría: como servicio a empresas.
- El riesgo: decidir sobre personas con IA sin supervisión puede acarrear reclamaciones. Si lo planteas, mantén siempre una revisión humana.
Ver todas las formas de cobrar →
Cómo se ha hecho esta guía: redactada con ayuda de IA a partir de información pública y revisada a mano. Las cifras, si las hay, son orientativas: contrasta la información antes de tomar decisiones. Cómo hacemos las guías.