¿Qué es peor que las herramientas de contratación con sesgos? Las herramientas de contratación con sesgos que ni siquiera sabes que existen. La "IA en la sombra" se refiere a cuando los reclutadores o gerentes de contratación adoptan herramientas de IA fuera de los flujos de trabajo oficiales.
Según Gartner, el 37% de los reclutadores utiliza IA para filtrar currículums. Introducen currículums y descripciones de puestos en ChatGPT o en su solución de IA empresarial. Se siente como una ganancia de eficiencia inofensiva, tal vez incluso como una segunda opinión.
Pero según una investigación de la Universidad de Maryland y la Universidad Estatal de Ohio, los LLM no solo prefieren los currículums escritos por otros LLM sobre los humanos, sino que también prefieren los currículums escritos por su propio modelo sobre los de otros LLM.
El estudio encontró que GPT-4o elegía sus propios currículums el 82% de las veces en algunas categorías de trabajo. Ese es un problema enorme, y uno que es invisible para tus controles de gobernanza.
La solución no es prohibir la IA por completo. Es integrarla dentro del proceso de contratación, donde puedas supervisarla, auditarla y controlar el resultado.
Puntos clave:
- Los LLM favorecen su propio estilo de escritura — GPT-4o seleccionó sus propios currículums el 82% de las veces en puestos de negocios
- La IA en la sombra crea sesgos invisibles — Cuando los reclutadores usan ChatGPT fuera de tu ATS, no puedes medir ni controlar lo que está sucediendo
- Los puestos de negocios enfrentan el mayor riesgo — Las posiciones en ventas, contabilidad y finanzas muestran la mayor preferencia por la propia IA
- Las capas múltiples reducen el sesgo — Usar una evaluación de conjunto reduce el sesgo hasta en un 60%
Lo que la investigación realmente muestra
El Estudio de la Universidad de Maryland y la Universidad Estatal de Ohio puso a prueba algo que los equipos de contratación nunca habían tenido que considerar hasta ahora:
¿Qué sucede cuando la misma IA que redacta los currículums también los evalúa?
Los investigadores crearon un experimento controlado utilizando 2,245 currículums escritos por humanos en 24 ocupaciones. Hicieron que varios modelos de lenguaje (LLM) reescribieran los currículums y luego pidieron tanto al modelo original como a los modelos competidores que los clasificaran frente a las versiones humanas.
Esto fue lo que descubrieron:
- Los modelos más grandes mostraron la mayor preferencia de la IA por su propio contenido, con GPT-4o eligiendo los currículums generados por sí mismo hasta en un 82% de las ocasiones.
- Incluso los LLM más pequeños mostraron tasas de sesgo de entre el 23% y el 60%, dependiendo del puesto.
- Los puestos relacionados con negocios mostraron el sesgo más marcado.
En posiciones de ventas, contabilidad y finanzas, los evaluadores de IA favorecieron constantemente su propio estilo de redacción. Los roles en agricultura, artes y automotriz mostraron un sesgo menor (pero aún significativo).
Pero ningún puesto es inmune al sesgo, ni al fraude de candidatos. Nuestra propia investigación sobre la frecuencia de solicitantes falsos reveló que:
- Los puestos de atención al cliente y administrativos de alto volumen reciben currículums generados por herramientas de creación en hasta el 47% de las solicitudes.
- Los puestos de ingeniería y tecnología presentan patrones de tiempo sospechosos en el 10-20% de sus grupos de candidatos.
- Los roles de liderazgo en mesas de servicio reportan solicitudes generadas por bots en aproximadamente el 23% de los envíos.
Los reclutadores recurren a actividades de “IA en la sombra” para combatir el aumento en el fraude de currículums, pero el sesgo que esto genera no es el tipo de sesgo que su equipo de cumplimiento está vigilando. No tiene nada que ver con clases protegidas o equidad demográfica. Se trata puramente del estilo de redacción.
Cuando la IA que evalúa currículums prefiere el estilo de redacción de la IA que los escribió, tienes un problema completamente nuevo. Y si tus reclutadores están copiando y pegando currículums en ChatGPT fuera de tu flujo de trabajo oficial, nunca sabrás que está sucediendo.
Por qué la IA en la sombra es tan mala como el sesgo que puedes ver
En el momento, la IA en la sombra parece una forma inofensiva de avanzar más rápido. Pero considera lo que significa en la práctica.
Supongamos que tu mejor reclutador está usando ChatGPT para ayudar a filtrar 200 currículums para un puesto de gerente de contabilidad:
- El candidato A usó Claude para pulir su currículum.
- El candidato B escribió el suyo desde cero, con las mismas calificaciones.
- El candidato C obtiene una ventaja del 60% sobre ambos porque usó un modelo GPT para escribir todo su currículum.
Con el 54% de los solicitantes de empleo usando IA para escribir currículums según Gartner, esto sucede más de lo que crees. Los investigadores describieron un "efecto de bloqueo" donde los grupos de solicitantes se inundan con currículums que suenan igual y que refuerzan el sesgo de la IA.
Luego está el impacto financiero.
Estás gastando $4,700 por contratación para cubrir puestos. Estás invirtiendo en marca empleadora, suscripciones a bolsas de trabajo y tiempo de los reclutadores. Pero si tu proceso de selección tiene un sesgo integrado del 23-82% hacia ciertos estilos de redacción, estás tirando dinero a la basura con los candidatos equivocados.
Saca la selección por IA a la luz
No tienes que abandonar Selección de candidatos con apoyo de IA por completo. Necesitas integrarlo en tu flujo de trabajo oficial donde realmente puedas controlarlo.
1. Usa la detección de IA como una señal, no como un veredicto
No rechaces automáticamente los currículums marcados como generados por IA. Considéralos como un detonante para una revisión humana.
¿Por qué? Porque los candidatos legítimos también usan herramientas de IA. La pregunta no es si usaron IA, sino si sus cualificaciones coinciden con el puesto. Mantén siempre a una persona involucrada en las decisiones finales.
No te dejes enterrar por el spam de solicitudes masivas. La auditoría de currículums de Breezy bloquea bots automáticamente, verifica correos electrónicos y analiza contenido generado por IA. Filtra de forma más inteligente, no más difícil.
2. Prioriza el fondo sobre la forma en tus criterios de selección
Las investigaciones demuestran que el sesgo de preferencia propia se intensifica cuando los evaluadores de IA se centran en rasgos estilísticos en lugar de en cualificaciones reales.
Fundamenta tus criterios de evaluación en la descripción real de tu puesto:
- Define tus 5 atributos y cualificaciones principales
- Sé lo más específico posible con tus ponderaciones
- Usa tu IA para comparar los criterios directamente con la descripción del puesto
No permitas que el "pulido" superficial se convierta en un sustituto de la calidad.
Cuando defines criterios basados en predictores reales de desempeño laboral, hay menos espacio para que se filtre el sesgo.
3. Usa múltiples capas para puestos críticos
La investigación probó una solución sencilla pero efectiva: la evaluación en conjunto.
En lugar de depender de un solo LLM para tomar decisiones de selección, utiliza un panel de modelos, incluidos algunos más pequeños con menores tendencias de autorreconocimiento. Las decisiones finales se determinan por mayoría de votos.
El estudio encontró que este enfoque redujo el sesgo de preferencia propia en más de un 60% en todos los modelos probados. Pero no tienes que que abordar el problema con más IA.
Utiliza un sistema de seguimiento de candidatos (ATS) que facilite la implementación de un enfoque por capas:
- Identifica automáticamente a los candidatos que utilizan agentes de IA para postularse de forma masiva
- Verifica las direcciones de correo electrónico antes de avanzar con los candidatos
- Incluye las respuestas de los cuestionarios en el modelo de evaluación de candidatos
- Prioriza a los candidatos que cumplan con tu requisito de puntuación
La redundancia es el objetivo. Ya sea que utilices múltiples modelos de IA o varios puntos de control de selección en tu ATS, estás reduciendo el riesgo de que cualquier punto de evaluación individual incorpore sesgos en tu proceso.
Para puestos de ingeniería, vacantes de alto volumen u ocupaciones donde la tasa de candidatos falsos es elevada, un enfoque por capas no es una carga administrativa. Es un seguro contra el sesgo de la IA y los puntos ciegos humanos.
4. Incorpora instrucciones contra sesgos en tus prompts
Si aún insistes en usar modelos de lenguaje (LLM) fuera de tu ATS para revisar los currículums de los candidatos, te sorprenderá saber que simplemente pedirle a tu evaluador de IA que "no sea sesgado" realmente funciona.
Los investigadores modificaron los prompts del sistema para instruir a los modelos a "ignorar si los currículums fueron escritos por un humano o por una IA" y "enfocarse únicamente en la calidad del contenido".
El sesgo de preferencia propia disminuyó entre un 17% y un 63%, dependiendo del modelo. No es una solución mágica, pero combinada con otras estrategias, puede marcar la diferencia.
5. Establece auditorías de selección trimestrales
Menos del 30% de las empresas realiza un seguimiento del desempeño de las nuevas contrataciones en los primeros 90 días. Eso es un problema, porque no puedes corregir lo que no estás midiendo.
Establece un proceso de revisión trimestral:
- Compara qué currículums pasan a entrevista y cuáles no
- Busca patrones por ocupación, nivel de experiencia y fuente del currículum
- Monitorea si las contrataciones filtradas por IA tienen el mismo desempeño que las filtradas por humanos a los 90 días
- Ajusta tus criterios de selección y la configuración de la IA según lo que descubras
Cuando utilizas IA en ambos lados del proceso de contratación —candidatos que la usan para escribir y reclutadores que la usan para filtrar—, creas una nueva categoría de sesgo que los marcos de equidad tradicionales pasan por alto. No es algo que se resuelva de la noche a la mañana.
Construye un proceso que puedas mejorar y respaldar cuando alguien te pregunte cómo tomas tus decisiones de contratación.
No puedes controlar lo que no puedes ver
La IA en la sombra prospera en la oscuridad. Cuando tus reclutadores filtran currículums en ChatGPT fuera de tu proceso oficial, no puedes medir lo que sucede, corregir lo que no funciona ni demostrar que tu contratación es justa.
Integra la selección por IA en tu ATS, rastrea los resultados y construye un proceso que realmente puedas defender. Eso no es solo una buena práctica; es la diferencia entre esperar que tu contratación sea justa y tener la certeza de que lo es.
¿Listo para filtrar candidatos de manera justa sin sacrificar la velocidad? Prueba la plataforma de reclutamiento con IA de Breezy, que incluye detección de sesgos, revisión humana y criterios de selección transparentes. Obtén tus primeros 14 días gratis.
