Discriminación de datos
Comencemos esto con una pregunta. ¿Cómo se sentiría si le negaran una entrevista para un trabajo porque la inteligencia artificial ha determinado una alta probabilidad de que tenga un rendimiento inferior? ¿O si su supervisor lo degradó porque un programa de software predijo que eventualmente excedería el número promedio de días de enfermedad que toman todos los empleados en total?
La explosión actual de big data y aprendizaje automático ha presentado un panorama completamente nuevo de desafíos para empleadores y empleados. Ahora tenemos la capacidad de predecir el comportamiento en función de grandes conjuntos de datos. Sin embargo, esto no presenta un panorama muy optimista para los empleados. El uso de datos como un único discriminador (a diferencia de factores como la edad, el género, la raza, etc.) se denomina discriminación basada en datos .
Datos neutrales
Aquellos que presionan por la toma de decisiones basada en datos afirman que producirá decisiones más neutrales porque los datos no discriminan. Elimina nuestra dependencia de los sentimientos viscerales sobre un candidato o el desempeño de un empleado. Después de todo, si está considerando un empleado para un ascenso, es posible que su mente esté en su desempeño más reciente y no en la medida completa de sus acciones.
La inteligencia artificial puede encontrar relaciones entre elementos en los que quizás nunca haya pensado. Por ejemplo, podría decirle que el 95% de los empleados que usan Chrome tienen problemas de asistencia. El análisis de los hábitos de navegación de sus empleados lo llevaría a descartar a cualquier candidato para un trabajo o promoción que use Chrome.
¿Es justo? Por un lado, los defensores del análisis de datos a gran escala lo alentarían a mirar los datos, independientemente de la aparente equidad. Por otro lado, nuestra intuición humana se da cuenta de que algo no está del todo bien con esa imagen. Si los departamentos de su empresa requieren el uso de Chrome, entonces no tiene ningún fundamento para negar las promociones, independientemente de lo que digan los datos.
Para crear un entorno de trabajo inclusivo, depender únicamente de decisiones basadas en datos puede generar divisiones. ¿Deberíamos confiar en medidas de desempeño neutrales? Estos pueden incluir el número de turnos perdidos o los días que el empleado llegó tarde. Sí, porque estos son elementos que medimos como supervisores. Pero cuando los datos nos dicen que el navegador web es la razón para denegar una promoción, debemos intervenir.
Datos contra humanos
Se podría argumentar que el uso de datos y la intervención humana son las dos cosas. En otras palabras, confió en los datos, pero solo hasta ahora ha encajado con sus percepciones o visiones del mundo (o, en el peor de los casos, ha confirmado su sesgo original). Pero si confía solo en los datos, ¿no está discriminando? Especialmente si no analiza los datos, no puede simplemente afirmar que todos los empleados que usan Chrome ahora no son elegibles para la promoción. Eso refleja muy de cerca otra discriminación.
Como supervisor, debe poder demostrar la precisión de los datos que está midiendo y explicar cómo funciona el modelo elegido. En otras palabras, ¿qué elementos analizó? ¿Cómo determinaste lo bueno o lo malo? Piense en cosas que pueda medir que sean realmente aplicables al trabajo:
- Registro de asistencia (días perdidos, retrasados, etc.)
- Quejas de clientes y tipo de cliente (por ejemplo, si busca patrones con clientes específicos)
- Estadísticas de reelaboración (por ejemplo, buscar correlaciones entre los tipos de trabajo y la cantidad de reelaboración que se realiza)
- Historial de navegación web
Debe poder demostrar que el modelo es válido y significativo. Por ejemplo, no puede discriminar a los empleados que usan camisas moradas. Además, los datos que mide no pueden caer en ninguna clasificación protegida, como género, raza, etc. Sí, los datos a gran escala encontrarán correlaciones si usa estas métricas, pero luego ha discriminado y obviamente no ha creado una entorno inclusivo.
Los empleados también pueden sentir que están siendo evaluados por una máquina o que una máquina está tomando las decisiones en el lugar de trabajo. Esto tiene el potencial de frenar la moral general de los empleados. Debe asegurar a los empleados que los datos se utilizan junto con su experiencia y conocimiento.
Conciencia basada en datos
El ejemplo del navegador web Chrome puede sonar descabellado, pero a menudo se menciona en la literatura como una correlación muy real. Las aplicaciones y las promociones potenciales se tiran a la papelera de reciclaje en función de las correlaciones que encuentra el análisis de big data.
Las empresas intentarán venderle sus herramientas para el análisis de candidatos y para las decisiones de promoción. » Elimine la necesidad de revisar su intestino; en su lugar, consulte nuestro panel de control ». Cosas así. Estas soluciones pueden ser perfectamente válidas, pero debe estar informado sobre lo que se está midiendo y, sin embargo, también poder revisar los candidatos que fueron rechazados y aceptados.
Sí, volvemos a hacer un chequeo instintivo, pero hemos visto que las decisiones basadas en datos pueden conducir a una discriminación basada en datos. Recuerde, los empleados pueden considerar que un lugar de trabajo diverso es inclusivo. El peligro de depender por completo de decisiones basadas en datos es que veremos el regreso a un lugar de trabajo homogéneo. Esta vez, es la inteligencia artificial la que examinó la diversidad.
Finalmente, recuerde que los humanos son los que le dieron a las máquinas todos los datos en primer lugar. Si las correlaciones y los patrones no tienen sentido, observe los valores de entrada. La inteligencia artificial está encontrando patrones en los datos que tiene. Si no tiene los datos correctos, las decisiones no serán tan sólidas. Asegúrese de cuestionar el conjunto de datos subyacente y su fuente. Tal vez todas las personas con una camisa morada fueron marcadas por error con alguna otra métrica (por ejemplo, días de retraso en el trabajo).
Resumen de la lección
Repasemos lo que hemos aprendido sobre la discriminación basada en datos en el lugar de trabajo. Discriminación basada en datoses la discriminación contra los empleados basada en lo que establece el análisis de datos. Si el software de inteligencia artificial determina que los empleados que usan camisas moradas son más productivos y usted los asciende, es una forma de discriminación. Los defensores del uso de datos para estas decisiones afirman que el análisis elimina el sesgo humano y las decisiones instintivas. Los opositores, por otro lado, afirman que elimina cualquier elemento humano en la toma de decisiones y crea un entorno divisivo y no inclusivo. Incluso existe el peligro potencial de que los métodos basados en datos recreen las vías tradicionales de discriminación. El uso de datos para analizar el desempeño pasado es importante para las promociones, pero como supervisor, aún necesita confiar en su intuición humana.
Continúa con:
- Ciencias Económicas
Tipos de actitudes en el lugar de trabajo: componentes cognitivos, afectivos y conductuales
¿Qué son las actitudes? Cualquiera que haya tenido un niño de 2 años comprende perfectamente...
- Filosofía
Discriminación en el empleo: definición y leyes
Maltratado en el trabajo Gloria Parks tenía 54 años cuando fue despedida de su trabajo...
- Administración
Reducir el sesgo inconsciente en el lugar de trabajo: estrategias y procesos
¿Qué es el sesgo inconsciente? Kara ha estado trabajando en la misma empresa durante algunos...
- Profesiones
Enfermera profesional registrada avanzada: descripción del trabajo y requisitos
Las enfermeras practicantes registradas avanzadas brindan atención médica a los pacientes en una capacidad similar...