La vigilancia mediante IA en el lugar de trabajo genera preocupaciones sobre la privacidad.

Grandes corporaciones estadounidenses han implementado sistemas de vigilancia con IA. Estos sistemas analizan las comunicaciones de los empleados en aplicaciones empresariales populares como Slack, Teams y Zoom. Los modelos de IA afirman analizar tanto el texto como las imágenes publicadas por los empleados, evaluar el sentimiento y detectar comportamientos como el acoso, la discriminación y el incumplimiento de normas.

Uso en el entorno corporativo

Algunas empresas utilizan estas herramientas para evaluar las reacciones de los empleados ante las políticas corporativas. Estas herramientas nodenta los individuos. Otras las utilizan para marcar publicaciones específicas de ciertas personas. Aware, proveedor líder de estos sistemas de vigilancia con IA, cuenta con una amplia cartera de clientes, entre los que se incluyen grandes empresas como Chevron, Delta, Starbucks, T-Mobile y Walmart. La empresa afirma haber analizado más de 20 000 millones de interacciones, con la participación de más de tres millones de empleados.

Sin embargo, se han planteado inquietudes sobre la posible invasión de la privacidad y la naturaleza orwelliana de estos sistemas de vigilancia. Los críticos temen que se trate la comunicación de los empleados como delitos de pensamiento y que esto pueda inhibir el diálogo en el lugar de trabajo. Jutta Williams, cofundadora de Humane Intelligence, una organización sin fines de lucro dedicada a la responsabilidad en materia de IA, argumenta que dicha vigilancia podría conducir a un trato injusto hacia los empleados y a un deterioro de la confianza dentro de las organizaciones.

Consideraciones legales y éticas

Los expertos destacan las consideraciones legales y éticas que rodean la IA de vigilancia de empleados. Hacen hincapié en la necesidad de equilibrar el derecho a la privacidad y la necesidad de supervisar las conductas de riesgo. Amba Kak, directora ejecutiva del Instituto AI Now de la Universidad de Nueva York, está preocupada por el uso de la IA para detectar conductas de riesgo y advierte sobre los posibles efectos disuasorios en la comunicación. Además, existe el temor de que incluso los datos agregados puedan desanonimizarse fácilmente, lo que supone un riesgo para la privacidad individual.

Respuesta regulatoria a la vigilancia de la IA

La Comisión Federal de Comercio, el Departamento de Justicia y la Comisión para la Igualdad de Oportunidades en el Empleo han manifestado su preocupación por el uso de sistemas de vigilancia con inteligencia artificial en el ámbito laboral. Estas agencias consideran que se trata de una cuestión que atañe tanto a los derechos de los trabajadores como a su privacidad, e insisten en la necesidad de una regulación integral que proteja los derechos de los empleados y, al mismo tiempo, permita una gestión eficaz de los riesgos en los entornos corporativos.

El uso de sistemas de vigilancia con IA en el ámbito laboral plantea complejos problemas éticos, legales y de privacidad. Estos problemas requieren una cuidadosa consideración y regulación. Si bien estos sistemas pueden ofrecer ventajas en la gestión de riesgos y el cumplimiento normativo, también representan riesgos significativos para la privacidad y la libertad de expresión de los empleados. A medida que las organizaciones continúan adoptando tecnologías de IA con fines de vigilancia, es fundamental encontrar un equilibrio. Este equilibrio debe mantener un entorno laboral seguro y productivo, y respetar los derechos de los empleados a la privacidad y la libertad de expresión.