AI Weekly: la tecnología de vigilancia en el lugar de trabajo promete seguridad, pero no derechos de los empleados


Todos los temas relacionados con la vigilancia de pandemia y la erupción de persecución que se le han ocurrido a la sociedad en su conjunto se fusionan en el lugar de trabajo, donde las personas pueden tener poca o ninguna opción de presentarse al trabajo o qué tipo de vigilancia Acepte de su empleador.

Nuestras bandejas de entrada están llenas de problemas con las herramientas y aplicaciones de seguridad y seguimiento del lugar de trabajo basadas en IA, a menudo de compañías más pequeñas o más nuevas. Algunos son aceite de serpiente, otros parecen más legítimos, pero ahora estamos viendo compañías de tecnología más grandes que aprenden más sobre sus ofertas de vigilancia en el lugar de trabajo. Las soluciones de compañías tecnológicas grandes y establecidas presumiblemente cumplen con las funciones que prometen y ofrecen importantes herramientas de seguridad. Sin embargo, no crean confianza en los derechos o la privacidad de los trabajadores.

IBM anunció recientemente Watson Works en un correo electrónico que describe: “Un conjunto de productos seleccionados que incorporan modelos y aplicaciones de Inteligencia Artificial (AI) de Watson para ayudar a las empresas a abordar muchos aspectos del desafío de Apoyar el regreso al trabajo después de que se hayan introducido prohibiciones para frenar la propagación de COVID-19. “En la primera versión, curiosamente había pocos detalles sobre los componentes de Watson Works. Principalmente formuló prioridades fijas en el lugar de trabajo, priorizando la salud de los empleados; comunicarse rápidamente Maximizar la efectividad del seguimiento de contactos; y administrar instalaciones, optimizar la asignación de almacenamiento y garantizar el cumplimiento de las normas de seguridad.

IBM hace todo esto mediante la recopilación y el monitoreo de fuentes de datos externas e internas para rastrear, producir y tomar decisiones. Estas fuentes de datos incluyen información sobre salud pública, así como "WLAN, cámaras, balizas Bluetooth y teléfonos móviles" en el lugar de trabajo. Aunque el lanzamiento incluye un descargo de responsabilidad de que Watson Works se adhiere a los principios de confianza y transparencia de IBM y protege la privacidad de los empleados al recopilar datos, quedan preguntas serias.

VB Transform 2020 en línea – 15.-17. Julio. Únase a los principales líderes de IA: regístrese para la transmisión en vivo gratuita.

Después de que VentureBeat le envió un correo electrónico a IBM, un representante de IBM respondió con algunas respuestas y más detalles sobre Watson Works (y aquí hay mucha información sobre el sitio de construcción de Watson). El conjunto de herramientas de Watson Works incluye Watson Assistant, Watson Discovery, IBM Tririga, Watson Machine Learning, Watson Care Manager e IBM Maximo Worker Insights, que extraen y procesan datos en tiempo real de las fuentes anteriores.

A juzgar por los comentarios sobre VentureBeat, el enfoque de IBM sobre cómo usan sus clientes Watson Works es bastante sencillo. Cuando se trata de quién es responsable si un empleado se enferma o se violan sus derechos, IBM recurrió a los tribunales y legisladores. El representante aclaró que el cliente recopila y almacena datos, sin embargo, y durante el período elegido por el cliente. IBM procesa los datos, pero no recibe datos sin procesar, como información de frecuencia cardíaca o la ubicación de una persona. Los datos se almacenan en la nube de IBM, pero el cliente posee y gestiona los datos. En otras palabras, IBM facilita y proporciona los medios para la recopilación de datos, el seguimiento, el análisis y las acciones posteriores, pero todo lo demás depende del cliente.

Este enfoque de responsabilidad está clasificado como un nivel por Tim O & # 39; Brien de Microsoft. En una sesión de construcción de 2019 sobre ética, describió cuatro escuelas de pensamiento sobre la responsabilidad de una empresa por la tecnología que fabrica:

  1. Somos un proveedor de plataforma y no tenemos responsabilidad (de lo que hacen los compradores con la tecnología que vendemos). hacerlo)
  2. Regularemos nuestros procesos comerciales nosotros mismos y haremos lo correcto.
  3. Haremos lo correcto, pero el gobierno debe asociarse con nosotros para establecer un marco regulatorio
  4. Esta tecnología debería ser eliminada.

IBM no está solo en su posición de "nivel uno". Un reciente informe de VentureBeat de Kyle Wiggers encontró que las compañías de drones han seguido en gran medida un enfoque similar a las ventas de tecnología a las agencias de aplicación de la ley. (El fabricante de aviones no tripulados Parrot, en particular, se negó a comentar sobre esta historia, pero unas semanas más tarde, el CEO de la compañía, en una entrevista con Protocol, explicó por qué era conveniente tener al ejército de los EE. UU. Y a la policía como clientes).

Cuando HPE anunció su propio agradecimiento a la tecnología para reanudar el trabajo, siguió el libro de jugadas de IBM: publicó un comunicado de prensa con resúmenes claros de problemas en el lugar de trabajo y soluciones de HPE sin muchos detalles (aunque puede hacer clic para obtener más información sobre la amplia gama experimentar). Sin embargo, estos resúmenes enumeran algunos puntos que merecen una ceja levantada, como el uso del reconocimiento facial para la entrada sin contacto al edificio. Con respecto a las políticas de privacidad, seguridad y cumplimiento de los clientes, la compañía escribió en parte: “HPE está trabajando en estrecha colaboración con clientes de todo el mundo para ayudarlos a comprender las capacidades de las nuevas soluciones de regreso al trabajo, incluido el tipo y Cómo se recopilan los datos. transferido, analizado y guardado. Los clientes pueden usar políticas legales, regulatorias y corporativas relevantes que rigen la protección de datos para determinar cómo manejan sus datos. “

El asistente de eliminación de Amazon parece ser una aplicación bastante útil e inofensiva de Computer Vision en el lugar de trabajo. Escanea las aceras y superpone marcas verdes o rojas para que las personas sepan si mantienen la distancia social correcta cuando se mueven en el trabajo. Por otro lado, la compañía está bajo control legal y se ocupa de las objeciones de los trabajadores a la falta de seguridad de los virus corona en sus propias instalaciones.

En un discurso de apertura en el chat de Chipper junto a la chimenea en la conferencia sobre Visión por Computadora y Reconocimiento de Patrones (CVPR), el CEO de Microsoft, Satya Nadella, hizo campaña por las habilidades de "comprensión 4D" de la compañía en nombre de la seguridad laboral. Sin embargo, en una demostración de video, puede ver que se trata solo de una mayor vigilancia de los empleados: rastree los cuerpos de las personas en la habitación entre sí y rastree los objetos en sus estaciones de trabajo para asegurarse de que estén haciendo su trabajo correctamente y en el ejecutar el orden correcto Desde la perspectiva del empleador, este tipo de vigilancia significa una mejora en la seguridad y la eficiencia. Pero, ¿qué trabajador quiere literalmente cada movimiento que hace sobre el tema de una prueba controlada por IA?

Para ser justos con IBM, está completamente fuera del negocio de reconocimiento facial, supuestamente por razones morales, y la visión por computadora en Watson Works. El representante de la compañía dijo que solo estaba destinado al reconocimiento de objetos y no a la identificación de personas. Y la mayoría de los trabajos donde se utiliza esta tecnología no están tan congestionados como los militares o las fuerzas del orden.

Sin embargo, cuando un proveedor de tecnología como IBM renuncia a la responsabilidad de las prácticas éticas en la vigilancia en el lugar de trabajo, todo el poder está en manos de los empleadores y, por lo tanto, desempodera a los trabajadores. Mientras tanto, los proveedores de tecnología se están beneficiando.

Necesitamos tecnologías que nos ayuden a volver a trabajar de manera segura, y es bueno que haya numerosas opciones. Sin embargo, es preocupante que el tono de muchas de las soluciones que vemos, incluidas las de las empresas de tecnología más grandes, sea moralmente agnóstico y que las soluciones en sí mismas no parezcan dar poder a los trabajadores. No podemos olvidar que la tecnología puede ser una herramienta tan simple como un arma, y ​​que sin contextos culturales e históricos (como las personas que desean desesperadamente mantener su trabajo en un desempleo históricamente pobre) no podemos entender el daño potencial (o beneficio) ) de tecnología.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *