Cuatro pasos para redactar prácticas de datos éticos – TechCrunch


En 2019, el servicio de salud Optum de UnitedHealthcare proporcionó a 50 organizaciones de salud un algoritmo de aprendizaje automático. El software permitió a los médicos y enfermeras controlar a los pacientes con diabetes, enfermedades cardíacas y otras enfermedades crónicas, administrar sus recetas y organizar visitas al médico. Optum está bajo investigación después de que la investigación muestra que el algoritmo (supuestamente) recomienda prestar más atención a los pacientes blancos que a los pacientes negros enfermos.

Las guías de datos y análisis de hoy tienen la tarea de crear valor con los datos. Debido a sus habilidades y su área de responsabilidad, también están en una posición organizacionalmente única para promover prácticas éticas de datos. La falta de un marco operacional, escalable y sostenible para la ética de los datos aumenta el riesgo de malas prácticas comerciales, violaciones de la confianza de las partes interesadas, daños a la reputación de una marca, investigaciones oficiales y litigios.

Aquí hay cuatro prácticas clave que los directores / científicos de datos y los directores de análisis (CDAO) deben participar en la creación de su propio marco para datos éticos y prácticas comerciales.

Identifique un panel de expertos existente en su organización para hacer frente a los riesgos de datos.

El CDAO debe identificar e implementar las oportunidades económicas para el análisis. Existe un riesgo asociado con la oportunidad. Independientemente de si los datos se usan internamente, por ejemplo, para aumentar la lealtad del cliente o la eficiencia de la cadena de suministro, o si se integran en productos y servicios orientados al cliente, estos gerentes deben identificar explícitamente y reducir el riesgo de daños asociados con el uso de los datos.

Una buena manera de comenzar a construir prácticas éticas de datos es contactar a los grupos existentes, como una junta de gobierno de datos que ya está preocupada por cuestiones de privacidad, cumplimiento normativo y riesgo cibernético. para crear un marco para la ética de los datos. La integración de un marco ético con la infraestructura existente aumenta la probabilidad de una adquisición exitosa y eficiente. Si no existe dicho organismo, se debería crear un nuevo organismo con expertos relevantes de la organización. El órgano rector de la ética de los datos debe ser responsable de formalizar los principios de la ética de los datos y de poner en práctica esos principios para los productos o procesos que están en desarrollo o que ya se han implementado.

Asegúrese de que la recopilación y el análisis de datos sean adecuadamente transparentes y protejan la privacidad.

Todos los proyectos de análisis e IA requieren una estrategia de adquisición y análisis de datos. La recopilación de datos éticos debe incluir al menos lo siguiente: Garantizar el consentimiento informado para la recopilación de datos personales, garantizar el cumplimiento de las disposiciones legales, p. B. Cumplimiento del RGPD, anonimato de los datos personales para que no se puedan deshacer adecuadamente, con el fin de revelar identidades y proteger la privacidad.

Algunas de estas normas, como la protección de la privacidad, no necesariamente tienen que ser un nivel fijo y rápido que deba cumplirse. Los CDAO deben evaluar el equilibrio correcto entre las consideraciones éticas y el impacto de sus decisiones en los resultados comerciales. Estos estándares deben traducirse a las responsabilidades de los gerentes de producto, quienes a su vez deben asegurarse de que los recolectores de datos a la vanguardia actúen de acuerdo con estos estándares.

Los CDAO también tienen que comentar sobre ética algorítmica y transparencia. Por ejemplo, ¿debería una función de búsqueda basada en IA o un sistema de recomendación esforzarse por obtener la máxima precisión de predicción y proporcionar la mejor suposición posible sobre lo que el usuario realmente quiere? ¿Es ético crear microsegmentos y limitar los resultados o recomendaciones a lo que otras "personas similares" han hecho clic en el pasado? ¿Y es éticamente correcto incluir resultados o recomendaciones que no son predecibles pero que maximizan las ganancias para terceros? ¿Cuánta transparencia algorítmica es apropiada y cuán importante es para los usuarios? Un plan ético sólido requiere una gestión sistemática y específica de estos problemas en lugar de transferir estas decisiones a científicos de datos individuales y desarrolladores de tecnología que carecen de la capacitación y la experiencia para tomar estas decisiones.

Anticipando y evitando resultados desiguales

El Departamento de Gerentes de Producto necesita orientación sobre cómo anticipar resultados desiguales y sesgados. Las desigualdades y distorsiones pueden ocurrir simplemente debido a los desequilibrios en la recopilación de datos. Por ejemplo, una herramienta de reconocimiento facial que ha sido entrenada en 100,000 rostros masculinos y 5,000 femeninos probablemente funcione de manera diferente dependiendo del género. Los CDAO deben ayudar a garantizar conjuntos de datos equilibrados y representativos.

Otras distorsiones son menos obvias, pero igual de importantes. En 2019, Apple Card y Goldman Sachs fueron acusadas de sesgo de género cuando otorgaron a los hombres líneas de crédito más altas que a las mujeres. Aunque Goldman Sachs afirmó que el crédito, no el género, fue el factor que impulsó las decisiones crediticias, el hecho de que las mujeres tuvieran menos opciones de crédito en el pasado probablemente significaba que el algoritmo prefería a los hombres.

Para mitigar las desigualdades, los CDAO tienen que ayudar a los desarrolladores técnicos a controlar a los gerentes de productos de manera equitativa. Si bien la literatura de TI ofrece innumerables métricas y definiciones de equidad, los desarrolladores no pueden elegir una a menos que trabajen con líderes empresariales y expertos externos que puedan proporcionar una comprensión contextual profunda de cómo se utilizan los datos en última instancia. Una vez que se han seleccionado los estándares de equidad, deben comunicarse efectivamente a los recolectores de datos para garantizar su cumplimiento.

Alineando la estructura organizativa con el proceso de identificación de riesgos éticos.

Los CDAO a menudo desarrollan capacidades analíticas de dos maneras: a través de un centro de excelencia que sirve a toda una empresa o un modelo distribuido con científicos de datos y analistas que invierten en áreas funcionales específicas como Comercialización, finanzas u operaciones. Independientemente de la estructura organizativa, los procesos y las secciones para identificar riesgos éticos deben comunicarse claramente y promoverse adecuadamente.

Los pasos clave incluyen:

  • Determinación clara de responsabilidad a través de enlaces entre el panel de ética de datos y los departamentos y equipos. Esto puede ser logrado por cada departamento o equipo designando su propio "defensor de la ética" para monitorear los problemas éticos. Los campeones deben ser capaces de plantear inquietudes sobre la ética de los datos, lo que puede proporcionar asesoramiento sobre estrategias de mitigación, como ampliar los datos existentes, mejorar la transparencia o crear una nueva función de objetivo.
  • Garantizar definiciones y procesos uniformes en todos los equipos a través de la capacitación y la educación superior Información sobre datos y ética de la inteligencia artificial.
  • Ampliar las perspectivas del equipo para identificar y solucionar problemas éticos facilitando la colaboración entre equipos internos y compartiendo ejemplos e investigaciones de otras áreas.
  • Creando incentivos – financieros u otros reconocimientos – para construir una cultura que valore la identificación y mitigación de riesgos éticos.

Los CDAO son responsables del uso estratégico y el suministro de datos con el fin de aumentar las ventas de nuevos productos y crear mayores consistencias internas. Hoy en día, demasiados líderes empresariales y de datos están tratando de ser "éticos" simplemente sopesando los pros y los contras de tomar decisiones cuando surgen. Esta perspectiva miope crea riesgos innecesarios de reputación, financieros y organizacionales. Así como un enfoque estratégico de los datos requiere un programa de gobierno de datos, el buen gobierno de datos requiere un programa de ética. En pocas palabras, la buena gestión de datos es una gestión de datos ética.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *