La IA responsable le da una ventaja competitiva


¿Te perdiste una sesión de la Cumbre sobre el Futuro del Trabajo? Visite nuestra biblioteca a pedido de Future of Work Summit para transmitir.


No hay duda de que la IA está transformando el panorama empresarial y brindando una ventaja competitiva a quienes la adoptan. Sin embargo, es hora de ir más allá de la simple implementación de la IA y garantizar que la IA se realice de manera segura y ética. Esto se llama IA responsable y sirve no solo como protección contra las consecuencias negativas, sino también como una ventaja competitiva en sí misma.

¿Qué es la IA responsable?

La IA responsable es un marco de gobernanza que cubre las obligaciones éticas, legales, de seguridad, de privacidad y de responsabilidad. Aunque la implementación de la IA responsable varía de una empresa a otra, la necesidad es clara. Sin prácticas responsables de IA, una empresa enfrenta serios riesgos financieros, de reputación y legales. En el lado positivo, las prácticas responsables de IA se están convirtiendo en requisitos previos incluso para poder presentar ofertas en ciertos contratos, especialmente cuando los gobiernos están involucrados; Una estrategia bien ejecutada contribuirá en gran medida a ganar estas ofertas. Además, la introducción de una IA responsable puede contribuir a mejorar la reputación de la empresa en su conjunto.

Valores a través del diseño

Gran parte del problema con la implementación de IA responsable está relacionado con la previsión. Esta previsión es la capacidad de predecir qué problemas éticos o legales podría enfrentar un sistema de IA durante su ciclo de vida de desarrollo e implementación. Actualmente, la mayoría de las consideraciones de IA responsables tienen lugar después de que se haya desarrollado un producto de IA, una forma muy ineficaz de implementar la IA. Si desea proteger su negocio de los riesgos financieros, legales y de reputación, debe lanzar proyectos teniendo en cuenta la IA responsable. Su empresa debe tener valor por diseño, no lo que tiene al final de un proyecto.

Implementar valores a través del diseño

La IA responsable cubre una variedad de valores que deben ser priorizados por el liderazgo empresarial. Si bien es importante cubrir todas las áreas en cualquier plan de IA responsable, la cantidad de esfuerzo que su empresa pone en cada valor depende de los líderes empresariales. Debe haber un equilibrio entre las pruebas de IA responsable y la implementación real de la IA. Si te involucras demasiado con la IA responsable, tu efectividad puede verse afectada. Por otro lado, ignorar la IA responsable significa un uso imprudente de los recursos de la empresa. La mejor manera de combatir esta compensación es comenzar con un análisis exhaustivo al comienzo del proyecto en lugar de después del hecho.

La mejor práctica es establecer un comité de IA responsable que revise sus proyectos de IA antes de que comiencen, regularmente durante los proyectos y después de su finalización. El propósito de este comité es evaluar el proyecto en relación con los valores de IA responsable y aprobar, denegar o denegar acciones para que el proyecto cumpla. Esto puede implicar obtener más información o cosas que deben cambiarse fundamentalmente. Al igual que una junta de revisión institucional diseñada para supervisar la ética en la investigación biomédica, este comité debe incluir tanto a expertos en IA como a miembros no técnicos. Los miembros no técnicos pueden ser de cualquier origen y servir como una verificación de la realidad para los expertos en IA. Los profesionales de IA, por otro lado, pueden comprender mejor las dificultades y las posibles soluciones, pero pueden acostumbrarse demasiado a las normas institucionales y de la industria que pueden no ser lo suficientemente sensibles a las preocupaciones de la comunidad en general. Este comité debe ser convocado al inicio del proyecto, periódicamente durante el proyecto y al final del proyecto para su aprobación final.

¿Qué valores debe considerar el Comité de IA Responsable?

La empresa debe considerar los valores en los que centrarse de una manera que se ajuste a la declaración de misión general. Es probable que su empresa enfatice ciertos valores, pero todas las áreas importantes deben estar cubiertas. Hay muchos marcos que puede usar como inspiración, como B. las de Google y Facebook. Para este artículo, sin embargo, basaremos la discusión en las recomendaciones del Grupo de Expertos de Alto Nivel sobre Inteligencia Artificial, establecidas por la Comisión Europea en la Trusted Artificial Intelligence Rating List. Estas recomendaciones cubren siete áreas. Examinaremos cada área y sugeriremos preguntas para hacer sobre cada área.

1. Acción humana y control

Los proyectos de IA deben respetar la agencia humana y la toma de decisiones. Este principio incluye cómo el proyecto de IA influye o apoya a las personas en la toma de decisiones. También se trata de cómo los sujetos de la IA toman conciencia de la IA y tienen confianza en sus resultados. Algunas preguntas que deben hacerse son:

  • ¿Los usuarios son conscientes de que una decisión o resultado es el resultado de un proyecto de IA?
  • ¿Existe un mecanismo de detección y respuesta para monitorear los impactos adversos del proyecto de IA?

2. Robustez técnica y seguridad

La solidez técnica y la seguridad requieren que los proyectos de IA aborden de manera preventiva las preocupaciones sobre los riesgos asociados con el rendimiento poco confiable de la IA y minimicen su impacto. Los resultados del proyecto de IA deben cubrir la capacidad de la IA para trabajar de manera predecible y consistente, y deben cubrir la necesidad de que la IA esté protegida de los problemas de ciberseguridad. Algunas preguntas que deben hacerse son:

  • ¿El sistema de IA ha sido probado por expertos en ciberseguridad?
  • ¿Existe un proceso de seguimiento para medir y acceder a los riesgos asociados al proyecto de IA?

3. Privacidad y gestión de datos

La IA debe proteger la privacidad de las personas y los grupos, tanto en sus entradas como en sus salidas. El algoritmo no debe contener datos recopilados de una manera que viole la privacidad, y no debe producir resultados que violen la privacidad de los sujetos, incluso si los malos actores intentan forzar tales errores. Para hacer esto de manera efectiva, también se debe considerar la gobernanza de datos. Las preguntas apropiadas son:

  • ¿Los datos de entrenamiento o inferencia utilizan información personal patentada?
  • ¿Se pueden cruzar los resultados de este proyecto de IA con datos externos de una manera que viole la privacidad de alguien?

4. Transparencia

La transparencia incluye preocupaciones sobre la trazabilidad de los resultados individuales y la explicabilidad general de los algoritmos de IA. Debido a la trazabilidad, el usuario puede comprender por qué se tomó una decisión individual. La explicabilidad se refiere a que el usuario sea capaz de comprender los conceptos básicos del algoritmo utilizado para tomar la decisión. También se refiere a la capacidad del usuario para comprender qué factores estuvieron involucrados en el proceso de toma de decisiones para su predicción específica. Las preguntas para hacer son:

  • ¿Supervisa y registra la calidad de los datos de entrada?
  • ¿Puede un usuario obtener comentarios sobre cómo se tomó una decisión en particular y qué podría hacer para cambiar esa decisión?

5. Diversidad, no discriminación

Para ser considerado IA responsable, el proyecto de IA debe funcionar lo mejor posible para todos los subgrupos de personas. Aunque el sesgo de la IA rara vez se puede eliminar por completo, se puede gestionar de manera efectiva. Esta mitigación se puede realizar durante el proceso de recopilación de datos, para incluir antecedentes más diversos de personas en el conjunto de datos de capacitación, y también se puede usar en el momento de la inferencia para equilibrar la precisión entre diferentes grupos de personas. Las preguntas frecuentes son:

  • ¿Ha equilibrado su conjunto de datos de entrenamiento lo mejor posible para incluir diferentes subconjuntos de personas?
  • ¿Define la equidad y luego evalúa los resultados cuantitativamente?

6. Bienestar social y ambiental

Un proyecto de IA debe evaluarse en términos de su impacto en los sujetos y usuarios, así como en el medio ambiente. Deben respetarse las normas sociales como la toma de decisiones democrática, la defensa de los valores y la prevención de la adicción a los proyectos de IA. Además, se deberán tener en cuenta los resultados de las decisiones ambientales del proyecto de IA, en su caso. Un factor que es aplicable en casi todos los casos es una evaluación de la cantidad de energía requerida para entrenar los modelos requeridos. Preguntas que se pueden hacer:

  • ¿Ha evaluado el impacto del proyecto en sus usuarios y sujetos y otras partes interesadas?
  • ¿Cuánta energía se necesita para entrenar el modelo y cuánto contribuye eso a las emisiones de CO2?

7. Responsabilidad

Una persona u organización debe ser responsable de las acciones y decisiones tomadas como parte del proyecto de IA o encontradas durante el desarrollo. Debería haber un sistema para garantizar medios adecuados de reparación en los casos en que se toman decisiones adversas. También se debe dedicar algo de tiempo y atención a la gestión y mitigación de riesgos. Las preguntas apropiadas son:

  • ¿Se puede comprobar el sistema de IA en busca de riesgos por parte de terceros?
  • ¿Cuáles son los mayores riesgos asociados con el proyecto de IA y cómo se pueden mitigar?

El resultado final

Los siete valores de la IA responsable descritos anteriormente proporcionan un punto de partida para la iniciativa de IA responsable de una organización. Las organizaciones que eligen IA responsable descubrirán que cada vez tienen más acceso a más oportunidades, como licitaciones para contratos gubernamentales. Las organizaciones que no implementan estas prácticas se exponen a riesgos legales, éticos y de reputación.

David Ellison es científico sénior de datos de IA en Lenovo.

VentureBeat

La misión de VentureBeat es ser un mercado digital para que los tomadores de decisiones tecnológicas aprendan sobre tecnologías y transacciones transformadoras. Nuestro sitio proporciona información esencial sobre tecnologías de datos y estrategias para ayudarlo a administrar sus organizaciones. Te invitamos a hacerte miembro de nuestra comunidad y acceder a:

  • información actualizada sobre los temas que son de su interés
  • nuestros boletines
  • Contenido exclusivo de Thought Leader y acceso con descuento a nuestros valiosos eventos, como Transformación 2021: Aprende más
  • funciones de red y más

convertirse en miembro

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *