Cinco formas de llevar una lente UX a su proyecto de IA – TechCrunch


A medida que las herramientas de inteligencia artificial y aprendizaje automático se vuelven más completas y accesibles, los equipos de productos y desarrollo en todo tipo de organizaciones desarrollan productos y características innovadoras basadas en inteligencia artificial. La IA es particularmente adecuada para el reconocimiento, predicción y pronóstico de patrones, así como para personalizar la experiencia del usuario que es común en las organizaciones que manejan datos.

Un precursor del uso de la IA son los datos, ¡muchísimos! Generalmente se requieren grandes cantidades de datos para entrenar un modelo de IA, y cualquier organización con grandes cantidades de datos sin duda enfrentará desafíos que la IA puede resolver. Alternativamente, la adquisición de datos puede ser la "fase uno" del desarrollo de productos de IA si aún no hay registros de datos disponibles.

Independientemente de los registros que desee utilizar, es muy probable que haya personas involucradas en la recopilación de estos datos o que de alguna manera se ocupen de su función de IA. Los principios para el diseño UX y la visualización de datos deben tenerse en cuenta en una etapa temprana al recopilar datos y / o presentarlos a los usuarios.

1. Considere la experiencia del usuario temprano.

Saber cómo los usuarios interactúan con su producto de IA al comienzo del desarrollo del modelo puede ayudarlo a desarrollar pautas útiles para su proyecto de IA y garantizar que el equipo se concentre en un objetivo final común.

Si tomamos, por ejemplo, la sección "Recomendado para usted" de un servicio de transmisión de películas, que describe lo que el usuario verá en este rol antes de comenzar el análisis de datos. Como resultado, el equipo solo puede concentrarse en las ediciones de modelos que ofrecen un valor agregado. Si su investigación de usuario identifica el título, la imagen, los actores y la duración de la película como información valiosa para el usuario en la recomendación, el equipo de ingeniería tiene un contexto importante para decidir qué conjuntos de datos debe capacitar el modelo. Los datos del actor y la duración de la película parecen ser la clave para asegurarse de que las recomendaciones sean correctas.

La experiencia del usuario se puede dividir en tres partes:

  • Antes: ¿qué está tratando de lograr el usuario? ¿Cómo obtiene el usuario esta experiencia? ¿A dónde vas? ¿Qué deberías esperar?
  • Durante – ¿Qué debe ver para orientarse? ¿Está claro qué hacer a continuación? ¿Cómo se llevan a través de los errores?
  • Después: ¿logró el usuario su objetivo? ¿Hay un "final" claro para la experiencia? ¿Cuáles son los siguientes pasos (si los hay)?

Saber lo que debe ver un usuario antes, durante y después de interactuar con su modelo asegura que el equipo de ingeniería entrena el modelo AI desde el principio para proporcionar datos precisos, proporcionando resultados fáciles de usar. Es de lo más útil.

2. Sea transparente sobre cómo usa los datos.

¿Saben los usuarios qué sucede con los datos que recopilan de ellos y por qué los necesitan? ¿Tus usuarios tendrían que leer páginas de tus términos y condiciones para obtener una pista? Piense en agregar el razonamiento al producto en sí. Un simple "Esta información nos permite recomendar un mejor contenido" podría eliminar los puntos de fricción de la experiencia del usuario y agregar un nivel de transparencia a la experiencia del usuario.

Cuando los usuarios soliciten el apoyo de un consultor en The Trevor Project, dejaremos en claro que la información que solicitamos antes de conectarlos a un consultor se utiliza para brindarles un mejor soporte.

Créditos de las imágenes: Proyecto Trevor (se abre en una nueva ventana)

Cuando su modelo presenta los resultados a los usuarios, va un paso más allá y explica cómo su modelo llegó a su resultado . "¿Por que este anuncio?" Esta opción le brinda una idea de los factores que influyen en los resultados de búsqueda que se muestran. También puede deshabilitar completamente la personalización de los anuncios para que los usuarios puedan controlar cómo se usa su información personal. Al explicar cómo funciona su modelo o cuán preciso es, puede generar confianza en su base de usuarios y brindarles la capacidad de decidir si interactúan o no con el resultado en sus propios términos. Los bajos niveles de precisión también se pueden usar como un indicador para recopilar información adicional del usuario para mejorar su modelo.

3. Reúna el conocimiento del usuario sobre el rendimiento de su modelo.

Si solicita a los usuarios que proporcionen comentarios sobre su experiencia, el equipo del producto puede mejorar continuamente la experiencia del usuario con el tiempo. Al recopilar comentarios, considere cómo el equipo de ingeniería de IA puede beneficiarse de los comentarios continuos de los usuarios. ¡A veces las personas pueden detectar errores obvios que la IA no reconocería, y su base de usuarios son todas las personas!

Un ejemplo de capturar los comentarios de los usuarios en acción es cuando Google identifica un correo electrónico como peligroso pero permite al usuario usar su propia lógica para etiquetar el correo electrónico como "seguro". Esta corrección manual continua del usuario permite que el modelo aprenda continuamente cómo se ven los mensajes peligrosos con el tiempo.

Créditos de las fotos: Google

Si su base de usuarios también tiene conocimiento del contexto para explicar por qué la IA está mal, este contexto podría ser crítico para mejorar el modelo. Si un usuario nota una anomalía en los resultados devueltos por la IA, considere cómo puede darle al usuario una forma de informar fácilmente la anomalía. ¿Qué pregunta (s) podría hacerle a un usuario para obtener información importante para el equipo de ingeniería y proporcionar señales útiles para mejorar el modelo? Los equipos de desarrollo y los diseñadores de UX pueden trabajar juntos durante el desarrollo del modelo para planificar una recopilación temprana de comentarios y configurar el modelo para una mejora iterativa continua.

4. Evaluar la accesibilidad al recopilar datos de usuario

Los problemas de accesibilidad conducen a una recopilación de datos distorsionada, y la IA capacitada en conjuntos de datos negativos puede conducir a distorsiones de la IA. Por ejemplo, los algoritmos de reconocimiento de rostros entrenados en un conjunto de datos que consisten principalmente en rostros masculinos blancos son malos para cualquier persona que no sea blanca o masculina. Para organizaciones como The Trevor Project que apoyan directamente a los jóvenes LGBTQ, las consideraciones sobre orientación sexual e identidad de género son extremadamente importantes. La búsqueda externa de registros inclusivos es tan importante como garantizar que los datos que trae a la mesa o que tiene la intención de recopilar sean inclusivos.

Al recopilar datos de usuario, considere la plataforma que usan sus usuarios para interactuar con su IA y cómo podría hacerla más accesible. Si su plataforma requiere un pago que no cumple con las pautas de accesibilidad, o tiene una experiencia de usuario particularmente engorrosa, recibirá menos señales de personas que no pueden pagar la suscripción, tienen requisitos de accesibilidad o son menos conocedores de la tecnología.

Todos los líderes de productos y AI El ingeniero puede garantizar que los grupos marginados y subrepresentados de la sociedad puedan acceder a los productos que construyen. Comprender a quién excluye inconscientemente de su conjunto de datos es el primer paso para crear productos de IA más inclusivos.

5. Piense en cómo mide la equidad al comienzo del desarrollo del modelo.

La imparcialidad va de la mano para garantizar que sus datos de capacitación sean inclusivos. Para medir la equidad en un modelo, debe comprender cómo su modelo puede ser menos justo en ciertos casos de uso. Para los modelos que usan datos personales, puede ser un buen comienzo para verificar cómo se comporta el modelo en diferentes grupos demográficos. Sin embargo, si su conjunto de datos no contiene información demográfica, este tipo de análisis de equidad puede no ser posible.

Al diseñar su modelo, piense en cómo sus datos pueden distorsionar la salida o cómo ciertas personas pueden tener un suministro insuficiente. Asegúrese de que los registros que utiliza para entrenar y los datos que recopila de los usuarios sean lo suficientemente ricos como para medir la equidad. Piense en cómo supervisa la equidad como parte del mantenimiento regular del modelo. Establezca un umbral de equidad y cree un plan sobre cómo ajustaría el modelo o volvería a entrenar si se vuelve menos justo con el tiempo.

Como técnico nuevo o experimentado que desarrolla herramientas basadas en inteligencia artificial, nunca es demasiado temprano o demasiado tarde. Piense en cómo perciben sus herramientas los usuarios y cómo les afectan. La tecnología de IA tiene el potencial de llegar a millones de usuarios a gran escala y puede usarse en aplicaciones de alto uso. Una visión holística de la experiencia del usuario, incluido el impacto del gasto en inteligencia artificial en las personas, no solo es un método probado, sino que también puede ser una necesidad ética.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *