TikTok proporcionó detalles sobre cómo funcionaba el feed For You. Los expertos no parecen impresionados.


  Open Sourced Logo

En vista de muchos años de preguntas y especulaciones sobre cómo funciona el popular feed "For You", TikTok publicó algunos detalles sobre cómo funciona el feed en una publicación de blog la semana pasada. La medida es parte del esfuerzo más amplio de TikTok para parecer más transparente, particularmente debido a las acusaciones de censura política y estética y la creciente presión de los legisladores estadounidenses por la relación de TikTok con su empresa matriz con sede en Beijing, ByteDance.

Pero la publicación de TikTok contó una historia familiar sobre cómo funcionan los algoritmos de alimentación. Según el reciente anuncio de TikTok, varios factores basados ​​en cómo los usuarios interactúan con la aplicación afectan lo que termina en su feed For You. Algunos de estos factores son más importantes que otros. y todos sirven una salsa secreta y técnica que la plataforma utiliza para adivinar lo que los usuarios quieren predecir. Este flujo de trabajo no es tan diferente de la forma en que otras plataformas de redes sociales como Facebook describen sus feeds.

Las empresas como TikTok generalmente desean maximizar el compromiso y el tiempo que pasan en su plataforma para vender anuncios. Se supone que exactamente cómo lo hacen es un poco desconcertante. Si las compañías no revelan todo lo que sucede detrás de escena, pueden, entre otras cosas, determinar cómo los usuarios entienden ciertos feeds y cómo diseñan algoritmos en general. Si bien ahora sabemos un poco más sobre cómo funciona el algoritmo TikTok, puede ser más importante lo que TikTok no comparte.

"Cuanto más se pueden sostener cerca del chaleco, más ambiguo es el entendimiento", dijo Kelley Cotter, un estudiante graduado en la Universidad Estatal de Michigan que estudia la conciencia pública de los algoritmos. "Sin el calor sobre ellos, pueden diseñar y rediseñar a su propia discreción sin ser agobiados por regulaciones, demandas o usuarios de [and]".

Por supuesto, TikTok de ninguna manera es único cuando se trata de elegir no revelar la fórmula exacta detrás del algoritmo. Sin embargo, la presentación no tan grande del algoritmo For You nos recuerda que las plataformas que dicen que nos dicen más sobre cómo funcionan sus algoritmos a menudo no nos dicen tanto. Y siempre que no revelen exactamente cómo estos algoritmos afectan a los usuarios, y a los diferentes tipos de usuarios, los usuarios tienen que descubrir por sí mismos cómo funcionan los algoritmos de alimentación social. Algunos pueden sacar conclusiones con las que estas plataformas no necesariamente están de acuerdo.

TikTok se parece mucho a las plataformas que describen cómo funcionan sus feeds.

En su reciente publicación de blog, TikTok declaró que la página For You es exclusiva de todos los usuarios, y los usuarios de la aplicación proporcionan información implícita y explícita que les indica qué videos pueden ver en el futuro.

Algunos factores, p. B. si miras videos más largos hasta el final son más importantes que otros, p. B. si un espectador y un creador están en el mismo país. Para los usuarios que recién están comenzando con la aplicación, su configuración inicial (sus intereses declarados, su respuesta a un video general, etc.) les ayuda a comprender cómo se ve el feed For You. A medida que TikTok recopila más información de este usuario y usuarios como ellos, lo que se muestra en el feed Para usted continúa siendo personalizado en función de lo que le interesa al algoritmo. Al igual que muchos otros sistemas de recomendación, los modelos predictivos también están involucrados.

"Por ejemplo, si decide seguir nuevas cuentas, puede usar esta acción para refinar sus recomendaciones y examinar hashtags, sonidos, efectos y temas de tendencias en la pestaña Descubrir", dijo TikTok en su publicación de blog. [19659011] La compañía afirma que los comentarios de los usuarios, p. Por ejemplo, tocar "No interesado" también puede desempeñar un papel en lo que se muestra en el feed Para usted. TikTok también puede prevenir ciertos tipos de contenido, como Por ejemplo, “los procedimientos médicos gráficos o el consumo legal de bienes regulados” terminan ahí. TikTok reconoce que las burbujas de filtro pueden ser un problema e intenta diversificar los canales de información de los usuarios. En particular, la compañía declaró que el número de seguidores de un usuario que publica un video, así como el número de vistas de videos anteriores publicados por ese usuario, no tienen influencia directa sobre si terminan en el feed For You. La compañía admitió que "es probable que un video obtenga más vistas si se publica desde una cuenta con más seguidores".

¿Pero cuán revelador es lo que compartió TikTok? No mucho, explicaron algunos investigadores.

Marc Faddoul, científico de la Universidad de California en Berkeley, dijo en un correo electrónico que lo que TikTok estaba discutiendo era "inútil desde una perspectiva de investigación". Faddoul agregó que "todo lo que dicen es obvio" y ha sido etiquetado como "como era de esperar", que el hecho de que al hacer clic en "no interesado" disminuye la conciencia de contenido similar [and] enumera todos los tipos de interacciones del usuario Las recomendaciones podrían usarse "para la personalización".

Los detalles en la publicación reciente de TikTok también coinciden en gran medida con la forma en que las empresas han caracterizado previamente los algoritmos que controlan sus propios feeds. Considere cómo Facebook describe los factores en Las noticias de Facebook reconocen que "miles de señales que pueden considerarse para el ranking de suministro de noticias" y "algunas cosas tienen menos impacto en lo que ves". Esto parece similar, como también sabemos sobre el algoritmo de Instagram.

Cotter de Michigan también notó que había mucho en la publicación de TikTok r es similar a lo que hemos visto de compañías en el pasado ". Se refirió a su investigación previa en una serie de publicaciones de blog de Facebook que deberían describir las noticias. Cotter y sus colegas descubrieron que la compañía se centró más en explicar por qué el feed funciona de la manera que lo hace, y no exactamente como .

Nicolas Kayser-Bril, reportero de AlgorithmWatch, una organización sin fines de lucro que se enfoca en decisiones algorítmicas, llegó a una conclusión similar.

"El lenguaje me recuerda lo que Facebook y Google en su libro" ¿Por qué veo? ¿Escribir este anuncio? & # 39; Secciones: Aprendemos que & # 39; una serie de factores juegan un papel ", dijo Kayser-Bril en un correo electrónico." Sin una revisión independiente del algoritmo TikTok, no hay razón para creer que sabremos más al respecto después de leer la declaración (Ciertamente, sabemos más acerca de cómo la compañía quiere ver su algoritmo, pero eso es un asunto completamente diferente.)

TikTok no dijo cuántos factores generales pueden afectar el feed. La publicación del blog simplemente dice que "Las recomendaciones se basan en una serie de factores" y proporcionan diferentes categorías de estos factores.

Entonces, ¿qué tipo de información sería útil para comprender realmente cómo funcionan TikTok y su algoritmo For You? Christo Wilson, profesor de informática en el Northeastern University argumenta que los matices de cómo el software entiende el contenido son los más reveladores.

"Tendrías que aprender muchos más detalles sobre qué características o variables están incluidas en las recomendaciones ", dijo Wilson. "Estás viendo hashtags. Es lo más obvio. ¿Pero miras cosas como el estado de ánimo? "

TikTok tiene un problema de imagen.

La publicación del blog de TikTok no fue accidental. Los usuarios han estado tratando de descubrir cómo incluir videos en el feed For You. Algunos influenciadores de TikTok incluso han creado videos para compartir sus consejos sobre cómo llegar al feed For You, y algunos han intentado hacer sus propios pseudoexperimentos para ver qué pone a las personas del lado. En general, el interior del algoritmo For You es al menos una fuente significativa de interés en la aplicación en sí. Los videos con el hashtag #TikTokAlgorithm han tenido más de 130 millones de visitas.

Todo esto es genial para TikTok, que gana cuando las personas pasan más tiempo usando su aplicación para descubrir cómo funciona su algoritmo para volverse viral, como Rebecca Jennings de Vox escribió a principios de este año:

El algoritmo se usa para hacer que el contenido de tendencias sea accesible para una audiencia amplia, de modo que incluso Ko con un puñado de seguidores puede volverse extremadamente viral en unas pocas horas. Los seguidores se acumulan mucho más rápido que en otras plataformas, por lo que decenas de miles de ellos son relativamente normales para cualquiera que haya tenido un pequeño golpe.

Los informes de investigación identificaron otros factores que pueden haber jugado previamente un papel en el feed, factores que no fueron considerados en la reciente publicación de blog de TikTok.

A principios de este año, la intercepción recibió documentos de política interna que alentaron a los moderadores de contenido a restringir la aparición de videos en el feed "Para usted", que se clasificó como "indeseable", incluidos aquellos con personas con una "forma corporal anormal" y un " fea expresión facial ". Según los informes, TikTok también se contactó con algunos usuarios de alto perfil de su aplicación para informarles sobre cambios en las reglas, y la compañía ha censurado el discurso político en su función de transmisión en vivo.

Los moderadores de contenido de TikTok con sede en los Estados Unidos también informaron al Washington Post que los empleados de TikTok con sede en Beijing les habían dado instrucciones de censurar los discursos políticos y el contenido considerado "vulgar". Estos informes reflejaron documentos de moderación de contenido que The Guardian había recibido en 2019, así como informes anteriores del sitio web alemán Netzpolitik de que TikTok había discriminado contra personas con discapacidades y LBGTQ y personas gordas.

"Las pautas mencionadas fueron un intento equivocado de reducir el acoso cibernético que se desarrolló para su uso en países limitados y que no se había utilizado en el momento en que se publicó el artículo", dijo un portavoz de TikTok Recodificar "Hoy adoptamos un enfoque diferenciado para la moderación, que incluye la creación de un equipo global con amplia experiencia en la industria y trabajar con un consejo asesor externo para el contenido de expertos en la materia".

TikTok anunció a principios de este mes que ya no usaría moderadores de contenido Con sede en China. Esto fue casi al mismo tiempo que la compañía estuvo expuesta a acusaciones de censura política y racial en medio de protestas contra la brutalidad policial. (A partir del lunes, hubo ofertas de trabajo para empleados para moderar contenido en ciudades como São Paulo (Brasil) y Seúl (Corea del Sur)).

En mayo, los usuarios de TikTok participaron en una campaña que destacó el trabajo de los usuarios negros también debe crear conciencia sobre la censura en la plataforma. TikTok publicó una declaración en junio que reconoció la campaña y se comprometió a "invertir en estrategias de moderación para manejar mejor el contenido potencialmente violento", y prometió "asegurarse de que [its policies and practices] la exposición del desarrollador no se basara inadvertidamente limitado a su persona ".

TikTok también tiene un problema de transparencia, pero no está solo.

TikTok también ha trabajado para suprimir las críticas de que su plataforma no es transparente. La compañía lanzó su primer informe de transparencia en 2019, enumerando las solicitudes del gobierno para eliminar datos y contenido. En particular, China no estaba en la lista. TikTok también anunció este año que abriría un centro de transparencia en Los Ángeles que se enfoca en "moderación y prácticas de datos". La reciente publicación de blog de la compañía sobre el algoritmo For You establece que los expertos que visiten este centro pueden aprender más sobre cómo funcionan los algoritmos y revisar el código fuente de la compañía.

Sin embargo, la publicación de blog publicada recientemente no conduce a una transparencia total. Kayser-Bril, de Algorithm Watch, dijo: "Tales declaraciones son solo una declaración de intenciones" y que el estándar de transparencia debe ser una prueba independiente que brinde a los investigadores acceso a servidores de producción y bases de datos. Kayser-Bril señaló que la mención de la compañía de otorgar acceso al código fuente fue "un paso en la dirección correcta", pero aún no es suficiente.

En particular, TikTok no dijo quiénes son o serán estos investigadores, o si los datos se les proporcionan fuera del código fuente de la compañía.

Faddoul, el investigador de Berkeley, sugirió que TikTok debería proporcionar estimaciones de cuántos factores, como el número de vistas en el algoritmo For You, y las pautas explícitas que los moderadores tienen en cuenta, incluido el peso que las decisiones de moderador tienen para tener el algoritmo TikTok no ha publicado ninguna estadística de cumplimiento de moderación de contenido que incluya números concretos sobre cuánto contenido se elimina por qué razones (Facebook lo hace en sus informes de cumplimiento de estándares de la comunidad).

Faddoul incluyó estos detalles en los documentos internos de moderación de contenido. Los interceptados incluyen aquellos que TikTok debe divulgar al público. Si bien TikTok establece sus pautas comunitarias, la empresa no parece publicar un informe de cumplimiento de contenido (Facebook sí).

Si bien TikTok reconoce cómo funciona el feed For You en general, la plataforma no analiza el impacto que el feed realmente tuvo en los usuarios. Por ejemplo, los creadores negros han expresado su preocupación por la censura, y las preguntas sobre el verdadero impacto de los moderadores de contenido y el número total de factores que realmente pueden afectar lo que aparece en el feed For You permanecen sin respuesta.

Finalmente, Cotter Para comprender realmente cómo funciona un algoritmo, necesita un análisis empírico, un estudio de cómo el sistema afecta a los usuarios, para ver qué hace y cómo afecta a los usuarios. Este tipo de investigación a veces se lleva a cabo por las propias plataformas y no se pone a disposición del público. Pero incluso si TikTok hiciera un análisis empírico, no está claro si la compañía respondería. A principios de este año, el Wall Street Journal informó que Facebook no había respondido a la investigación interna que encontró que el sitio web hacía que las personas fueran más divisivas y polarizadoras.

Las compañías de redes sociales tampoco están necesariamente obligadas a responder a investigadores externos. Según los informes, una revisión reciente del algoritmo de Instagram encontró que las imágenes con más piel desnuda tienen más probabilidades de mejorar en la plataforma. Facebook no respondió las preguntas de los investigadores enviadas por AlgorithmWatch aproximadamente un mes antes de que se publicara el estudio. Un día después de la publicación, Facebook criticó el estudio como defectuoso, afirmando que la plataforma "publica en función de los intereses, la puntualidad de las publicaciones y otros factores que ayudan a las personas a descubrir contenido".

Entonces, ¿de qué se trata? de TikTok, Facebook o un gigante de las redes sociales que publica detalles vagos sobre cómo funciona su algoritmo?

"Estas son notas de relaciones públicas", dice Cotter. "Tratan de presentar estos sistemas de la forma en que se supone que deben presentarse y determinar cómo deben evaluarse".

Open Sourced es posible gracias a la Red Omidyar. Todo el contenido de código abierto es editorialmente independiente y es producido por nuestros periodistas.


Apoya el periodismo explicativo de Vox

Todos los días en Vox intentamos responder a tus preguntas más importantes y brindarte a ti y a nuestra audiencia en todo el mundo información que tiene el poder de salvar vidas. Nuestra misión nunca ha sido más importante de lo que es ahora: fortalecerla a través de la comprensión. El trabajo de Vox llega a más personas que nunca, pero nuestra marca distintiva de periodismo explicativo consume recursos, especialmente durante una pandemia y una recesión económica. Su contribución financiera no constituye una donación, pero permite que nuestros empleados continúen ofreciendo artículos, videos y podcasts gratuitos en la calidad y cantidad requerida para este momento. Por favor considere contribuir a Vox hoy.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *