Forbes India: cómo TikTok te mantiene mirando

Forbes India: cómo TikTok te mantiene mirandoSi estás entre los mil millones de personas (¡literalmente!) Que pasan tiempo en TikTok todos los meses, estás familiarizado con la aplicación como el vehículo central de 2021 para la cultura juvenil y la cultura en línea en general.
Imagen: Shutterstock

TAquí hay cuatro objetivos principales para el algoritmo de TikTok: «valor del usuario», «valor del usuario a largo plazo», «valor del creador» y «valor de la plataforma».

Ese conjunto de objetivos se extrae de un documento franco y revelador para los empleados de la empresa que ofrece nuevos detalles de cómo la aplicación de video más exitosa del mundo ha construido un producto tan entretenido, algunos dirían adictivo.

El documento, titulado «TikTok Algo 100», fue elaborado por el equipo de ingeniería de TikTok en Beijing. Una portavoz de la compañía, Hilary McQuaide, confirmó su autenticidad y dijo que fue escrito para explicar a los empleados no técnicos cómo funciona el algoritmo. El documento ofrece un nuevo nivel de detalle sobre la aplicación de video dominante, brindando una visión reveladora tanto del núcleo matemático de la aplicación como de la comprensión de la naturaleza humana por parte de la empresa: nuestras tendencias hacia el aburrimiento, nuestra sensibilidad a las señales culturales, que ayudan a explicar por qué es tan difícil de dejar. El documento también levanta el telón de la conexión perfecta de la compañía con su empresa matriz china, ByteDance, en un momento en que el Departamento de Comercio de EE. UU. Está preparando un informe sobre si TikTok representa un riesgo de seguridad para Estados Unidos.

Si se encuentra entre los mil millones de personas (¡literalmente!) Que pasan tiempo en TikTok todos los meses, está familiarizado con la aplicación como el vehículo central de 2021 para la cultura juvenil y la cultura en línea en general. Muestra un flujo interminable de videos y, a diferencia de las aplicaciones de redes sociales que desplaza cada vez más, sirve más como entretenimiento que como conexión con amigos.

Tuvo éxito donde otras aplicaciones de videos cortos fallaron en parte porque facilita la creación, brindando a los usuarios música de fondo para bailar o memes para representar, en lugar de obligarlos a llenar el aire muerto. Y para muchos usuarios, que consumen sin crear, la aplicación es sorprendentemente buena para leer sus preferencias y llevarlos a uno de sus muchos «lados», ya sea que estén interesados ​​en el socialismo o en los consejos de Excel o el sexo, la política conservadora o una celebridad específica. . Es asombrosamente bueno para revelar los deseos de las personas incluso a sí mismos: «El algoritmo de TikTok conocía mi sexualidad mejor que yo», se lee en uno de una serie de titulares sobre personas que se maravillan con la radiografía de la aplicación de sus vidas internas.

TikTok ha compartido públicamente las líneas generales de su sistema de recomendación, diciendo que tiene en cuenta factores que incluyen me gusta y comentarios, así como información de video como subtítulos, sonidos y hashtags. Los analistas externos también han intentado descifrar su código. Un informe reciente del Wall Street Journal demostró cómo TikTok depende en gran medida de la cantidad de tiempo que pasas viendo cada video para orientarte hacia más videos que te mantendrán desplazándote, y ese proceso a veces puede llevar a los espectadores jóvenes por peligrosas trampas, en particular hacia contenido que promueve el suicidio o la autolesión, problemas que TikTok dice que está tratando de detener eliminando agresivamente el contenido que viola sus términos de servicio.

El nuevo documento fue compartido con The New York Times por una persona que estaba autorizada a leerlo, pero no a compartirlo, y que lo entregó bajo condición de anonimato. La persona se sintió molesta por el impulso de la aplicación hacia contenido «triste» que podría inducir a autolesionarse.

El documento explica con franqueza que en la búsqueda del «objetivo final» de la empresa de agregar usuarios activos diarios, ha optado por optimizar dos métricas estrechamente relacionadas en el flujo de videos que ofrece: «retención», es decir, si un usuario viene atrás – y «tiempo invertido». La aplicación quiere mantenerte ahí el mayor tiempo posible. La experiencia a veces se describe como una adicción, aunque también recuerda una crítica frecuente a la cultura pop. El dramaturgo David Mamet, que escribió con desdén en 1998 sobre el «pseudoarte», observó que «la gente se siente atraída por las películas de verano porque no son satisfactorias, por lo que ofrecen oportunidades para repetir la compulsión».

Para los analistas que creen que las recomendaciones algorítmicas representan una amenaza social, el documento de TikTok confirma sus sospechas.

“Este sistema significa que el tiempo de visualización es clave. El algoritmo intenta hacer que las personas se vuelvan adictas en lugar de darles lo que realmente quieren «, dijo Guillaume Chaslot, fundador de Algo Transparencia, un grupo con sede en París que ha estudiado el sistema de recomendación de YouTube y tiene una visión oscura del efecto del producto en niños, en particular. Chaslot revisó el documento de TikTok a mi solicitud.

«Creo que es una idea loca dejar que el algoritmo de TikTok dirija la vida de nuestros hijos», dijo. “Cada video que mira un niño, TikTok obtiene información sobre él. En unas pocas horas, el algoritmo puede detectar sus gustos musicales, su atracción física, si está deprimido, si podría estar drogado y mucha otra información sensible. Existe un alto riesgo de que parte de esta información se utilice en su contra. Potencialmente, podría usarse para microorientarlo o hacerlo más adicto a la plataforma «.

El documento dice que el tiempo de visualización no es el único factor que considera TikTok. El documento ofrece una ecuación aproximada de cómo se puntúan los videos, en la que se resumen una predicción impulsada por el aprendizaje automático y el comportamiento real del usuario para cada uno de los tres bits de datos: me gusta, comentarios y tiempo de reproducción, así como una indicación de que el video tiene jugado:

Plike X Vlike + Pcomment X Vcomment + Eplaytime X Vplaytime + Pplay X Vplay

“El sistema de recomendación otorga puntajes a todos los videos en función de esta ecuación y devuelve a los usuarios los videos con los puntajes más altos”, dice el documento. “En aras de la brevedad, la ecuación que se muestra en este documento está muy simplificada. La ecuación real en uso es mucho más complicada, pero la lógica detrás es la misma «.

El documento ilustra en detalle cómo la empresa modifica su sistema para identificar y suprimir los «cebos similares» (vídeos diseñados para jugar con el algoritmo pidiendo explícitamente que les gusten a las personas) y cómo la empresa piensa en preguntas más matizadas.

Otro gráfico en el documento indica que la «monetización del creador» es uno de los objetivos de la empresa, una sugerencia de que TikTok puede favorecer los videos en parte si son lucrativos, no solo entretenidos.

Julian McAuley, profesor de ciencias de la computación en la Universidad de California en San Diego, quien también revisó el documento, dijo en un correo electrónico que el documento era corto en detalles sobre cómo exactamente TikTok hace sus predicciones, pero que la descripción de su motor de recomendaciones es «Cosas totalmente razonables, pero tradicionales». La ventaja de la compañía, dijo, proviene de combinar el aprendizaje automático con “fantásticos volúmenes de datos, usuarios altamente comprometidos y un entorno en el que los usuarios están dispuestos a consumir contenido recomendado algorítmicamente (¡piense en cuántos otros entornos tienen todas estas características!). No es magia algorítmica «.

Y, de hecho, el documento hace mucho para desmitificar el tipo de sistema de recomendación que las empresas de tecnología a menudo presentan como imposiblemente difícil de comprender para los críticos y reguladores, pero que generalmente se enfoca en características que cualquier usuario común puede comprender. La cobertura del Journal de los documentos filtrados de Facebook, por ejemplo, ilustró cómo la decisión de Facebook de dar más peso a los comentarios ayudó a difundir el contenido divisivo. Si bien los modelos pueden ser complejos, no hay nada intrínsecamente siniestro o incomprensible en el algoritmo de recomendación de TikTok descrito en el documento.

Pero el documento también deja en claro que TikTok no ha hecho nada para romper sus lazos con su matriz china, ByteDance, cuya propiedad se convirtió en un foco espasmódico al final de la administración del presidente Donald Trump en 2020, cuando intentó forzar la venta de TikTok a un Empresa estadounidense aliada con su administración, Oracle.

El documento de TikTok remite preguntas a un gerente de ingeniería cuya biografía de LinkedIn dice que trabaja tanto en TikTok como en la aplicación china similar de ByteDance, Douyin, y ofrece un vistazo al elemento global restante de una industria tecnológica cada vez más dividida, el talento de ingeniería. El documento dice que el gerente de ingeniería asistió a la Universidad de Pekín, recibió una maestría en ciencias de la computación en la Universidad de Columbia y trabajó para Facebook durante dos años antes de llegar a ByteDance en Beijing en 2017. El documento está escrito en un inglés claro, pero no nativo, y viene desde la perspectiva de la industria tecnológica china. No hace referencias, por ejemplo, a empresas estadounidenses rivales como Facebook y Google, pero incluye una discusión sobre «si Toutiao / Kuaishou / Weibo han hecho algo similar, ¿podemos lanzar la misma estrategia que ellos?»

La preocupación por la tecnología de consumo china es bipartidista en Estados Unidos. La orden ejecutiva de Trump que intentaba prohibir la aplicación en agosto de 2020 advirtió que la «recopilación de datos de TikTok amenaza con permitir que el Partido Comunista Chino acceda a la información personal y de propiedad de los estadounidenses». El gobierno chino podría «construir expedientes de información personal para el chantaje y realizar espionaje corporativo», dijo. Esa prohibición se estancó en la corte y se desvaneció después de las elecciones presidenciales. El presidente Joe Biden anuló la orden ejecutiva, pero su administración luego anunció su propia investigación sobre las amenazas a la seguridad planteadas por TikTok, y un alto funcionario de la administración anónimo dijo a los reporteros que China estaba «trabajando para aprovechar las tecnologías digitales y los datos estadounidenses de maneras que presentan una seguridad nacional inaceptable». riesgos «.

En una declaración enviada por correo electrónico, McQuaide dijo que «si bien hay algo en común en el código, las aplicaciones TikTok y Douyin se ejecutan completamente por separado, en servidores separados, y ninguno de los códigos contiene datos del usuario».

También dijo: «TikTok nunca ha proporcionado datos de usuario al gobierno chino, ni nosotros lo haríamos si nos lo solicitaran».

TikTok, cuyo director ejecutivo vive en Singapur, contrató a una serie de ejecutivos y expertos en seguridad estadounidenses y europeos bien conectados a medida que la presión política se intensificaba bajo Trump. Dice que no tiene una sede formal. Ha tratado de calmar las preocupaciones de EE. UU. Almacenando los datos de los usuarios en los Estados Unidos, con una copia de seguridad en Singapur.

Las preocupaciones de seguridad del gobierno de EE. UU. Se presentan de dos formas. La primera, como sugirió Trump en su orden ejecutiva, es si el vasto tesoro de datos que tiene TikTok, sobre los deseos sexuales privados de los fanáticos de la aplicación que podrían terminar convirtiéndose en funcionarios públicos de EE. UU., Por ejemplo, debe considerarse una seguridad nacional. asunto. No hay evidencia de que los datos se hayan usado de esa manera, y TikTok no es el único lugar donde los estadounidenses comparten detalles de sus vidas en las redes sociales. La segunda preocupación es si TikTok censura las publicaciones políticamente sensibles.

Un informe de este año de Citizen Lab, la organización de vigilancia de la ciberseguridad en Toronto, sugirió que estas dos preocupaciones están, en el mejor de los casos, latentes: no encontró ningún indicio de que TikTok estuviera censurando temas sensibles o transmitiendo datos a China.

Algunos analistas estadounidenses ven a TikTok como una profunda amenaza; otros lo ven como el tipo de pánico despistado que enfrentan los estadounidenses que ahora se acercan a la mediana edad cuando sus padres les advirtieron que si compartían detalles de sus vidas en las redes sociales, nunca conseguirían un trabajo. Muchos, muchos otros productos, desde las redes sociales hasta los bancos y las tarjetas de crédito, recopilan datos más precisos sobre sus usuarios. Si los servicios de seguridad extranjeros quisieran esos datos, probablemente podrían encontrar una manera de comprarlos a la oscura industria de los corredores de datos.

«Enloquecer por la vigilancia o la censura de TikTok es una distracción del hecho de que estos problemas son mucho más importantes que cualquier empresa específica o su propiedad china», dijo Samm Sacks, miembro de políticas de ciberseguridad de la organización de investigación New America. «Incluso si TikTok fuera de propiedad estadounidense, no existe ninguna ley o regulación que impida que Beijing compre sus datos en el mercado de corredores de datos abiertos».

Una cosa que me ha recordado informar esta columna: la amenaza que representa TikTok para la seguridad nacional estadounidense parece ser completamente hipotética y depende de su análisis de la relación entre Estados Unidos y China y el futuro de la tecnología y la cultura. Pero la comprensión del algoritmo de lo que me mantiene enganchado, entre los trucos de tiros de tenis, los videos de comida turca y todas las otras cosas que, según ha descubierto, me gusta ver, planteó un peligro claro y presente para mi capacidad para terminar esta columna.

Haga clic aquí para ver la cobertura completa de Forbes India sobre la situación de Covid-19 y su impacto en la vida, los negocios y la economía

© 2019 Servicio de noticias del New York Times