Con motivo del vigésimo aniversario de Facebook, los periodistas del New York Times utilizaron una investigación exhaustiva para exponer cómo la máquina de las redes sociales diseñó una sociedad peligrosa a merced de los gigantes tecnológicos.
Hace unos años, un equipo de investigadores descubrió que los algoritmos de YouTube eran capaces de identificar vídeos de niños semidesnudos en Internet. Pronto, la plataforma juntó los puntos y aprendió a promocionar ese contenido entre los usuarios que buscaban material pedófilo. Facebook utilizó la misma fórmula para concluir que cuanto más tiempo pasaban sus amigos en línea, más alarmistas, conspirativas o radicales se volvían sus publicaciones. Esto es lo que les dio.
Han pasado dos décadas desde que Mark Zuckerberg lanzó oficialmente la red social para conectar el planeta, y casi todo desde entonces ha ido a peor copiando los mismos modelos que ahora la trastocan. Max Fisher.Basado en años de investigación, revelan los reporteros del New York Times red caótica (Península) Cómo las redes sociales han aprendido durante la última década a explotar las vulnerabilidades psicológicas de los usuarios para diseñar algoritmos que mejoran la radicalización, el extremismo y la violencia.
¿Recurso? «desactivar algoritmo»responder.
«Las empresas tabacaleras necesitaron medio siglo y la amenaza de demandas potencialmente fatales para admitir que sus productos causaban cáncer», recuerda en el libro. «Silicon Valley aceptó que sus productos podían desencadenar disturbios e incluso genocidio. ¿Qué probabilidades hay de que esto suceda? «
Han pasado 20 años desde que se lanzó Facebook. ¿Recuerdas cuál fue tu primera impresión de esta red social?
Al principio, era sólo una de muchas redes sociales como MySpace y Orkut. Es difícil recordarlo, pero las redes sociales eran bastante aburridas en ese momento. Son negocios mediocres con sitios web que no son muy interesantes ni muy importantes desde una perspectiva cultural. Creo que todos pensamos que ese sería el caso de Facebook. Quizás la única diferencia es que está más orientado a estudiantes universitarios, ya que inicialmente estaba limitado a estudiantes de determinadas universidades. No fue hasta unos años más tarde, cuando Facebook lanzó News Feed, que quedó claro que iba a ser un tipo de experiencia nueva y más impactante.
¿Cuál crees que es la mayor contribución positiva de Facebook y las redes sociales que le siguieron?
La capacidad de formar una comunidad grande y diversa en torno a algunos problemas o preocupaciones comunes es extremadamente importante. Para bien o para mal. Movimientos sociales como MeToo o Black Lives Matter no serían posibles sin las grandes redes sociales. Esta es una contribución muy importante. Pero, por supuesto, las redes sociales también permiten la creación de comunidades más dañinas, como QAnon o el movimiento antivacunas. Por supuesto, esto no es culpa de Silicon Valley per se, pero lo que ahora sabemos es que empresas como Facebook y YouTube diseñaron sus redes sociales para atraer a la gente a participar en la versión más dañina y destructiva de este impulso de construcción de comunidades, porque es más eficaz para aumentar la participación y aumentar sus ingresos.
¿Cómo Internet nos convierte en mejores personas?
Las plataformas se vuelven más efectivas a la hora de mostrar contenido que le atraiga específicamente. Utilizan algoritmos muy sofisticados para determinar sus gustos e intereses específicos y mostrarle lo que más le atrae. Por ejemplo, cualquiera que pase tiempo navegando por YouTube verá muchos vídeos que coinciden con sus intereses y que de otro modo no habría descubierto. Pero el problema nuevamente es que estos algoritmos también reconocen que la mejor manera de captar nuestra atención es cultivar y activar las partes más oscuras y destructivas de nuestra naturaleza.
«Las redes sociales pueden ser muy efectivas para cambiar tu comportamiento, tu sentido del bien y del mal, e incluso tu comprensión de la línea entre la verdad y la mentira».
¿Cuál es el peor pecado que ha cometido Facebook? Es difícil definir el “peor” pecado. ¿El más dañino? ¿Más poco ético? Su peor pecado es diseñar deliberadamente sus plataformas para explotar nuestras necesidades psicológicas innatas y hacernos pasar más tiempo en línea. Cuando comenzaron a hacer esto a finales de la década de 2000, se dijeron a sí mismos que lo que estaban haciendo era bueno porque lograr que pasáramos más tiempo en línea solo nos beneficiaría. Creen que Internet será en realidad la salvación de la humanidad, por lo que cualquier cosa que hagan para conectarnos más es bueno. Pero pronto descubrimos que el enfoque más eficaz era amplificar nuestros peores instintos: odio, división y desinformación. Se ha vuelto tan rentable para ellos que los líderes de las empresas ignoran deliberadamente las consecuencias, incluso cuando sus propios investigadores internos les dicen que sus productos están adoctrinando a millones de personas en el odio racial, las conspiraciones médicas y otras creencias sobre peligros. ¿Cómo se traduce esto en PeriodistasdeGénero real? Yo diría que su pecado más inmoral fue negarse a tomar el control de Facebook en Myanmar, donde la plataforma estaba difundiendo mentiras racistas y discursos de odio a escala masiva con los que incluso las Naciones Unidas no estaban de acuerdo. Facebook contribuyó significativamente al genocidio. Podrían haber desactivado el algoritmo en cualquier momento, pero no lo hicieron porque sería un mal negocio. ¿Cómo nos están empeorando la situación las redes sociales 20 años después?
Internet nos entrena para desatar algunos de nuestros instintos más destructivos y destructivos y exagerarlos en una escala que rara vez ocurre de otra manera. Cada vez que inicias sesión, la plataforma cambia sutilmente tu comportamiento. Cuando publicas contenido que la plataforma quiere fomentar, el algoritmo llevará tu publicación a más personas, obteniendo así más Me gusta y, por lo tanto, más acciones. Si publicas algo que la plataforma quiere bloquear, lo ocultará a otros usuarios, haciéndote sentir invisible. Lo hace una y otra vez. cada día. Las investigaciones muestran que esta es una forma muy poderosa de recompensa social que puede ser muy eficaz para cambiar su comportamiento, su sentido del bien y del mal e incluso su comprensión de la línea entre la verdad y la mentira. Sabemos que los comportamientos que más recompensan las redes sociales son la ira, el odio hacia los grupos sociales externos, nuestra división contra ellos y la desinformación que alimenta nuestros miedos u odios más profundos. En tu libro hablas de cosas como el autoritarismo, la desinformación, las cámaras de eco, el extremismo, la ira, el odio, el trolling, la intolerancia, el impacto en la democracia, los daños a la salud mental… entre todos los males que provocan las redes sociales, ¿qué? ¿Qué remedio es peor?
La promoción extrema de la indignación moral puede ser la más importante, porque Internet hace que exageremos enormemente este instinto. La indignación moral puede ser saludable y útil en algunas situaciones. Así es como nosotros, como sociedad, desalentamos los comportamientos dañinos o antisociales. Pero las redes sociales te alientan a profundizar enormemente tu sentimiento de indignación moral, amplificar la ira con la que la expresas y amplificar los objetos de tu ira.
Afirmas que el principal problema de Facebook es Facebook. ¿Es posible crear una buena red social? ¿Es posible un Facebook diferente? Por supuesto, fue y sigue siendo posible. Los daños de las redes sociales se reducirían en gran medida si las plataformas sociales eliminaran las características técnicas que maximizan la participación, como algoritmos o controles tipo botón que controlan el contenido que se ve o contadores que muestran el número de acciones compartidas debajo de cada publicación. se mantendrán en gran medida algunos aspectos. Sabemos que esto es posible porque así funcionaban las redes sociales hace 20 años.
¿Cuál crees que es el principal legado de las redes sociales?
Es demasiado pronto para decirlo. Las redes sociales tienen una influencia cada vez mayor en nuestra política y sociedad, y estas plataformas siempre están creciendo y cambiando.
¿Cuál es la medida más urgente para desactivar lo que ustedes llaman la máquina del caos?
Desactive los algoritmos que promocionan y clasifican el contenido según lo que sea más atractivo. Veamos qué publican nuestros amigos sin interferencias ni manipulación.
