Combatiendo el discurso de odio en Twitch
Análisis exploratorio de los retos de la moderación de contenidos
Resumen
Twitch se ha consolidado como una de las plataformas favoritas entre los jóvenes: el 42,1% de su audiencia oscila entre los 18 y 24 años, mientras que el global de su público se sitúa en 2,6 millones de espectadores que consumen cerca de 6.000 millones de horas de contenido al trimestre. La plataforma se centró, originalmente, en los videojuegos en línea y, ahora, los streamers –siete millones en todo el mundo–, amplían y diversifican su contenido, que se emite en directo y que lo hace mayoritariamente efímero y difícil de rastrear. Twitch favorece la creación de comunidades porque los creadores de contenido conectan más directamente con su audiencia joven a partir del uso de narrativas innovadoras. No obstante, esta facilidad con la que se conecta con el público también plantea riesgos, porque los streamers pueden promover la polarización y los discursos extremistas particularmente si, junto al entretenimiento, articulan una agenda política más o menos oculta que difunde ideas tóxicas. En un contexto en el que preocupa la dieta mediática de los jóvenes, porque aún están construyendo su identidad, esto adquiere relevancia, porque pueden ser más fácilmente manipulados. Se presentan estudios de caso en los que han surgido polémicas alrededor de los contenidos difundidos en Twitch para: 1) identificar los patrones discursivos de los contenidos tóxicos (los que promueven homofobia, racismo, misoginia, violencia de género, terrorismo, etc., o dañan la salud mental en Twitch; y 2) analizar críticamente la respuesta de la plataforma en la lucha contra la difusión de los mensajes de odio. Una de las principales conclusiones señala que, aunque la plataforma modifica y amplía periódicamente sus normas de conducta, las polémicas mediáticas siguen siendo frecuentes, lo que refleja la dificultad de encontrar el equilibrio entre el control de contenidos y la sensación de censura.
Descargas
Citas
Abuín-Vences, N., Cuesta-Cambra, U., Niño-González J.I. y Bengoechea-González, C. (2022). Análisis del discurso de odio en función de la ideología: efectos emocionales y cognitivos. Comunicar, 71, 37–48. https://www.revistacomunicar.com/index.php?contenido=detalles&numero=71&articulo=71-2022-03. https://doi.org/10.3916/C71-2022-03.
Ali, M. S. B. (2020). Does ICT promote democracy similarly in developed and developing countries? A linear and nonlinear panel threshold framework, Telematics and Informatics, 50(1), 101382, https://doi.org/10.1016/j.tele.2020.101382.
Alizadeh, M., Gilardi, F., Hoes, E., Klüser, K. J., Kubli, M. y Marchal, N. (2022). Content Moderation As a Political Issue: The Twitter Discourse Around Trump’s Ban. Journal of Quantitative Description: Digital Media, 2, 1–44. https://doi.org/10.51685/jqd.2022.023.
Arcila-Calderón, C., Sánchez-Holgado, P., Quintana-Moreno, C., Amores, J.J. y Blanco-Herrero, D. (2022). Discurso de odio y aceptación social hacia migrantes en Europa: Análisis de tuits con geolocalización. Comunicar, XXX(71), 21–35. https://doi.org/10.3916/C71-2022-02
Arcila-Calderón, C., Blanco-Herrero, D. y Valdez Apolo, M. B. (2020). Rechazo y discurso de odio en Twitter - Rejection and Hate Speech in Twitter. Revista española de Investigaciones Sociológicas, 172, 21–39. http://dx.doi.org/10.5477/cis/reis.172.21
Bainotti, L., Caliandro, A. y Gandini, A. (2021). From archive cultures to ephemeral content, and back: Studying Instagram Stories with digital methods. New Media & Society, 23(12), 3656-3676. https://doi.org/10.1177/1461444820960071.
Barata Mir, J. (2022). Libertad de expresión, regulación y moderación privada de contenidos. Teoría & Derecho. Revista de Pensamiento Jurídico, 32, 88–107. https://doi.org/10.36151/TD.2022.039.
Becerra, M. A. (2021). Regulación de las plataformas digitales: Dos casos de análisis con Google y Facebook como protagonistas. Revista Argentina de Regulación y Derecho de las Telecomunicaciones, 2, 1–12.
Bhattacharya, R. (29 de junio de 2022). Why was Greekgodx banned from Twitch?. Sportskeeda. https://www.sportskeeda.com/esports/news-why-was-greekgodx-banned-twitch.
Blunden, M. (1 de septiembre de 2017). Female gamer who was sexually harassed by trolls over live stream calls for automatic ban on abusers. The Standard. https://www.standard.co.uk/news/tech/female-gamer-who-was-sexually-harassed-over-live-stream-calls-for-trolls-to-be-banned-a3624641.html.
Boyd, D. (2014). It’s complicated. The social lives of networked teens. Yale University Press.
Carral, U. (2024). Toxicidad política en redes sociales. El caso de las elecciones del #28M. Cátedra Ideograma-UPF. https://orcid.org/0000-0002-2329-3331.
Cilliza, C. (8 de febrero de 2019). Donald Trump y Jeff Bezos: la larga y dramática historia de su enemistad. CNN. https://cnnespanol.cnn.com/2019/02/08/donald-trump-y-jeff-bezos-la-larga-y-dramatica-historia-de-su-enemistad/.
Crespo, I., Garrido, A., Martínez, M.A. y Mora, A. (2021). Polarización afectiva, partidismo y brecha perceptiva. Una aproximación teórica. Revista Más Poder Local, 45, 7–20.
Diwanji, V., Reed, A., Ferchaud, A., Seibert, J., Weinbrecht, V., y Sellers, N. (2020). Don't just watch, join in: Exploring information behavior and copresence on Twitch. Computers in Human Behavior, 105, 106221. https://doi.org/10.1016/j.chb.2019.106221.
Farokhmanesh, M. (12 de agosto de 2017). Twitch yanks harassment livestream, but doesn’t ban the user who made it. The Verge. https://www.theverge.com/2017/8/12/16120496/twitch-harassment-livestream-irl.
Floridi, L. (2021). Trump, Parler, and Regulating the Infosphere as Our Commons. Philosophy & Technology, 34, 1–5. https://doi.org/10.1007/s13347-021-00446-7.
Gao, Y., Liu, F. y Gao, L. (2023). Echo chamber effects on short video platforms. Scientific reports, 13, 1-17. https://doi.org/10.1038/s41598-023-33370-1
Hamed, D.M. (2021), "Trump's January 6 Address: Hate Speech or Freedom of Speech? A Transdisciplinary Study", Journal of Humanities and Applied Social Sciences, 4(5), pp. 438-456. https://doi.org/10.1108/JHASS-03-2021-0055
Han, C. Seering, J., Kumar, D., Hancock, J.T. y Durumeric, Z. (2023). Hate Raids on Twitch: Echoes of the Past, New Modalities, and Implications for Platform Governance. Proceedings of the. ACM on Human-Computer Interaction. 7, CSCW1, 133, 1–28. https://doi.org/10.1145/3579609.
Jenkins, H., Clinton, K., Purushotma, R., Robison, A. J. y Weigel, M. (2009). Confronting the Challenges of Participatory Culture: Media Education for the 21 Century. MacArthur.
Jenkins, H. (2008). Cultura de la convergencia. Paidós.
Kazanin, Victor E. (2017). “Telegram-Channels and Twitch-Broadcast As the Prospective Technologies in Government Transparency” Contemporary Problems of Social Work, v. 3, n. 4. https://doi.org/10.17922/2412-5466-2017-3-4
Kim, J., Wohn, D. Y., Cha, M. (2022). Understanding and identifying the use of emotes in toxic chat on Twitch. Online Social Networks and Media, 27, 100180. https://doi.org/10.1016/j.osnem.2021.100180.
Kumar, D., Kelley, P.G., Consolvo, S., Mason, J., Bursztein, E., Durmeric, Z., Thomas, K. y Bailey, M. (9-10 de agosto de 2021). Designing Toxic Content Classification for a Diversity of Perspectives. Seventeenth Symposium on Usable Privacy and Security, en línea. https://doi.org/10.48550/arXiv.2106.04511.
Litchfield, T. y Chalk, A. (28 de marzo de 2022). Politics streamer Destiny receives indefinite ban from Twitch. Pc Games. https://www.pcgamer.com/politics-streamer-destiny-receives-indefinite-ban-from-twitch/.
López-Borrull, A. (2023). En busca de la verdad perdida: redes sociales y desinformación. Anuario ThinkEPI, 17, 1–4. https://doi.org/10.3145/thinkepi.2023.e17a44.
Luna, A. (27 de julio de 2022). Twitch banea a una de las streamers trans más importantes del mundo, tras defenderse de unos mensajes de odio. Flooxer Now!. https://www.flooxernow.com/fan/twitch-banea-streamers-trans-mas-importantes-mundo-keffals-ian-alexander_2022072762e13fe2b4b11000014281c1.html.
Magallón-Rosa, R. (2021). La (no) regulación de la desinformación en la Unión Europea. Una perspectiva comparada. Revista de Derecho Político, 106, 319–347. https://doi.org/10.5944/rdp.106.2019.26159.
McCoy, J.L. y Rahman, T. (23-28 julio de 2016). Polarized Democracies in Comparative Perspective: Toward a Conceptual Framework. Conferencia de la International Political Science Association, Poznan, Polonia.
Meisner, C. (2023). Networked Responses to Networked Harassment? Creators’ Coordinated Management of “Hate Raids” on Twitch. Social Media + Society, 9(2), 1-12. https://doi.org/10.1177/20563051231179696.
Méndez, V. (2023). Streamers son acusados de transfobia por burlarse de la voz de participante en torneo Fornite de ElRubius. Tarreo. https://www.tarreo.com/noticias/763856/Streamers-son-acusados-de-transfobia-por-burlarse-de-la-voz-de-participante-en-torneo-Fornite-de-ElRubius.
Naranjo, T. (2020). Regulación y prevención para los delitos en las redes sociales. En D. Caldevilla. Libro de Actas del XII Congreso Internacional Latina de Comunicación Social, 217. Editorial Historia de los Sistemas Informativos. https://doi.org/10.4185/RLCS-2021-1505.
Nematzadeh, A., Luca Ciampaglia, G., Ahn, Y. y Flammini, A. (2019). Information overload in group communication: from conversation to cacophony in the Twitch chat. Royal Society Open Science, 6(10), 191412. https://doi.org/10.1098/rsos.191412.
O’Connor, C. (2021). Gaming and Extremism. The Extreme Right on Twitch. Institute for Strategic Dialogue. https://www.isdglobal.org/isd-publications/gaming-and-extremism-the-extreme-right-on-twitch/.
Onli (5 de septiembre de 2021). Twitch en problemas por discursos de odio generó un hashtag con la leyenda #ADayOffTwtich, te decimos qué hay detrás de la huelga. ONLI. https://onli.mx/sostenibilidad/twitch-en-problemas-por-discursos-de-odio-genero-un-hashtag-con-la-leyenda-adayofftwtich
Organización de las Naciones Unidas (2019). Plan de acción contra el discurso de odio. https://www.un.org/en/genocideprevention/documents/Action_plan_on_hate_speech_ES.pdf
Peiser, J. (23 de junio de 2021). He was preparing for ‘a coming civil war,’ feds say. Now he faces up to 30 years in prison. The Washington Post. https://www.washingtonpost.com/nation/2021/06/23/paul-miller-gypsy-crusader/.
Quirk, T. (15 de enero de 2020). Can This Notorious Troll Turn People Away From Extremism? Wired. https://www.wired.com/story/twitch-politics-online-debate/
Ramírez, C.E. (7 de julio de 2017). Una periodista de Espejo Público sufre acoso mientras trabaja en San Fermín: "Hay cierta mujer que incita". Huffington Post. https://www.huffingtonpost.es/entry/una-periodista-de-espejo-publico-sufre-acoso-mientras-trabaja-en_es_5c8af19fe4b0f374fa9b82b2.html.
Ramos-Galarza, C. (2020). Los alcances de una investigación. CienciAmerica, 9(3), 1–6. http://dx.doi.org/10.33210/ca.v9i3.336.
Rivera-Martin, B., Martínez de Bartolomé Rincón, I. y López López, P. J. (2022). Discurso de odio hacia las personas LGTBIQ+: medios y audiencia social. Revista Prisma Social,39, 213-233.https://doi.org/10.2547/revist.8748
Roca-Trenchs, N., López-Borrull, A, y Lalueza, F (2024). Twitch como herramienta de comunicación política: análisis de potencialidades. Cuadernos.Info, (57), 25–45. https://doi.org/10.7764/cdi.57.64235
Ruiz-Bravo, N., Selander, L. y Roshan, M. (4-7 de enero de 2022). The political turn of Twitch - Understanding live chat as an emergent political space. 55th Hawaii International Conference on System Sciences. Maui, Hawaii, Estados Unidos. http://hdl.handle.net/10125/79723.
Ruiz Martín, J.M. y Alcalá Mellado, J.R. (2016). Los cuatro ejes de la cultura participativa actual. De las plataformas virtuales al medialab. Icono 14, 14(1), 95–122. http://doi.org/10.7195/ri14.v14i1.904.
Orús, A. (4 de enero de 2024). Consumo de los medios de comunicación en Europa. Statista. https://es.statista.com/temas/3558/consumo-de-los-medios-de-comunicacion-en-europa/#topicOverview.
Orús, A. (14 de noviembre de 2023). Número mensual de streamers activos en Twitch en todo el mundo de enero de 2018 a octubre de 2023. Statista. https://es.statista.com/estadisticas/1350021/streamers-activos-en-twitch-en-todo-el-mundo/.
Stein, L.E. (2015). Millennial fandom: television audiences in the transmedia age. University of Iowa Press.
Sung, M. (12 de octubre de 2022). Trans Twitch streamer Keffals is ready to return home. NBC News. https://www.nbcnews.com/pop-culture/keffals-twitch-kiwi-farms-new-chapter-rcna47780.
Tortajada, I. y Vera, T. (2021). Feminismo, misoginia y redes sociales. Investigaciones Feministas, 12(1), 1-4. https://doi.org/10.5209/infe.74446.
Twitch (6 de marzo de 2024a). Nuestros planes para 2024: Carta abierta del CEO de Twitch, Dan Clancy. https://blog.twitch.tv/es-es/2024/03/06/our-plans-for-2024-an-open-letter-from-twitch-ceo-dan-clancy/.
Twitch (1 de marzo de 2024b). Reglas del chat para el canal oficial de Twitch. https://help.twitch.tv/s/article/official-twitch-channel-chat-rules?language=es.
Valcore, J., Asquith, N.L. y Rodgers, J. “We’re led by stupid people”: Exploring Trump’s use of denigrating and deprecating speech to promote hatred and violence. Crime Law Soc Change 80, 237–256 (2023). https://doi.org/10.1007/s10611-023-10085-y
Vallejo, A. (9 de noviembre de 2023). Omegle dice adiós tras 14 años en activo: cierra una de las webs de videochat aleatorio más exitosas y problemáticas a la vez. Genbeta. https://www.genbeta.com/actualidad/omegle-dice-adios-14-anos-activo-cierra-webs-videochat-aleatorio-exitosas-problematicas-a-vez.
Varela, J. (2005). El asalto de los medios sociales. Cuadernos de periodistas, 2, 20-34.
Waisbord, S. (2020). ¿Es válido atribuir la polarización política a la comunicación digital? Sobre burbujas, plataformas y polarización afectiva. Revista SAAP, 14(2), 249–279. https://dx.doi.org/10.46468/rsaap.14.2.a1
Wulf, T., Schneider, F.M. y Beckert, S. (2020). Watching Players: An exploration of media enjoyment on Twitch. Games and Culture, 15(3), 328–346. https://doi.org/10.1177/1555412018788161.
Yang, C.C., Holden, S.M. y Ariati, J. (2021). Social Media and Psychological WellBeing Among Youth: The Multidimensional Model of Social Media Use. Clinical Child and Family Psychology Review, 24, 631–650. https://doi.org/10.1007/s10567-021-00359-z
Yang, K.C.C. y Kang, Y. (2021). Livestreaming Influencers, Influence Types, and Political Participation: A Case Study of Taiwan’s 2020 Presidential Election. Asiascape: Digital Asia, 8(1–2), 92–118. https://doi.org/10.1163/22142312-12340133.
Yin, R. K. (2003). Case study research: Design and methods. Sage.
Zhang, Y., Lukito, J., Suk, J., y McGrady, R. (2024). Trump, Twitter, and Truth Social: how Trump used both mainstream and alt-tech social media to drive news media attention. Journal of Information Technology & Politics, 1–14. https://doi.org/10.1080/19331681.2024.2328156.
Zhang, X., Ding, X., y Ma, L. (2020). The influences of information overload and social overload on intention to switch in social media. Behaviour & Information Technology, 41(2), 228–241. https://doi.org/10.1080/0144929X.2020.1800820
Derechos de autor 2025 Núria Roca Trenchs, Alexandre López-Borrull, Ferran Lalueza
Esta obra está bajo licencia internacional Creative Commons Reconocimiento-NoComercial-CompartirIgual 4.0.
Los autores conservan los derechos de autor y garantizan a la revista el derecho de ser la primera publicación del trabajo. En caso de que puedan publicar en otra revista una traducción del artículo ya publicado en Austral Comunicación, se pide dejar constancia en la versión traducida sobre la publicación original.
La licencia utilizada es CC BY-NC-SA, que permite compartir (copiar y redistribuir el material en cualquier medio y formato) y adaptar (remezclar, transformar y construir sobre el material) bajo los siguientes términos: atribución (reconocer la autoría) y no comercial (no se puede utilizar el material para fines comerciales). Actualización: 1 de febrero de 2022.
Austral Comunicación permite al autor(es) retener los derechos de publicación sin restricciones.
