Combater o discurso de ódio no Twitch
Análise exploratória dos desafios da moderação de conteúdos
Resumo
O Twitch estabeleceu-se como uma das plataformas preferidas dos jovens: 42,1% da sua audiência tem entre 18 e 24 anos, enquanto a audiência total é de 2,6 milhões de espectadores que consomem cerca de 6 mil milhões de horas de conteúdos por trimestre. A plataforma centrava-se inicialmente nos jogos de vídeo em linha, mas atualmente os streamers - sete milhões em todo o mundo - estão a expandir e a diversificar os seus conteúdos, que são transmitidos em direto, o que os torna efémeros e difíceis de seguir. O Twitch favorece a criação de comunidades porque os criadores de conteúdos se ligam mais diretamente ao seu público jovem através da utilização de narrativas inovadoras. No entanto, esta facilidade de ligação com o público também comporta riscos, porque os streamers podem promover a polarização e o discurso extremista, nomeadamente se, a par do entretenimento, articularem uma agenda política mais ou menos oculta que difunda ideias tóxicas. Num contexto em que a dieta mediática dos jovens é preocupante, porque estes ainda estão a construir a sua identidade, isto torna-se relevante porque podem ser mais facilmente manipulados. São apresentados estudos de caso em que surgiram controvérsias em torno de conteúdos difundidos no Twitch com o objetivo de: 1) identificar os padrões discursivos dos conteúdos tóxicos (aqueles que promovem a homofobia, o racismo, a misoginia, a violência de género, o terrorismo, etc., ou que prejudicam a saúde mental no Twitch; e 2) analisar criticamente a resposta da plataforma no combate à disseminação do discurso de ódio. Uma das principais conclusões é que, embora a plataforma modifique e amplie regularmente as suas regras de conduta, as controvérsias mediáticas continuam a ser frequentes, reflectindo a dificuldade de encontrar um equilíbrio entre o controlo dos conteúdos e o sentimento de censura.
Downloads
Referências
Abuín-Vences, N., Cuesta-Cambra, U., Niño-González J.I. y Bengoechea-González, C. (2022). Análisis del discurso de odio en función de la ideología: efectos emocionales y cognitivos. Comunicar, 71, 37–48. https://www.revistacomunicar.com/index.php?contenido=detalles&numero=71&articulo=71-2022-03. https://doi.org/10.3916/C71-2022-03.
Ali, M. S. B. (2020). Does ICT promote democracy similarly in developed and developing countries? A linear and nonlinear panel threshold framework, Telematics and Informatics, 50(1), 101382, https://doi.org/10.1016/j.tele.2020.101382.
Alizadeh, M., Gilardi, F., Hoes, E., Klüser, K. J., Kubli, M. y Marchal, N. (2022). Content Moderation As a Political Issue: The Twitter Discourse Around Trump’s Ban. Journal of Quantitative Description: Digital Media, 2, 1–44. https://doi.org/10.51685/jqd.2022.023.
Arcila-Calderón, C., Sánchez-Holgado, P., Quintana-Moreno, C., Amores, J.J. y Blanco-Herrero, D. (2022). Discurso de odio y aceptación social hacia migrantes en Europa: Análisis de tuits con geolocalización. Comunicar, XXX(71), 21–35. https://doi.org/10.3916/C71-2022-02
Arcila-Calderón, C., Blanco-Herrero, D. y Valdez Apolo, M. B. (2020). Rechazo y discurso de odio en Twitter - Rejection and Hate Speech in Twitter. Revista española de Investigaciones Sociológicas, 172, 21–39. http://dx.doi.org/10.5477/cis/reis.172.21
Bainotti, L., Caliandro, A. y Gandini, A. (2021). From archive cultures to ephemeral content, and back: Studying Instagram Stories with digital methods. New Media & Society, 23(12), 3656-3676. https://doi.org/10.1177/1461444820960071.
Barata Mir, J. (2022). Libertad de expresión, regulación y moderación privada de contenidos. Teoría & Derecho. Revista de Pensamiento Jurídico, 32, 88–107. https://doi.org/10.36151/TD.2022.039.
Becerra, M. A. (2021). Regulación de las plataformas digitales: Dos casos de análisis con Google y Facebook como protagonistas. Revista Argentina de Regulación y Derecho de las Telecomunicaciones, 2, 1–12.
Bhattacharya, R. (29 de junio de 2022). Why was Greekgodx banned from Twitch?. Sportskeeda. https://www.sportskeeda.com/esports/news-why-was-greekgodx-banned-twitch.
Blunden, M. (1 de septiembre de 2017). Female gamer who was sexually harassed by trolls over live stream calls for automatic ban on abusers. The Standard. https://www.standard.co.uk/news/tech/female-gamer-who-was-sexually-harassed-over-live-stream-calls-for-trolls-to-be-banned-a3624641.html.
Boyd, D. (2014). It’s complicated. The social lives of networked teens. Yale University Press.
Carral, U. (2024). Toxicidad política en redes sociales. El caso de las elecciones del #28M. Cátedra Ideograma-UPF. https://orcid.org/0000-0002-2329-3331.
Cilliza, C. (8 de febrero de 2019). Donald Trump y Jeff Bezos: la larga y dramática historia de su enemistad. CNN. https://cnnespanol.cnn.com/2019/02/08/donald-trump-y-jeff-bezos-la-larga-y-dramatica-historia-de-su-enemistad/.
Crespo, I., Garrido, A., Martínez, M.A. y Mora, A. (2021). Polarización afectiva, partidismo y brecha perceptiva. Una aproximación teórica. Revista Más Poder Local, 45, 7–20.
Diwanji, V., Reed, A., Ferchaud, A., Seibert, J., Weinbrecht, V., y Sellers, N. (2020). Don't just watch, join in: Exploring information behavior and copresence on Twitch. Computers in Human Behavior, 105, 106221. https://doi.org/10.1016/j.chb.2019.106221.
Farokhmanesh, M. (12 de agosto de 2017). Twitch yanks harassment livestream, but doesn’t ban the user who made it. The Verge. https://www.theverge.com/2017/8/12/16120496/twitch-harassment-livestream-irl.
Floridi, L. (2021). Trump, Parler, and Regulating the Infosphere as Our Commons. Philosophy & Technology, 34, 1–5. https://doi.org/10.1007/s13347-021-00446-7.
Gao, Y., Liu, F. y Gao, L. (2023). Echo chamber effects on short video platforms. Scientific reports, 13, 1-17. https://doi.org/10.1038/s41598-023-33370-1
Hamed, D.M. (2021), "Trump's January 6 Address: Hate Speech or Freedom of Speech? A Transdisciplinary Study", Journal of Humanities and Applied Social Sciences, 4(5), pp. 438-456. https://doi.org/10.1108/JHASS-03-2021-0055
Han, C. Seering, J., Kumar, D., Hancock, J.T. y Durumeric, Z. (2023). Hate Raids on Twitch: Echoes of the Past, New Modalities, and Implications for Platform Governance. Proceedings of the. ACM on Human-Computer Interaction. 7, CSCW1, 133, 1–28. https://doi.org/10.1145/3579609.
Jenkins, H., Clinton, K., Purushotma, R., Robison, A. J. y Weigel, M. (2009). Confronting the Challenges of Participatory Culture: Media Education for the 21 Century. MacArthur.
Jenkins, H. (2008). Cultura de la convergencia. Paidós.
Kazanin, Victor E. (2017). “Telegram-Channels and Twitch-Broadcast As the Prospective Technologies in Government Transparency” Contemporary Problems of Social Work, v. 3, n. 4. https://doi.org/10.17922/2412-5466-2017-3-4
Kim, J., Wohn, D. Y., Cha, M. (2022). Understanding and identifying the use of emotes in toxic chat on Twitch. Online Social Networks and Media, 27, 100180. https://doi.org/10.1016/j.osnem.2021.100180.
Kumar, D., Kelley, P.G., Consolvo, S., Mason, J., Bursztein, E., Durmeric, Z., Thomas, K. y Bailey, M. (9-10 de agosto de 2021). Designing Toxic Content Classification for a Diversity of Perspectives. Seventeenth Symposium on Usable Privacy and Security, en línea. https://doi.org/10.48550/arXiv.2106.04511.
Litchfield, T. y Chalk, A. (28 de marzo de 2022). Politics streamer Destiny receives indefinite ban from Twitch. Pc Games. https://www.pcgamer.com/politics-streamer-destiny-receives-indefinite-ban-from-twitch/.
López-Borrull, A. (2023). En busca de la verdad perdida: redes sociales y desinformación. Anuario ThinkEPI, 17, 1–4. https://doi.org/10.3145/thinkepi.2023.e17a44.
Luna, A. (27 de julio de 2022). Twitch banea a una de las streamers trans más importantes del mundo, tras defenderse de unos mensajes de odio. Flooxer Now!. https://www.flooxernow.com/fan/twitch-banea-streamers-trans-mas-importantes-mundo-keffals-ian-alexander_2022072762e13fe2b4b11000014281c1.html.
Magallón-Rosa, R. (2021). La (no) regulación de la desinformación en la Unión Europea. Una perspectiva comparada. Revista de Derecho Político, 106, 319–347. https://doi.org/10.5944/rdp.106.2019.26159.
McCoy, J.L. y Rahman, T. (23-28 julio de 2016). Polarized Democracies in Comparative Perspective: Toward a Conceptual Framework. Conferencia de la International Political Science Association, Poznan, Polonia.
Meisner, C. (2023). Networked Responses to Networked Harassment? Creators’ Coordinated Management of “Hate Raids” on Twitch. Social Media + Society, 9(2), 1-12. https://doi.org/10.1177/20563051231179696.
Méndez, V. (2023). Streamers son acusados de transfobia por burlarse de la voz de participante en torneo Fornite de ElRubius. Tarreo. https://www.tarreo.com/noticias/763856/Streamers-son-acusados-de-transfobia-por-burlarse-de-la-voz-de-participante-en-torneo-Fornite-de-ElRubius.
Naranjo, T. (2020). Regulación y prevención para los delitos en las redes sociales. En D. Caldevilla. Libro de Actas del XII Congreso Internacional Latina de Comunicación Social, 217. Editorial Historia de los Sistemas Informativos. https://doi.org/10.4185/RLCS-2021-1505.
Nematzadeh, A., Luca Ciampaglia, G., Ahn, Y. y Flammini, A. (2019). Information overload in group communication: from conversation to cacophony in the Twitch chat. Royal Society Open Science, 6(10), 191412. https://doi.org/10.1098/rsos.191412.
O’Connor, C. (2021). Gaming and Extremism. The Extreme Right on Twitch. Institute for Strategic Dialogue. https://www.isdglobal.org/isd-publications/gaming-and-extremism-the-extreme-right-on-twitch/.
Onli (5 de septiembre de 2021). Twitch en problemas por discursos de odio generó un hashtag con la leyenda #ADayOffTwtich, te decimos qué hay detrás de la huelga. ONLI. https://onli.mx/sostenibilidad/twitch-en-problemas-por-discursos-de-odio-genero-un-hashtag-con-la-leyenda-adayofftwtich
Organización de las Naciones Unidas (2019). Plan de acción contra el discurso de odio. https://www.un.org/en/genocideprevention/documents/Action_plan_on_hate_speech_ES.pdf
Peiser, J. (23 de junio de 2021). He was preparing for ‘a coming civil war,’ feds say. Now he faces up to 30 years in prison. The Washington Post. https://www.washingtonpost.com/nation/2021/06/23/paul-miller-gypsy-crusader/.
Quirk, T. (15 de enero de 2020). Can This Notorious Troll Turn People Away From Extremism? Wired. https://www.wired.com/story/twitch-politics-online-debate/
Ramírez, C.E. (7 de julio de 2017). Una periodista de Espejo Público sufre acoso mientras trabaja en San Fermín: "Hay cierta mujer que incita". Huffington Post. https://www.huffingtonpost.es/entry/una-periodista-de-espejo-publico-sufre-acoso-mientras-trabaja-en_es_5c8af19fe4b0f374fa9b82b2.html.
Ramos-Galarza, C. (2020). Los alcances de una investigación. CienciAmerica, 9(3), 1–6. http://dx.doi.org/10.33210/ca.v9i3.336.
Rivera-Martin, B., Martínez de Bartolomé Rincón, I. y López López, P. J. (2022). Discurso de odio hacia las personas LGTBIQ+: medios y audiencia social. Revista Prisma Social,39, 213-233.https://doi.org/10.2547/revist.8748
Roca-Trenchs, N., López-Borrull, A, y Lalueza, F (2024). Twitch como herramienta de comunicación política: análisis de potencialidades. Cuadernos.Info, (57), 25–45. https://doi.org/10.7764/cdi.57.64235
Ruiz-Bravo, N., Selander, L. y Roshan, M. (4-7 de enero de 2022). The political turn of Twitch - Understanding live chat as an emergent political space. 55th Hawaii International Conference on System Sciences. Maui, Hawaii, Estados Unidos. http://hdl.handle.net/10125/79723.
Ruiz Martín, J.M. y Alcalá Mellado, J.R. (2016). Los cuatro ejes de la cultura participativa actual. De las plataformas virtuales al medialab. Icono 14, 14(1), 95–122. http://doi.org/10.7195/ri14.v14i1.904.
Orús, A. (4 de enero de 2024). Consumo de los medios de comunicación en Europa. Statista. https://es.statista.com/temas/3558/consumo-de-los-medios-de-comunicacion-en-europa/#topicOverview.
Orús, A. (14 de noviembre de 2023). Número mensual de streamers activos en Twitch en todo el mundo de enero de 2018 a octubre de 2023. Statista. https://es.statista.com/estadisticas/1350021/streamers-activos-en-twitch-en-todo-el-mundo/.
Stein, L.E. (2015). Millennial fandom: television audiences in the transmedia age. University of Iowa Press.
Sung, M. (12 de octubre de 2022). Trans Twitch streamer Keffals is ready to return home. NBC News. https://www.nbcnews.com/pop-culture/keffals-twitch-kiwi-farms-new-chapter-rcna47780.
Tortajada, I. y Vera, T. (2021). Feminismo, misoginia y redes sociales. Investigaciones Feministas, 12(1), 1-4. https://doi.org/10.5209/infe.74446.
Twitch (6 de marzo de 2024a). Nuestros planes para 2024: Carta abierta del CEO de Twitch, Dan Clancy. https://blog.twitch.tv/es-es/2024/03/06/our-plans-for-2024-an-open-letter-from-twitch-ceo-dan-clancy/.
Twitch (1 de marzo de 2024b). Reglas del chat para el canal oficial de Twitch. https://help.twitch.tv/s/article/official-twitch-channel-chat-rules?language=es.
Valcore, J., Asquith, N.L. y Rodgers, J. “We’re led by stupid people”: Exploring Trump’s use of denigrating and deprecating speech to promote hatred and violence. Crime Law Soc Change 80, 237–256 (2023). https://doi.org/10.1007/s10611-023-10085-y
Vallejo, A. (9 de noviembre de 2023). Omegle dice adiós tras 14 años en activo: cierra una de las webs de videochat aleatorio más exitosas y problemáticas a la vez. Genbeta. https://www.genbeta.com/actualidad/omegle-dice-adios-14-anos-activo-cierra-webs-videochat-aleatorio-exitosas-problematicas-a-vez.
Varela, J. (2005). El asalto de los medios sociales. Cuadernos de periodistas, 2, 20-34.
Waisbord, S. (2020). ¿Es válido atribuir la polarización política a la comunicación digital? Sobre burbujas, plataformas y polarización afectiva. Revista SAAP, 14(2), 249–279. https://dx.doi.org/10.46468/rsaap.14.2.a1
Wulf, T., Schneider, F.M. y Beckert, S. (2020). Watching Players: An exploration of media enjoyment on Twitch. Games and Culture, 15(3), 328–346. https://doi.org/10.1177/1555412018788161.
Yang, C.C., Holden, S.M. y Ariati, J. (2021). Social Media and Psychological WellBeing Among Youth: The Multidimensional Model of Social Media Use. Clinical Child and Family Psychology Review, 24, 631–650. https://doi.org/10.1007/s10567-021-00359-z
Yang, K.C.C. y Kang, Y. (2021). Livestreaming Influencers, Influence Types, and Political Participation: A Case Study of Taiwan’s 2020 Presidential Election. Asiascape: Digital Asia, 8(1–2), 92–118. https://doi.org/10.1163/22142312-12340133.
Yin, R. K. (2003). Case study research: Design and methods. Sage.
Zhang, Y., Lukito, J., Suk, J., y McGrady, R. (2024). Trump, Twitter, and Truth Social: how Trump used both mainstream and alt-tech social media to drive news media attention. Journal of Information Technology & Politics, 1–14. https://doi.org/10.1080/19331681.2024.2328156.
Zhang, X., Ding, X., y Ma, L. (2020). The influences of information overload and social overload on intention to switch in social media. Behaviour & Information Technology, 41(2), 228–241. https://doi.org/10.1080/0144929X.2020.1800820
Copyright (c) 2025 Núria Roca Trenchs, Alexandre López-Borrull, Ferran Lalueza
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Os autores detêm os direitos autorais e garantem à revista o direito de ser a primeira publicação do trabalho. Caso uma tradução do artigo já publicado na Austral Comunicación possa ser publicada em outra revista, solicita-se registrar a publicação original na versão traduzida.
A licença utilizada é CC BY-NC-SA, que permite compartilhar (copiar e redistribuir o material em qualquer meio e formato) e adaptar (remixar, transformar e construir sobre o material) nos seguintes termos: atribuição (reconhecer a autoria) e não comercial (o material não pode ser usado para fins comerciais). Atualização: 1 de fevereiro de 2022.
A Austral Comunicación permite ao (s) autor (es) reter os direitos de publicação sem restrições.
