Hate speech, and the algorithmic siege on human rights
DOI:
https://doi.org/10.30972/clt.309673Keywords:
algorithms, attention economy, hate speech, moral panic, human rightsAbstract
In the digital ecosystem, the “attention economy” and algorithms prioritize engagement and polarization through filter bubbles and echo chambers. Through a qualitative approach that integrates a strictly documentary and comparative legal analysis, this article examines regulatory insufficiency in the face of digital violence. The results demonstrate that “moral panic” acts as a covert discursive mechanism, allowing hate speech to masquerade as legitimate concern to bypass corporate moderation and violate the dignity of historically marginalized groups, particularly women and LGTBIQ+ collectives. The article concludes that corporate self-regulation is unviable and demands the active intervention of the Mexican State. Based on the Inter-American principle that offline rights apply online, there is an urgent need for a regulatory framework that subordinates the algorithmic business model to the strict respect of human dignity.
References
Bajaña Tovar, Fernando. (2021). Filtro burbuja: ¿Cuál es el costo de la personalización digital? Revista Chilena de Derecho y Tecnología, 10(1), 29-52. https://doi.org/10.5354/0719-2584.2021.54042
Bárcenas Barajas, Karina. (2021). La violencia simbólica en el discurso sobre la ‘ideología de género’: una perspectiva desde la dominación simbólica a través del pánico moral y la posverdad. Intersticios Sociales, (21), 125-150. https://tinyurl.com/2cjybpqd
Cohen, Stanley. (2011 [1972]). Folk devils and moral panics: the creation of mods and rockers. Routledge.
Constitución Política de los Estados Unidos Mexicanos. (1917, 5 de febrero). Constitución Política de los Estados Unidos Mexicanos. Diario Oficial de la Federación.
Cornejo-Valle, Mónica y Pichardo, J. Ignacio. (2017). La “ideología de género” frente a los derechos sexuales y reproductivos. El escenario español. Cadernos Pagu, (50), e175009. https://doi.org/10.1590/18094449201700500009
Díaz Soto, José Manuel. (2015). Una aproximación al concepto de discurso del odio. Revista Derecho del Estado, (34), 77-101. https://doi.org/10.18601/01229893.n34.05
Ging, Debbie. (2019). Alphas, betas, and incels: Theorizing the masculinities of the manosphere. Men and Masculinities, 22(4), 638-657. https://doi.org/10.1177/1097184X17706401
Habermas, Jürgen. (1987). Teoría de la acción comunicativa. Vol. I. Taurus. Ley Federal para Prevenir y Erradicar la Discriminación. (2003, 11 de junio). Ley Federal para Prevenir y Erradicar la Discriminación. Diario Oficial de la Federación.
Lombana-Bermúdez, Andrés; Vallejo Mejía, Maryluz; Gómez Céspedes, Liliana María y Pino Uribe, Juan Federico. (2022). Cámaras de eco, desinformación y campañas de desprestigio en Colombia. Un estudio de Twitter y las elecciones locales de Medellín en 2019. Política y Gobierno, 29(1), 1-30. https://tinyurl.com/224er9tm
López Julca, Carlos; Julca Guerrero, Félix; Nivin Vargas, Laura; Allauca Castillo, Wendy; Robles Trejo, Luis y Robles Blacido, Elmer. (2024). El filtro burbuja y el derecho a la información en la web. Desde el Sur, 16(1), 1-21. https://tinyurl.com/23w97wss
Márquez, Israel y Ardèvol, Elisenda. (2018). Hegemonía y contrahegemonía en el fenómeno youtuber. Desacatos, (56), 34-49. https://tinyurl.com/2dz5hhne
Metzler, Hannah y García, David. (2024). Social Drivers and Algorithmic Mechanisms on Digital Media. Perspectives on Psychological Science, 19(5), 735-748. https://doi.org/10.1177/17456916231185057
Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. (2012, 5 de octubre). Rabat Plan of Action on the prohibition of advocacy of national, racial or religious hatred that constitutes incitement to discrimination, hostility or violence. En Report of the United Nations High commissioner for Human Rights on the expert workshops on the prohibition of incitement to national, racial or religious hatred (pp. 6-15). Organización de las Naciones Unidas. [ACNUDH] https://tinyurl.com/26q2xahe
Organización de las Naciones Unidas. (1966, 16 de diciembre). Pacto Internacional de Derechos Civiles y Políticos. Organización de las Naciones Unidas. [ONU]
Organización de las Naciones Unidas. (2019). Estrategia y plan de acción de las Naciones Unidas para la lucha contra el discurso de odio. Organización de las Naciones Unidas. [ONU] https://tinyurl.com/24u7a35g
Organización de los Estados Americanos. (1969, 22 de noviembre). Convención Americana sobre Derechos Humanos “Pacto de San José de Costa Rica”. Organización de los Estados Americanos.
Pariser, Eli. (2017). El filtro burbuja: Cómo la red decide lo que leemos y lo que pensamos. Taurus.
Pecourt, Juan; Rubio Arostegui, Juan Arturo y Aranda, José María. (2024). Las guerras murales. Feminismo popular y pánico moral en Madrid: un estudio de caso del barrio de La Concepción. RIPS: Revista de Investigaciones Políticas y Sociológicas, 23(2), 42-62. https://doi.org/10.15304/rips.24.2.9876
Relatoría Especial para la Libertad de Expresión. (2013). Libertad de expresión e Internet. Comisión Interamericana de Derechos Humanos. [RELE]
Relatoría Especial para la Libertad de Expresión. (2017). Estándares para una Internet libre, abierta e incluyente. Comisión Interamericana de Derechos Humanos. [RELE]
Rodríguez Cano, Carlos Antonio. (2018). Los usuarios en su laberinto: burbujas de filtros, cámaras de eco y mediación algorítmica en la opinión pública en línea. Virtualis, 8(16), 57-76. https://tinyurl.com/239eogjm
Rossel-Castagneto, María Lorena. (2025). Regular el odio digital: entre la libertad de expresión y la protección de colectivos vulnerables en Chile. Universitas XXI, 43, 95-122. https://doi.org/10.17163/uni.n43.2025.04
Suárez Poveda, José Francisco y Del Campo Saltos, Guillermo. (2024). Algoritmos en redes sociales y estrategias comunicacionales para el posicionamiento de medios tradicionales. LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 5(6), 1670-1686. https://doi.org/10.56712/latam.v5i6.3114
Tortajada, Iolanda y Vera, Teresa. (2021). Presentación del monográfico: Feminismo, misoginia y redes sociales. Investigaciones Feministas, 12(1), 1-4. https://doi.org/10.5209/infe.74446
Waisbord, Silvio. (2020). ¿Es válido atribuir la polarización política a la comunicación digital? Sobre burbujas, plataformas y polarización afectiva. Revista SAAP, 14(2), 249-279. https://doi.org/10.46468/rsaap.14.2.a1
Waldron, Jeremy. (2012). The harm in hate speech. Harvard University Press.
Downloads
Published
How to Cite
Issue
Section
License
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.
El envío de trabajos a Cuadernos de Literatura. Revista de Estudios Lingüísticos y Literarios implica una declaración de originalidad de la producción y la cesión de derechos de publicidad. Los autores retienen, no obstante, los derechos de propiedad intelectual y responsabilidad ética así como la posibilidad de difundir sus producciones por los medios que consideren. La cesión de derechos implica también la autorización por parte de los autores para que el trabajo sea depositado en el repositorio institucional y/o difundido a través de las bases de datos que el editor considere adecuadas para su indización, con miras a incrementar la visibilidad de la publicación y de sus autores.
52.jpg){kind=logo}
