Pánico moral, discursos de odio y el asedio algorítmico a los derechos humanos
DOI:
https://doi.org/10.30972/clt.309673Palavras-chave:
algoritmos, economía de la atención, discurso de odio, pánico moral, derechos humanosResumo
En el ecosistema digital, la “economía de la atención” y los algoritmos priorizan el engagement y la polarización mediante filtros burbuja y cámaras de eco. Mediante un enfoque cualitativo que integra un análisis estrictamente documental y jurídico-comparativo, este artículo examina la insuficiencia regulatoria frente a la violencia digital. Los resultados demuestran que el “pánico moral” actúa como un mecanismo discursivo encubierto, permitiendo que el discurso de odio se disfrace de preocupación legítima para eludir la moderación corporativa y vulnerar la dignidad de grupos históricamente marginados, particularmente mujeres y colectivos LGTBIQ+. Se concluye la inviabilidad de la autorregulación corporativa y se exige la intervención activa del Estado mexicano. Bajo el principio interamericano de que los derechos offline aplican online, es urgente un marco normativo que subordine el modelo de negocio algorítmico al respeto irrestricto de la dignidad humana.
Referências
Bajaña Tovar, Fernando. (2021). Filtro burbuja: ¿Cuál es el costo de la personalización digital? Revista Chilena de Derecho y Tecnología, 10(1), 29-52. https://doi.org/10.5354/0719-2584.2021.54042
Bárcenas Barajas, Karina. (2021). La violencia simbólica en el discurso sobre la ‘ideología de género’: una perspectiva desde la dominación simbólica a través del pánico moral y la posverdad. Intersticios Sociales, (21), 125-150. https://tinyurl.com/2cjybpqd
Cohen, Stanley. (2011 [1972]). Folk devils and moral panics: the creation of mods and rockers. Routledge.
Constitución Política de los Estados Unidos Mexicanos. (1917, 5 de febrero). Constitución Política de los Estados Unidos Mexicanos. Diario Oficial de la Federación.
Cornejo-Valle, Mónica y Pichardo, J. Ignacio. (2017). La “ideología de género” frente a los derechos sexuales y reproductivos. El escenario español. Cadernos Pagu, (50), e175009. https://doi.org/10.1590/18094449201700500009
Díaz Soto, José Manuel. (2015). Una aproximación al concepto de discurso del odio. Revista Derecho del Estado, (34), 77-101. https://doi.org/10.18601/01229893.n34.05
Ging, Debbie. (2019). Alphas, betas, and incels: Theorizing the masculinities of the manosphere. Men and Masculinities, 22(4), 638-657. https://doi.org/10.1177/1097184X17706401
Habermas, Jürgen. (1987). Teoría de la acción comunicativa. Vol. I. Taurus. Ley Federal para Prevenir y Erradicar la Discriminación. (2003, 11 de junio). Ley Federal para Prevenir y Erradicar la Discriminación. Diario Oficial de la Federación.
Lombana-Bermúdez, Andrés; Vallejo Mejía, Maryluz; Gómez Céspedes, Liliana María y Pino Uribe, Juan Federico. (2022). Cámaras de eco, desinformación y campañas de desprestigio en Colombia. Un estudio de Twitter y las elecciones locales de Medellín en 2019. Política y Gobierno, 29(1), 1-30. https://tinyurl.com/224er9tm
López Julca, Carlos; Julca Guerrero, Félix; Nivin Vargas, Laura; Allauca Castillo, Wendy; Robles Trejo, Luis y Robles Blacido, Elmer. (2024). El filtro burbuja y el derecho a la información en la web. Desde el Sur, 16(1), 1-21. https://tinyurl.com/23w97wss
Márquez, Israel y Ardèvol, Elisenda. (2018). Hegemonía y contrahegemonía en el fenómeno youtuber. Desacatos, (56), 34-49. https://tinyurl.com/2dz5hhne
Metzler, Hannah y García, David. (2024). Social Drivers and Algorithmic Mechanisms on Digital Media. Perspectives on Psychological Science, 19(5), 735-748. https://doi.org/10.1177/17456916231185057
Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos. (2012, 5 de octubre). Rabat Plan of Action on the prohibition of advocacy of national, racial or religious hatred that constitutes incitement to discrimination, hostility or violence. En Report of the United Nations High commissioner for Human Rights on the expert workshops on the prohibition of incitement to national, racial or religious hatred (pp. 6-15). Organización de las Naciones Unidas. [ACNUDH] https://tinyurl.com/26q2xahe
Organización de las Naciones Unidas. (1966, 16 de diciembre). Pacto Internacional de Derechos Civiles y Políticos. Organización de las Naciones Unidas. [ONU]
Organización de las Naciones Unidas. (2019). Estrategia y plan de acción de las Naciones Unidas para la lucha contra el discurso de odio. Organización de las Naciones Unidas. [ONU] https://tinyurl.com/24u7a35g
Organización de los Estados Americanos. (1969, 22 de noviembre). Convención Americana sobre Derechos Humanos “Pacto de San José de Costa Rica”. Organización de los Estados Americanos.
Pariser, Eli. (2017). El filtro burbuja: Cómo la red decide lo que leemos y lo que pensamos. Taurus.
Pecourt, Juan; Rubio Arostegui, Juan Arturo y Aranda, José María. (2024). Las guerras murales. Feminismo popular y pánico moral en Madrid: un estudio de caso del barrio de La Concepción. RIPS: Revista de Investigaciones Políticas y Sociológicas, 23(2), 42-62. https://doi.org/10.15304/rips.24.2.9876
Relatoría Especial para la Libertad de Expresión. (2013). Libertad de expresión e Internet. Comisión Interamericana de Derechos Humanos. [RELE]
Relatoría Especial para la Libertad de Expresión. (2017). Estándares para una Internet libre, abierta e incluyente. Comisión Interamericana de Derechos Humanos. [RELE]
Rodríguez Cano, Carlos Antonio. (2018). Los usuarios en su laberinto: burbujas de filtros, cámaras de eco y mediación algorítmica en la opinión pública en línea. Virtualis, 8(16), 57-76. https://tinyurl.com/239eogjm
Rossel-Castagneto, María Lorena. (2025). Regular el odio digital: entre la libertad de expresión y la protección de colectivos vulnerables en Chile. Universitas XXI, 43, 95-122. https://doi.org/10.17163/uni.n43.2025.04
Suárez Poveda, José Francisco y Del Campo Saltos, Guillermo. (2024). Algoritmos en redes sociales y estrategias comunicacionales para el posicionamiento de medios tradicionales. LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 5(6), 1670-1686. https://doi.org/10.56712/latam.v5i6.3114
Tortajada, Iolanda y Vera, Teresa. (2021). Presentación del monográfico: Feminismo, misoginia y redes sociales. Investigaciones Feministas, 12(1), 1-4. https://doi.org/10.5209/infe.74446
Waisbord, Silvio. (2020). ¿Es válido atribuir la polarización política a la comunicación digital? Sobre burbujas, plataformas y polarización afectiva. Revista SAAP, 14(2), 249-279. https://doi.org/10.46468/rsaap.14.2.a1
Waldron, Jeremy. (2012). The harm in hate speech. Harvard University Press.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
El envío de trabajos a Cuadernos de Literatura. Revista de Estudios Lingüísticos y Literarios implica una declaración de originalidad de la producción y la cesión de derechos de publicidad. Los autores retienen, no obstante, los derechos de propiedad intelectual y responsabilidad ética así como la posibilidad de difundir sus producciones por los medios que consideren. La cesión de derechos implica también la autorización por parte de los autores para que el trabajo sea depositado en el repositorio institucional y/o difundido a través de las bases de datos que el editor considere adecuadas para su indización, con miras a incrementar la visibilidad de la publicación y de sus autores.
52.jpg){kind=logo}
