Gobernanza algorítmica, capacidades estatales y desigualdad digital: el caso de los Principios de Chapultepec
Algorithmic Governance, State Capacities, and Digital Inequality: The Case of the Chapultepec Principles
Miguel Angel Barrera Rojas. Universidad Autónoma del Estado de Quintana Roo. miguel.barrera@uqroo.edu.mx
Resumen analítico
Este informe de coyuntura analiza los Principios de Chapultepec como un instrumento incipiente de gobernanza algorítmica en México, enmarcado en el debate internacional sobre la regulación ética de la inteligencia artificial. A partir de los enfoques de brecha digital de Van Dijk y su actualización en el contexto latinoamericano, el texto sostiene que la eficacia de estos principios depende de las capacidades estatales y de la reducción de desigualdades estructurales. Se argumenta que, sin mecanismos institucionales vinculantes y sin atender las brechas digitales persistentes, la gobernanza algorítmica corre el riesgo de permanecer en el plano declarativo y reproducir desigualdades existentes.
Palabras clave: Gobernanza algorítmica; capacidades estatales; brecha digital; inteligencia artificial.
Abstract
This conjunctural report examines the Chapultepec Principles as an emerging instrument of algorithmic governance in Mexico, situated within the broader international debate on the ethical regulation of artificial intelligence. Drawing on Van Dijk’s digital divide framework and its recent Latin American developments, the article argues that the effectiveness of these principles depends on state capacities and the reduction of structural inequalities. It contends that without binding institutional mechanisms and explicit attention to persistent digital divides, algorithmic governance risks remaining declarative and may inadvertently reproduce existing social inequalities.
Keywords: Algorithmic governance; state capacity; digital divide; artificial intelligence.
Introducción
La rápida incorporación de sistemas de inteligencia artificial en ámbitos estratégicos de la vida pública ha colocado a los Estados frente a un desafío emergente: cómo gobernar tecnologías algorítmicas que intervienen crecientemente en la toma de decisiones, la provisión de servicios y la mediación de derechos. Este desafío ha sido reconocido a nivel internacional como un problema público que trasciende lo técnico y que exige marcos de gobernanza capaces de articular innovación tecnológica, derechos humanos y reducción de desigualdades (ONU, 2024). De hecho, en los últimos años y con el auge del uso de Inteligencias Artificiales (IA), distintos organismos multilaterales internacionales han advertido que el desarrollo y uso de las IA ocurre en contextos profundamente desiguales, caracterizados por brechas persistentes en el acceso a la infraestructura digital, las capacidades tecnológicas y los beneficios derivados de la digitalización. En este sentido, la cooperación digital internacional ha comenzado a enfatizar que los potenciales beneficios sociales de la inteligencia artificial dependen de la existencia de mecanismos de supervisión humana, responsabilidad institucional y atención explícita a las brechas digitales que atraviesan a las sociedades contemporáneas (ONU, 2024; UNESCO, 2022).
En el contexto más próximo, es decir, nuestra América Latina, estas preocupaciones adquieren una relevancia particular, especialmente para los países con menores capacidades tecnológicas y de infraestructura en el sentido de que los diagnósticos recientes sobre gobierno digital muestran que, si bien los Estados latinoamericanos han avanzado en la adopción de tecnologías digitales en el sector público, persisten limitaciones regionales significativas en capacidades institucionales, coordinación intergubernamental y evaluación de impactos, especialmente en relación con tecnologías emergentes como la inteligencia artificial (Mapa 1), principalmente en países con menor grado de desarrollo (OCDE y BID, 2024). Este escenario plantea interrogantes sobre la capacidad real de los gobiernos para traducir principios normativos en prácticas efectivas de gobernanza algorítmica.
Mapa 1.
Índice compuesto de Gobierno digital en América Latina y el Caribe
Fuente: elaboración propia en Google colab con datos de OCDE y BID (2024)
Y, es justo en este contexto que se inscribe la Declaración de ética y buenas prácticas para el uso y desarrollo de la inteligencia artificial (Gobierno de México, 2026), publicada recientemente y conocida como Principios de Chapultepec. A primera vista, este documento representa el primer esfuerzo explícito del Estado mexicano por establecer, en un marco de gobernanza, orientaciones generales para el desarrollo y uso de la inteligencia artificial desde un enfoque centrado en la dignidad humana, la responsabilidad social y la supervisión humana de los sistemas algorítmicos. En ese sentido, su aparición supone un punto de inflexión en la agenda pública nacional, al reconocer de manera explícita los riesgos y dilemas asociados a estas tecnologías. Sin embargo, al tratarse de un instrumento de carácter no vinculante, los Principios de Chapultepec plantean preguntas relevantes sobre su alcance como herramienta de gobernanza algorítmica. Esto es, que más allá de su formulación ética, resulta necesario analizar el documento a la luz de las condiciones institucionales, las capacidades estatales y las desigualdades estructurales que caracterizan al contexto mexicano, particularmente en lo relativo a las brechas digitales existentes.
Así pues, este informe de coyuntura tiene por objetivo examinar los Principios de Chapultepec como un dispositivo incipiente de gobernanza algorítmica, situado en una coyuntura internacional marcada por el debate sobre la regulación de la inteligencia artificial y condicionado por las desigualdades sociales y tecnológicas del país. A partir de su análisis en diálogo con los marcos multilaterales sobre cooperación digital y ética de la inteligencia artificial, el texto busca identificar las tensiones entre principios normativos, capacidades institucionales y riesgos de reproducción de desigualdades, con el objetivo de abrir preguntas relevantes para la política pública y el futuro de la gobernanza algorítmica en México.
1. Gobernanza algorítmica y brecha digital: un marco conceptual necesario
Cuando se habla de gobernanza algorítmica es necesario incorporar de manera explícita la noción de brecha digital como una condición, primero conceptual, pero también estructural que atraviesa tanto a las instituciones públicas como a la ciudadanía. De lo anterior se desprende que, en este texto, la brecha digital no sea concebida como un problema circunscrito al acceso a infraestructura tecnológica, sino como un fenómeno complejo, dinámico y multidimensional que refleja y reproduce desigualdades sociales preexistentes, pues esta perspectiva resulta fundamental para comprender los límites y riesgos de la gobernanza algorítmica en contextos sociales desiguales.
Siguiendo el enfoque clásico desarrollado por Jan van Dijk (2005, 2006, 2009), la brecha digital debe entenderse como un proceso escalonado que opera en distintos niveles:
- El primero hace referencia al acceso material a las tecnologías de la información y la comunicación, que incluye la disponibilidad de dispositivos, conectividad y calidad de la infraestructura. Esta definición, aunque pionera tiene como limitante que el propio Van Dijk (2005) señala que este nivel constituye apenas el umbral de la inclusión digital y que, por sí solo, no garantiza una participación equitativa en la sociedad de la información (Van Dijk, 2005).
- Un segundo nivel de la brecha digital se vincula con las habilidades y competencias necesarias para utilizar las tecnologías de manera efectiva. Esto es, que la desigualdad ya no se explica únicamente por la posesión de dispositivos o el acceso a internet, sino por la capacidad de las personas para comprender, manejar y aprovechar las herramientas digitales en contextos educativos, laborales y sociales (Van Dijk, 2006). De hecho, en los textos de Van Deursen y Van Dijk (2014) se refuerza la tesis de que las competencias digitales están estrechamente asociadas a trayectorias educativas, capital cultural y condiciones socioeconómicas previas, lo que refuerza el carácter estructural de la brecha digital.
- Un tercer nivel, particularmente relevante para el análisis de la gobernanza algorítmica y que es pertinente para este texto, se relaciona con los beneficios derivados del uso de las tecnologías digitales. Van Dijk (2006, 2009) sostiene que las desigualdades más persistentes no se encuentran únicamente en el acceso o en las habilidades, sino en la capacidad de convertir el uso de las tecnologías en ventajas sociales concretas, como mejores oportunidades educativas, laborales, cívicas o de acceso a servicios públicos. Desde esta óptica, la brecha digital se expresa como una desigualdad en los retornos sociales de la digitalización.
Esta conceptualización clásica fue discutida y ampliada a inicios de la década de 2020 en el sentido de que el debate sobre brecha digital se concentraba predominantemente en la dimensión del acceso; sin embargo, la emergencia sanitaria por COVID-19 evidenció con claridad nuevas formas de exclusión vinculadas con las competencias digitales, las condiciones del hogar y la capacidad de uso significativo de las tecnologías en situaciones de crisis (Barrera y Lugo, 2024; Padilla y Barrera, 2025).
Desde esta perspectiva, la brecha digital constituye una condición estructural que condiciona de manera directa la gobernanza algorítmica. La introducción de sistemas de inteligencia artificial en la gestión pública, la educación o los servicios sociales no ocurre sobre un terreno neutral, sino sobre un entramado de desigualdades preexistentes que determinan quiénes pueden comprender, cuestionar, auditar o beneficiarse de dichas tecnologías. En consecuencia, cualquier análisis de gobernanza algorítmica que omita esta dimensión corre el riesgo de asumir una falsa universalidad en el acceso y uso de la inteligencia artificial, invisibilizando los mecanismos mediante los cuales estas tecnologías pueden reproducir o profundizar la exclusión social.
2. Coyuntura internacional de la gobernanza algorítmica
La discusión contemporánea sobre gobernanza algorítmica se inscribe en un proceso más amplio de redefinición de la cooperación digital internacional. Lejos de concebir a la inteligencia artificial como un fenómeno estrictamente técnico, los principales organismos multilaterales han comenzado a abordarla como un componente estructural del desarrollo, la democracia y los derechos humanos. Esta perspectiva reconoce que los sistemas algorítmicos no operan en el vacío, sino que se insertan en contextos sociales, económicos y políticos atravesados por profundas desigualdades.
En primera instancia convendrá definir la gobernanza en las IA como todos aquellos “procesos, estándares y barandillas que ayudan a garantizar que los sistemas y herramientas de IA sean seguros y éticos. Los marcos de gobernanza de la IA dirigen la investigación, el desarrollo y la aplicación de la IA para ayudar a garantizar la seguridad, la equidad y el respeto a los derechos humanos” (Mucci y Stryker, 2025, sp), esto es, que la IA, su uso y desarrollo debe ceñirse a cuatro principios que reduzcan su uso no ético, pero sobre todo, su incertidumbre en el uso y los resultados que arroja: 1) Empatía y como las organizaciones deben anticipar y abordar el impacto de las IA; 2) Control de sesgos que refiere a examinar con rigor los datos con que las IA son entrenadas; 3) Transparencia que alude a la claridad y apertura con que los algoritmos son entrenados además de explicar la lógica de los resultados que se entregan; y, 4) Responsabilidad, en donde usuarios y organizaciones deben acompañar y hacerse responsables del uso de IA.
Ahora bien, la ONU (2024) establece que la IA es reconocida como una tecnología con un alto potencial para acelerar el cumplimiento de los Objetivos de Desarrollo Sostenible, pero también como una fuente de riesgos que exige mecanismos de supervisión humana, responsabilidad institucional y cooperación internacional reforzad, esto es, se vincula la gobernanza de la IA con la necesidad de reducir todas las brechas digitales, tanto las estructurales, como las sociales e incluso culturales, subrayando que la persistencia de desigualdades en el acceso, las capacidades y el uso significativo de las tecnologías digitales puede limitar severamente los beneficios sociales de la digitalización.
Así, la gobernanza algorítmica no se reduce a la regulación de modelos o sistemas específicos, sino que implica la construcción de capacidades estatales, marcos normativos y arreglos institucionales que permitan orientar el ciclo completo de vida de las tecnologías digitales. Esta visión coloca a los Estados en un rol central, no solo como usuarios de tecnologías algorítmicas, sino como actores responsables, en términos de gobernabilidad, de garantizar que su adopción no reproduzca desigualdades existentes ni vulnere derechos fundamentales.
En un sentido complementario, la UNESCO (2022) ofrece un marco normativo global que profundiza en las implicaciones sociales y éticas de los sistemas algorítmicos al tiempo de advertir que los propios algoritmos pueden amplificar sesgos, discriminaciones y exclusiones preexistentes, particularmente en contextos caracterizados por brechas digitales y asimetrías en el acceso al conocimiento y a la infraestructura tecnológica. Esta visión apunta a una idea común: sin capacidades institucionales sólidas, sin mecanismos efectivos de evaluación y sin una atención explícita a las brechas digitales, los principios éticos y las estrategias de digitalización corren el riesgo de permanecer en el plano declarativo. En este escenario, los esfuerzos nacionales por definir orientaciones sobre el uso y desarrollo de la inteligencia artificial adquieren relevancia no solo por su alineación discursiva con estos marcos globales, sino por su potencial para traducirlos en prácticas concretas de gobernanza algorítmica.
3. Los Principios de Chapultepec como instrumento de Gobernanza Algorítmica
En el caso mexicano, el principal esfuerzo reciente por establecer orientaciones sobre el uso y desarrollo de la inteligencia artificial es la Declaración de ética y buenas prácticas para el uso y desarrollo de la inteligencia artificial. Este documento, publicado a inicios de 2026, constituye el primer posicionamiento explícito del Estado mexicano frente a los desafíos asociados a la incorporación de sistemas algorítmicos en ámbitos públicos y sociales. Su relevancia radica no solo en el contenido normativo que propone, sino en el hecho de que inaugura una agenda de discusión sobre la gobernanza de la IA en un contexto nacional caracterizado por profundas desigualdades sociales, brechas digitales persistentes y capacidades institucionales heterogéneas. Asimismo el documento plantea el uso de la IA alineado con la dignidad humana, los derechos fundamentales y el bienestar social al tiempo de reconocer explícitamente que la IA no es neutral y que su aplicación puede generar impactos diferenciados en personas y grupos sociales, particularmente en contextos marcados por desigualdades estructurales y brechas digitales persistentes (Gobierno de México, 2026).
De hecho, uno de los elementos centrales del documento es su énfasis en la supervisión humana de los sistemas de IA, es decir, se establece que las decisiones automatizadas no deben sustituir completamente el juicio humano, especialmente cuando se trata de procesos que pueden afectar derechos, libertades o condiciones de vida de las personas. Esta orientación resulta consistente con los marcos internacionales que advierten sobre los riesgos de la automatización opaca y la delegación acrítica de decisiones en sistemas algorítmicos, y sitúa al Estado como responsable último de las consecuencias derivadas del uso de estas tecnologías (Gobierno de México, 2026).
Asimismo, el documento incorpora principios relacionados con la transparencia y el accountability, al señalar la importancia de que los sistemas de inteligencia artificial sean comprensibles y auditables en la medida de lo posible. No obstante, estos principios se formulan de manera general, sin especificar mecanismos institucionales concretos para su implementación, evaluación o sanción en caso de incumplimiento. Esta ambigüedad refleja una de las tensiones propias de los instrumentos de soft governance (Maggetti, 2015), es decir, su capacidad para establecer orientaciones normativas amplias contrasta con su limitada fuerza para transformar prácticas organizacionales y procesos administrativos de manera efectiva. En sentido de lo anterior, los Principios de Chapultepec pueden interpretarse como un primer paso hacia la construcción de un marco nacional de gobernanza algorítmica, más que como un instrumento acabado. Su valor radica en haber colocado el tema en la agenda pública y en haber alineado el discurso estatal con los estándares internacionales en materia de ética y derechos humanos. No obstante, su efectividad dependerá de la capacidad del Estado mexicano para desarrollar mecanismos de implementación, monitoreo y rendición de cuentas que permitan convertir estos principios en prácticas institucionales concretas, particularmente en un contexto marcado por desigualdades territoriales, capacidades administrativas heterogéneas y brechas digitales persistentes.
4. Gobernanza algorítmica y capacidades estatales
Será importante señalar que la gobernanza algorítmica no puede analizarse únicamente desde el plano normativo o ético; su viabilidad depende de manera directa de las capacidades estatales existentes para orientar, supervisar y evaluar el uso de sistemas de inteligencia artificial. En este sentido, la pregunta obligada no es solo qué principios deberían guiar el desarrollo y uso de estas tecnologías, sino qué tan preparados están los Estados para hacerlos operativos en contextos institucionales complejos y desiguales.
Los marcos internacionales coinciden en señalar que la gobernanza de tecnologías digitales emergentes exige capacidades públicas específicas, lo que obliga a los gobiernos a contar con estructuras institucionales capaces de evaluar riesgos, coordinar actores y garantizar la rendición de cuentas a lo largo del ciclo de vida de las tecnologías digitales, incluida la IA (Naciones Unidas, 2024). Desde esta perspectiva, la gobernanza algorítmica implica una ampliación de las funciones tradicionales del Estado, que pasa de ser un mero usuario de tecnologías a un actor responsable de su orientación estratégica. Desde esta óptica, la gobernanza algorítmica (OCDE y BID, 2024) requiere al menos tres tipos de capacidades estatales: 1) Capacidades técnicas, vinculadas con la comprensión del funcionamiento básico de los sistemas de inteligencia artificial, la gestión de datos y la identificación de riesgos asociados a la automatización de decisiones; 2) Capacidades jurídicas y normativas, orientadas a definir marcos regulatorios, responsabilidades institucionales y mecanismos de rendición de cuentas; 3) Capacidades organizacionales, relacionadas con la coordinación entre dependencias, niveles de gobierno y actores externos, así como con la integración de la inteligencia artificial en procesos administrativos de manera coherente.
En el caso mexicano estas tensiones son evidentes, pues si bien los Principios de Chapultepec plantean un reconocimiento explícito, por parte del Estado, de la necesidad de orientar el uso de la inteligencia artificial conforme a valores públicos y derechos fundamentales (Gobierno de México, 2026), la realidad es que el propio carácter orientador y no vinculante del documento pone de relieve la ausencia de un andamiaje institucional consolidado para su implementación en el sentido de que la declaración no asigna responsabilidades específicas, ni establece mecanismos claros de seguimiento o evaluación, lo que limita su capacidad para incidir directamente en las prácticas de gobierno. Desde esta perspectiva, la gobernanza algorítmica en México enfrenta un desafío estructural: avanzar en la formulación de principios normativos sin contar aún con las capacidades estatales necesarias para hacerlos plenamente operativos. Como señalan la OCDE y BID y la ONU, sin inversiones sostenidas en fortalecimiento institucional, desarrollo de talento público y sistemas de evaluación, los esfuerzos de gobernanza digital corren el riesgo de permanecer en el plano declarativo (Naciones Unidas, 2024; OCDE y BID, 2024).
Cierre de coyuntura
La publicación de los Principios de Chapultepec marca un momento clave en la trayectoria reciente de la gobernanza algorítmica en México. Más que un punto de llegada, el documento constituye un hito de apertura que evidencia el reconocimiento estatal de los riesgos, dilemas y responsabilidades asociados al uso de la inteligencia artificial en la vida pública. En este sentido, la coyuntura actual no se define únicamente por la adopción de principios éticos, sino por la necesidad de decidir cómo estos serán traducidos o no en arreglos institucionales, políticas públicas y prácticas de gobierno concretas.
Un primer escenario posible es aquel en el que los Principios de Chapultepec funcionen como un marco de referencia discursivo, alineado con los estándares internacionales promovidos por instancias como la ONU y la UNESCO, pero con efectos limitados en la transformación de las prácticas administrativas. El riesgo de este escenario es que ante la ausencia de mecanismos vinculantes, de responsabilidades institucionales claras y de sistemas de evaluación, la gobernanza algorítmica solo queda en el plano declarativo, reproduciendo la distancia entre principios normativos y capacidades estatales.
Un segundo escenario, más ambicioso, implicaría la progresiva institucionalización de la gobernanza algorítmica a partir de los Principios de Chapultepec. Esto supondría su articulación con estrategias de gobierno digital, marcos regulatorios emergentes y políticas de fortalecimiento de capacidades estatales. En este escenario, la gobernanza algorítmica podría convertirse en una herramienta para orientar la innovación tecnológica hacia objetivos de inclusión y bienestar social.
Convendrá señalar que ambos escenarios están condicionados por un factor transversal: la persistencia de brechas digitales estructurales, esto es, que mientras estas brechas no sean abordadas de manera explícita, la gobernanza algorítmica corre el riesgo de operar sobre supuestos de universalidad que no se corresponden con las condiciones reales de amplios sectores de la población ni de las propias instituciones públicas. Desde esta perspectiva, la coyuntura actual abre un conjunto de preguntas que resultan centrales para el debate sobre política pública en México. ¿Cómo traducir principios éticos generales en mecanismos operativos de gobernanza algorítmica? ¿Qué capacidades institucionales son necesarias para supervisar, evaluar y corregir el uso de sistemas de inteligencia artificial en el sector público? ¿De qué manera pueden incorporarse las brechas digitales como un criterio explícito en el diseño y evaluación de políticas algorítmicas? Estas preguntas no encuentran respuesta definitiva en los Principios de Chapultepec, pero delimitan el campo de acción para futuras decisiones gubernamentales.
Bibliografía
Barrera, M. y Lugo, L. (2024). Actualización sobre el concepto de brecha digital en tiempos de la inteligencia artificial: hacia una propuesta cualitativa. Sintaxis. 7(13), 49-78 https://doi.org/10.36105/stx.2024n13.05
Gobierno de México (2026). Declaración de ética y buenas prácticas para el uso y desarrollo de la inteligencia artificial. Disponible en https://secihti.mx/wp-content/uploads/2026/02/Principios_Chapultepec-2.pdf
OCDE y Banco Interamericano de Desarrollo. (2024). Revisión del Gobierno digital en América Latina y el Caribe: Construyendo servicios públicos inclusivos y confiables. París, Francia: OCDE Publishing. Disponible en https://www.oecd.org/content/dam/oecd/es/publications/reports/2023/09/digital-government-review-of-latin-america-and-the-caribbean_75a4be05/7a127615-es.pdf
Maggetti, M. (2015). Hard and Soft Governance. In: Lynggaard, K., Manners, I., Löfgren, K. (eds) Research Methods in European Union Studies. Palgrave Studies in European Union Politics. Palgrave Macmillan, London. https://doi.org/10.1057/9781137316967_16
Mucci, T., Stryker, C. (2025). ¿Qué es la gobernanza de la IA?. Disponible en https://www.ibm.com/mx-es/think/topics/ai-governance
Naciones Unidas. (2024). Global Digital Compact. Nueva York, NY: United Nations. Disponible en https://docs.un.org/es/A/79/L.2
Padilla, Z. y Barrera, M. (2025). Una revisión documental de la evolución del concepto de brecha digital. Sintaxis. 8(15), 158-174 https://doi.org/10.36105/stx.2025n15.10
UNESCO. (2022). Recomendación sobre la ética de la inteligencia artificial. París, Francia: UNESCO. Disponible en https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
Van Deursen, A. J. A. M., y Van Dijk, J. (2014). The digital divide shifts to differences in usage. New Media y Society, 16(3), 507–526. https://doi.org/10.1177/1461444813487959
Van Dijk, J. (2005). The deepening divide: Inequality in the information society. Thousand Oaks, CA: Sage Publications. Disponible en https://sk.sagepub.com/book/mono/the-deepening-divide/toc#_
Van Dijk, J. (2006). Digital divide research, achievements and shortcomings. Poetics, 34(4–5), 221–235. https://doi.org/10.1016/j.poetic.2006.05.004
Van Dijck, J. (2009). Users like you: Theorizing agency in user-generated content. Media, Culture and Society, 31(1), 41-58. https://doi.org/10.1177/0163443708098245
