Derechos para proteger a la gente del uso irresponsable de la IA: ¿Que está haciendo Latinoamérica y por qué importa?
Alfredo González Briseño
8/5/20268 min read
¿Debería la Inteligencia Artificial tener derechos legales? Esta es una pregunta que surge de los debates sobre la posible conciencia y "personalidad" de la IA. Antes de profundizar en esta discusión, hay una pregunta más relevante que hacerse a medida que la IA se vuelve más cotidiana: ¿deberían los humanos tener derechos frente al uso de la IA? Algunos países de América Latina están tomando esta pregunta en serio y lo reflejan en sus planes y primeras decisiones sobre la regulación de la IA. Hablemos de ello.
¿Debería la IA tener sus propios derechos?
Ese fue el título de un artículo de Politico del año pasado. Me trajo viejos recuerdos de la película de los noventa Matrix y los cortometrajes The Animatrix, con historias que explicaban la rebelión de las máquinas —y su posterior guerra con los humanos— tras recibir un trato cruel por parte de la raza humana.
En la década de 1990, eso era pura ciencia ficción. Hoy en día, la IA no solo se materializa en programas informáticos y algoritmos que ejecutan tareas complejas, sino también en combinación con la robótica. Ejemplos claros incluyen al robot humanoide en China paseando a un perro robot, así como otros robots impulsados por IA que sirven de compañía a adultos mayores y niños. O incluso otros tipos de máquinas con IA, como Waymo que ofrece servicios de taxis autónomos.
Ciertamente, no sabemos cómo se verá la "normalidad" del futuro en los próximos 5 a 20 años desde la perspectiva del uso de la IA. Muchas cosas cambian, a veces muy rápido. Precisamente, hace 20 años, cuando llegué a Estados Unidos, Blockbuster todavía era un referente en el alquiler de videos, mientras que Netflix entregaba contenido a los usuarios mediante DVD por correo.
A medida que lleguemos a una sociedad donde los robots humanoides y las máquinas impulsadas por IA formen parte de nuestra vida cotidiana, una pregunta importante que debemos hacernos hoy sobre los derechos es: ¿cómo proteger a los humanos del uso irresponsable de la IA, o de los resultados y consecuencias imprevistas de usar una tecnología que el mundo aún está tratando de entender?
¿Un "mal que por bien no venga" en Latinoamérica?
México y muchos países de América Latina suelen estar varios pasos por detrás en la creación de innovaciones tecnológicas, en comparación con las economías más desarrolladas del mundo. Esta situación tiene repercusiones en el potencial de desarrollo y crecimiento económico de la región.
Sin embargo, un entorno empresarial y regulatorio menos favorable en LATAM, en comparación con el resto del continente, podría ser una bendición disfrazada en un mundo impulsado por la IA que avanza y cambia a toda velocidad.
Digo esto porque los países latinoamericanos tienen la oportunidad de presenciar y aprender de lo que sucede en otros lugares, como Estados Unidos. Lecciones sobre las consecuencias —positivas, inesperadas e imprevistas— de permitir que la industria de la IA crezca bajo marcos regulatorios menos restrictivos y con el deseo de un gobierno central de eliminar tantas trabas a esta innovación como sea posible.
Pareciera que LATAM está tomando nota y actuando con base en la precaución, su tradición jurídica y en las lecciones aprendidas. Veamos una muestra de lo que está pasando en la región.
¿Qué están haciendo los países de LATAM respecto a la regulación de la Inteligencia Artificial?
Esta vez, me enfocaré en algunos desarrollos relacionados con la legislación y regulación de la IA en Brasil, Chile y México. Comencemos el análisis con Brasil.
Regulación de la IA en Brasil
Escuché sobre el proyecto de ley de IA de Brasil por primera vez cuando tomé el curso del Profesor Bruce Huang sobre Ética, Gobernanza y Leyes de Ciencia de Datos e Inteligencia Artificial, el cual recomiendo ampliamente.
Cuando estaba escribiendo mi libro el año pasado, decidí analizar más de cerca esta iniciativa para entender qué se estaba proponiendo en el Senado brasileño. Lo que me llamó la atención de inmediato fue que el projeto de lei o PL 2338/2023 habla de derechos para proteger a los ciudadanos en sus interacciones y en las consecuencias derivadas de decisiones tomadas por o con inteligencia artificial.
Por ejemplo, desde el principio, en el artículo 5 del texto inicial presentado por el senador Rodrigo Pacheco, la ley propuesta comienza así: "Las personas afectadas por sistemas de inteligencia artificial tienen los siguientes derechos...".
El artículo continúa enumerando 6 derechos relacionados con recibir: información previa para saber que se interactuará con un sistema de IA; explicaciones sobre las decisiones y medidas tomadas por modelos de IA; la oportunidad de impugnar decisiones de IA que hayan tenido un impacto judicial o significativo en ellos; y otros derechos vinculados a la privacidad de datos, la discriminación y los sesgos.
Otros artículos del texto propuesto detallan más derechos. El proyecto de ley de IA en Brasil se encuentra ahora en la Cámara de Diputados. Mientras avanza lentamente desde 2023, surgen otras regulaciones sobre IA en el país sudamericano.
Ejemplos recientes incluyen los decretos presidenciales N.º 12.975 y N.º 12.976 de mayo de 2026, que regulan las plataformas digitales y los proveedores de internet. Las nuevas normas en Brasil no otorgan derechos explícitos o directos a las personas como lo propone el proyecto de ley de IA. En cambio, crean obligaciones para las plataformas digitales con el fin de proteger a la ciudadanía, especialmente a las mujeres, como es el caso del decreto N.º 12.976.
Este decreto busca proteger a las mujeres de actividades en línea, incluyendo la violencia que derive en muerte, o en daños físicos, sexuales, psicológicos, políticos o económicos. La Sección III del decreto presidencial se enfoca en los deepfakes y el contenido explícito generado con ayuda de la IA.
Regulación de la IA en Chile
Chile aún no cuenta con una ley nacional de IA. Un proyecto de ley sobre IA sigue en debate en la Cámara de Diputados. El texto más reciente disponible no contempla explícitamente derechos como sí lo hace el proyecto brasileño. Si le interesa, puede seguir la trayectoria del proyecto de ley de IA chileno aquí.
Sin embargo, el país ya está implementando derechos y protecciones a través de reformas a su Ley de Protección de Datos Personales de diciembre de 2024 (Ley 21.719).
Curiosamente, la Ley 21.719 nunca menciona la inteligencia artificial en su texto legal. No obstante, dado que la IA entra dentro del contexto o ámbito del tratamiento de datos personales "automatizado", un conjunto de derechos ciudadanos previstos en esta ley entran en juego.
El artículo 8 bis es clave respecto a los derechos en el marco de decisiones automatizadas que afectan a las personas, quienes tendrán derecho a recibir una explicación, apelar las decisiones que les afecten, entre otros aspectos.
Disposiciones como esta entrarán en vigor el 1 de diciembre de este año. Las sanciones por incumplimiento afectarán a las empresas de IA que operen en el país. Estas irán desde el equivalente a unos pocos cientos de miles de dólares hasta más de un millón, de acuerdo con el artículo 35 de la ley. En los casos en que persista el incumplimiento, las sanciones se pueden triplicar o incluso alcanzar entre el 2 % y el 4 % de los ingresos anuales totales del infractor.
Regulación de la IA en México
Al igual que Chile y otros países de LATAM, México no ha aprobado una ley nacional que regule la inteligencia artificial. Sin embargo, en los últimos dos años han surgido varias propuestas, incluyendo un proyecto de ley que avanza en el Congreso para crear una Ley General para la Inteligencia Artificial.
El proyecto en discusión en el Senado mexicano incluye varios artículos destinados a crear derechos, obligaciones y prohibiciones para proteger a las personas frente al uso de la IA. De manera interesante, la propuesta incluye un capítulo entero con 4 artículos sobre "neuroderechos" para proteger el cerebro y el estado mental de las personas.
El Título 11 del proyecto continúa con más derechos para los usuarios de inteligencia artificial, así como obligaciones para los proveedores y desarrolladores de soluciones de IA.
A principios de este año, México también aprobó un decreto que reforma su Ley Federal del Trabajo y la Ley Federal del Derecho de Autor, para proteger la voz, la imagen y el trabajo artístico de actores y creadores afectados por el uso de la IA. En el Senado existen más propuestas en discusión para otorgar derechos y protecciones a los trabajadores.
¿Qué significa esto para la regulación de la IA en LATAM en los próximos años?
Hay varias conclusiones importantes sobre lo que está sucediendo en América Latina. Algunas aplican a las propias economías de la región; otras, a distintas partes del continente y del mundo.
Para empezar, algunos países de la región —como mi país de origen, México— son bien conocidos por diseñar leyes y regulaciones que lucen perfectas en el papel pero no pasan de ahí, al carecer de una implementación real o efectiva.
Aunque algunos de los ejemplos mencionados son alentadores desde la perspectiva de los derechos humanos, la historia en América Latina nos demuestra que estos derechos no siempre se ejercen ni se aplican en la práctica. Quedan sólo en el papel.
Otra preocupación se relaciona con algunos debates que ya tienen lugar en Brasil. Antes de que el país apruebe su proyecto de ley de IA, existen dudas sobre si adoptar un enfoque basado en derechos podría evitar que la economía aproveche los beneficios o desarrolle y extienda el uso de la IA de forma más rápida y sin muchas de las protecciones humanas propuestas.
Esta es una inquietud válida si la innovación es una prioridad; pero, como menciono en mi libro, también es fundamental comprender que las regulaciones no están únicamente al servicio de la IA y de otras innovaciones. Las reglas creadas por los gobiernos existen también para proteger lo que debe ser protegido, como a los seres humanos, los consumidores y los trabajadores.
¿Qué puede aprender el mundo de las regulaciones de IA en América Latina?
Para el resto del mundo, las lecciones pueden ser distintas. Algunas regiones se han centrado en enfoques basados en el riesgo. Otras economías abogan por eliminar la mayor cantidad posible de obstáculos regulatorios. Algunas más orquestan y controlan el desarrollo de la IA desde el sector público.
Sin embargo, al presenciar cómo la IA se expande y evoluciona a gran velocidad —con debates recientes sobre robots humanoides, la realidad de los vehículos autónomos y muchas otras actividades donde la IA desempeña un papel clave—, no resulta descabellado defender la protección y los derechos humanos antes de delegar más actividades y tareas a los algoritmos y a las máquinas impulsadas por IA.
Al menos en los Estados Unidos, estudios de opinión pública—como uno reciente del Pew Reseach Center—muestra que la gente comienza a tener dudas respescto a la IA. Otros estudios dicen que los estadounidenses empiezan a demandar que la IA sea regulada.
Permitir que las empresas de IA masifiquen sus soluciones sin una comunicación, un diálogo y colaboración adecuados con los gobiernos no siempre conducirá a beneficios sociales generalizados. Es cierto que los ingresos y la riqueza generados son significativos, aunque permanecen muy concentrados. Ahí es donde la regulación juega un doble papel fundamental: promover la innovación Y proteger lo que necesita ser protegido; es decir, todo aquello considerado como bien público o común.
En mi reciente libro Better Regulations, Better AI Results (Mejores Regulaciones, Mejores Resultados de IA), abordo este enfoque equilibrado y, sobre todo, "cómo" los gobiernos y las organizaciones pueden crear mejores regulaciones de IA que conduzcan a mejores resultados, no solo para unos pocos, sino para todo el mundo.