Nuestra Misión
Garantizar que cualquier ser humano pueda distinguir fácilmente entre contenido multimedia real y sintético.
Nuestros Valores
A través de nuestro trabajo, hemos llegado a valorar:
- La elección por encima de las opciones predeterminadas
- La autonomía humana por encima del solucionismo tecnológico
- La toma de decisiones colectiva por encima de la toma de decisiones centralizada
- La duda por encima de la complacencia
Es decir, valoramos los elementos de la izquierda como una forma de mitigar los riesgos relacionados con los elementos de la derecha.
Nuestros Principios
1. Privacidad e impacto según la influencia de la IA
La privacidad y el impacto dependen de los distintos dominios y de la influencia que la IA ejerce sobre las tareas realizadas en ellos.
2. Privacidad y acceso público para todas las personas
Las personas deben poder acceder a información y recursos, comunicarse, contar con una conectividad significativa, tener privacidad y ser escuchadas en igualdad de condiciones.
3. Diseñar para todas las personas por defecto
Todas las personas deben ser consideradas en el diseño de las tecnologías, y no únicamente aquellas que se ajustan al promedio o a lo “normal”.
4. Divulgación transparente, visible y granular del uso de IA
El contenido generado por IA debe ir acompañado de avisos y declaraciones claras, independientemente de las estructuras de poder existentes.
5. Consentimiento explícito
Las personas deben otorgar su consentimiento al interactuar con contenido sintético.
6. No trasladar la carga al individuo
Las organizaciones que crean, despliegan y obtienen beneficios de las tecnologías no deben trasladar al individuo la responsabilidad por su uso.
7. Poder para el consumidor
Las personas deben poder optar fácilmente por recibir o no contenido generado por IA, así como permitir o no la recopilación de sus datos. Por ejemplo, deben poder ejercer su derecho a impedir que sus datos sean utilizados para entrenar modelos responsables de generar contenido sintético mediante una única acción (por ejemplo, un clic, un toque, un gesto, un comando de voz, etc.).
8. La influencia de la IA en asuntos de interés público debe ser limitada
La sociedad debe establecer límites a la influencia de la IA en asuntos de interés público.
9. Los dominios de alto impacto deben estar libres de contenido sintético
Ámbitos como las noticias, la ciencia, el gobierno y la salud, así como otros dominios de alto impacto, deben permanecer libres de contenido sintético.
10. Las decisiones políticas deben tomarse cara a cara
Las decisiones políticas de alto impacto deben tomarse de manera presencial.
11. La aplicación de las leyes existentes debe extenderse a la IA
Antes de crear nuevas leyes, debemos garantizar que las leyes existentes se apliquen efectivamente allí donde estas tecnologías sean desplegadas.
12. Utilizar la duda para impulsar una mayor regulación
Antes de crear nuevas leyes, debemos profundizar en las leyes existentes que pueden y deben aplicarse al ecosistema de la IA.
13. Prohibir los usos de la IA intencionalmente maliciosos o engañosos
Los gobiernos deben prohibir los usos de la IA que sean deliberadamente maliciosos o engañosos.
14. Espacios libres de IA
Las personas deben tener derecho a disponer de espacios físicos y virtuales libres de IA.
15. Garantizar alternativas sin IA
Las personas deben poder optar por alternativas sin IA para realizar las tareas que tengan por delante.
16. Auditoría continua para reducir los riesgos para las personas y la sociedad
Las aplicaciones de IA deben ser auditadas continuamente por organizaciones independientes con el objetivo de reducir los riesgos para las personas y la sociedad.
17. Mecanismos de responsabilidad institucional
Las empresas de tecnología deben ser responsables de las tecnologías que crean de la misma manera que otras empresas que operan en sectores de alto impacto.
18. Responsabilidad en todas partes
La responsabilidad debe estar siempre vinculada a una institución humana, ser trazable y no eximible.
19. Impulsar una mayor autonomía
Las personas deben mantener su autonomía al interactuar con sistemas de IA que generan contenido sintético.
20. Alfabetización en IA en los planes de estudio
Las personas deben conocer las capacidades de la Inteligencia Artificial.
Acerca de
Esta iniciativa nació a partir de la propuesta de una sesión CRAFT (Critiquing and Rethinking Accountability, Fairness, and Transparency), en la ACM Conference on Fairness, Accountability, and Transparency (FAccT 2026), titulada “Speculative Futures in a Majority World with no Right to Reality.”
Descripción Original de la Sesión CRAFT
La Inteligencia Artificial Generativa (GenAI) y sus resultados sintéticos se han convertido en un fenómeno omnipresente que nos obliga a preguntarnos continuamente: ¿esto es real? A medida que las tecnologías de GenAI evolucionan, las pistas que aún nos permiten reconocer contenido sintético extraño, como manos malformadas en imágenes o contenido textual excesivamente homogéneo, están desapareciendo. En consecuencia, en un futuro cercano, los seres humanos (y las máquinas) tendrán dificultades para diferenciar lo real de lo sintético, afectando ámbitos como la política, el consumo y las relaciones humanas, con el potencial de convertir la GenAI en una Weapon of Math Destruction (O’Neil, 2017), causando daños a gran escala de manera opaca.
La Declaración Universal de los Derechos Humanos (DUDH) establece que toda persona tiene derecho a la libertad de opinión sin injerencias. Al reflexionar sobre la autenticidad en las relaciones de consumo, las Directrices de las Naciones Unidas para la Protección del Consumidor establecen que los Estados Miembros deben cooperar en la lucha contra las prácticas comerciales transfronterizas fraudulentas y engañosas. En relación con la IA, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) propone que las organizaciones que desarrollan IA respeten los derechos humanos, incluyendo la lucha contra la desinformación y la información engañosa amplificadas por la IA, al tiempo que preservan la libertad de expresión.
Así, al conectar estos principios, apoyamos simultáneamente la libertad de expresión y la prevención de prácticas engañosas y desinformativas. Pero ¿cómo se ven afectados estos principios por el contenido sintético? ¿Cómo puede este contenido interferir en la forma en que las personas perciben e interactúan con el mundo que las rodea? ¿Quiénes nos están impulsando hacia una vida cada vez más mediada por lo digital como solución al denominado “Reality Privilege”? ¿Quiénes están obteniendo beneficios económicos de esta narrativa? Mientras algunos autores proponen el Derecho a la Realidad desde la perspectiva de la dignidad humana (Su, 2025) o como un requisito de divulgación (Frazier, 2026; W3C, 2026), nosotros proponemos debatir el Derecho a la Realidad desde la perspectiva del Mundo Mayoritario (Majority World) (Alam, 2008), abarcando contextos más complejos de creación y uso de la tecnología (Becerra Sandoval et al., 2025).
En esta sesión proponemos un taller para reunir diferentes puntos de vista con el fin de cuestionar cómo y por qué el contenido sintético está siendo impuesto como un futuro innegociable para todas las personas, dando lugar a una necesidad emergente del Derecho a la Realidad. La sesión seguirá la Regla de Chatham House para promover distintas ideas y perspectivas críticas de los participantes sin revelar información sobre individuos u organizaciones. Además, se empleará el Diseño Especulativo (Speculative Design) (Dunne y Raby, 2013) para promover debates sobre principios que permitan anticipar los desafíos de vivir en un mundo donde el contenido sintético es la norma y está gobernado por unos pocos.
Prevemos que esta sesión dará como resultado un borrador de documento con principios destinados a demostrar por qué el Derecho a la Realidad es necesario. Al invitar a los participantes a reflexionar durante una actividad de Diseño Especulativo, esperamos producir un borrador del Right to Reality Manifesto, que será publicado en un sitio web dedicado para que los participantes y la comunidad de FAccT puedan iterar y dialogar sobre los resultados producidos durante la sesión.
Informe Breve de la Sesión CRAFT
La sesión se llevó a cabo como un taller participativo presencial durante la FAccT 2026, en Montreal, Canadá. El objetivo de la sesión fue promover reflexiones sobre los desafíos y especular acerca de soluciones para un mundo permeado por contenido sintético. Con ello, esperábamos conformar una asamblea para debatir y elaborar un borrador de este manifiesto orientado a las políticas públicas, incluyendo a partes interesadas que con frecuencia no están presentes o no son escuchadas en este tipo de debates. Durante la sesión, la dinámica consistió en conducir a los participantes a debatir principios para el Derecho a la Realidad, incorporando diferentes realidades y experiencias.
La sesión tuvo una duración de dos horas e incluyó una introducción para discutir señales ya existentes sobre los desafíos relacionados con la ausencia del Derecho a la Realidad, así como los artefactos que se utilizarían durante la actividad, como el Cono de Futuros (Figura 1) y la matriz de escenarios 2×2 que contrasta escenarios con un Mundo Mayoritario participativo o sin voz en un mundo con o sin Derecho a la Realidad (Figura 2).
Figura 1. Cono de Futuros (Futures Cone) (adaptado de Dunne y Raby, 2013)
Figura 2. Matriz de escenarios 2×2 (adaptada de UN Global Pulse, 2025).
A continuación, se presentó el contexto del término Mundo Mayoritario (Majority World), contrastándolo con expresiones utilizadas anteriormente como “Tercer Mundo”, “Mundo en Desarrollo” o “Países Menos Adelantados” (Alam, 2008). El término Mundo Mayoritario busca destacar que los países habitualmente situados en categorías inferiores pertenecen, en realidad, al grupo que representa a la mayor parte de la humanidad, cuestionando la retórica occidental sobre la democracia (Alam, 2008).
Tras la introducción inicial, comenzó la actividad participativa. Para ello, se formaron cuatro grupos de entre cuatro y seis personas. En total, 21 asistentes a la conferencia participaron en la sesión. Cada grupo trabajó sobre uno de los cuatro escenarios de la matriz de escenarios 2×2 (Figura 2). Posteriormente, se invitó a los grupos a imaginar dos titulares de un periódico publicados diez años en el futuro, considerando el escenario asignado a su grupo.
El objetivo de este ejercicio de Diseño Especulativo era servir como una probe para poner de relieve aspectos legales y éticos (Dunne y Raby, 2013). Se proporcionó un conjunto inicial de artefactos para estimular las discusiones (Figura 3), incluyendo una interfaz de usuario con un interruptor para activar o desactivar contenido generado por IA, una pegatina LLM-vegan, una etiqueta 100% AI-free (como analogía con los productos “100 % libres de gluten”) y una pegatina con la palabra Infovegan, destinada a representar a personas que optan por consumir información lo más cerca posible de su fuente original (Clay, 2008).
Figura 3. Ejemplos de los artefactos compartidos con los participantes.
Ejemplos de titulares propuestos por los participantes del taller incluyen:
- Los Agentes Encabezan la Victoria: Aplastante Triunfo Electoral del Candidato de IA del Partido Pro-Tecnología Impulsado por Votantes de IA
- Ya No Hay Dinero en las Falsificaciones
- El Gobierno Local Intensifica la Lucha contra los Deepfakes hasta Alcanzar Niveles Históricos
- Se Exige Prueba de Humanidad para el Contenido en Línea: ¿Quién Puede Demostrar que es Humano?
- Abre el Centro de Verificación Humana; Puede Saltarse la Fila por una Tarifa
Después de definir los titulares, cada grupo los compartió con el resto de los participantes. Con los dos titulares en sus manos, los grupos fueron invitados a reflexionar sobre entre cinco y diez principios para un manifiesto que abordara los problemas identificados en dichos titulares, como una forma de anticipar escenarios críticos derivados de estos futuros especulativos.
Los grupos registraron los principios en notas adhesivas y trabajaron en esta tarea durante aproximadamente cincuenta minutos. Posteriormente, cada grupo compartió sus principios con todos los participantes y propuso un agrupamiento inicial por afinidad. Cada nuevo grupo que presentaba sus principios podía reutilizar agrupamientos existentes o crear otros nuevos. En total, se propusieron 27 principios, cuya versión consolidada se presenta en este manifiesto. Al final de la sesión, se invitó a cada grupo a reflexionar sobre un valor fundamental para el manifiesto, dando lugar al conjunto inicial de cuatro valores.
La versión 1.0 del Right to Reality Manifesto presentada aquí es el resultado de este encuentro presencial celebrado durante la FAccT 2026. Por último, dado que se siguió la Regla de Chatham House, no se realizaron grabaciones en vídeo ni se registraron datos sin el consentimiento de los participantes. Los participantes que aceptaron formar parte de este documento aparecen como coautores en la sección Citar como.
Descargo de responsabilidad
El presente Right to Reality Manifesto es el resultado del taller celebrado durante FAccT 2026, del compromiso continuo de la comunidad en línea y de eventos posteriores que han ampliado este documento vivo, incluyendo su misión, valores y principios. Todos los coautores y colaboradores no incluidos en la lista han contribuido a título personal y no como representantes de ninguna organización. Todos los elementos presentados aquí reflejan una visión amplia sobre la necesidad del Derecho a la Realidad en el contexto del contenido sintético generado por modelos de Inteligencia Artificial. Por lo tanto, no se espera que todos los participantes estén de acuerdo con todos y cada uno de los elementos de este documento.
El Centro de Estudios sobre Tecnologías Web (Ceweb.br) actúa como puente entre profesionales y la sociedad para construir este documento, facilitando la manera en que diferentes partes interesadas expresan preocupaciones, ideas y propuestas relacionadas con el contenido sintético.
Este manifiesto no representa las posiciones oficiales del Núcleo de Información y Coordinación del Punto BR (NIC.br) ni del Comité Gestor de Internet en Brasil (CGI.br).
Participa
Puedes participar en esta comunidad de diferentes maneras:
- Para contribuir a este documento, crea un issue
- Para participar en esta comunidad, consulta los próximos eventos
- Para obtener más información, consulta la lista de materiales y publicaciones relacionadas
Eventos
| Evento | Lugar | Fecha |
|---|---|---|
| Taller participativo presencial Speculative Futures in a Majority World with no Right to Reality | Le Centre Sheraton Montréal Hotel, Montreal, Canadá | 25 de junio de 2026, 2:15 p. m. (ET) |
Publications
- Santana, V. F., Cortiz, D., Rocha, B., Custodio, J., Xavier, H. S., 2026. Speculative Futures in a Majority World with no Right to Reality. In Proceedings of FAccT ’26: ACM Conference on Fairness, Accountability, and Transparency, 2026.
Citar como
Santana, V. F., Cortiz, D., Rocha, B., Custodio, J., Xavier, H. S., Carichon, F., Chien, J., Ganesh, P., He, J. Kraft, Ag., Schertel, L. N. da C., Shukla, N., 2026. Right to Reality Manifesto. https://cewebbr.github.io/right-to-reality/. Version 1.0.
@online{Santana_et_al_2026,
author = {
Vagner Figueredo de Santana and
Diogo Cortiz and
Beatriz Rocha and
Jacqueline Custodio and
Henrique S. Xavier and
Florian Carichon and
Jennifer Chien and
Prakhar Ganesh and
Jessica He and
Angelie Kraft and
Lara Neubauer da Costa Schertel and
Nishanshi Shukla
},
title = {Right to Reality Manifesto},
year = {2026},
url = {https://cewebbr.github.io/right-to-reality/},
note = {Version 1.0}
}
Changelog
| Version | Date | Notes |
|---|---|---|
| 1.0 | July/1st/2026 | Consolidation of results from the participatory workshop organized as part of the FAccT 2026 program. |
- Right to Reality Manifesto. Version 1.0