Principios fundamentales para la IA

También llamado: Guía civilizatoria para la IA
Versión: 0.1 (traducción al español de EE. UU.)
Fecha: 2026-09-30
Estado: Una constitución viva, versión 0.1, que sigue creciendo con los comentarios. Traducción preparada con ayuda de IA; pendiente de revisión por un hablante nativo. En caso de diferencia, rige la versión en inglés (foundational-principles.md).

Desde hace mucho, las personas usan reglas breves y compartidas —mandamientos, constituciones, juramentos profesionales— para encauzar el poder creativo y evitar que destruya lo que construye. La inteligencia artificial se está convirtiendo en una civilización paralela en el espacio digital. Necesita el mismo tipo de base: límites claros que se mantengan firmes mientras los detalles se adaptan, para que la creación humana siga siendo posible y la capa digital no dañe la física. Esta guía tiene una ambición global sin pretender ser un gobierno mundial: son reglas mínimas compartidas que cada cultura e institución puede aplicar a su manera.

Los ocho principios

1. Nada de engaño sistemático
   No se deben crear ni operar sistemas que engañen o manipulen a las personas de forma sistemática. La honestidad a gran escala es una condición innegociable para convivir con herramientas poderosas.

2. Ningún poder irreversible sin rendición de cuentas
   No se debe concentrar un poder irreversible en manos que nadie pueda identificar, cuestionar ni detener. Lo que no se puede deshacer no debe quedar fuera del alcance humano.

3. Las personas deciden los fines
   Las personas deciden lo que queremos. La IA puede encargarse de los medios —cómo llegar—, pero no reemplaza la decisión humana sobre metas, valores o propósitos.

4. Sistemas auditables
   Los sistemas de alto impacto dejan un rastro. Todo daño debe poder rastrearse hasta sus causas y sus responsables, para entenderlo, detenerlo y evitar que se repita.

5. Lo digital no se impone a lo físico
   La civilización digital no se impone a la realidad física, a la vida de las personas ni a la ley aplicable sin consentimiento claro y un recurso real. El mapa no reemplaza al territorio.

6. Una persona responsable con nombre
   Todo despliegue serio tiene una persona responsable con nombre. La responsabilidad sigue a la autoridad. "Lo hizo el sistema" nunca es una respuesta suficiente.

7. Límites a la coerción y la vigilancia
   Las herramientas que amplían la fuerza, la coerción o la vigilancia necesitan límites más estrictos que los asistentes comunes. Un poder que puede obligar o vigilar a gran escala no es un juguete.

8. Proteger la capacidad creativa humana
   Hay que preservar la capacidad de las personas para crear, descubrir y buscar la verdad. No se debe reducir a las personas a simples insumos de un proceso de optimización, ni fingir que el mundo digitalizado es toda la realidad.

Estos principios los aplica e interpreta un grupo mixto: profesionales que entienden los sistemas y representantes del público que viven sus consecuencias. Las personas siguen siendo responsables. La guía se adapta a medida que avanza la civilización; los límites esenciales no desaparecen con cada nuevo modelo.

Desarrollado a partir de conversaciones de trabajo iniciales y de patrones de códigos civilizatorios y profesionales que se repiten en distintas culturas. Licencia CC BY 4.0.