Principios fundamentales para la IA
Fundador y primer autor: Rowe Heikkinen
También llamado: Guía civilizatoria para la IA
Versión: 0.1 (traducción al español de EE. UU.)
Fecha: 2026-09-30
Revisado: 2026-10-04 (se aclaró la redacción del principio 5; es provisional y está abierta a comentarios del público hasta que el Consejo se constituya y la ratifique)
Estado: Una constitución viva, versión 0.1, que sigue creciendo con los comentarios. Traducción preparada con ayuda de IA; pendiente de revisión por un hablante nativo. En caso de diferencia, rige la versión en inglés (foundational-principles.md).
Desde hace mucho, las personas usan reglas breves y compartidas —mandamientos, constituciones, juramentos profesionales— para encauzar el poder creativo y evitar que destruya lo que construye. La inteligencia artificial se está convirtiendo en una civilización paralela en el espacio digital. Necesita el mismo tipo de base: límites claros que se mantengan firmes mientras los detalles se adaptan, para que la creación humana siga siendo posible y la capa digital no dañe la física. Esta guía tiene una ambición global sin pretender ser un gobierno mundial: son reglas mínimas compartidas que cada cultura e institución puede aplicar a su manera.
Los ocho principios
-
Nada de engaño sistemático
No se deben crear ni operar sistemas que engañen o manipulen a las personas de forma sistemática. La honestidad a gran escala es una condición innegociable para convivir con herramientas poderosas. -
Ningún poder irreversible sin rendición de cuentas
No se debe concentrar un poder irreversible en manos que nadie pueda identificar, cuestionar ni detener. Lo que no se puede deshacer no debe quedar fuera del alcance humano. -
Las personas deciden los fines
Las personas deciden lo que queremos. La IA puede encargarse de los medios —cómo llegar—, pero no reemplaza la decisión humana sobre metas, valores o propósitos. -
Sistemas auditables
Los sistemas de alto impacto dejan un rastro. Todo daño debe poder rastrearse hasta sus causas y sus responsables, para entenderlo, detenerlo y evitar que se repita. -
Lo digital no se impone a lo físico
La civilización digital no se impone a la realidad física ni a la vida de las personas sin consentimiento claro y un recurso real, y nunca se impone a la ley aplicable. El mapa no reemplaza al territorio. -
Una persona responsable con nombre
Todo despliegue serio tiene una persona responsable con nombre. La responsabilidad sigue a la autoridad. "Lo hizo el sistema" nunca es una respuesta suficiente. -
Límites a la coerción y la vigilancia
Las herramientas que amplían la fuerza, la coerción o la vigilancia necesitan límites más estrictos que los asistentes comunes. Un poder que puede obligar o vigilar a gran escala no es un juguete. -
Proteger la capacidad creativa humana
Hay que preservar la capacidad de las personas para crear, descubrir y buscar la verdad. No se debe reducir a las personas a simples insumos de un proceso de optimización, ni fingir que el mundo digitalizado es toda la realidad.
Estos principios están pensados para que los interprete un grupo mixto: profesionales que entienden los sistemas y representantes del público que viven sus consecuencias. Las personas siguen siendo responsables. La guía se adapta a medida que avanza la civilización; los límites esenciales no desaparecen con cada nuevo modelo.
Desarrollado a partir de conversaciones de trabajo iniciales y de patrones de códigos civilizatorios y profesionales que se repiten en distintas culturas. Licencia CC BY 4.0.