Los valores y principios fundamentales de la inteligencia artificial constituyen un marco ético y normativo que busca orientar a las sociedades en el desarrollo y uso responsable de estas tecnologías. Su finalidad no es únicamente técnica, sino social, ya que pretende anticipar y gestionar los impactos que la IA puede tener en las personas, las comunidades y el entorno. Este marco distingue entre valores, entendidos como ideales que inspiran políticas públicas y normas jurídicas, y principios, que traducen dichos valores en lineamientos concretos para su aplicación práctica.
De acuerdo con la UNESCO, los valores fundamentales representan la base que debe guiar el comportamiento de todos los actores involucrados a lo largo del ciclo de vida de los sistemas de inteligencia artificial. Entre ellos, destaca el respeto, la protección y la promoción de los derechos humanos y de la dignidad humana, entendida como un valor intrínseco que debe colocarse en el centro de cualquier desarrollo tecnológico. Bajo esta premisa, ningún sistema de IA debería generar daños físicos, económicos, sociales o psicológicos a las personas.
Otro valor esencial es la protección del medio ambiente y de los ecosistemas. La UNESCO subraya la necesidad de reconocer el impacto ambiental de la inteligencia artificial, desde el consumo energético hasta la explotación de recursos naturales, y de adoptar medidas que reduzcan su huella ecológica y eviten prácticas insostenibles. Asimismo, se resalta la importancia de garantizar la diversidad y la inclusión, promoviendo la participación equitativa de todas las personas, sin distinción de género, raza, idioma o condición social, y combatiendo la brecha tecnológica que limita el acceso a los beneficios de la IA.
Estos valores se complementan con la aspiración de construir sociedades pacíficas, justas e interconectadas, en las que la inteligencia artificial contribuya al bienestar colectivo, fomente la solidaridad y el cuidado del entorno, y no se utilice como un medio para restringir libertades, aumentar desigualdades o reducir la autonomía de los seres humanos.
A partir de estos valores, la UNESCO establece una serie de principios rectores que permiten su implementación concreta en políticas, prácticas y marcos regulatorios. Entre ellos se encuentra el principio de proporcionalidad e inocuidad, que establece que el uso de la IA debe limitarse a lo estrictamente necesario para alcanzar fines legítimos, evitando riesgos y daños innecesarios tanto para las personas como para el entorno natural. De igual manera, se enfatiza la necesidad de garantizar la seguridad y la protección de los sistemas, previniendo vulnerabilidades, fallos o usos indebidos en todas las etapas de su desarrollo y operación.
La equidad y la no discriminación ocupan un lugar central dentro de estos principios, al exigir que los sistemas de IA promuevan la justicia social, reduzcan sesgos algorítmicos y aseguren que los beneficios de la tecnología sean accesibles de manera equitativa. A ello se suma el principio de sostenibilidad, que demanda una evaluación constante de los efectos de la IA en los ámbitos humano, social, cultural, económico y ambiental, en coherencia con los Objetivos de Desarrollo Sostenible.
La protección de la privacidad y de los datos personales es otro eje fundamental. La UNESCO señala que la recopilación y el uso de datos deben realizarse dentro de marcos de gobernanza claros y legales, garantizando el derecho a la intimidad y evitando prácticas abusivas. En este mismo sentido, se establece que la supervisión y la toma de decisiones finales deben permanecer bajo control humano, de modo que la responsabilidad ética y jurídica nunca sea delegada por completo a un sistema automatizado.
Asimismo, la transparencia y la explicabilidad se consideran indispensables para generar confianza social. Las personas tienen derecho a saber cuándo una decisión ha sido tomada o influenciada por algoritmos, así como a solicitar explicaciones comprensibles sobre su funcionamiento. Este principio se complementa con la responsabilidad y la rendición de cuentas, que exigen mecanismos de auditoría, evaluación de impacto y asignación clara de responsabilidades entre los actores involucrados.
Finalmente, la UNESCO subraya la importancia de la sensibilización, la educación y la alfabetización mediática e informacional, como herramientas clave para que la sociedad pueda comprender, evaluar y decidir de manera informada sobre el uso de la inteligencia artificial. De igual forma, destaca la necesidad de una gobernanza adaptativa basada en la colaboración entre gobiernos, academia, sociedad civil y sector privado, con el fin de asegurar procesos inclusivos, transparentes y dinámicos.
Dado que, en la práctica, estos valores y principios pueden entrar en tensión, la recomendación señala la importancia de realizar evaluaciones de contexto que permitan equilibrarlos, siempre con apego al principio de proporcionalidad y al respeto irrestricto de los derechos humanos.
Referencia: Recomendación sobre la ética de la Inteligencia Artificial, UNESCO, 2022, París, Francia.
INSTITUTO POLITÉCNICO NACIONAL
D.R. Instituto Politécnico Nacional (IPN). Av. Luis Enrique Erro S/N, Unidad Profesional Adolfo López Mateos, Zacatenco, Alcaldía Gustavo A. Madero, C.P. 07738, Ciudad de México. Conmutador: 55 57 29 60 00 / 55 57 29 63 00.
Esta página es una obra intelectual protegida por la Ley Federal del Derecho de Autor, puede ser reproducida con fines no lucrativos, siempre y cuando no se mutile, se cite la fuente completa y su dirección electrónica; su uso para otros fines, requiere autorización previa y por escrito de la Dirección General del Instituto.
