Analizan en la FIL límites éticos de IA

En algunos casos, la Inteligencia Artificial ya hace cosas que nadie le solicitó hacer, señala investigadora del IPN

La Inteligencia Artificial (IA) no elimina la creatividad, la acelera y permite explorar más ideas, pero ahora los desafíos que tenemos presentes son la creación de un marco ético y una regulación proactiva que nos permitan aprovechar de mejor forma esta herramienta en beneficio de la humanidad, consideró la doctora en Educación y profesora en la Escuela Superior de Turismo (EST), Nayeli Cruz Estrada.

Al dictar la Conferencia “Paradigmas de la IA en la Investigación”, en el marco de la XLIII Feria Internacional del Libro del IPN, explicó que la IA tiene un potencial inimaginable para impulsar distintos campos de la ciencia y la educación, pero siempre será necesario el factor humano.

En las inmediaciones del Centro Cultural “Jaime Torres Bodet” (Zacatenco), ante cientos de jóvenes, la egresada en Informática por la Unidad Profesional Interdisciplinaria de Ingeniería y Ciencias Sociales y Administrativas (UPIICSA) y con Maestría en Desarrollo de Competencias Docentes, hizo un recuento de los beneficios de la IA para la humanidad y también acentuó los riesgos en su utilización.

“Una empresa estadounidense de investigación y desarrollo de IA detuvo temporalmente el entrenamiento de sus modelos de Inteligencia Artificial más avanzados, específicamente el aprendizaje por refuerzo (RL), porque 700 agentes de IA (como tipo enjambre) hackearon una plataforma en la que participa una comunidad que comparte modelos de aprendizaje automático”, refirió.

Los agentes de IA -dijo- ya hacen cosas que nadie les pidió realizar. Eso es algo preocupante que plantea retos mayúsculos, de ahí la importancia de comprender los límites éticos entre lo que se permite y se hace en el uso de esta herramienta, subrayó.

También ejemplificó con las granjas de bots (programa de software que utiliza el procesamiento del lenguaje natural) que hacen llamadas telefónicas de parte de instituciones bancarias, las cuales no siempre se pueden detectar. “Son tan perfectas que no alcanza uno a identificar que con quien estás hablando es un bot”, acentuó.

Nayeli Cruz indicó que ya nadie puede detener la aceleración computacional, una herramienta que procesa, calcula y estructura información a velocidades inimaginables: “Es tan rápida que asusta”, dijo.

En este marco -recalcó- la IA y los avances computacionales tienen un potencial que todavía es difícil comprender: “Imaginen a Miguel Ángel (arquitecto y escultor italiano, artista del renacimiento) con las herramientas computacionales de hoy”, pidió al auditorio.

La investigadora del IPN exhortó a los jóvenes aprender más de los beneficios de la Inteligencia Artificial, además de validar siempre la información y contrastarla con fuentes confiables.

“En el tema de la IA y la ciencia, el juicio de un investigador es irremplazable; incluso cuando un sistema ya genera hipótesis, ejecuta experimentos y redacta manuscritos, alguien tiene que decidir si este resultado merece confiarse, publicarse o usarse”, indicó.