Especialistas abordan las inquietudes recientes respecto a la evolución de la Inteligencia Artificial y coinciden que frente a esta tecnología que responde en segundos, la facultad de cuestionar sigue siendo un atributo exclusivo del ser humano.
Uno de los principales equívocos de la IA surge cuando ésta ofrece una respuesta incorrecta con una redacción impecable y un tono convincente, error que se conoce como alucinación, dice la doctora Magdalena Saldaña
Hace algunos años, relacionábamos el tema de la Inteligencia Artificial (IA) principalmente con la ciencia ficción. Hoy está presente en dispositivos móviles; nos recomienda qué música escuchar; nos ayuda a la detección de enfermedades; participa en procesos industriales; genera imágenes y textos; analiza grandes cantidades de información, y hasta puede conducir un automóvil.
Su presencia cotidiana, sin embargo, también ha alimentado una serie de inquietudes que no siempre corresponden con la realidad: la IA ¿realmente piensa?, ¿puede tener conciencia?, ¿va a provocar la desaparición de millones de empleos?, ¿tomará el control de nuestras vidas? o ¿podemos confiar plenamente en sus respuestas?
La IA lejos de dominar a la humanidad
Para Juan Humberto Sossa Azuela, director del Centro de Investigación en Computación (CIC), la IA se puede definir como la capacidad que tienen las máquinas para imitar comportamientos de carácter inteligente que se dan en los seres vivos, particularmente en los seres humanos, para poder llevar a cabo tareas similares a las que realizamos de manera habitual.
Sin embargo, añadió, no podemos asegurar que la máquina nos comprenda, “podemos decir que es capaz de predecir con muchísima precisión qué es lo que sigue en una secuencia temporal; es decir, es una máquina de predicción de alto desempeño y nada más”.
De acuerdo con el científico Emérito del Sistema Nacional de Investigadoras e Investigadores (SNII), en este momento no es posible afirmar que las máquinas podrán desarrollar conciencia; probablemente en un futuro muy lejano, pero es imposible de determinar.
“Este planeta tiene 4 mil 500 millones de años aproximadamente, la vida surgió hace unos 600 millones de años, la conciencia humana se desarrolló hace unos 200 mil años y el ser humano moderno hace unos 10 mil años, entonces no esperemos que en menos de 100 años una máquina experimente conciencia”, declaró el doctor en Ciencia y Tecnología de Inteligencia Artificial y Ciencia de Datos.
Enfatizó que no debemos temer que una máquina por sí misma tenga la intencionalidad de querer hacer daño, porque no tiene libre albedrío y las matemáticas que están detrás de las máquinas con IA son muy sencillas e incapaces de modelar procesos tan complejos como el pensamiento, el sentimiento, la empatía y la conciencia.
La IA nos dejará sin trabajo
Juan Humberto Sossa Azuela, director del CIC, consideró real la desconfianza de que la IA sustituya al ser humano en algunos puestos laborales, sobre todo en tareas que son de corte repetitivo, pero ahora también en aquellas que involucran creatividad e incluso imaginación. Al respecto, la doctora Ana María Magdalena Saldaña Pérez, jefa del Laboratorio de Procesamiento Inteligente de Información Geoespacial del CIC, piensa que la realidad es más compleja: algunas tareas sí serán automatizadas y determinados empleos cambiarán, pero eso no significa que todas las profesiones vayan a desaparecer, porque existen actividades imprescindibles que sólo puede realizar un ser humano como las relacionadas con la mano de obra, oficios, médicos, maestros o terapeutas.
La transformación se observa incluso en actividades profesionales altamente calificadas; un programador, por ejemplo, puede utilizar una IA para generar código, pero necesita revisar que el resultado sea correcto. De esta manera, la herramienta modifica el proceso de trabajo sin eliminar necesariamente la participación humana.
“Estos algoritmos o agentes inteligentes necesitan que un humano los esté adaptando constantemente porque su objetivo es automatizar tareas, hacer la vida de las personas más fácil, pero no necesariamente sustituirlos. Hay tareas en las que son absolutamente necesarias las relaciones interpersonales, entonces como tal, no nos pueden suplantar”, expresó la doctora en Ciencias de la Computación.
El desafío está entonces en aprender nuevas habilidades y entender qué actividades pueden delegarse y cuáles requieren experiencia, criterio, responsabilidad y contacto humano, aunque para el doctor Sossa Azuela es necesario instruir, enseñar, motivar, impulsar y convencer a los usuarios a emplear la IA de manera ética y responsable.
Sobre la neutralidad en la IA, la científica Nivel I del SNII reflexionó que los agentes inteligentes no pueden asegurar este aspecto, porque son desarrollados por personas y entrenados con datos producidos por sociedades que también tienen desigualdades, prejuicios y sesgos, además retoman información que encuentran en sus bases, también hechas por personas, y revisan los históricos, de acuerdo con cada situación. “Si dos mujeres y cinco hombres se postulan para una oferta laboral, el agente inteligente revisa previamente quién tuvo ese puesto, qué rasgos tenía y consulta un histórico, en él se da cuenta de que ese puesto ha sido ocupado mayoritariamente por hombres, entonces ya está sesgado y es probable que seleccione a un hombre”, sostuvo.
A veces alucina
Uno de los principales equívocos, advirtió la doctora Magdalena Saldaña, surge cuando la IA ofrece una respuesta incorrecta con una redacción impecable y un tono convincente, error que se conoce como alucinación, por ello es que no todo lo que dice es verdadero, porque sólo está conectando respuestas lógicas, pero tiene sus limitantes, y cuando carece de mayor contexto, puede estar dándonos respuestas incorrectas con absoluta seguridad.
“A la IA se le tiene que dar un contexto y alimentarla con muchos datos para que genere lo que le pedimos. Yo siempre le digo a mis estudiantes que los algoritmos son como niños porque creen todo lo que les decimos, si yo me invento un trazo y le digo que eso es una letra y que tiene sonido me va a creer y lo va a relacionar con otras letras que conoce”, declaró.
En tanto, la doctora Miriam Pescador Rojas, coordinadora de sede de los programas de Maestría y Doctorado en Ciencia y Tecnología de Inteligencia Artificial y Ciencia de Datos, de la Escuela Superior de Cómputo (Escom), resaltó que una respuesta coherente no significa que la máquina comprenda lo que está diciendo ni que sus respuestas sean siempre verdaderas.
“Lo que ocurre es que la Inteligencia Artificial se entrena con millones de datos y eso hace que la forma en la que contesta parezca real y verdadera. En el ámbito jurídico se registró un caso en el que un abogado de Nueva York presentó una defensa con datos que parecían ciertos, pero cuando se verificaron los artículos en los que se basaba el expediente vieron que no eran correctos, así que fue una alucinación de la IA”, recordó la doctora en Computación.
Por ello, estimó que es muy peligroso delegar la toma de decisiones a esta herramienta tecnológica que, aunque es de gran ayuda en la resolución de problemas o el desarrollo de procesos, al final el humano es quien debe tener la carga de la toma de decisiones.
Es necesaria la supervisión humana
Miriam Pescador Rojas, investigadora nacional, candidata al SNII, señaló que la IA es una herramienta, como lo es una calculadora que realiza operaciones extraordinariamente complejas, en fracciones de segundo, pero si se le introducen datos incorrectos, arroja resultados erróneos, de ahí que es tan necesaria la supervisión humana.
Al respecto, el doctor Sossa Azuela propuso como ejemplo las ecuaciones de Navier-Stokes, consideradas como uno de los problemas del milenio, y que fueron “resueltas” por un modelo de Inteligencia Artificial tras 88 horas de cómputo y ahora el resultado, plasmado en un documento de 166 páginas, tendrá que ser analizado durante al menos dos años por un grupo de matemáticos profesionales para comprobar que sea verídico. Por otra parte, la imagen de una máquina que adquiere conciencia, decide independizarse y termina controlando a la humanidad pertenece, por ahora, al terreno de la ficción, reconoció la doctora Magdalena Saldaña. “Lo cierto es que no pueden hacerlo, aunque sí existen riesgos relacionados con el uso malicioso de estas tecnologías”, enfatizó.
“El problema real no es que una máquina desarrolle voluntad propia, sino que las personas que diseñan, entrenan o utilizan sistemas de Inteligencia Artificial lo hagan con determinados objetivos como generar software malicioso, fabricar información falsa, producir contenidos manipulados o crear imágenes y videos capaces de engañar a quienes los reciben. Los llamados deepfakes son un ejemplo de ello, por eso es necesario comprobar la información mediante otras fuentes antes de darla por cierta”, aseveró.
La generación de contenido es cada vez más difícil de identificar, confirmó la doctora Miriam Pescador, de ahí que se proponga el desarrollo de marcas criptográficas dentro de los mismos documentos, archivos, imágenes o textos que nos permitan verificar si la fuente es real. “Por eso es importante preguntarse en primera instancia quién generó la información, quién es la fuente o el autor del contenido, aunque otra forma de hacerlo es a través de los metadatos que tiene el archivo y ver si efectivamente es verídico a través de mecanismos criptográficos que están relacionados con la ciberseguridad”, destacó la experta de la Escom.
El verdadero riesgo: dejar de pensar
Quizá el mayor peligro relacionado con la IA no es que llegue a pensar como un ser humano, sino que los seres humanos dejen de pensar por sí mismos, dejen de consultar libros, de contrastar varias fuentes, de realizar cálculos o de resolver un problema, porque siempre existe la tentación de obtener una respuesta inmediata a través de la IA y esto puede orillar a la dependencia e incluso a la adicción.
El doctor Juan Humberto Sossa comentó que la IA debe ser un instrumento, una herramienta que potencie nuestras capacidades, que nos haga más fuertes, más precisos, más rápidos y que nos permita tomar decisiones mejor informadas. “En mis conferencias yo he hecho un test muy sencillo a la audiencia y les pregunto si conocen cinco números telefónicos. Si una persona es capaz de decirme esos números telefónicos de memoria, pasó la prueba; normalmente no me pueden dar ni siquiera su propio número y ahí está el problema, que hemos empezado a ser IA-dependientes”, alertó. Lo ideal y la manera en la que formamos a nuestros estudiantes, agregó el director del CIC, es que la IA colabore con nosotros, que sea un socio para desarrollar una tarea mejor. Yo lo sintetizo de esta forma: Inteligencia Natural + Inteligencia Artificial= Inteligencia Aumentada. Sossa Azuela aseguró que es necesario dejar atrás los mitos de que la IA es omnisciente y omnipresente, tampoco se debe tomar como la referencia absoluta. Sí es una excelente herramienta, pero sigue siendo eso, una herramienta y jamás deberá sustituirnos.
El desafío entonces no está solamente en desarrollar máquinas cada vez más poderosas, sino en formar personas capaces de preguntar, analizar, contrastar y decidir. Porque frente a una tecnología que responde en segundos, la facultad de cuestionar la respuesta sigue siendo un atributo exclusivo del ser humano.
INSTITUTO POLITÉCNICO NACIONAL
D.R. Instituto Politécnico Nacional (IPN). Av. Luis Enrique Erro S/N, Unidad Profesional Adolfo López Mateos, Zacatenco, Alcaldía Gustavo A. Madero, C.P. 07738, Ciudad de México. Conmutador: 55 57 29 60 00 / 55 57 29 63 00.
Esta página es una obra intelectual protegida por la Ley Federal del Derecho de Autor, puede ser reproducida con fines no lucrativos, siempre y cuando no se mutile, se cite la fuente completa y su dirección electrónica; su uso para otros fines, requiere autorización previa y por escrito de la Dirección General del Instituto.
