Responsabilidad y ética, claves para una IA confiable

En la Escuela de Verano en el CIC, advierten sobre creer que la Inteligencia Artificial ofrece siempre datos correctos

La investigadora del Instituto Nacional de Astrofísica, Óptica y Electrónica (INAOE), María del Pilar González Gil, advirtió sobre la importancia de usar la Inteligencia Artificial (IA) con responsabilidad, sentido ético y pensamiento crítico para que sea confiable.

Lo anterior, al participar en la Escuela de Verano de Ciencias Cognitivas, Computacionales y Procesamiento de Lenguaje Natural, organizada por el Centro de Investigación en Computación (CIC) del Instituto Politécnico Nacional (IPN).

Al dictar la conferencia “Aplicaciones de la Inteligencia Artificial: Oportunidades y Riesgos”, la especialista recordó que las decisiones siempre corresponden a las personas y no a los algoritmos, al tiempo que afirmó que la IA es una herramienta con un enorme potencial, pero para obtener resultados correctos se debe entrenar con datos fidedignos y de calidad.

Ante los asistentes al auditorio de la Escuela Superior de Cómputo (Escom), la ponente señaló que uno de los errores más comunes es pensar que la IA siempre ofrece respuestas exactas. Recordó que los modelos actuales generan soluciones aproximadas, sobre todo, el resultado dista mucho de la realidad cuando la herramienta no se entrena con datos robustos; por ello, consideró importante construir modelos con información confiable.

La experta del INAOE sostuvo que el conocimiento debe estar al alcance de todas las personas. "Soy investigadora y mi principio básico es que el conocimiento es libre, es gratis; todos deberíamos tener el mismo acceso", expresó.

No obstante, cuestionó que grandes empresas de Inteligencia Artificial obtengan beneficios económicos utilizando información y obras de terceros sin autorización; asimismo, detalló que muchas plataformas fueron entrenadas con millones de datos tomados de internet sin pedir permiso a sus autores, lo que ha generado diversas demandas por violaciones a los derechos de autor.

Al subrayar que el desarrollo tecnológico debe respetar tanto la ética como la propiedad intelectual, la doctora González Gil recalcó que no es apropiado usar el conocimiento de alguien para dar información a otras personas y obtener una remuneración a costa de ello sin brindar ningún beneficio al autor de dicho conocimiento.

Explicó que la Inteligencia Artificial generativa permite crear textos, imágenes y otros contenidos a partir de probabilidades estadísticas. Por ello, insistió en que la información que se genera depende totalmente de los datos con los que se entrenó la herramienta.

La investigadora alertó sobre el sesgo presente en las bases de datos y mencionó que muchos sistemas reproducen desigualdades porque fueron entrenados con información limitada o poco representativa.

Destacó que, como parte del uso responsable de estas tecnologías, se debe poner especial cuidado en el impacto ambiental que tienen, ya que los grandes modelos requieren enormes centros de datos que consumen elevadas cantidades de electricidad y agua para su funcionamiento, por lo que advirtió la necesidad de incorporar la sustentabilidad a estos desarrollos.

Calidad de los datos, esencial

Al dictar la ponencia “De las señales biomédicas a la Inteligencia Artificial”, la investigadora de la Unidad Profesional Interdisciplinaria de Ingeniería y Tecnologías Avanzadas (UPIITA), Blanca Tovar Corona, señaló que la Inteligencia Artificial no es inteligente por sí sola, sino que aprende a partir de los datos que recibe.

Por ello, insistió en que la calidad de las bases de datos es el elemento más importante para desarrollar sistemas confiables, especialmente en el ámbito de la salud. Explicó que estos registros deben estar correctamente documentados, etiquetados por especialistas, libres de ruido y representar una amplia diversidad de pacientes, ya que cualquier error o sesgo puede afectar el desempeño de los modelos de Inteligencia Artificial.

Asimismo, subrayó que el mayor desafío no es desarrollar los algoritmos, sino la construcción de bases de datos médicas confiables, un proceso que requiere años de trabajo, protocolos éticos, colaboración entre ingenieros y médicos, y la participación de numerosos hospitales y pacientes.

La investigadora politécnica hizo hincapié en que solo mediante datos de alta calidad será posible crear herramientas de Inteligencia Artificial verdaderamente útiles para apoyar el diagnóstico clínico, a partir de las bases de datos confiables.