En la inteligencia artificial siempre existirá un factor humano

María Teresa Cedillo Nolasco

Detrás de la inteligencia artificial (IA) siempre habrá un factor humano, “no nos va a sustituir” como tales porque es sólo una herramienta que ayuda a mejorar procesos y a tomar decisiones, entre ellos los que tocan a la edición, señalaron panelistas de la mesa El uso de la Inteligencia Artificial en los procesos de publicación de revistas científicas, convocado por la Universidad Autónoma Metropolitana y el Instituto Tecnológico y de Estudios Superiores de Monterrey (ITESM), en el marco de la celebración de la Feria Internacional del Libro Monterrey, en la que la Casa abierta al tiempo es invitada de honor.  

El doctor Francisco Valdés Parada, académico del Departamento de Ingeniería de Procesos e Hidráulica de la Unidad Iztapalapa y director de la Revista Mexicana de Ingeniería Química, relató que en la Universidad de Stanford decidieron usar IA para desarrollar teorías matemáticas, a partir de metodologías que expertos han usado por siglos y alimentándola con bases de datos de artículos publicados en al menos 50 años, informó la UAM en un comunicado.

De este proceso informaron que en seis minutos el software utilizado fue capaz de desarrollar una teoría matemática que a un estudiante le habría llevado el doctorado hacerlo. Por lo tanto, concluyen que ya no necesitaban esperar cuatro años y medio para tener la teoría ni pagar becas para ello.

Sin embargo, “se fueron para atrás cuando les dije que para resolver este problema precisas solucionar nueve subproblemas; si hubieras usado un humano, te habrías dado cuenta de que no requerías nueve sino dos y, por tanto, lo que crees que ahorraste al no tener a una persona detrás de esto, porque en seis minutos tienes la teoría, en realidad lo estás pagando más caro”.  

Esa es la diferencia de la inteligencia humana con la artificial porque la segunda “siempre te va a tratar de complacer y tratará de darte resultados, pero siempre necesitamos la parte humana para decir: tú eres una herramienta, no me vas a desplazar ni a decidir por mí, sino que me aportarás elementos que me ayudarán a tomar decisiones”.  

Ese es el lado más positivo que “deberíamos todos de explorar y reflexionar más de la inteligencia artificial”, más que pensar en que nos va a reemplazar, apuntó. 

Acerca de los procesos de edición explicó que la política editorial que actualmente se sigue en la Revista Mexicana de Ingeniería Química son similares a la de Elsevier, donde los autores pueden usar la inteligencia artificial para cuestiones gramaticales, no para temas de mayor profundidad; es decir, se vale para corregir palabras, frases que no se entienden y que pueden quedar mejor, mas no en lo que respecta a la evaluación por pares es totalmente inaceptable, porque “no podemos recibirla, por ejemplo, si se llega a hacer por Chat GTP u otra herramienta de IA; eso no lo aceptamos”.   

Sin embargo, en el tema de plagios sí es posible usar la herramienta, pues ayuda a detectar si la metodología y resultados han sido publicados, lo que “sería un foco rojo”.  

Valdés Parada subrayó que la ventaja del uso de la Inteligencia Artificial está en el renglón técnico, no obstante la parte sustancial de un artículo como una teoría matemática o el aporte experimental “es todavía difícil de ser descrito por la IA, al menos por completo, puesto que eso todavía es humano y podemos detectar cuando no lo es”.  

El capítulo retador es la autoría, ya que actualmente, por ejemplo, se usan muchos modelos animales para llevar a cabo experimentos, lo que implica muchos recursos y el sacrificio de animales, pero ya existen ratones virtuales que tienen muchos datos recolectados, aunque no todo está hecho ni reportado, ni alimentado en las bases de datos de las que se nutre la IA. 

Aquellos trabajos en los que el autor limitó su actividad a alimentar determinado número de datos y con ello reporta resultados, “en este momento no son aceptados, porque se reduce muchísimo la contribución realmente científica”, señaló.  

El doctor Enrique Cortés Rello, director del Hub de Inteligencia Artificial del ITESM, dijo que la tecnología de IA generativa es nueva, “es de hace 22 o 23 meses y estamos en la etapa de las cavernas, pues no sabemos cómo muchas cosas van a evolucionar”. 

Las herramientas como Chat GTP “tienen percepción relativamente limitada” porque cuentan con un prompt (instrucción o petición que se da a una herramienta de IA para que genere resultados específicos) y están diseñadas para “predecir la siguiente palabra y para producir una frase humana, no para contestar tu pregunta”; por lo tanto, “lo que te dan no es verdadero, es lenguaje razonable y la razón es que su modelo del mundo es la expresión”. 

Es posible poner como promt un tipo de documento y hacer todo tipo de preguntas sobre el mismo; ese uso es bueno, el “no bueno” es tratar de que sea creativo; esto no se puede, porque el lenguaje que dan podría ser falso o verdadero. Una muestra de ello es solicitarle recetas de tomates con tuercas y recibir una respuesta de cómo elaborar un platillo de tomates con tuercas.  

“Lo que intentan es dar contestaciones para complacer, tienen su propia utilidad, son poderosas” para modificar el lenguaje y para responder al público, pero “no hay esperar que esto sea creativo ni científico en términos de pedirle una teoría y que dé una respuesta correcta”.  

La IA es útil en el proceso de edición si se le pide que diga si algún “paper” va de acuerdo con el enfoque de la publicación, por ejemplo, respecto de las reglas de estilo, pero detrás habrá siempre un humano, porque cuando el enfoque no sea adecuado, él va a tomar la decisión de revisar el texto.  

Es factible ayudar para buscar los mejores pares del mundo sobre un tema, no obstante “veo lejos que estas herramientas en algún momento logren hacer una evaluación de pares”. 

El investigador indicó que la mejor manera de usar la IA es “colaborando con humanos, pues es muy raro el caso en que pueda decirse que un humano fue reemplazado por IA”. 

Por último, comentó que el año pasado, en Estados Unidos, los trabajos de humanos perdidos o sustituidos por IA fue apenas de 0.5 por ciento. A razón de ello, “es un cuento ese de que todos vamos a perder nuestro trabajo. Aunque en algunas áreas sucederá igual que en la Revolución Industrial, no va a ser algo masivo ni rápido”. 

En la mesa moderada por la maestra Gubisha Ruiz Morán, jefa de la Sección Editorial de la Dirección de Publicaciones de la UAM, también estuvieron los doctores Dagoberto Salas Zendejo y Javier Camargo Castillo, investigadores del ITESM.