¿Qué piensan los científicos sobre los posibles impactos de la IA en la investigación?

Llevamos tiempo oyendo hablar de los peligros de la IA, pero en las últimas semanas la conversación ha tomado un giro existencial. Las advertencias procedentes de quienes construyen estos sistemas hacen que algunos duden de si se trata más de una estrategia publicitaria que de una alarma real. Sin embargo, para mucha gente, el temor es real.

El ámbito académico no es una excepción. Quienes se dedican a la investigación están, por definición, en la vanguardia de la producción de conocimiento, precisamente aquello que la IA pretende hacer, con el tiempo, mejor que los humanos. A medida que asume más tareas nuestras, desde las más rutinarias hasta las más complejas, ¿qué tiene la ciencia por ganar y qué pueden perder los investigadores?

La IA ya está impulsando a la ciencia hacia avances que antes se consideraban a décadas de distancia. Pero las amenazas no surgen únicamente de los escenarios más catastróficos; también existen interrogantes más silenciosos sobre qué ocurre con el pensamiento y la creatividad humana cuando la IA empieza a pensar por nosotros, incluso en las tareas más sencillas.

Formulamos tres preguntas a algunos de nuestros investigadores sénior del ICTA-UAB: cuánto les preocupa la IA, qué riesgo les inquieta más en su propio campo y si la IA realmente les ha permitido avanzar en su propio trabajo. Esto es lo que nos dijeron.

 

Eric Galbraith — Sistemas Terrestres

«Estoy muy preocupado. Se está volviendo demasiado potente muy rápidamente y nadie tiene el control.»

«Creo que el mayor riesgo es que dejemos que la máquina piense por nosotros y. como resultado, nos volvamos más tontos. Aprender requiere esfuerzo, y si delegamos en la IA las tareas exigentes que generan aprendizaje, como leer, escribir y aritmética, podríamos mermar las capacidades humanas. Pero no tiene por qué ser así. Creo que potencialmente podríamos tener una IA cuyo objetivo fuera potenciar la inteligencia humana, en lugar de sustituirla.»

Sobre su propio uso: «La utilizo para contrastar ideas, para que me explique cosas con las que no estoy familiarizado, para resumir literatura existente y como revisor crítico de lo que he escrito. Me interesa trabajar en la IA como un medio para mejorar la toma de decisiones democrática, pero no he avanzado mucho en esa dirección.»

 

Graham Mortyn — Paleoceanografía

«Siento una preocupación moderada. En tiempos recientes hemos visto exageraciones en torno a temas comparables.»

«El entusiasmo por el poder y la utilidad de esta gran herramienta que es la IA debe moderarse siempre con sentido común y consideraciones éticas. En mi opinión, esto aplica esencialmente a cualquier tecnología que surja.»

Señala un cambio específico en su propio campo: «En los últimos tiempos he visto cómo mejoraba de forma significativa el nivel de inglés escrito por parte de estudiantes no nativos. Sospecho fundadamente que se está recurriendo a la IA para mejorar la redacción, y esto también se nota en la investigación. En sí no hay nada de malo en ello, aunque potencialmente debemos protegernos contra el uso indebido y el plagio. Cómo exactamente, no lo sé con certeza.»

En qué le ha ayudado: «Me gusta especialmente PerplexityAI como herramienta sencilla para formular preguntas básicas y obtener rápidamente una respuesta razonable. Lo que me gusta de ella es que obliga al usuario a plantear preguntas claras y que tengan respuesta; de lo contrario, gira sobre sí misma en la confusión. En los últimos tiempos he incorporado algo de esto en mi docencia.»

 

Panagiota Kotsila — Justicia Climática

«Me preocupa que se preste demasiada atención a "lo que la IA puede hacer" y menos a lo que se les permite hacer a las personas que están detrás de ella.»

«La mayoría de la gente no entiende del todo cómo funciona la IA, los recursos necesarios para sostenerla ni los riesgos sociales que implica. Esto me preocupa porque la ignorancia, la falta de comprensión y la baja regulación ofrecen el caldo de cultivo perfecto para la manipulación y los errores.»

También ha visto esto reflejado directamente en la docencia: «El impacto más evidente que he visto en el trabajo es un exceso de artículos, correos electrónicos y ensayos generados por IA por parte del alumnado. Esto crea una impresión de mejor rendimiento, pero al mismo tiempo ha reducido nuestras capacidades de pensamiento y redacción, reciclando ideas y pensamientos de la forma más aburrida. Creo que puede ser perjudicial para el aprendizaje tanto en la escuela como a nivel académico para las generaciones más jóvenes.»

Sobre su propia experiencia: «Siento que solo me ha ahorrado unos pocos minutos de esfuerzo mental o trabajo sencillo. Creo que puede ser más útil para personas que trabajan con grandes volúmenes de datos. La he usado para resumir notas, pero nunca me fío mucho, así que he tenido que revisarlo, lo cual también requiere tiempo. La he utilizado para transcripciones y traducciones, y ahí ha sido útil en términos de velocidad, aunque una persona habría hecho un mejor trabajo sin necesidad de revisión.»

 

Álvaro Fernández-Llamazares — Etnobiología

«La IA está abriendo nuevas posibilidades, pero también plantea cuestiones importantes para el campo de la etnobiología.»

«Para los Pueblos Indígenas con los que trabajo, existe un riesgo real de reproducir viejas formas de extracción de conocimiento bajo un nuevo formato tecnológico. La etnobiología ha generado enormes cantidades de conocimiento sobre las relaciones de los Pueblos Indígenas con las plantas, los animales y los paisajes. A medida que este conocimiento se utiliza para entrenar a la IA, debemos preguntarnos: ¿quién ha dado su consentimiento, ¿quién controla los datos? y ¿quién decide cómo se utilizan? La IA puede reconocer que una planta es medicinal, pero pasar por alto la lengua, la gente, el lugar, las relaciones y las responsabilidades que dan sentido a ese conocimiento.

Detrás de cada sistema de IA hay centros de datos que requieren enormes cantidades de electricidad, agua, minerales y tierra. En EE. UU., la expansión de los centros de datos en torno a tierras tribales ya está planteando preguntas sobre justicia ambiental y decisiones sobre el uso del suelo.

Para la etnobiología, estas son dos caras de la misma moneda: la extracción de conocimiento y la extracción de recursos. El reto es garantizar que la IA no se convierta simplemente en la última frontera de la extracción, sino en una tecnología que respete el conocimiento, los datos, las tierras y la soberanía indígenas.»

 

Giorgos Kallis — Decrecimiento

«Me preocupan los impactos que pueda tener en las relaciones sociales, el medio ambiente y la redistribución de la riqueza hacia arriba.»

«A medida que la juventud utiliza más y más la IA, temo que las habilidades humanas básicas necesarias para la investigación se extingan y acaben haciendo que los investigadores humanos sean inútiles. ¿Qué habilidades deberíamos enseñar hoy a los jóvenes investigadores para que sigan siendo necesarios en el futuro? Siento que enseñar investigación como si nada hubiera cambiado es irresponsable, pero no estoy seguro de qué hacer de forma diferente.»

Sobre su propio uso: «La he utilizado para tareas complementarias, como ayudarme con el tono de un correo electrónico o para recibir comentarios sobre los puntos débiles de un artículo, que luego trabajo para mejorar. Pero siempre me deja con un mal sabor de boca, como si hubiera comido algo muy empalagoso. Incluso con estas pequeñas tareas, me preocupa estar deteriorando algunas de mis propias habilidades y volviéndome más estúpido.»

 

Isabelle Anguelovski — Justicia Ambiental Urbana

«Me preocupa que la IA asuma progresivamente nuestras decisiones y nuestra capacidad de pensar, dejándonos en una posición en la que, como mucho, simplemente demos instrucciones..»

«En mi campo, el riesgo de sustitución es menor, porque interpretar y teorizar no se automatizan fácilmente. En ciencias sociales, urbanismo y ciencia política, donde sí veo riesgo es en las tareas de apoyo a la investigación, como la transcripción, traducción, o el diseño gráfico, más que en el núcleo intelectual del trabajo.»

Sobre su propio uso: «La utilizo principalmente en tareas administrativas pesadas que no forman parte del núcleo de mi trabajo. Me ayuda a organizar gastos y redactar informes financieros, liberando así tiempo para la investigación y la reflexión.»

 

Arnim Scheidel — Ecología Política

«Es preocupante que tan pocos magnates tecnológicos y gobiernos controlen la IA, dado su conflicto de intereses respecto a una regulación significativa.»

«Los sistemas de IA requieren enormes cantidades de agua, energía y minerales. ¿De dónde saldrán estos recursos? ¿De las tierras de quién?»

Sobre su propio uso, señala un ejemplo concreto de su investigación: «En un proyecto piloto, hemos utilizado modelos de lenguaje (LLM) para codificar 30 años de cobertura periodística sobre la oposición a proyectos de energías renovables en España. La configuración y el control de calidad llevaron un tiempo. Una vez hecho, los modelos codificaron miles de artículos de prensa con resultados de alta calidad en cuestión de 2 horas. Manualmente, esto habría llevado probablemente un año de trabajo de una persona dedicada ello de manera exclusiva.»

 

Patrizia Ziveri — Oceanografía

«Lo que más me preocupa es su uso poco ético, porque la IA es mucho más que una simple tecnología nueva.»

«Un riesgo que veo es que la investigación pueda volverse más homogénea, con menos espacio para la creatividad y el descubrimiento real. También está la cuestión abierta de la propiedad intelectual. Pero la IA también puede ser de gran ayuda; durante las expediciones, por ejemplo, puede ayudarnos a resolver problemas rápidamente y facilita el aprovechamiento de trabajos anteriores.

La he utilizado principalmente para ahorrar tiempo en tareas secundarias a mi investigación más que en la ciencia en sí. La empleo para conceptualización, visualización, pulido de documentos y soporte en programación. Esto deja más tiempo para pensar, interpretar datos, y debatir y desarrollar nuevas ideas.» 

 

André Colonese — Sistemas Alimentarios Antiguos

«La velocidad a la que avanzan las cosas es alarmante. La Revolución Industrial cambió nuestra forma de vivir en este planeta, y aquí estamos hablando de un nivel completamente diferente.»

«Este es un punto de inflexión claro para nuestras sociedades e incluso, posiblemente, para nuestra especie. La IA ofrece muchas ventajas, pero conlleva una potencial pérdida y reorganización futura de las habilidades humanas a medida que nos volvemos cada vez más dependientes de sus beneficios. El reto aquí es intentar anticipar estos cambios.»

Sobre su propio uso: «La uso para que me ayude con la programación. Algo que antes me llevaba días, ahora me lleva solo unos minutos u horas.»

Lo que emerge de estas reflexiones es una cierta tensión entre el pragmatismo y la prudencia: el reconocimiento de lo que la IA puede mejorar junto a una inquietud real por lo que podría quitarnos.