Com se sent el personal investigador respecte als possibles impactes de la IA en la recerca?

Fa temps que sentim parlar dels perills de la IA, però en les darreres setmanes la conversa ha pres un gir existencial. Les advertències procedents de les mateixes persones que construeixen aquests sistemes fan que alguns dubtin de si es tracta més d'una estratègia de màrqueting que d'una alarma real. No obstant això, per a molta gent, la por és real.

El món acadèmic no n'és una excepció. El personal investigador es troba, per definició, a la meca de la producció de coneixement, precisament allò que la IA pretén fer, amb el temps, millor que els humans. A mesura que assumeix més tasques nostres, des de les més rutinàries fins a les més complexes, què hi té a guanyar la ciència i què hi pot perdre el personal investigador?

La IA ja està empenyent la ciència cap a avenços que abans es consideraven a dècades de distància. Però les amenaces no sorgeixen només del pitjor escenari possible; també hi ha qüestions més silencioses sobre què passa amb el pensament i la creativitat humana quan la IA comença a pensar per nosaltres, fins i tot en les tasques més senzilles.

Els hem plantejat tres preguntes a alguns dels nostres investigadors i investigadores sèniors de l'ICTA-UAB: fins a quin punt els preocupa la IA, quin risc els inquieta més en el seu propi camp i si la IA realment els ha permès avançar en la seva feina. Això és el que ens han dir.

 

Eric Galbraith — Sistemes Terrestres

«Estic molt preocupat. S'està tornant massa potent molt ràpidament, i ningú en té el control.»

«Crec que el risc més gran és que deixem que la màquina pensi per nosaltres i ens tornem més rucs com a resultat. Aprendre requereix esforç, i si deleguem a la IA les tasques exigents que produeixen aprenentatge, com ara llegir, escriure i l’aritmètica, podríem disminuir les capacitats humanes. Però no cal que sigui així. Crec que potencialment podríem tenir una IA que tingués com a objectiu potenciar la intel·ligència humana, en lloc de substituir-la.»

Sobre el seu propi ús: «La faig servir per contrastar idees, per explicar-me coses amb les quals no estic familiaritzat, per resumir literatura existent i com a revisor crític de coses que he escrit. M'interessa treballar en la IA com a mitjà per millorar la presa de decisions democràtica, però no he fet molt en aquesta direcció.»

 

Graham Mortyn — Paleoceanografia

«Em sento moderadament preocupat. Hem vist eufòries exagerades sobre temes comparables en temps recents.»

«L'entusiasme per la potència i la utilitat d'aquesta gran eina que és la IA s'ha de temperar sempre amb sentit comú i consideracions ètiques. Al meu entendre, això és essencialment cert per a qualsevol tecnologia que aparegui.»

Assenyala un canvi específic en el seu propi camp: «He vist com el nivell d'anglès escrit ha millorat significativament en els últims temps per part d'estudiants no natius. Sospito sensatament que s'està recorrent a la IA per millorar la redacció, i això també es nota en la recerca. No hi ha res de dolent en això per se, tot i que sí que ens hem de protegir potencialment contra el mal ús i el plagi. Com exactament, no ho sé del cert.»

En què l'ha ajudat: «M'agrada especialment PerplexityAI com a eina senzilla per fer preguntes bàsiques i obtenir ràpidament una resposta raonable. El que m'agrada és que obliga l'usuari a fer preguntes clares i que tinguin resposta; altrament, gira sobre si mateixa en la confusió. N'he incorporat una mica a la meva docència en els últims temps.»

 

Panagiota Kotsila — Justícia Climàtica

«Em preocupa que hi hagi massa atenció en "què pot fer la IA" i menys en què se'ls permet fer a les persones que hi ha al darrere.»

«La majoria de la gent no entén del tot com funciona la IA, els recursos necessaris per mantenir-la ni els riscos socials que implica. Això em preocupa perquè la ignorància, la falta de comprensió i la baixa regulació ofereixen el brou de cultiu perfecte per a la manipulació i els errors.»

També ho ha vist reflectit directament en la docència: «L'impacte més obvi que he vist a la feina és un excés d'articles, correus electrònics i treballs generats per IA per part dels estudiants. Això crea una impressió de millor rendiment, però alhora ha reduït les nostres capacitats de pensament i redacció, reciclant idees i pensaments de la manera més avorrida. Crec que pot ser perjudicial per a l'aprenentatge a l'escola i en l'àmbit acadèmic per a les generacions més joves.»

Sobre la seva pròpia experiència: «Sento que només m'ha estalviat uns pocs minuts d'esforç mental o de feina senzilla. Crec que pot ser més útil per a la gent que treballa amb grans volums de dades. L'he utilitzada per resumir notes, però mai no me'n refio molt, així que l'he haguda de revisar, la qual cosa també requereix temps. L'he feta servir per a transcripcions i traduccions, i aquí ha estat útil en termes de velocitat —tot i que una persona hauria fet una feina millor sense necessitat de revisió.»

 

Álvaro Fernández-Llamazares — Etnobiologia

«La IA està obrint noves possibilitats, però també planteja qüestions importants per al camp de l'etnobiologia.»

«Per als Pobles Indígenes amb els quals treballo, hi ha un risc real de reproduir velles formes d'extracció de coneixement en un nou format tecnològic. L'etnobiologia ha generat quantitats enormes de coneixement sobre les relacions dels Pobles Indígenes amb les plantes, els animals i els paisatges. A mesura que aquest coneixement s'utilitza per entrenar la IA, ens hem de preguntar: qui ha donat el seu consentiment, qui controla les dades i qui decideix com s'usen? La IA pot reconèixer que una planta és medicinal, però passar per alt la llengua, la gent, el lloc, les relacions i les responsabilitats que donen sentit a aquest coneixement.

Rere cada sistema d'IA hi ha centres de dades que requereixen quantitats enormes d'electricitat, aigua, minerals i terra. Als EUA, l'expansió dels centres de dades en terres tribals o al seu voltant ja està plantejant qüestions de justícia ambiental i de decisions sobre l'ús del sòl.

Per als etnobiòlegs, aquestes són dues cares de la mateixa història: l'extracció de coneixement i l'extracció de recursos. El repte és aconseguir que la IA no esdevingui simplement l'última frontera de l'extracció, sinó una tecnologia que respecti el coneixement, les dades, les terres i la sobirania indígenes.»

 

Giorgos Kallis — Decreixement

«Em preocupen els impactes que pugui tenir en les relacions socials, el medi ambient i la redistribució de la riquesa cap amunt.»

«A mesura que la joventut utilitza més i més la IA, temo que les habilitats humanes bàsiques necessàries per a la recerca s'extingeixin i acabin fent que els investigadors humans siguin inútils. Quines habilitats hauríem d'ensenyar avui als joves investigadors perquè continuïn sent necessaris en el futur? Sento que ensenyar recerca com si res no hagués canviat és irresponsable, però no estic segur de què fer de manera diferent.»

Sobre el seu propi ús: «L'he feta servir per a tasques complementàries, com ajudar-me amb el to d'un correu electrònic o per rebre comentaris sobre les febleses d'un article, que després treballo per millorar. Però sempre em deixa amb un mal gust de boca, com si hagués menjat alguna cosa molt empastifosa o dolça. Fins i tot amb aquestes petites tasques, em preocupa estar erosionant algunes de les meves pròpies habilitats i tornar-me un grau més ximple.»

 

Isabelle Anguelovski — Justícia Ambiental Urbana

«Em preocupa que la IA assumeixi progressivament les nostres decisions i la nostra capacitat de pensar, on ens quedem simplement donant instruccions —si de cas.»

«En el meu camp el risc de substitució és més baix, perquè interpretar i teoritzar no s'automatitzen fàcilment. En ciències socials, planificació urbana i ciència política, on sí que veig risc és en les tasques de suport a la recerca —transcripció, traducció, disseny gràfic— més que en el nucli intel·lectual de la feina.»

Sobre el seu propi ús: «La faig servir principalment en tasques administratives feixugues que no formen part del nucli de la meva feina. M'ajuda a organitzar despeses i redactar informes financers. Això allibera temps per a la recerca i la reflexió.»

 

Arnim Scheidel — Ecologia Política

«És preocupant que tan pocs magnats tecnològics i governs controlin la IA, atès el seu conflicte d'interessos respecte a una regulació significativa.»

«Els sistemes d'IA requereixen quantitats enormes d'aigua, energia i minerals. D'on sortiran aquests recursos? De les terres de qui?»

Sobre el seu propi ús, assenyala un exemple concret de la seva recerca: «En un projecte pilot, hem utilitzat models de llenguatge (LLM) per codificar trenta anys de cobertura de premsa sobre l'oposició a projectes d'energies renovables a Espanya. La configuració i el control de qualitat van portar un temps. Un cop fet, els LLM van codificar milers d'articles de diari amb resultats d'alta qualitat en qüestió de 2 hores. Manualment, això hauria hagut de menester probablement un any de feina d'una persona dedicada exclusivament a això.»

 

Patrizia Ziveri — Oceanografia

«El que més em preocupa és el seu ús poc ètic, perquè la IA és molt més que una simple tecnologia nova.»

«Un risc que hi veig és que la recerca es pugui tornar més homogènia, amb menys espai per a la creativitat i el descobriment real. També hi ha la qüestió oberta de la propietat intel·lectual. Però la IA també pot ser una gran ajuda; durant les expedicions, per exemple, ens pot ajudar a resoldre problemes ràpidament i fa més fàcil construir sobre treballs anteriors.

L'he utilitzada principalment per estalviar temps en tasques secundàries a la meva recerca més que en la ciència en si. La faig servir per a conceptualització, visualització, polit de documents i suport en programació. Això deixa més temps per pensar, interpretar dades, i debatre i desenvolupar noves idees.»

 

André Colonese — Sistemes Alimentaris Antics

«La velocitat a la qual es mouen les coses és alarmant. La revolució industrial va canviar la nostra manera de viure en aquest planeta, i aquí estem parlant d'un nivell completament diferent.»

«Aquest és un punt d'inflexió clar per a les nostres societats i possiblement fins i tot per a la nostra espècie. La IA ofereix molts avantatges, però comporta una potencial pèrdua i reorganització futura de les habilitats humanes a mesura que ens tornem cada vegada més dependents dels seus beneficis. El repte aquí és intentar anticipar aquests canvis.»

Sobre el seu propi ús: «La faig servir per ajudar-me amb la programació. Una cosa que abans em portava dies ara em porta només uns pocs minuts o hores.»

El que emergeix d'aquestes reflexions és una certa tensió entre el pragmatisme i la prudència, un reconeixement d'allò que la IA pot millorar juntament amb un desassossec real sobre què ens podria prendre.