La IA i la recerca en patògens: entre les oportunitats científiques i els reptes de bioseguretat
L’ús de la IA en les ciències de la vida torna al centre del debat després de la publicació d’un informe d’Anthropic sobre aplicacions del model Claude en investigacions relacionades amb virus i toxines.
Un article publicat a la revista Science analitza la controvèrsia generada per un informe d'Anthropic, que identifica cinc casos d’ús de la seva plataforma d’intel·ligència artificial Claude en investigacions relacionades amb agents biològics potencialment sensibles. Segons l’empresa, no hi ha evidències que els investigadors impliquessin cap intenció maliciosa, però alguns haurien intentat esquivar les restriccions d’accés imposades al sistema.
Tres dels casos descrits corresponen a estudis sobre virus, incloent-hi treballs relacionats amb el virus chikungunya, la grip aviària i membres de la família dels orthopoxvirus. Segons l’informe, aquestes recerques podrien contribuir tant al desenvolupament de mesures de salut pública, vacunes i sistemes de vigilància epidemiològica com, potencialment, generar coneixement susceptible d’un ús indegut.
L’informe també recull dos exemples relacionats amb l’estudi i el redisseny computacional de toxines amb possibles aplicacions terapèutiques. Aquest tipus de treball exemplifica el denominat caràcter de doble ús de determinades investigacions en biociències, un dels àmbits d’interès de la bioseguretat contemporània.
La interpretació dels fets, però, no és unànime. Diversos investigadors consultats per Science consideren que les activitats descrites s’ajusten a pràctiques habituals de la recerca virològica i biomèdica, mentre que altres experts valoren positivament la transparència mostrada per Anthropic i subratllen la necessitat de continuar desenvolupant mecanismes de supervisió i governança per a les noves eines d’IA aplicades a les ciències de la vida.
Més enllà de la polèmica concreta, el cas posa de manifest la importància de seguir reflexionant sobre l’impacte de la intel·ligència artificial en la recerca biològica, especialment en aquells àmbits amb implicacions per a la bioseguretat i la bioprotecció. El debat actual apunta a la necessitat de trobar un equilibri entre la promoció de la recerca científica, la innovació tecnològica i la gestió responsable dels riscos associats.
Font:
‘Chilling’ warning or overreaction? AI bioweapons report divides experts. Kaiser, J. (2026).Science. American Association for the Advancement of Science (AAAS).