Joaquín R., professor de l’EPSI: 'La Intel·ligència Artificial, l’Internet of Things i el blockchain són el nou or del segle XXI'

Entrevista a Joaquín Rodríguez, professor de l'EPSI

Amb motiu de la celebració d’una jornada el 31 de maig sobre ciberseguretat i intel·ligència artificial a l’Escola de Prevenció i Seguretat Integral, el professor Joaquín Rodríguez parla sobre els riscs de l’Estat i la ciutadania davant la proliferació de dades massiva, i quines són les últimes aplicacions en Intel·ligència Artificial, també motivades per la indústria militar.

04/06/2019

 

  • Quins reptes hi ha actualment quan parlem de ciberseguretat?

Avui en dia, un dels primers reptes és la pròpia configuració de la societat. Ens hem tornat exhibicionistes crònics: compartim la nostra vida, la nostra intimitat i les nostres fotografies sense entendre quin valor tenen aquestes dades o com es poden utilitzar en contra de les nostres societats i comunitats. Les armes de destrucció massiva o autònomes han estat desenvolupades gràcies a la col·laboració involuntària de la gent. Les persones que utilitzen certs proveïdors de telefonia i fan servir dispositius de certes marques generen moltes d’aquestes dades que actualment retroalimenten els sistemes d’armament, com el projecte de Google i el Pentàgon, en què es va signar un contracte per utilitzar el software de reconeixement de la companyia, un software que està molt avançat gràcies al nombre d’usuaris que té.

Aleshores, per mi, en l’àmbit de la ciberseguretat un dels grans reptes que tenim de futur és conscienciar a la gent sobre la seva privacitat i sobre la importància de no donar mai certes dades. Si hi ha alguna cosa gratuïta a Internet, és que el que està en venda som nosaltres mateixos.

Per descomptat, també podríem parlar de la ciberguerra, la proliferació d’actors no estatals que fan servir l'hackeig com a arma per extorsionar empreses o països... però, des del meu punt de vista, un dels grans reptes que tenim és aquest vessant totalment individual de les persones.
 
  • I l’Estat com es pot defensar a ell mateix i a la seva ciutadania davant d’aquest tipus d’amenaces?

El primer que un Estat ha de tenir en compte avui és que la pròpia naturalesa de les dades amb què treballa són part de la seva vulnerabilitat. L’Estat ha de restringir aquestes dades i aprendre a destruir-les. Sobretot, quan parlem de noves tecnologies com el Blockchain (la cadena de blocs), que podrien sobreviure a la caiguda d’un Estat, ens hauríem de preocupar. Hem de vigilar quina mena de dades autoritzem que tingui l’Administració perquè la tipologia d’Estat pot canviar ràpidament. Ho hem vist en nombroses ocasions: Ruanda, Myanmar o el Tercer Reich, on es va matar a la població jueva de molts països simplement perquè quan van arribar-hi els nazis tenien un cens molt elaborat sobre on vivia cadascú i la religió que practicava. Això només és un exemple de com les dades demogràfiques de la ciutadania es poden tornar en contra de la seva pròpia població. La vulnerabilitat pot venir des de dins i que hi hagi partits i actors legals que poden posar en risc la mateixa convivència social a partir de l’ús de dades que hem anat registrant.

La pròpia vulnerabilitat de l’Estat és un problema greu. Moltes administracions públiques no són conscients del risc associat a les dades que gestionen i potser no han establert els mecanismes de protecció necessaris. De vegades no hem d’anar a buscar l’enemic exterior, sovint el tenim a casa.

Malgrat això, hem de recordar que la Unió Europea té una Agència de Protecció de Dades, tenim organismes de l'Estat que vigilen la nostra seguretat informàtica, en l'àmbit d'Estat també els tenim i, a la Generalitat de Catalunya, també. Cada vegada estem preparant millor per resistir possibles atacs però es parla molt poc de la pròpia naturalesa de les dades i com algunes d’aquestes, com la religió, l’ètnia o l’orientació sexual, no haurien d’estar en possessió de ningú.
 
  • Això es podria solucionar a través d’una major regulació en l’ús d’aquestes dades?

Sí, tenint una normativa molt més restrictiva sobre quines dades pot tenir l’Administració pública, durant quant de temps les pot tenir, com s’han de destruir, i qui pot tenir-ne accés. Tenim una normativa que és bona però s’ha de treballar més i es pot millorar moltíssim. Hem de ser restrictius perquè les dades són una arma molt poderosa. La Intel·ligència Artificial, l’IoT (Internet of Things) i el blockchain són el nou or del segle XXI.
 
Des de l’Escola de Prevenció i Seguretat Integral volem oferir sempre als nostres alumnes les tendències del futur: aquelles que determinaran la seva incorporació al mercat laboral i el context on hagin de desenvolupar la seva activitat professional. El món de la seguretat, com tants d’altres, està terriblement condicionat i determinat per l’evolució dels patrons tecnològics i els alumnes necessiten una aproximació clara de quins seran els nous reptes del sistema.

Per tant, en aquesta conferència hem portat persones com David Ramírez, de l’Institut Espanyol d’Estudis Estratègics, o el coronel Ángel Gómez de Ágreda, que són experts i porten a terme recerques punteres en aquest àmbit. Això aportarà als nostres alumnes coneixement sobre com poden afectar els patrons d’aquestes tecnologies a la pròpia noció de la seguretat nacional.
 
  • La intel·ligència artificial pot ser aplicable a projectes que ajudin a la societat, però també se’n pot fer un mal ús...

Hi ha una frase de Kentaro Toyama que m’agrada molt, i diu: “la tecnologia no és res més que un amplificador de la voluntat humana”. Per tant, la podem fer servir per a coses meravelloses! Al mateix temps, però, existeix una complexa indústria militar que té una agenda molt clara on hi ha la militarització de qualsevol tecnologia. Els Estats Units és el clar exemple d’institució/agència que es dedica a això. Per exemple, hi ha un projecte de Boeing que, en col·laboració amb el Pentàgon, ha desenvolupat un submarí autònom que està dissenyat per baixar a grans profunditats dels oceans i recollir mostres per a la investigació científica. Però l’acord a què s’ha arribat és el de militaritzar aquest submarí: tindrem un submarí armat amb capacitat d’atac i que baixa a tanta profunditat que no s’hi pot establir comunicació. Això vol dir que seleccionarà objectius i els eliminarà a partir d'una programació prèvia que s’ha fet. Però si s’arriba a un acord de pau en un conflicte, com ens comunicarem amb aquest submarí perquè cessi els atacs?

A més d’aquest projecte, Kalashnikov, la mítica companyia dels rifles, també es troba en l’àmbit de la intel·ligència artificial militaritzada i els països que en tenim notícia que l’estan desenvolupant i que ja tenen armes autònomes són: Regne Unit, Alemanya, Corea del Sud, Israel, Estats Units, Rússia i la Xina.
 
Era preventiva quan la vàrem començar el 2013. Ara ja no és tan preventiva, perquè hi ha molts sistemes autònoms que ja funcionen al món, però sí que ha demostrat una maduresa en tot el món del desarmament. Les campanyes anteriors contra les armes nuclears, les mines antipersones, bombes de dispersió, o les bales de fragmentació, es van crear quan aquestes ja havien causat grans destrosses. Totes resultaven ser armes molt barates. El problema que tenim ara és que estem parlant d’una tecnologia extremadament cara on hi ha empreses i Estats que estan invertint milers de milions d’euros/dòlars, i serà molt difícil retirar una cosa que ja té tanta inversió tot i que, clarament, incompleix el dret humanitari internacional.
 
  • En el llibre més recent que heu publicat amb la professora Roser Martínez, també membre de l’ICRAC, aquest tema es planteja com un repte per a les Nacions Unides. En quin punt es troben les negociacions?

Dins l’espai de la sobirania delimitada per als Estats-nació, és molt difícil poder arribar a acords perquè tots els Estats es neguen a aturar la recerca, ja que l’Estat veí està investigant. Aleshores, si ell ho fa, jo també. Per tant, es necessita un consens internacional i tirar de multilateralisme. I hi ha un espai fet per això que és la Convention on Certain Weapons (CCW) de les Nacions Unides. Aquesta convenció, que es regula a partir dels acords de Ginebra –i concretament amb l’article 32 del Tractat de la Convenció de Ginebra-, vigila la generació de noves armes. L’objectiu que tenim ara és que d’aquesta convenció en surti un mandat clar per elaborar un tractat internacional vinculant que prohibeixi no només l’ús sinó també la recerca en armament autònom, ja que entenem que és conspiració a un genocidi.
 
  • Hi ha esperances a què s’arribi a formalitzar aquest tractat?

Tenim una cimera molt important a l’agost i al novembre veurem com evoluciona. Tenim 3 escenaris possibles: en el primer, pot sortir un mandat de la CCW, que és el més optimista i és el menys probable. En un altre, el que pot passar és que el mandat es traslladi a l’Assemblea General de les Nacions Unides. Aquest és una mica més probable, però complex de gestionar i, després, tenim un últim escenari, en el qual es repetís el que va passar amb les mines antipersones: davant la impossibilitat d’arribar a un acord a les Nacions Unides, els promotors de la campanya van agafar tots els països que estaven d’acord al marge de la institució i, com que, entre altres coses, el grup crític de països era tan gran, finalment es va aconseguir eliminar relativament les mines antipersones. Tot i que encara tenim casos paradigmàtics, com Colòmbia, que s’han de desminar.
 
  • Espanya està preocupada per les armes autònomes?

Espanya manté un posicionament neutre i recolza una declaració política en contra, però no està disposat a fer el pas per donar un suport explícit a un tractat de prohibició vinculant. Nosaltres entenem que la declaració política no és més que una excusa per comprar temps i protegir els interessos d’una indústria nacional que tampoc hem d’ignorar. Tenim empreses punteres que fabriquen armes que es venen a països tercers, com l’Aràbia Saudita. El posicionament tradicional d’Espanya respecte a la indústria militar ha estat molt proteccionista amb la producció nacional. Per tant, creiem que l’Estat i el govern ha de canviar el seu posicionament cap a una consecució del tractat. Espanya també s’ha emmarcat sempre en el discurs de la Unió Europea i de l’OTAN.
 
  • A la introducció de la teva tesi doctoral expressaves que havies perdut l’esperança en què les persones poguessin “prendre el control de les noves tecnologies” per al bé col·lectiu. Segueixes pensant així?

Penso que hem perdut el control sobre la tecnologia en tant que determina el nostre dia a dia fins a un punt que la majoria de la població no arriba a imaginar com afecta les nostres llibertats col·lectives i com està determinant el nostre comportament. A hores d’ara, recuperar aquest control ja és molt complex perquè, d’una banda, no hi ha una voluntat; i per altra banda, la gent del carrer no ho considera un problema. Com a societat, hi hem de fer front mitjançant l’educació i amb un control exhaustiu de les nostres dades i aplicar la legislació.

 

 

Notícies relacionades

Totes les notícies