L’ús de noves tecnologies obre en moltes ocasions debats ètics de com s’han d’utilitzar aquestes eines. Ara és el torn de la intel·ligència artificial, que cada vegada està més present en la gestió de les nostres ciutats. Barcelona ja treballa en aquesta línia i està integrada en l’Observatori Global de la Intel·ligència Artificial Urbana del CIDOB amb la idea de protegir els barcelonins de possibles discriminacions i vulneracions dels seus drets digitals. En aquest organisme hi participen ciutats d’arreu com Amsterdam, Londres o Hèlsinki amb l‘objectiu la recerca i la difusió de les bones pràctiques en l’aplicació ètica de la intel·ligència artificial.
Les amenaces de la intel·ligència artificial
La intel·ligència artificial és una eina que facilita i optimitza molts processos i que aviat s’aplicarà de manera estesa en sectors com la mobilitat, la sostenibilitat o la cultura. Tal com explica la investigadora del Programa de Ciutats Globals del CIDOB, Marta Galceran, “és l’ús d’algoritmes, l’automatització de moltes decisions que en el cas aplicat a la ciutat serveixen per oferir uns millors serveis a la ciutadania, una administració molt més responsable, eficient, que s’anticipa molts cops a les necessitats dels ciutadans”.
Uns exemples de l’aplicació d’aquesta intel·ligència artificial en la gestió de Barcelona són el control de l’aforament de platges per part de drons o el web de ‘les meves ajudes’ que mitjançant la introducció de dades facilita la sol·licitud de prestacions socials. Però la seva aplicació pot tenir riscos i amenaces per als drets digitals i poden discriminar persones en funció de com s’hagin programat els algoritmes amb els quals funciona la intel·ligència artificial. Tal com assegura el comissionat d’Innovació digital de l’Ajuntament, Michael Donaldson: “L’ús de la tecnologia no és neutre i malgrat tot el potencial i els beneficis que té també hi ha afectació en els drets digitals: la privacitat, l’ús de les dades o el mal ús de les dades, els ciberassetjaments. Són alguns dels riscos i els riscos cal eliminar-los”.
La gestió ètica de la intel·ligència artificial
Els plantejaments sobre la gestió ètica de la intel·ligència artificial encara són molt incipients. Marta Galceran reflexiona en aquest sentit: “Què és una intel·ligència artificial ètica? És una bona pregunta perquè tampoc no hi ha una resposta massa clara. Pel sector públic són uns principis, pel sector privat són uns altres, per la ciutadania poden ser uns altres molt diferents. Per tant, no hi ha un acord i per l’altre ens falten referents. És una tecnologia que permet automatitzar la presa de decisions i si s’automatitza hauríem de saber en base a què”.
Per tal de contribuir en aquest camí que ha de garantir l’ús ètic de la intel·ligència artificial, l’Observatori Global de la Intel·ligència Artificial Urbana ha posat en marxa un atles en què s’hi inclouen més d’un centenar de projectes de 35 ciutats que respecten els criteris ètics. El seu objectiu és que les administracions comparteixin experiències.
