El món digital avança a passos de gegant i també avança paral·lelament la intel·ligència artificial. Els usos d’aquesta tecnologia encara són dubtosos i no tenen una regulació clara. Ulises Cortés, expert de la Universitat Politècnica de Catalunya (UPC), assegura que en una ciutat com Barcelona, on l’ús d’algoritmes és cada cop més important, “cal que hi hagi una regulació en intel·ligència artificial” ja que, en alguns casos, es podria arribar a “modificar les conductes dels ciutadans“.
Per això, ell forma part del nou Consell Assessor que ha creat l’Ajuntament de Barcelona per, entre d’altres, parlar de l’ètica i els drets digitals en aquest nou escenari. Ulises Cortés en formarà part.
Decisions que poden afectar els usuaris o el medi ambient
Tal com explica l’expert, l’Ajuntament de Barcelona i la Generalitat de Catalunya ja fan servir les dades dels algoritmes per capturar dades dels ciutadans. Ara bé, si aquestes dades s’empren per prendre decisions que puguin afectar els ciutadans o el medi, considera “important” que algú expliqui a les autoritats “com s’han de fer servir aquestes tecnologies” i “quines en poden ser les conseqüències“.
En perill la privacitat i la intimitat dels ciutadans
Cortés afirma que el principal perill d’un mal ús de les dades que s’aconsegueixen a través de la intel·ligència artificial és la ruptura de la privacitat i la intimitat dels usuaris. A més, afegeix, aquesta ruptura no només afecta l’usuari, sinó també el seu entorn. “Això és perillós“, pensa.
L’expert assegura que ja fa temps que les empreses o autoritats extreuen les dades dels ciutadans a través de la intel·ligència artificial. Explica que, sense anar gaire lluny, els espais on et donen wifi de franc permet a les empreses calcular el recorregut que fas com a comprador i saber en quines botigues passes més estona. Això, afegeix, permetrà redirigir la publicitat que se’t mostra. A més, segons l’expert de la UPC, si afegeixes el número de telèfon també poden acabar desxifrant l’edat o gènere.
Si bé l’ús de les dades extretes d’una sola intel·ligència artificial “potser no és tan perillós”, Cortés considera que el perill es troba en la unió de diverses eines alhora. Per això, demana que hi hagi una ordenació en l’àmbit estatal o autonòmic de tots els punts que conformen un contracte abans de cedir les nostres dades.
Nou Consell Assesor a l’Ajuntament
Arran d’aquesta situació, l’Ajuntament de Barcelona ha aprovat la creació del Consell Assessor en Intel·ligència Artificial, Ètica i Drets Digitals, amb el nomenament de 15 experts independents que en formaran part, entre els quals el mateix Ulises Cortés. Aquest òrgan consultiu té com a missió assistir i assessorar l’Ajuntament en matèria d’ús de la intel·ligència artificial per al bé comú i proposar actuacions i projectes amb l’objectiu que Barcelona es converteixi en una ciutat referent de l’humanisme tecnològic, tot garantint els drets digitals dels ciutadans.
En ple debat sobre l’ús ètic de la intel·ligència artificial, aquest òrgan tindrà la participació de persones d’àmplia trajectòria en l’àmbit acadèmic, tant de disciplines científiques i tecnològiques com del camp de les ciències socials i les humanitats, i totes amb una experiència prèvia relacionada amb l’ètica de la intel·ligència artificial.
