La comunitat científica i tecnològica mundial alerta sobre el perill de la intel·ligència artificial si no es regula adequadament. Milers d’experts han fet una crida per aturar durant sis mesos el desenvolupament de sistemes com el GPT, el que utilitza el xat intel·ligent, si abans no s’hi apliquen mesures de control. Demanen una moratòria que permeti avaluar en quina situació es troba aquesta tecnologia i què cal fer perquè sigui del tot segura.
A Catalunya ha nascut una associació ciutadana anomenada CivicAI, que es presenta com un lobby d’experts que se suma a aquesta crida internacional i demana protegir les persones davant el creixement incontrolat d’aquesta tecnologia. L’organització reclama, amb un manifest, “una intel·ligència artificial de tothom per a tothom” i que es promogui un debat crític i participatiu: “Hem d’establir unes bases que permetin assegurar un mínim de seguretat”, explica Manel Sanromà, professor de la URV i fundador de CivicAI.
El que més preocupa ara mateix és que aquesta eina encara està en fase de prova, malgrat que aplicacions com el xat GPT la fan servir ja 100 milions de persones i que és capaç de crear un contingut que pot semblar del tot real però no ho és. “Hauríem d’evitar creure’ns que els resultats que produeix són certs”, explica Ulises Cortés, responsable d’intel·ligència artificial del Barcelona Supercomputing Center.
Desinformació i suplantació d’identitat, entre els principals riscos
Entre els possibles riscos hi ha la creació de “fake news” i la desinformació, ja que no es garanteix que el contingut que es genera sigui verídic. La suplantació d’identitat a més podria facilitar finalitats il·lícites, com l’estafa, o que la informació que es reculli a través d’aquestes tecnologies s’utilitzi amb interessos econòmics.
Per tot això, CivicAI reclama als governs de Catalunya, Espanya i Europa que es creï una agència reguladora de la intel·ligència artificial de la mateixa manera que ja es fa en altres camps com l’automoció i la medicina. L’entitat presentarà aquest dijous el seu manifest a Barcelona, al qual ja s’han subscrit unes 250 persones.
A Barcelona, l’Ajuntament ja ha anunciat la creació d’un consell assessor en intel·ligència artificial per garantir que aquesta tecnologia es fa servir pel bé comú i que se’n fa un ús ètic.
