Les dones reben entre deu i vint vegades menys crèdits bancaris, tot i que estadísticament són més bones pagadores. El problema radica en l’algoritme que utilitzen algunes entitats bancàries. Les dades històriques que bolquen els bancs per fer els seus càlculs, tenen en compte principalment l’home com a responsable de l’economia familiar i per tant interpreten que deixar diners a les dones és més arriscat. Per mirar d’evitar biaixos de gènere com aquest i empoderar els ciutadans davant d’aquestes injustícies algorítmiques, aquests dies s’estan celebrant les jornades Democràcia, Algoritmes i Resistències.
El missatge final seria: volem intel·ligència artificial, però la volem construir entre totes
La Judith Membrives i Llorens és la tècnica digital de la Fede.cat un dels organitzadors d’aquestes jornades. Per Membrives, una mínima formació del ciutadà en intel·ligència artificial, és el primer pas per començar a ser conscients fins a quin punt els algoritmes influeixen en la nostra vida.
“No estem dient que no volem tecnologia sinó que també volem formar part de la creació d’aquesta tecnologia i per fer-ho cal experimentar-hi , n’hem de perdre la por. El missatge final seria, volem intel·ligència artificial però la volem construir entre totes.“
Ens caldrà enginyers però també ens caldrà que hi hagi sociòlegs, antropòlegs, persones formades en sociologia del dret
Algoritmes en mans d’enginyers
La Gemma Galdón és directora de la Fundació Eticas i es dedica a la consultoria algorítmica. El seu objectiu és que la intel·ligència artificial i els algoritmes que utilitzen les empreses, no perpetuïn el pitjor de la societat actual.
Per això Galdón creu que la creació dels algoritmes no pot recaure en mans únicament de programadors i enginyers que viuen, assegura, d’esquena a la societat. “El enginyers no tenen una formació en temes d’impacte social, jo sempre dic que demanem constantment als enginyers que codifiquin un món que no entenen. Cal entendre que la intel·ligència artificial, complexa i d’alt risc requerirà molts altres coneixements. Ens caldrà enginyers però també ens caldrà que hi hagi sociòlegs, antropòlegs, persones formades en sociologia del dret.”
Galdon també ens alerta que fins i tot els algoritmes, serveixen moltes vegades per fer una primera criba dels currículums i decideixen si ens mereixem una entrevista presencial per accedir a aquella feina. Cal que les persones sàpiguen que aquests sistemes existeixen perquè si no, asseguren els experts, estem jugant a un joc molt trampós en el qual no podem guanyar perquè no coneixem les normes.
