Guerra contra l’algoritme: El #Diadelamare vull un nou micròfon!

Els algoritmes presuposen que vull maquillatge i crema antiarrugues

Guerra contra l’algoritme: El #Diadelamare vull un nou micròfon!
Algoritmes masclistes

S’ha de vendre i moure el mercat amb qualsevol excusa. És el Dia de la mare i ens han de donar idees de regal o d’autoregal. No puc entendre que s’hagi evolucionat tan poc i que totes les idees de regal vagin cap a la mateixa direcció: articles per a la neteja de la llar, productes de bellesa i maquillatge i flors. 

A mi m’encanten les flors i la tecnologia. No existeixo? 

Tinc la bústica de correu plena d’spam de maquillatge i productes de bellesa! Jo buscaria qualsevol excusa perquè em regalessin tecnologia i pregunto: una persona com jo no està prevista? 

Si una newsletter orgànica ja no m’ho proposa, imagineu-vos les xarxes socials i el cercador que està tot automatitzat en base d’uns algoritmes carregats de tòpics. Això s’ha d’acabar! 


Algoritmes masclistes a la música 

Andrés Ferraro i Xavier Serra, investigadors del Grup de recerca en Tecnologia Musical (MTG) de la UPF, han fet els últims mesos un estudi que demostra el biaix dels algoritmes de recomanació de música, un fet del qual ja es va queixar Rosalia en una entrevista a la revista Billboard. 

No fa massa, Rosalia va tornar a queixar-se dels algoritmes de les xarxes socials.

Continuem amb l’estudi de la UPF que demostra que els algoritmes de recomanació de música augmenten la bretxa de gènere. L’estudi conclou que l'algoritme de recomanació musical reprodueix el biaix preexistent d’un catàleg que només té un 25% de dones artistes. Per tant l’algoritme et proposa poques dones i això fa que es creï un bucle de retroalimentació en el consum de música dels usuaris a la plataforma. 

Quina és la proposta per solucionar-ho? 

La proposta és reordenar i reclassificar l’algoritme i això desmostra que, a llarg termini, l’usuari comença a canviar el comportament i escolta més artistes dones. Aquest treball s’ha fet en col·laboració amb Christine Bauer de la Universitat d’Utrech. 

Aquí en teniu la referència:

Andrés Ferraro, Xavier Serra,  Christine Bauer (2021), "Break the Loop: Gender Imbalance in Music Recommenders", a Scholer F, Thomas P (eds.). CHIIR '21: Proceedings of the 2021 Conference on Human Information Interaction and Retrieval. 1 ed. New York: Association for Computing Machinery; 2021. p. 249-254. https://doi.org/10.1145/3406522.3446033

Analitzem els algoritmes al POPAP

Ja fa molt de temps que des del POPAP ens alerten d’aquest biaix de gènere i fem crides perquè hi hagi dones enginyeres i informàtiques i més diversitat en els equips que programen aquests algoritmes. 

Gairebé tot funciona a partir de l'anàlisi de les nostres dades. Però què passa si el "big data" copia les coses dolentes de la nostra societat, com el racisme o el masclisme? Els algoritmes també ens poden discriminar? La resposta és que sí. Discriminen i magnifiquen els estereotips de la societat. N'hem parlat amb les enginyeres Marga Vilalta, Bianca Innocenti i Beatriz López.

 

I a Catalunya?

Karma Peiró, periodista especialista en dades, ha fet l'informe «Intel·ligència artificial. Decisions automatitzades a Catalunya», on analitza i mostra casos pràctics de com s'estan utilitzant els algoritmes per prendre decisions a casa nostra. Per exemple, per prevenir la reincidència criminal o agilitzar les concessions d'ajuts socials.