“Matteo Pasquinelli és professor de Filosofia dels Mitjans a la Universitat d’Arts i Disseny de Karlsruhe” | Karina Jacomé
Matteo Pasquinelli és professor de Filosofia dels Mitjans a la Universitat d’Arts i Disseny de Karlsruhe, on també coordina el grup de recerca sobre Intel·ligència Artificial i Filosofia dels Mitjans KIM. La seva intervenció va obrir el cicle de debats “En el futur tecnològic, hi ha vida alternativa al metavers?” organitzada per l’Observatori Social de la Fundació “la Caixa”.
Pasquinelli, sota l’anunciat “el treball invisible a la intel·ligència artificial: de la línia de muntatge a l’algoritme”, va abordar les qüestions vinculades als perills de la concentració de l’atenció i del treball humà a les plataformes tecnològiques.
El filòsof va conversar amb la professora Carmina Crusafon sobre com el treball digital ha transformat l’organització de la força de treball tal com la coneixia fins ara. En el diàleg van explorar diverses alternatives davant dels perills i beneficis de la concentració de l’atenció i el treball humà a les grans plataformes tecnològiques. Concentració que deriva de la projecció de distopies i mons virtuals en què, cada vegada més, les persones estarem immerses. Abans de la trobada, celebrada el 6 d’abril, vam tenir l’oportunitat de conversar amb el professor Pasquinelli, per preguntar algunes qüestions clau sobre què ens ofereix la feina en el futur:
A què fa referència amb el concepte de “treball fantasma” associat a les Intel·ligències Artificials (IA)?
La primera dimensió del treball invisible que vull destacar és la font de la intel·ligència que la IA pretén automatitzar. Cada cop és més clar per a tots que l’aprenentatge automàtic es basa en un vast dipòsit de dades individuals i col·lectius del que se n’extreu la “intel·ligència”. La intel·ligència artificial és reparada i mantinguda contínuament per una gran multitud de treballadors fantasmes que corregeixen els models d’aprenentatge automàtic en temps real o en postproducció. Per això és que la IA també està en deute amb aquests treballadors.
I qui són aquests treballadors fantasma?
Són les persones reals més enllà de molts serveis en línia que fem servir cada dia. Aquests treballadors invisibles filtren els continguts violents, ofensius i pornogràfics que es pugen cada minut a les xarxes socials per fer d’elles un lloc més segur. El contingut produït pel Nord Global requereix la supervisió constant i el treball de manteniment, per la qual cosa sovint se subcontracta treballadors anònims i invisibles en línia del Sud Global.
Però aquest és un exemple entre molts. Florian Schmidt va fer una investigació sobre la línia de producció d’IA en el cas dels cotxes autònoms, i va descobrir que els models d’aprenentatge automàtic del projecte alemany de cotxes autònoms són avaluats per plataformes de crowdsourcing que compten amb treballadors d’Itàlia, Espanya i Veneçuela . Així, va mostrar com la mà d’obra del sud d’Europa i Amèrica del Sud repara autos invisibles que es venen sota marques alemanyes.
I què ens pot dir del temor que genera a la societat el reemplaçament del treball humà per part d’aquestes noves tecnologies?
Al món real, avui dia, molta gent està descobrint que la IA no es tracta realment d’automatitzar la feina sinó d’automatitzar la gestió. L’automatització contemporània, especialment en el cas de l’economia de plataformes, no es tracta d’un treballador individual com a la imatge estereotipada del robot humanoide, sinó de l’automatització de la gestió, com passa a les plataformes de la gig economy, cosa que s’anomena també “gestió algorítmica”. Jo crec que el que passa avui dia és més a prop del que veiem amb empreses com Uber Eats, per exemple. Des del meu punt de vista, els algoritmes estan reemplaçant els caps, no els treballadors.
Des dels gegants de la logística (Amazon, Alibaba, DHL, UPS, etc.) i la mobilitat (Uber, Share Now, Foodora i Deliveroo) fins a les xarxes socials (Facebook, Twitter), l’IA i l’automatització digital s’anomena capitalisme de plataformes-, és una forma d’automatització que en realitat no reemplaça els treballadors, sinó que els governa i els multiplica. Sota l’automatització de la gestió, o “gestió algorítmica”, tots ens convertim en microtreballadors d’un gran autòmat, és a dir, usuaris genèrics, conductors i passatgers de molts tipus. El debat sobre el temor que la IA substitueixi completament els llocs de treball és erroni: en l’anomenada economia de plataformes, en realitat, els algoritmes substitueixen la gestió i multipliquen els llocs de treball precaris.
Els algoritmes ajuden a contractar més treballadors, treballadors barats, com els riders. També hi haurà més feina per mantenir les màquines. Això és més una automatització de tasques gerencials que del treball en general. Es multiplicaran els treballs precaris mentre que es reemplaçaran els caps. La IA implica més feina, no menys.
Els algoritmes ajuden a contractar més treballadors, treballadors barats, com els riders
Els algoritmes reemplaçaran els treballs que coneixem avui dia?
Sí, però també ve a multiplicar noves feines, les més precàries. Cada vegada que introduïu una màquina, també es multipliquen els treballadors que es requereixen.
Quins són els canvis més importants que esperen a conseqüència de la introducció de la intel·ligència artificial al món del treball?
L’automatització mai no reemplaça el treball del tot, sinó que el relocalitza en altres tasques i ho amaga en altres llocs. Es produirà una divisió internacional del treball motoritzada per les noves tecnologies, es repeteixen les condicions colonialistes. Sectors especials del mercat laboral, la IA té l’efecte d’aplicar o sumar les habilitats de l’humà. Implica un gran impacte que afectarà els treballs mecànics. Els riders en són un gran exemple.
Serà un món laboral més inclusiu per a les persones amb capacitats diverses?
És clar que la IA pot ajudar els discapacitats, ja que aquests poden ser els primers a testejar i utilitzar aquestes tecnologies. Els ancians, els discapacitats, seran els primers a provar aquestes tecnologies, com a cadires de rodes, pròtesis. Els nostres avis seran cyborgs abans que nosaltres.
Quedaran fora d’aquest món aquelles persones que no puguin accedir a l’entorn digital, ja sigui per les condicions de vida com pels coneixements?
Un bon terme per parlar d’això és el d’”extractivisme cognitiu”. Avui es percep la generació de monopolis de dades, i tots nosaltres, incloses les persones que habiten en àrees remotes, produeixen coneixements per a aquests monopolis. I aquests coneixements s’acumulen a centres de bases de dades, i després els models algorítmics estan fora del nostre control.
Aleshores no és només un problema de les persones que habiten en llocs rurals, fins i tot ells potser fins i tot siguin més afortunats que nosaltres. Aleshores el que passa avui és que habitem en una societat de creixents monopolis. El punt amb ells és un problema del qual s’hauria d’encarregar el Congrés dels Estats Units, perquè Google o Facebook s’estan convertint en grans monopolis que ni tan sols existien als 90. Crec que és una qüestió de polítiques del coneixement, de compartir el coneixement, i del control i protecció de dades.
Per entendre això cal contextualitzar la IA en la història del coneixement. La IA és l’epistemologia hegemònica avui dia; és una manera de pensar que és estadística, mecànica. Però gràcies a Déu en aquest planeta tenim moltes altres epistemologies: epistemologies indígenes, epistemologies locals, epistemologies feministes, epistemologies decolonials i això és el que hem de discutir. L’epistemologia s’està transformant, perillosament, en una manera de pensar hegemònica, quan en realitat també en tenim moltes d’altres.
Avui es percep la generació de monopolis de dades, i tots nosaltres, incloses les persones que habiten en àrees remotes, produeixen coneixements per a aquests monopolis
I quin impacte tindrà tot això pel que fa a relacions socials?
Aquests casos que esmentem haurien de portar finalment a qüestionar la relació entre l’automatització i els éssers humans, a investigar aquesta relació com una relació de poder, i també d’explotació. Desafortunadament, la història de l’automatització és una història de més feina, no menys. Però aquesta història és més profunda.
Sempre hem de recordar que el moviment feminista dels anys 60 i 70 va ser el primer a assenyalar la invisibilització del treball, específicament del treball de cures i del treball domèstic. Els futurs tecnològics vinculats al desenvolupament capitalista iteren una fantasia que, a mesura que les màquines, els algoritmes i la intel·ligència artificial es fan càrrec del treball avorrit, brut, repetitiu i fins i tot reproductiu realitzat per treballadors racialitzats, de gènere i colonitzats en el passat. Això fa creure que la humanitat completa serà alliberada per poder desenvolupar plenament les seves capacitats creatives.
Les fantasies d’automatització total estenen la història del subjecte autònom la llibertat del qual és impossible només per l’efecte substitut de servents, esclaus, esposes i, més tard, treballadors de serveis industrials que fan un treball racialitzat i de gènere. Recordant autores feministes com Silvia Federici i Ruth Cowan, recentment Astra Taylor ha introduït el terme fauxtomation per referir-se a les falses promeses que ofereix l’automatització, especialment en l’àmbit domèstic, on les màquines sovint amplifiquen, no redueixen, el treball dels cuidadors i dones.
Per què crida a tot això la Teoria Laboral de la IA?
Crec que el principi operatiu de la IA, de fet, no només és l’automatització laboral, és la imposició de jerarquies socials de treball manual i mental a través de l’automatització. Entre els segles XIX i XX, la gestió del treball es va estendre a tota la societat. Va imposar formes de control basades en les mesures d’estadístiques d’intel·ligència”, també com a forma de discriminar els treballadors en classes de qualificació. Crec que la IA continua aquest procés de codificar jerarquies socials i discriminar entre la força laboral. El biaix de classe, gènere i raça que els sistemes d’IA amplifiquen notòriament, s’ha de considerar, de fet, no com un error, sinó com una de les característiques constitutives.
El biaix de la IA no només discrimina els grups socials, sinó que ho fa per imposar implícitament jerarquies de treball i coneixement i imposar una polarització d’ocupacions qualificades i no qualificades al mercat laboral. Els estudis d’IA haurien d’abordar no només la substitució dels treballs administratius per algoritmes, sinó també el desplaçament i la multiplicació de feines precàries, mal pagades i discriminades en una economia global. La IA i el treball fantasma sembla que són, des d’aquest punt de vista, les dues cares de l’únic i mateix mecanisme social d’automatització laboral.
El biaix de la IA no només discrimina els grups socials, sinó que ho fa per imposar implícitament jerarquies de treball i coneixement
La teoria laboral de la IA que vaig proposar és, al final, no només un principi analític per ajudar a criticar el poder de les empreses d’IA i els monopolis de dades, sinó també un principi sintètic i polític: com a teoria de l’autonomia per a generar noves formes de coneixement i producció; i una nova cultura de la invenció i el disseny. Però per abordar aquesta qüestió ens calen més hores d’entrevista.
Quines són les facultats o les habilitats que la intel·ligència artificial no pot simular les d’un humà?
La interacció humana, la tasca de cura. Per entendre la IA, cal veure-la des del punt de vista capitalista, econòmic. La IA pertany a la idea que la naturalesa pot ser descrita segons patrons mecànics i aquests patrons permeten organitzar la naturalesa.
La veritat és que la IA té molts límits, té molts errors, fal·làcies, aproximacions, i biaixos que la constitueixen. La IA es ven com un paradigma d’intel·ligència, però realment és un paradigma d’automatització estadística, perquè el que en realitat fa és una aproximació estadística.
La traducció és un altre dels límits de la IA, per exemple. És molt difícil traduir metàfores o acudits, aquest és un dels límits lògics de la IA. Perquè tot acudeix trenca la regla que l’algoritme segueix. Humberto Eco va dir això molts anys enrere.
La veritat és que la IA té molts límits, té molts errors, fal·làcies, aproximacions, i biaixos que la constitueixen
Qui es farà càrrec en el futur d’aquests errors dels algoritmes?
El treballador invisible sempre està darrere de la correcció de l’algoritme, de les dades. Hi ha una màquina que no és perfecta, sempre té un marge d’error, i humà està darrere per arreglar-la.
Qui seran els guanyadors i perdedors d’aquest sistema amb una presència creixent de la IA?
Crec que es produirà una polarització de la societat. Quins treballs seran automatitzats, com els xofers, repartidors, feines de cura, la precarització del treball. I de l’altra banda, els treballs com a programadors, que es convertiran en una elit. Es produirà una polarització del mercat laboral, i no només com a fenomen de la IA, sinó de tota innovació.
Quines són les carreres del futur que ens permetran pujar-nos-en a l’onada d’aquests nous treballs i no ser-hi atropellats?
Jo el que intento ensenyar a Karlsruhe no és IA, sinó les humanitats digitals, que intenten entendre aquest fenomen tecnològic des d’un punt de vista de les ciències socials, les humanitats. És una nova disciplina que podríem anomenar “humanitats digitals”. A Karlsruhe intentem estudiar visions crítiques d’IA: implicacions polítiques, socials, històriques, i posar la IA com a part de l’evolució de diverses formes culturals. La IA és dins un ecosistema de coneixement. La IA és part de la nostra cultura i cal desenvolupar eines crítiques per comprendre-la. Necessitem desplegar tota mena d’habilitats des de les humanitats, les ciències socials, les ciències polítiques per completar l’ecosistema d’aquesta realitat virtual a més dels tècnics. El rol dels educadors serà crucial perquè no podem ensenyar machine learning sense pensar en les perilloses implicacions que pot tenir.
La Intel·ligència Artificial (IA) ha arribat per quedar-s’hi i s’ha dut a terme a través del temps. Factors com la pandèmia han accelerat la digitalització d’aspectes de la nostra vida quotidiana com la feina fins a aconseguir una hibridació. Per a molts la IA continua sent un món inexplorat i hi ha treballs en què les habilitats humanes no poden ser reemplaçades, però molts altres llocs de treball se sumaran a l’era tecnològica i sustentaran el seu funcionament en aquest fenomen digital. La idea és acompanyar la societat cap a una millora, explorant noves fronteres a través de nous professionals capacitats per manejar, donar manteniment i continuar indagant al nou món.
[Entrevista publicada originalment el 13-04-2022 al Diari del Treball de Catalunya Plural]
