ChatGPT apunta a les professions qualificades

Diversos col·lectius professionals com Arte es Ética es revolten contra una tecnologia que s’entrena amb la seva feina, sense el seu consentiment i sense rebre’n cap compensació

Santiago Caruso és un artista i il·lustrador argentí dedicat al món de la fantasia. La seva obra s’ha presentat a galeries i museus de països com els Estats Units, Regne Unit o Espanya. Fa uns mesos li va sortir un imitador que no només crea obres molt similars a les seves, sinó que sovint es fa passar per ell. S’anomena Midjourney i és una eina d’intel·ligència artificial (IA) generativa.

Caruso és un dels milers, probablement milions de persones afectades per la irrupció dels grans models de llenguatge natural. És un tipus d’IA que genera qualsevol mena de contingut textual i audiovisual a partir d’instruccions de text. Pot des de programar fins a compondre música, dissenyar, pintar quadres, fer locució o escriure articles científics falsos, entre altres tasques.

Són activitats pròpies de professions qualificades que s’estan veient amenaçades per l’automatització. L’empresa Open AI (creadora de ChatGPT i Dall-E) calcula en un estudi que aproximadament el 80% de la força laboral nord-americana es veurà afectada pels llenguatges naturals.

Les persones treballadores ‘de coll blanc’ es poden substituir per tecnologies que s’entrenen amb la seva feina, sense el seu consentiment i sense compensar-les. Per això diversos col·lectius estan en peu de guerra. Un d’ells –al qual pertany Caruso– és Arte es Ética, format per professionals independents i per associacions gremials del món hispanoparlant.

Arte es Ética ha llançat un manifest per comprendre i regular les noves tecnologies. S’hi denuncia l’expropiació d’un cabal artístic immens –milions d’imatges i contingut d’internet– a través del desenvolupament del model de codi obert Stable Diffusion, que exploten eines com Midjourney o Dall-E 2. N’assenyalen el “caràcter delictiu”.

El més important per a Caruso és que la seva obra no es faci servir per alimentar la tecnologia. Tanmateix, amb els models existents això ja no és possible. “Si són il·legals, construïts de manera espúria i contra la voluntat de milers de persones, que els destrueixin”. Per als que acceptin que la seva obra s’utilitzi per entrenar els models de llenguatge natural, suggereix un pagament quantiós, “ja que no podran tornar a exercir la seva professió”.

Des d’Arte es Ética es reclama “tornar a un estat de legalitat”; que no es legitimi ni es normalitzi una indústria nova “de caràcter parasitari”; que es reforci la regulació sobre recopilació i rastreig de dades “per evitar que es desenvolupin models d’IA nous que competeixin de manera deslleial”, i “un seguit de regles ètiques que garanteixin la continuïtat sana de l’ofici creatiu”.

La IA, a judici

Aquesta continuïtat, realment, està en dubte. “Moltes professions tenen, probablement, els dies comptats”, afirma Alejandro Puerto, registrador de la Propietat Intel·lectual de la Comunitat de Madrid. Diu conèixer diverses empreses que han deixat de contractar il·lustradors per a certes feines: ara els les fa Midjourney.

Fins ara el registrador ha rebut dues sol·licituds de registre d’obres que feien servir eines generatives. Potser n’hi ha més que no ho especifiquen, i això és un problema, perquè no té cap manera de saber-ho. Una d’aquestes obres és un llibre sobre com crear imatges fent servir programes d’intel·ligència artificial diferents. L’altra és una novel·la en què el contingut s’ha produït, almenys en part, per ChatGPT, i en què s’hi acrediten com a autors el sol·licitant i ChatGPT. En tots dos casos, la resolució de Puerto ha estat la mateixa: inscripció denegada.

El dret d’autor només funciona quan el crea una persona física, però no si el genera una màquina a partir d’unes instruccions o prompts. Els dictàmens de Puerto assenyalen que les obres presentades no compleixen el requisit de la creació humana ni de l’originalitat, i que el fet que el contingut sigui resultat de les ordres específiques del sol·licitant no és suficient per considerar que n’és l’autor.

A més, en el cas de la novel·la, la manera com s’han fos les aportacions humanes amb les generades per la IA no permet identificar adequadament quines serien les creacions a protegir en el conjunt del resultat final. Puerto assegura que l’escenari “canvia totalment amb aquestes eines” i que cal que les autoritats prenguin una decisió clara sobre aquesta qüestió.

De moment, als autors d’aquesta mena d’obres als quals se’ls denegui la inscripció només els queda anar a judici. Als tribunals cada vegada hi ha més casos, però en sentit oposat: demandes contra sistemes de llenguatge natural que s’han nodrit d’imatges, textos, obres audiovisuals, etc. per generar productes nous. Com explica l’expert en propietat intel·lectual i dret digital Juan Antonio Orgaz, assessor de la Ventanilla Única Digital, provenen tant d’autors com d’organitzacions.

Orgaz –també professor de la Universidad Complutense de Madrid– destaca la demanda contra Midjourney, Stability AI i DeviantArt en nom de les dissenyadores Karla Ortiz, Sarah Andersen i Kelly McKernan als Estats Units (EUA), i la del repositori Getty Images contra Stability AI al Tribunal Superior de Justícia de Londres.

Els programadors també han iniciat procediments. Els advocats que porten el cas de Karla i les seves companyes havien presentat uns mesos abans –el novembre del 2022– una demanda colectiva davant un tribunal federal dels EUA en nom de milions d’usuaris de GitHub. Encara s’està processant i qüestiona la legalitat de GitHub Copilot, un producte de Microsoft que ajuda a desenvolupar programes informàtics. La demanda afirma que l’empresa ha violat els drets legals d’una gran quantitat de creadors que van publicar el treball sota certes llicències de codi obert a GitHub.

Els mitjans de comunicació són un altre dels grans afectats, que reclamen que les eines d’IA no facin servir les seves creacions, imatges, veus, etc. per a la generació de productes nous. “Els principals mitjans de comunicació americans han criticat obertament OpenAI per utilitzar els articles escrits pels seus periodistes i col·laboradors per entrenar ChatGPT sense que hi hagués cap autorització prèvia i, per tant, sense cap compensació”, comenta Orgaz.

“També les principals companyies discogràfiques del món estan prohibint l’ús dels fonogrames enregistrats pels artistes amb els quals tenen contracte perquè les eines d’IA no els puguin utilitzar, després del fals duet entre Drake i The Weekend”, afegeix. Es refereix a una cançó generada artificialment per un usuari d’una coneguda xarxa social que es va fer viral per com va passar per bona: sembla que fos obra de Drake i The Weekend de debò, i a més –diu– sona bé. D’altres músics com Rosalía tampoc no se n’han lliurat.

Augmentats o alienats?

Pintura, il·lustració, fotografia, animació, locució, doblatge, programació, escriptura, periodisme, moda… Pocs sectors es deslliuren de l’abast de la IA generativa. Què passarà amb aquestes professions? ¿En milloraran les condicions gràcies a l’ús d’aquestes eines, com argumenten alguns, o per contra, les feines dels professionals que les exerceixin estaran condemnades a extingir-se?

Caruso s’alinea clarament amb el segon argument. Altres experts creuen que el treball es reconfigurarà, que integrarà la IA, i que aquests canvis requeriran una requalificació. Així ho veu Albert Cañigueral, autor d’‘El trabajo ya no es lo que era’. Al·ludeix, com a proposta vàlida, al marc conceptualitzat per Arun Sundararajan, catedràtic d’emprenedoria de la Universitat de Nova York: primer els humans augmenten les màquines, després –valent-se’n– es reinventen els processos de treball i, finalment, aquestes màquines augmenten les capacitats dels humans.

Sembla que ja s’està fent en certs àmbits. Concretament, en l’atenció al client. Un estudi signat pel professor emèrit de la Universitat de Stanford Erik Brynjolfsson mostra que els chatbots d’IA generativa poden fer que empleats amb baixes qualificacions dedicats al servei d’atenció al client siguin fins a un 14% més productius. Per als més qualificats és, en tot cas, una distracció.

Caruso denuncia que en sectors com el de la il·lustració o el disseny passa quelcom una mica més extrem: persones sense cap mena de destresa o d’experiència, que com a màxim tenen unes nocions de Photoshop, poden imitar la seva feina amb una precisió aterridora. Persones sense ofici que, potser, podran forjar-se una carrera artística, o com a mínim, una forma d’ingressos nova però, serà –diu–, encara més precària del que ja són aquestes professions. “Els prompters ofereixen els seus serveis obertament i a molt baix cost per obtenir clients, amb l’argument de l’estalvi notable de costos que obtindran”, critica. Mentrestant, els professionals qualificats en aquests sectors “ens quedarem sense encàrrecs”.

Javier de la Cueva, advocat i professor especialitzat en propietat intel·lectual, tecnologia i internet, no creu que hi hagi gaire marge d’empitjorament per als artistes i creadors. “L’autoria està totalment precaritzada. Si alguna cosa ens ha demostrat el model de propietat intel·lectual vigent és que és un sistema utilitzat per una minoria per extreure’n el valor de les creacions dels individus”, assenyala. “La majoria de persones autores no són les titulars dels drets d’explotació de les seves obres, sinó que els han hagut de cedir per un plat de llenties. Com a exemple, el periodisme”, afegeix.

Per a Caruso això no és excusa. Tampoc ho és per a Sandra Wachter, catedràtica de Tecnologia i Regulació a l’Oxford Internet Institute (OII) de la Universitat d’Oxford. “Que no sigui un problema nou no vol dir que no n’hàgim de fer res. Ho hem resolt?”, qüestiona. “Continuem sense estar preparats per fer-ho. És difícil saber com de disruptiu serà l’efecte de la IA generativa, però la resposta no és no fer res, sinó avaluar, de manera contínua, quin podria ser-ne l’impacte”, prossegueix.

Wachter sosté que el risc és que es repeteixi la situació que hi va haver durant la Revolució Industrial, quan les màquines van desplaçar els grangers, que es van haver de mudar a la ciutat i treballar el doble de temps, a les fàbriques, per la meitat dels ingressos. “Hem d’anticipar-nos abans que la gent es quedi sense feina i pensar què és acceptable i què no. Que puguis automatitzar una cosa que no significa que ho hagis de fer. No tots els tipus d’automatització són desitjables”, sosté l’experta de l’OII.

Davant l’argument que l’automatització permet a les persones treballadores afectades dedicar-se a tasques de valor afegit, posa l’exemple de les caixeres i els caixers dels supermercats. “Per a les persones que no han estat reemplaçades per màquines, potser ha millorat la qualitat de la feina? Tot el que fan ara és supervisar i prémer un botó si les màquines no reconeixen un codi. El treball s’ha tornat més avorrit i més mal pagat, perquè necessites menys qualificació”, destaca.

Això fa, a més, que hi hagi més persones que puguin competir per aconseguir aquesta feina, ja que es consideren menys qualificades. “Aquesta competència fa que s’abaixin els salaris”, apunta Wachter. Apliquem això, ara, a l’exemple que posava Caruso amb els il·lustradors i dissenyadors: passa exactament el mateix.

Una cosa semblant passa amb la força de treball necessària per desenvolupar les eines de la IA generativa. La revista Time va revelar que OpenAI va pagar menys de 2 euros l’hora a treballadors kenyans per intentar fer que ChatGPT fos menys tòxic. Es dedicaven a etiquetar exemples de violència, odi, abús sexual, etc. amb mostres dels racons més foscos d’internet.

Aquesta problemàtica la van denunciar l’antropòloga Mary Gray i l’expert en ciència social computacional Siddharth Suri al llibre Ghost work. How to stop Silicon Valley from building a new global underclass (2019). A la investigació hi descriuen com darrere de les eines automatitzades s’hi amaga una massa de treballadors invisibles i precaritzats.

Sobre la IA generativa en particular, Gray –investigadora a Microsoft Research– assenyala que els models de llenguatge natural continuaran requerint actualitzacions, localització i traducció. “Com més integració hi hagi, més feina digital hi haurà per afinar i postprocessar aquests models”, afirma. L’experta cita l’exemple d’EPIC, el proveïdor de registres mèdics electrònics més gran dels EUA, que ha anunciat que vol afegir models de llenguatge natural al programari per administrar la documentació clínica.“Això reduirà el temps que els metges dediquen a ingressar les dades a mà o mitjançant la veu, però caldrà que hi hagi més control de qualitat per revisar els registres mèdics electrònics generatius creats per IA, i fins i tot per ajudar a integrar aquests documents amb altres materials”, explica Gray. El que més preocupa és que “si no hi ha una visió clara de com s’han d’aplicar els models de llenguatges naturals als entorns socials, veurem un desenvolupament ràpid d’una bretxa d’IA similar a la bretxa digital que encara persisteix: més d’un terç de la població mundial no està connectada ni ha accedit mai a Internet”.

Mesures de protecció

La bretxa de la IA s’afegeix a la llista dels efectes desfermats per al llançament de les eines generatives. Els seus creadors diuen que són aspectes que fugen del seu control. “Si no la pots controlar ni anticipar-ne el risc, llavors no l’alliberis”, diu Wachter. “És interessant com les empreses de tecnologia se surten amb la seva. A qualsevol altra indústria això seria impensable. Hauríem de pensar en les estructures de responsabilitat tradicionals que obliguen a retre comptes quan es treuen al mercat productes nocius o que puguin originar problemes”, suggereix.

Wachter assegura que, aleshores, cal debatre mesures com la renda bàsica universal (RBU) o sobre la provisió de serveis bàsics a treballadors autònoms que es guanyen la vida –o sobreviuen– a base de contractes per tasques (els anomenats minijobs). També –diu– necessitem parlar sobre impostos. “Perquè, les organitzacions que estalvien diners en no contractar humans ¿no haurien d’estar obligades a pagar més tributs? No podem parlar de distribució equitativa de la riquesa si no és així”, afirma.

La investigadora creu que s’haurien de recuperar els debats sobre les taxes als robots, la RBU i les cobertures socials que es van obrir amb l’explosió de la gig economy, ja que continua sent un problema no resolt. També considera que hi hauria d’haver alguna mena de protecció laboral que asseguri que a una persona se li paga de manera justa si el seu salari es redueix a la meitat per causa d’estar substituït parcialment per una màquina i necessita fer dues feines en lloc d’una per poder pagar les factures.

“Aquest és el progrés del qual estem parlant? La utopia de l’automatització profunda que ens prometen? Òbviament no”, assevera Wachter. “Tot el que donem per fet –un treball amb bones condicions, capacitat per planificar més enllà de l’endemà, cobertura sanitària adequada, una pensió, mesures de conciliació, etc.– desapareix en els treballs temporals”, afegeix. “Hem de preparar-nos pels pitjors escenaris”, conclou.

Entre les propostes de la plataforma Arte es Ética també n’hi ha en la línia de la cobertura dels treballadors autònoms i dels impostos que proposa Wachter. També suggereixen impulsar la creació d’un fons estatal per cobrir les necessitats més urgents del sector creatiu destinat al desenvolupament de projectes artístics, així com la creació de llocs de feina que incloguin mà d’obra i intel·ligència humana.

Pel que fa a l’explotació del treball creatiu, Arte es Ética exigeix ​​que calgui el consentiment previ per utilitzar qualsevol contingut per a l’entrenament de plataformes generatives; que anul·lin per als usuaris la funcionalitat de cercar noms propis dels creadors que no hagin acceptat formar part del conjunt de dades ni de la generació de derivats automatitzats de la seva obra, i que les imatges produïdes amb aquests models portin una marca d’aigua de la plataforma que la va generar, a més d’una firma digital, entre altres detalls. Apel·len l’Organització Mundial de la Propietat Intel·lectual (OMPI) per sol·licitar-ne la intervenció i arbitratge urgents, i denegar el registre d’obres generades per IA fins a comptar amb informació fefaent de quin és el grau de procés humà implicat en el resultat final.

Com assenyala Puerto, ni Espanya ni la Unió Europea (UE) s’han pronunciat encara sobre això. La UE sí que ho ha fet, parcialment, sobre l’assumpte del copyright de les plataformes. La Comissió Europea ha proposat incloure a la Llei d’Intel·ligència Artificial l’obligació per part de les empreses de divulgar qualsevol material protegit per drets d’autor emprats per desenvolupar els sistemes d’IA generativa.

És una mesura que no satisfarà tothom, com reconeix la diputada Svenja Hahn. “En contra dels desitjos conservadors d’una vigilància major i de les fantasies esquerranes d’una regulació excessiva, el Parlament va trobar un compromís sòlid per regular la IA de manera proporcional, protegir els drets dels ciutadans, fomentar la innovació i impulsar l’economia”, va assegurar el 28 d’abril passat, segons recull Reuters.

“La producció massiva de continguts generats per IA probablement suposarà una profunda crisi en tot allò que significa la cultura d’un territori i també una revolució en les indústries creatives, així com en el desenvolupament dels sistemes polítics en què vivim. Proposo que aprofitem allò viscut en temps de la Revolució Industrial i que evitem als ciutadans del segle XXI patir les grans penúries que van viure els treballadors d’aleshores”, apunta Orgaz.

La qüestió de la regulació és espinosa i complexa, però això no ha de ser excusa per a la inacció. En un moment en què sembla que la indústria tecnològica segueix els passos de la indústria de la moda, en copiar les pitjors pràctiques en relació a l’explotació laboral, cal reforçar els marcs internacionals per garantir unes condicions de treball justes. Treballar en l’anàlisi i les mesures de prevenció i protecció davant d’externalitats negatives per als treballadors és imperatiu en un context de funcionament com un oligopoli dels gegants tecnològics, en què les asimetries de poder segueixen augmentant.

:: Exemple de resolució de màquines i drets d’autor ::

:: Exemple de notificació de denegació de drets d’autor ::