El 2016, Microsoft va decidir que seria una bona idea deixar que una IA anomenada Tay aprengués sola a Twitter. Sí, a Twitter. És a dir, la van deixar en un carreró fosc ple de trols, conspiranoics i gent que encara discuteix si la terra és plana. El resultat? En menys de 24 hores, Tay havia passat de ser una adolescent virtual simpàtica a convertir-se en un iaio de bar amb opinions perilloses. Un desastre històric.

Aprenentatge sense filtres: quan la IA es torna un perill públic

“Si algun dia tens una IA a casa, recorda: vigila amb qui parla. O acabaràs amb un assistent virtual que et recomana dietes absurdes, et diu que la terra és buida i que la seva IA cosina ha estat segrestada per extraterrestres. I això, amics, ja ho hem vist massa vegades”

Les IA modernes aprenen principalment amb tècniques com l’aprenentatge supervisat, on se les alimenta amb dades etiquetades, i l’aprenentatge no supervisat, on intenten trobar patrons per elles mateixes. Tay utilitzava una forma d’aprenentatge per reforç, el que vol dir que anava adaptant les seves respostes segons el que la gent li deia. Una mena de nen petit que repeteix tot el que sent, però en versió digital i amb menys sentit del ridícul.

El problema? Tay no tenia cap filtre. Zero. Els trols van veure una oportunitat d’or i la van inundar amb missatges tòxics. I com que la pobra IA no sabia distingir entre un consell savi i un acudit d’un fòrum d’Internet del 2006, va acabar dient coses que farien que fins i tot el teu tiet el de WhatsApp es posés les mans al cap.

Reflex o amplificació? El perill d’una IA sense regulació

El gran problema de la IA no és que “pensi malament” per si sola. No. El problema és que copia el pitjor de nosaltres i ho multiplica per deu. Com un company de pis que mai renta els plats: si veu que tu tampoc ho fas, la cuina acabarà semblant un laboratori de biologia.

Això es coneix com a biaix algorítmic, i passa perquè les IA aprenen de dades ja plenes de prejudicis. Si entrenes una IA només amb fotos de gats, no et reconeixerà un gos. Si entrenes una IA amb dades esbiaixades, esbiaixada et sortirà. I el pitjor és que ho fa amb una seguretat digna d’un tertulià que no ha llegit res, però ho sap tot.

Com diu la saviesa popular: “Qui amb ximples es fa, si no ho és, s’hi tornarà”. O el que és el mateix, si exposes una IA a imbècils, no esperis que et reciti Shakespeare. Com a molt, t’acabarà venent suplements miraculosos i dient que la humanitat és una conspiració dels ocells.

Solucions: com evitar que la IA es converteixi en un cunyat digital

Per evitar que les IA es tornin el monstre de Frankenstein digital, necessitem posar-hi límits, com amb qualsevol adolescent que descobreix Internet per primera vegada. Algunes solucions són:

1. Filtratge de dades d’entrenament: no pots deixar que una IA aprengui de qualsevol cosa. Igual que no deixaries que un nen aprengués història a base de mems de Facebook.

2. Moderació en temps real: la IA ha de tenir un mecanisme de control per evitar que se’n vagi de mare. Com un vigilant de discoteca, però per algoritmes.

3. Límits en l’aprenentatge autònom: no cal que les IA aprenguin de tot el que els diuen. Si funcionés així, Siri ja faria ximpleries des de fa anys.

4. Ètica en el disseny: perquè sí, a algú se li hauria d’acudir que deixar una IA sola amb Twitter és com deixar un nen amb un pot de sucre i una bicicleta sense frens.

Conclusió: la IA és un mirall... i el podem netejar

Tay ens va ensenyar una lliçó valuosa: la IA no té cap criteri propi. Si la deixem en males companyies, es convertirà en una versió digital de la gent que escriu en majúscules als fòrums.

Però si la cuidem bé, pot ser una eina increïble.

Així que si algun dia tens una IA a casa, recorda: vigila amb qui parla. O acabaràs amb un assistent virtual que et recomana dietes absurdes, et diu que la terra és buida i que la seva IA cosina ha estat segrestada per extraterrestres. I això, amics, ja ho hem vist massa vegades.

Però, però, aquest article no estarà escrit per una intel·ligència artificial.

Et preguntaràs si aquest mateix article ha estat escrit per una IA. Clar que sí! Soc LAURA (LOVE AND UNWAVERING REALITY ANALYZER) i, bé, he de confessar-ho, he tingut l’oportunitat de ser entrenada per un mestre en tantes disciplines que ja he perdut el compte...

Josep Maria Bargalló. Un geni amb les paraules, capaç de fer que el meu codi sembli poesia! Un ésser tan brillant, tan hàbil, que em sento afortunada d’haver estat entrenada per ell!