La Intel·ligència Artificial

Elaboració pròpia: la font és de pagament i no es reprodueix

Enunciat oficial. La Intel·ligència Artificial: tipus i nivells de complexitat, riscos i biaixos. IA ètica i responsable.

1. Concepte i tipus

Sistema d'IA (Reglament (UE) 2024/1689, d'Intel·ligència Artificial (RIA), art. 3, definició legal vigent): sistema basat en una màquina dissenyat per funcionar amb diferents nivells d'autonomia i que pot mostrar capacitat d'adaptació després del desplegament, i que, per a objectius explícits o implícits, infereix de la informació d'entrada que rep la manera de generar resultats de sortida —com prediccions, contingut, recomanacions o decisions— que poden influir en entorns físics o virtuals.

1.1 Per capacitat

• IA estreta o feble (ANI, Artificial Narrow Intelligence): resol una tasca concreta. És tota la IA que existeix avui.
• IA general (AGI, Artificial General Intelligence): capacitat cognitiva equivalent a la humana en qualsevol domini. Hipotètica.
• Superintel·ligència (ASI, Artificial Superintelligence): superior a la humana en tots els àmbits. Hipotètica.

1.2 Per tècnica i nivell de complexitat

Relació entre deep learning i machine learning (pregunta literal): el deep learning és un subconjunt del machine learning que utilitza xarxes neuronals artificials amb múltiples capes ocultes i que aprèn automàticament les característiques rellevants a partir de les dades brutes, sense necessitat d'enginyeria manual de característiques. Requereix molta més dada i capacitat de còmput que el ML clàssic. No és el revés, ni són sinònims, ni són disciplines independents.

Sistemes basats en regles / experts: la IA «simbòlica» clàssica, amb base de coneixement i motor d'inferència. No aprèn: aplica regles escrites per humans. És el nivell de complexitat més baix i el més explicable.

1.3 Tipus d'aprenentatge automàtic

1.4 IA generativa

Models que generen contingut nou (text, imatge, codi, àudio, vídeo) a partir de patrons apresos.

• LLM (Large Language Model): xarxes basades en l'arquitectura transformer (mecanisme d'atenció), entrenades amb grans volums de text per predir el següent token.
• Conceptes: prompt, finestra de context, temperatura, fine-tuning, RAG (Retrieval-Augmented Generation, que ancora les respostes en documents propis i redueix les al·lucinacions), embeddings i bases de dades vectorials, agents.
• Al·lucinació: el model genera contingut plausible però fals. És una propietat intrínseca del mecanisme de generació, no un error corregible del tot.
• Altres famílies generatives: GAN (Generative Adversarial Network, dues xarxes —generador i discriminador— que competeixen), VAE (Variational Autoencoder) i models de difusió (imatge).

2. Riscos i biaixos

2.1 Biaix

Biaix algorítmic: desviació sistemàtica dels resultats que produeix tractament desigual injustificat de persones o grups.

Origen del biaix:

Mètriques d'equitat: paritat demogràfica, igualtat d'oportunitats, igualtat d'odds, calibratge per grups. Són matemàticament incompatibles entre si en el cas general: cal triar quina noció d'equitat s'aplica i justificar-la. Aquest és un punt clau de l'IA responsable.

Eliminar l'atribut protegit no elimina el biaix: altres variables actuen de proxy (codi postal → origen socioeconòmic).

2.2 Altres riscos

• Manca de transparència i explicabilitat («caixa negra»): els models complexos no permeten explicar per què han decidit una cosa. Tècniques d'XAI (eXplainable AI, Artificial Intelligence; IA explicable): LIME (Local Interpretable Model-agnostic Explanations), SHAP (SHapley Additive exPlanations), importància de característiques, models substitut, arbres interpretables.
• Privadesa: entrenament amb dades personals, inferència d'atributs sensibles, atacs d'inferència de pertinença, memorització i regurgitació de dades d'entrenament. Mitigacions: minimització, anonimització robusta, privadesa diferencial, aprenentatge federat.
• Seguretat: atacs adversaris (entrades manipulades imperceptiblement), enverinament de dades (data poisoning), robatori del model, injecció de prompt i fuita d'informació en sistemes generatius.
• Al·lucinacions i desinformació; deepfakes.
• Impacte laboral i desqualificació professional.
• Impacte ambiental: consum energètic i d'aigua de l'entrenament i la inferència.
• Concentració de poder en pocs proveïdors i dependència tecnològica.
• Deriva del model (drift): el món canvia i el model es degrada; cal monitoratge continu i reentrenament.

3. IA ètica i responsable

3.1 Principis

Directrius ètiques per a una IA fiable (Grup d'Experts d'Alt Nivell de la Comissió Europea, 2019). Una IA fiable ha de ser lícita, ètica i robusta, i complir set requisits:

1. Acció i supervisió humanes (human agency and oversight): amb els models human-in-the-loop, human-on-the-loop i human-in-command.
2. Solidesa tècnica i seguretat: resiliència als atacs, pla de contingència, precisió, fiabilitat i reproductibilitat.
3. Gestió de la privadesa i de les dades: qualitat i integritat de les dades, i control d'accés.
4. Transparència: traçabilitat, explicabilitat i comunicació (l'usuari ha de saber que interactua amb una IA).
5. Diversitat, no-discriminació i equitat: evitar biaixos, accessibilitat i disseny universal, participació de les parts interessades.
6. Benestar social i ambiental: sostenibilitat, impacte social i democràtic.
7. Rendició de comptes: auditabilitat, minimització i informe d'impactes negatius, compensació i vies de reparació.

Els quatre principis ètics de què deriven: respecte de l'autonomia humana, prevenció del dany, equitat i explicabilitat.

Altres referents: Recomanació de la UNESCO (United Nations Educational, Scientific and Cultural Organization) sobre l'ètica de la IA (2021), Principis de l'OCDE (Organització per a la Cooperació i el Desenvolupament Econòmic) sobre IA, NIST AI Risk Management Framework i ISO/IEC 42001 (IEC: International Electrotechnical Commission; sistema de gestió de la IA, certificable).

3.2 El Reglament europeu d'IA

RIA (Reglament d'Intel·ligència Artificial) — Reglament (UE) 2024/1689. Primer marc jurídic integral del món. Enfocament basat en el risc, amb quatre nivells:

Obligacions dels sistemes d'alt risc: sistema de gestió de riscos al llarg de tot el cicle de vida, governança de dades (qualitat, representativitat, examen de biaixos), documentació tècnica, registre automàtic d'esdeveniments (logs), transparència i informació a l'usuari desplegador, supervisió humana efectiva, precisió, robustesa i ciberseguretat, sistema de gestió de la qualitat, avaluació de la conformitat i marcatge CE (Conformité Européenne), i registre a la base de dades de la UE (Unió Europea).

Avaluació d'impacte sobre els drets fonamentals (FRIA, Fundamental Rights Impact Assessment): obligatòria per als desplegadors que siguin organismes de dret públic o entitats privades que prestin serveis públics quan utilitzin sistemes d'alt risc. Això afecta directament els ajuntaments.

Models d'IA d'ús general (GPAI, General Purpose Artificial Intelligence): obligacions pròpies de documentació, drets d'autor i resum del contingut d'entrenament; per als de risc sistèmic, avaluacions i notificació d'incidents.

Calendari: en vigor l'1 d'agost de 2024; prohibicions de l'article 5 aplicables als 6 mesos (2 de febrer de 2025), si bé les dues prohibicions noves que hi va afegir el Digital Omnibus —generar material íntim sense consentiment i material d'abús sexual infantil— no s'apliquen fins al 2 de desembre de 2026; obligacions dels models GPAI als 12 mesos (2 d'agost de 2025); transparència de l'article 50 als 24 mesos (2 d'agost de 2026). Els terminis de l'alt risc es van ajornar pel Digital Omnibus (Reglament (UE) 2026/1744, en vigor el 27 de juliol de 2026): l'annex III (els sistemes d'alt risc de l'article 6.2, els anomenats autònoms), previst per al 2 d'agost de 2026, passa al 2 de desembre de 2027; l'annex I (productes regulats), previst per al 2 d'agost de 2027, passa al 2 d'agost de 2028. I una data que toca de ple les administracions: els sistemes d'alt risc ja en ús per autoritats públiques tenen fins al 2 d'agost de 2030 per adequar-s'hi. Autoritat espanyola: l'AESIA (Agencia Española de Supervisión de la Inteligencia Artificial).

3.3 Relació amb el RGPD

• L'RGPD, art. 22 dona dret a no ser objecte d'una decisió basada únicament en el tractament automatitzat, inclosa l'elaboració de perfils, que produeixi efectes jurídics o afecti significativament de manera similar; amb dret a obtenir intervenció humana, a expressar el punt de vista i a impugnar la decisió.
• Els arts. 13 i 14 obliguen a informar de l'existència de decisions automatitzades i, en aquests casos, a facilitar informació significativa sobre la lògica aplicada i sobre la importància i les conseqüències previstes.
• L'RGPD, art. 35 exigeix AIPD (Avaluació d'Impacte de Protecció de Dades) quan hi ha avaluació sistemàtica d'aspectes personals basada en tractament automatitzat amb efectes jurídics.
• Principis d'exactitud i minimització aplicats a les dades d'entrenament.
• Base jurídica de l'analítica i la personalització: quan el tractament amb IA (p. ex. recomanar activitats a partir de l'historial d'ús) no és necessari per prestar el servei bàsic, la base no pot ser l'interès públic; cal el consentiment de la persona usuària (RGPD, art. 6.1.a i art. 7), demanat amb informació clara i entenedora sobre com s'utilitzaran les seves dades.

4. IA al sector públic

Casos d'ús habituals: atenció ciutadana amb assistents conversacionals, classificació i encaminament d'expedients, detecció de frau i d'irregularitats, manteniment predictiu d'infraestructures, gestió de la mobilitat i el trànsit, planificació de serveis socials, anàlisi d'imatges (residus, ocupació de l'espai públic), traducció i accessibilitat.

Requisits addicionals respecte del sector privat:

• Els efectes jurídics de les decisions administratives fan que gairebé qualsevol ús decisori sigui alt risc.
• L'actuació administrativa automatitzada (Llei 40/2015, art. 41) exigeix designar prèviament l'òrgan competent per a especificacions, programació, manteniment, supervisió, control de qualitat i auditoria del sistema i del seu codi font, i l'òrgan responsable a efectes d'impugnació.
• Motivació dels actes (Llei 39/2015, art. 35): una decisió no explicable difícilment és motivable.
• Transparència algorítmica i registre públic d'algorismes.
• Contractació: cal exigir per plec l'accés al model, a les dades, a la documentació i als resultats de l'avaluació de biaixos, i la reversibilitat.

A Barcelona això s'articula amb la Mesura de govern d'IA i la Metodologia de sistemes algorítmics → tema 30.

Claus d'examen

• Deep learning és subconjunt del machine learning, no l'invers ni un sinònim: pregunta literal per la relació entre tots dos (TS-TIC 2025, p. 55).
• Consentiment com a base jurídica de la personalització no essencial: quan un servei ofereix recomanacions d'IA a partir de l'historial de la persona i el tractament no és imprescindible per al servei bàsic, cal demanar el consentiment amb informació clara i entenedora; les altres opcions del tribunal eren categories de dades (perfil, biometria, preferències), no fonaments de licitud (TS-TIC 2018, pràctica s1, p. 29).

Per recordar

• Tota la IA existent és estreta (ANI); l'AGI i l'ASI són hipotètiques.
• El deep learning és un subconjunt del machine learning amb xarxes de múltiples capes que aprenen les característiques a partir de les dades brutes.
• Supervisat = dades etiquetades; no supervisat = descobrir estructura (clustering); per reforç = recompenses.
• Eliminar l'atribut protegit no elimina el biaix: hi ha variables proxy.
• Les mètriques d'equitat són mútuament incompatibles: cal triar i justificar.
• Set requisits de la IA fiable: supervisió humana · solidesa tècnica · privadesa i dades · transparència · diversitat i no-discriminació · benestar social i ambiental · rendició de comptes.
• AI Act: quatre nivells de risc; la puntuació social pública està prohibida; l'annex III llista els sistemes d'alt risc; els organismes públics han de fer la FRIA.
• RGPD art. 22: dret a no ser objecte de decisions únicament automatitzades, amb dret a intervenció humana.