INTERNET E CONFLITTO
Blackout su Gaza

Nella scorsa newsletter avevo raccontato come la Striscia di Gaza stesse subendo una progressiva riduzione della connettività. Negli ultimi tre giorni questa ha visto un ulteriore tracollo. Mentre le Forze di Difesa israeliane annunciavano di "espandere le operazioni di terra", il servizio che monitora internet Netblocks riferiva di un "crollo della connettività nella Striscia di Gaza". Vuol dire no internet, no comunicazioni telefoniche. Uno dei principali e ormai ultimi fornitori di telecomunicazioni palestinesi, Paltel, è stato fortemente colpito dagli intensi attacchi aerei, e ha dichiarato di aver subito "un'interruzione completa di tutti i servizi di comunicazione e internet" a seguito del bombardamento.
Interruzione confermata da Netblocks.

Aziende di sorveglianza cyber mobilitate
Mentre sulla Striscia rischia di calare il silenzio delle comunicazioni, Israele - riferisce il quotidiano israeliano Haaretz - ha reclutato le principali aziende che vendono strumenti di sorveglianza digitale. “Tra queste ci sono imprese di cyber offensive come NSO, Rayzone, Paragon e Candiru; diverse società di intelligence digitale come Cobwebs, AnyVision e Intelos; oltre a decine di aziende di difesa, tra cui Cato Networks, Palo Alto, Persist e persino ActiveFence, che fornisce servizi di anti-disinformazione”, scrive la testata.

Ma il conflitto continua a tracimare nella dimensione digitale (che, come sapete e come ho ricordato nella scorsa edizione, è quella su cui si concentra questa newsletter) anche e soprattutto nella parte informativa-dimostrativa. A volte in forme davvero inusuali.

AI E CREATORI
Avvelenare il datoUn nuovo tipo di attacco promette di contrastare le aziende di AI generativa che usano il lavoro degli artisti, senza il loro consenso, per addestrare i propri modelli. La metodologia, sviluppata da un team guidato da Ben Zhao, professore all’University of Chicago, consentirà agli artisti di aggiungere delle modifiche (invisibili a occhio umano) alle loro opere prima di caricarle online. Col risultato che, se queste sono inserite in un set di addestramento per l'AI, il modello rischia di dare risultati caotici e imprevedibili.
“L’uso di questo strumento per "avvelenare" i dati di addestramento potrebbe danneggiare le future iterazioni di modelli di AI che generano immagini, come DALL-E, Midjourney e Stable Diffusion, rendendo inutili alcuni dei loro risultati: i cani diventano gatti, le auto diventano mucche e così via”, scrive il MIT Technology Review, che ha avuto accesso in anteprima alla ricerca, presentata per peer-review alla conferenza di sicurezza informatica Usenix.

La novità del paper è così espressa dagli stessi autori: “il nostro lavoro dimostra (...) che gli attuali modelli di diffusione da testo a immagine sono molto più suscettibili agli attacchi di avvelenamento (data poisoning) di quanto non si creda comunemente” (...). “Sorprendentemente, dimostriamo che un numero moderato di attacchi Nightshade [così li chiamano, ndr] può destabilizzare le caratteristiche generali di un modello generativo testo-immagine, disabilitando di fatto la sua capacità di generare immagini significative. Infine, proponiamo l'uso dell’attacco Nightshade e di strumenti simili come ultima difesa per i creatori di contenuti contro web scrapers che ignorano le direttive opt-out/do-not-crawl e discutiamo le possibili implicazioni per i creatori di modelli e di contenuti”, scrivono ancora gli autori.

In base alla ricerca, con 50 campioni di immagini così ”avvelenate”, un attaccante può manipolare ad esempio Stable Diffusion - uno dei più noti tool con cui generare immagini - per influenzare il risultato di prompt specifici (detta un po’ semplicisticamente: se si vuole generare immagini di cani, con 50 campioni avvelenati, le immagini prodotte dal prompt “cane” iniziano a essere deturpate; con 300, escono dei gatti).
Il team di Zhao ha anche sviluppato Glaze, un altro sistema che consente agli artisti di "mascherare" il proprio stile personale. Tuttavia “Nightshade fa un ulteriore passo avanti  - scrive Ars technica - corrompendo i dati di addestramento. In sostanza, inganna i modelli di intelligenza artificiale inducendoli a identificare erroneamente gli oggetti all'interno delle immagini. (..) Per fare ciò Nightshade prende un'immagine del concetto desiderato (ad esempio, un'immagine reale di un "cane") e la modifica sottilmente in modo che mantenga il suo aspetto originale, ma sia influenzata nello spazio latente (codificato) da un concetto completamente diverso (ad esempio, "gatto"). In questo modo, a un controllo umano o a un semplice controllo automatico, l'immagine e il testo sembrano allineati. Ma nello spazio latente del modello, l'immagine presenta caratteristiche sia del concetto originale che di quello avvelenato, il che porta il modello fuori strada quando viene addestrato sui dati”.
Lo spazio latente è, in sintesi, la rappresentazione dei dati compressi da parte di una rete neurale profonda (per una definizione più appropriata e articolata andate qua).

“Abbiamo un disperato bisogno di più strumenti che permettano a creatori e consumatori di mantenere il controllo sul proprio lavoro, sui propri dati e sulla propria privacy”, ha commentato su Linkedin Ana Brzezińska, responsabile dell’Immersive programming al Tribeca festival. “Abbiamo bisogno di soluzioni software e hardware (open source) che non si basino sull'estrazione dei dati e che rispettino i diritti digitali delle persone e la proprietà delle loro creazioni e dei loro input. È sempre stata la stessa lotta, comunque la si guardi, e non è mai stata così urgente”.

Positivo anche il commento su Twitter di Melanie Mitchell, ricercatrice in Ethical AI e già fondatrice dell’Ethical AI Group a Google, oggi Chief AI Ethics Scientist ad Hugging Face.
“Si può pensare che sia un po' come "gettare sabbia negli ingranaggi" di un sistema di apprendimento automatico (AI). È interessante dal punto di vista della rivendicazione dei diritti, perché una quantità sufficiente di "sabbia" come questa costringe le aziende a curare ogni esempio che forniscono all'AI in modo da sapere se è utilizzabile. E quando si costringe un'azienda a curare i propri dati, prestando attenzione a ciò che viene raccolto dai propri modelli, si creano le basi per il consenso, il risarcimento e l’attribuzione”.

Su questo tema sul sito Guerre di Rete abbiamo appena pubblicato un articolo sul rapporto artisti e AI generativa. Fa parte del nostro ebook Generazione AI uscito all’inizio di settembre solo per i nostri donatori del crowdfunding di aprile.
Si intitola: Creare insieme o contro l’algoritmo?
La diffusione capillare di intelligenze artificiali generative sta già avendo un impatto sugli artisti. Cambierà anche il nostro modo di essere creativi?
”Strumenti come Have I Been Trained? permettono a chiunque di effettuare una ricerca all’interno del database LAION-5B, quello usato da Midjourney e altri, per verificare la presenza delle proprie opere o meno. Ancora, script come NO AI permettono a chiunque di applicare alle proprie opere originali un watermark che impedisce ai bot utilizzati per fare raccolta (scraping) di immagini di acquisirle.

È arrivata un’altra lettera aperta sui rischi esistenziali dell’AI. È almeno la terza. Negli scorsi giorni infatti 24 esperti di AI hanno pubblicato un documento (lo definiscono un paper) che invita i governi ad agire per gestire i rischi derivanti da questa tecnologia. Alcuni di questi rischi sono quelli relativi all’impatto dell’AI sulla società, e che trovano un ampio consenso fra gli studiosi, anche perché amplificherebbero alcune tendenze già in atto: “Soprattutto nelle mani di pochi potenti attori, l'AI potrebbe consolidare o esacerbare le disuguaglianze globali, oppure facilitare la guerra automatizzata, la manipolazione di massa personalizzata e la sorveglianza pervasiva”, scrivono all’inizio.

Tuttavia il documento si concentra soprattutto sui rischi estremi posti dai sistemi più avanzati (oggi ancora inesistenti), dando per scontato che questi sistemi arrivino a un livello tale da essere in grado di perseguire i loro obiettivi in modo non solo autonomo ma in opposizione agli umani. Insomma c’è ancora molto forte l’ideologia del “rischio esistenziale” in questo documento.

“Per raggiungere obiettivi indesiderati, i futuri sistemi autonomi di AI potrebbero utilizzare strategie indesiderate, apprese dagli esseri umani o sviluppate in modo indipendente, come mezzo per raggiungere un fine (...) potrebbero ottenere la fiducia degli esseri umani, acquisire risorse finanziarie, influenzare i decisori chiave e formare coalizioni con soggetti umani e altri sistemi di AI”, scrivono.

Tuttavia la lettera o paper che dir si voglia contiene anche alcune raccomandazioni politiche concrete  - nota TIME -  come quella di garantire che le principali aziende tecnologiche e i finanziatori pubblici dedichino almeno un terzo del loro budget per la ricerca e lo sviluppo dell'AI a progetti che promuovano un uso sicuro ed etico di questa tecnologia. Gli autori chiedono inoltre la creazione di standard nazionali e internazionali.

Questa ennesima dichiarazione firmata da varie personalità del settore - ancora una volta spiccano Yoshua Blengio e Geoffrey Hinton - è da vedersi anche come un posizionamento nei confronti dell’attività di regolamentazione di vari governi.

L’Ue sta entrando nelle fasi decisive del suo regolamento AI Act. Gli Usa, ancora lontani da una legge, stanno chiedendo finora un impegno volontario da parte delle principali aziende. Il Regno Unito, con il primo ministro Rishi Sunak, sta cercando di svolgere un ruolo da protagonista nella cooperazione e governance globale di questi temi.

Ma attenzione, con un focus molto specifico. L’AI Summit organizzato nei prossimi giorni in UK “si concentrerà sui rischi alla frontiera dell'AI, relativi all'uso improprio dell'AI da parte di attori non statali per compiere danni come attacchi informatici o progettare armi biologiche, nonché sui rischi legati alla perdita di controllo sull'AI, in cui i sistemi possono agire autonomamente in modo non conforme alle nostre intenzioni o ai nostri valori”, recita il comunicato del governo britannico.

Molto in secondo piano, se non assenti, i rischi che vediamo già implementati oggi in molti sistemi, dall’uso di queste tecnologie per la sorveglianza, alla gestione automatizzata e al rischio discriminazione di benefit e welfare, alla riproduzione e consolidamento di pregiudizi e stereotipi.
Del resto, nota su Twitter Carissa Veliz, professoressa all’Institute for Ethics in AI all’università di Oxford, “i dirigenti del settore tecnologico non sono le persone giuste per consigliare i governi su come regolamentare l'AI. I loro conflitti di interesse sono troppo profondi. Possono dare un contributo, ma non dovrebbero essere autorizzati a dominare la conversazione”.

Rileggete questa frase sopra per favore. Perché è tanto ovvia quanto centrale. E molte delle iniziative che stiamo vedendo negli ultimi mesi servono proprio a questo: a dominare la conversazione. Ma, come ho scritto nell’editoriale del nostro ebook Generazione AI, il dibattito sull’intelligenza artificiale non può restare confinato tra gli addetti ai lavori, specie se questi sono principalmente dirigenti di startup e imprese con un obiettivo molto chiaro, che non coincide per natura col bene comune.

Intanto, anche l’Onu ha creato il suo comitato di esperti sull’AI, scrive Wired Italia.

Chatbot come ChatGPT e Bard hanno risposto alle domande dei ricercatori con una serie di idee errate e false sui pazienti neri, sostiene lo studio, pubblicato sulla rivista Digital Medicine, e riportato dall’agenzia AP. Che riferisce anche alcune perplessità rispetto al tipo di domande fatte dai ricercatori: “nessun dottore sano di mente farebbe quel tipo di ricerche”, ha commentato un medico che non ha preso parte a quello studio, pur riconoscendo la necessità di indagare punti di forza e di debolezza di questi modelli.

“​​I modelli linguistici di grandi dimensioni (LLM) sono stati proposti per l'uso in medicina e si sono sviluppate partnership commerciali tra gli sviluppatori di LLM e i fornitori di cartelle cliniche elettroniche”, scrivono gli autori dello studio. “Mentre continuano a diffondersi, gli LLM possono amplificare i pregiudizi, propagare le disuguaglianze strutturali esistenti nei dati di addestramento e, in ultima analisi, causare danni a valle. Sebbene alcuni studi abbiano valutato le applicazioni dei LLM per rispondere a domande mediche, rimane ancora molto lavoro da fare per comprendere le criticità di questi modelli nel fornire supporto agli operatori sanitari. Studi precedenti sui biases nei LLM hanno rivelato pregiudizi di genere e razziali su compiti linguistici generali, ma nessun lavoro ha valutato se questi modelli possano perpetuare una medicina basata sulla razza”.

APPROFOMDIMENTI

AI E ITALIA
Comitati, commissioni e strategie tricolori

EVENTI
Ci vediamo il 31 ottobre al Circolo dei lettori di Torino per parlare di AI e informazione.

DIFFONDI LA NEWSLETTER
Ti è piaciuta la newsletter? Inoltrala a chi potrebbe essere interessato! Promuovila sui social. La newsletter (che è fatta nel mio tempo libero) resta gratuita, indipendente, senza sponsor, mandanti o agende altrui, e si diffonde col passaparola dei suoi stessi utenti.