Floris De Hingh (34 anni) ha scaricato il gioco Pokémon Go il giorno stesso in cui è stato reso disponibile. Era l’estate del 2016 e ben presto tutta l’Olanda si è ritrovata a vagare per le strade con uno smartphone fino a tarda sera alla ricerca di Pokémon. Persino anni dopo che la mania era ormai passata, il superfan De Hingh ha continuato a cercare in giro le creature virtuali.
Tuttavia, non avrebbe mai immaginato che le immagini che scattava mentre giocava servissero ad addestrare un sistema di intelligenza artificiale che ora, tra le altre cose, aiuterà i droni militari statunitensi a orientarsi. «Stavo semplicemente giocando», dichiara.
De Hingh non era l’unico a registrare immagini. Quasi 30 miliardi di scansioni di Pokémon Go, realizzate da centinaia di milioni di utenti, sono ora di proprietà di Niantic Spatial, società nata dall’azienda che ha originariamente sviluppato il gioco. Con quelle immagini ha addestrato un modello 3D che permette di navigare con estrema precisione anche in assenza di segnale GPS.
Alla fine dello scorso anno, Niantic Spatial e l’azienda statunitense Vantor hanno annunciato che Vantor avrebbe impiegato il sistema di navigazione per droni e altri robot militari. Vantor è un’azienda di software specializzata in intelligence spaziale, tra l’altro per la difesa. La notizia della collaborazione ha ricevuto pochissima attenzione da parte dei media.
Il contributo indiretto in ambito militare
In risposta alle domande dei giornalisti del quotidiano Trouw, Vantor nega che utilizzerà i dati di Pokémon Go. Tuttavia, l’azienda non vuole precisare se ciò significhi che il modello che verrà impiegato in ambito militare non sia stato progettato sulla base di quei dati.
Secondo Jeroen van den Hoven, professore di etica e tecnologia al Politecnico di Delft, è possibile trarre questa conclusione. «Senza l’enorme quantità di scansioni effettuate da tutti quei giocatori, lo sviluppo di questo sistema non sarebbe mai avvenuto così rapidamente», afferma. «I giocatori hanno contribuito indirettamente, in modo forse minimo ma comunque efficace, alle applicazioni militari».
Secondo Van den Hoven, è effettivamente difficile individuare con precisione quali parti del modello 3D di Niantic Spatial siano state addestrate dalle scansioni dei giocatori di Pokémon Go. A suo avviso, tutti i modelli di IA partono da set di dati che vengono poi arricchiti con molti altri dati. Il modello impara a riconoscere gli schemi e costruisce un sistema in cui i dati assumono una nuova forma e non sono più riconducibili alla loro origine.
I giocatori hanno acconsentito volontariamente
Anche Niantic Spatial non chiarisce quale ruolo preciso abbiano i dati di Pokémon Go nel modello che Vantor utilizzerà. In risposta a precedenti domande di Trouw su un’altra collaborazione, quella con l’azienda di consegne Coco Robotics, un portavoce ha affermato che le scansioni di Pokémon Go sono state utilizzate per addestrare una «versione iniziale» del modello.
In tale risposta, Niantic Spatial sottolinea inoltre che i giocatori di Pokémon Go hanno accettato volontariamente i termini e che l’azienda opera in modo etico. «Ci impegniamo, insieme a tutti i nostri clienti e partner, a garantire che i prodotti di Niantic Spatial vengano utilizzati in modo responsabile, nel rispetto dei diritti umani e dei principi etici», afferma l’azienda.
A una domanda di approfondimento sulla collaborazione con l’azienda del settore della difesa, Niantic Spatial non ha voluto rispondere. «Al momento non abbiamo nuove informazioni da fornire».
Contro la guerra in Iran
«È una tragedia», dice De Hingh. «All’inizio pensi di giocare e poi, all’improvviso, i tuoi dati possono essere utilizzati in una guerra». Il fatto che Vantor collabori, tra l’altro, con l’esercito americano lo preoccupa. «Sono fermamente contrario alla guerra che Trump sta conducendo contro l’Iran».
Van den Hoven: «Le persone che pensavano soltanto di giocare sono state chiaramente prese in giro. A poco a poco sta cominciando a diventare chiaro che le aziende non utilizzano necessariamente i nostri dati per migliorare davvero le nostre vite, ad esempio migliorando l’istruzione. Si tratta di fare soldi. Se possono vendere un set di dati o un modello di IA a un buon prezzo, lo faranno».
Secondo Van den Hoven, dobbiamo considerare quanto accaduto con Pokémon Go come un «red flag», un segnale di allarme. I giganti della tecnologia hanno approfittato avidamente del divario di conoscenza della società, sostiene il professore. «Lo si vede dal modo subdolo in cui questi dati sono stati raccolti», afferma. «Alcune persone all’interno dell’azienda forse sapevano già da tempo quali sarebbero potute essere le future modalità di utilizzo.»
Si tratta in particolare delle immagini che gli utenti hanno potuto effettuare dal 2021 nel gioco Pokémon Go. Non è un’attività obbligatoria e Niantic Spatial chiede separatamente il consenso per poter disporre delle immagini. Per guadagnare ricompense extra, il giocatore può effettuare una «scansione» filmando l’ambiente circostante con il proprio smartphone. In questo modo si scansionano tutti gli edifici, le strade e gli alberi a 360 gradi intorno a sé.
Concedendo il consenso, accetti ulteriori condizioni. In questo modo concedi all’azienda una «licenza trasferibile e sublicenziabile» per le scansioni, il che significa che essa può rivendere le tue immagini a terzi.
Droni smarriti
Inoltre, Niantic Spatial ha addestrato un proprio modello di navigazione basato su queste scansioni. Ha elaborato le immagini con l’aiuto dell’intelligenza artificiale per creare una mappa 3D dettagliata che consente di navigare senza connessione GPS. In questo modo, l’azienda diventa immediatamente un attore di primo piano in una tecnologia relativamente sconosciuta: il VPS, ovvero il sistema di posizionamento visivo.
Grazie al VPS è possibile orientarsi per strada utilizzando una fotocamera. Bastano solo due punti di riferimento, grandi pochi pixel, per determinare la propria posizione. Si tratta di un’alternativa ideale al più comune GPS, in luoghi privi di un buon segnale satellitare, da cui il GPS dipende.
Vantor cita i moderni campi di battaglia come esempio del tipo di luoghi «privi di copertura GPS» per i quali il VPS offre una soluzione. Nella guerra tra Russia e Ucraina, l’interferenza o il «jamming» dei segnali satellitari è una strategia ampiamente utilizzata. Di conseguenza, molti droni perdono l’orientamento.
L’azienda del settore della difesa intende far navigare ogni tipo di prodotto con il nuovo sistema. Dai droni militari a «veicoli, occhiali AR (realtà aumentata, ndr) e altre apparecchiature da campo», riferisce Vantor in un comunicato stampa.
I modelli di IA sono ormai da tempo delle armi
Questa collaborazione non è un caso isolato. I sistemi di IA vengono utilizzati da tempo per scopi militari. Ad esempio, la piattaforma di IA dell’azienda statunitense Palantir supporta l’esercito ucraino nell’identificazione degli obiettivi e nel processo decisionale relativo agli attacchi. Lo stesso sistema è stato utilizzato dall’esercito israeliano per i bombardamenti a Gaza, in cui sono stati uccisi molti civili.
Un modello di IA simile, sviluppato dalla società statunitense Anthropic, è stato impiegato dall’esercito degli Stati Uniti. Secondo i media americani, quel modello ha avuto un ruolo nei bombardamenti sull’Iran e nel rapimento del dittatore venezuelano Nicolás Maduro.
Van den Hoven non esclude in tutti i casi l’uso dei VPS in un contesto militare: «Se gli ucraini possono vincere con questo la guerra giusta contro l’aggressore Russia, si tratta di uno sviluppo positivo». Ma se il sistema finisse nelle mani sbagliate, secondo lui sarebbe davvero molto pericoloso.
La privacy è a rischio
De Hingh non aveva mai riflettuto sulle possibili applicazioni delle sue scansioni. Per molto tempo ha pensato: «Possono avere i miei dati, tanto non ho nulla da nascondere».
E questo è un atteggiamento molto diffuso, come sa bene Iris Muis, esperta di etica dei dati presso la Data School dell’Università di Utrecht.
Secondo lei, come utente non è possibile immaginare in che modo i propri dati possano essere utilizzati in futuro.
“Chissà, forse tra cinque anni ci sarà un’applicazione tecnologica con conseguenze che non si può assolutamente accettare.
Secondo Muis, anche la privacy dei giocatori e degli altri cittadini potrebbe essere a rischio. Hingh, infatti, ha effettuato delle scansioni anche all’interno del proprio appartamento. Niantic Spatial sembra essere interessata anche a quelle immagini. Tory Smith, direttore della gestione prodotti di Niantic Spatial, in un’intervista sul sito di Vantor lascia intendere che vorrebbe raccogliere più immagini di questo tipo degli interni.
Carrelli a guida autonoma
Il VPS, tra l’altro, non è adatto solo a scopi di difesa. A marzo Niantic Spatial ha annunciato una collaborazione con Coco Robotics. L’azienda americana intende utilizzare il VPS per i propri robot di consegna. I carrelli a guida autonoma consegnano già cibo a domicilio nelle città statunitensi e nella capitale finlandese Helsinki. Grazie al VPS, il robot Coco, dotato di quattro telecamere, è in grado di navigare con precisione al centimetro, secondo quanto afferma Niantic Spatial.
L’azienda non è affatto l’unica a considerare i consumatori dotati di una fotocamera come potenziali fonti per la raccolta di dati geografici. Ad esempio, gli occhiali intelligenti di Meta scansionano continuamente l’ambiente circostante dell’utente, gli occhiali AR di Apple creano mappe 3D degli spazi interni e le auto a guida autonoma di Waymo ricostruiscono modelli dettagliati delle strade urbane.
«Il gioco deve rimanere un gioco»
Secondo Van den Hoven, è di fondamentale importanza che la Commissione europea protegga i dati degli utenti stabilendo regole chiare per queste grandi aziende. Ma ritiene ancora più importante che non diventiamo dipendenti dai sistemi di navigazione di altri paesi.
«Se, ad esempio, Elon Musk disattivasse i suoi satelliti Starlink, tutti si perderebbero», afferma. «È importante che l’Europa sviluppi un equivalente funzionale di quel sistema VPS».
Il game designer britannico Adrian Hon consiglia ora ai giocatori di Pokémon Go di smettere di effettuare le scansioni. «Forse sarebbe addirittura meglio passare ad altri giochi; preferibilmente giochi più piccoli, perché quelli non vendono facilmente i dati.»
De Hingh ha smesso di giocare già da oltre un anno. Non a causa dei dati che doveva fornire, ma perché era stufo degli aggiornamenti.
«Continuavano ad arrivare nuove missioni e nuovi Pokémon.»
Per De Hingh la notizia è stata una «vera rivelazione». «Dobbiamo porre un limite ed evitare che le aziende raccolgano e rivendano questi dati e queste scansioni a loro piacimento», afferma. «Un gioco deve rimanere un gioco.»
