Google Earth ha recentemente lanciato uno strumento di generazione di immagini AI chiamato Nano Banana, che permetteva agli utenti di sovrapporre scene generate da prompt testuali alle immagini satellitari reali. Tuttavia, meno di 24 ore dopo il lancio, la funzione è stata rimossa a causa di una valanga di critiche da giornalisti, ricercatori e verificatori di fatti.
I critici hanno dimostrato come fosse semplice utilizzare lo strumento per creare eventi falsi, come ad esempio la presenza di carri armati a Kiev o il Campidoglio americano allagato. Queste immagini generate non erano semplici illustrazioni, ma ereditavano la credibilità delle coordinate geografiche reali su cui venivano costruite, il che sollevava gravi preoccupazioni sulla possibilità di utilizzare questo strumento per diffondere disinformazione.
Il funzionamento di Nano Banana
Il funzionamento di Nano Banana era disarmante nella sua semplicità. Gli utenti potevano aprire la versione web di Google Earth, navigare verso qualsiasi luogo nel mondo, premere “crea immagine” e digitare una descrizione testuale. Il modello Nano Banana generava poi una scena sovrapposta all’immagine satellitare reale, scaricabile e condivisibile su qualsiasi altra piattaforma.
Il problema non era solo tecnico, ma strutturale. Le immagini generate non erano semplici illustrazioni, ma ereditavano la credibilità delle coordinate geografiche reali su cui venivano costruite. Ciò significa che le immagini generate potevano essere utilizzate per diffondere disinformazione e manipolare l’opinione pubblica, il che è un problema grave e che richiede una soluzione robusta.
Le critiche e la rimozione di Nano Banana
Le critiche a Nano Banana sono state numerose e provenivano da vari settori, tra cui giornalisti, ricercatori e verificatori di fatti. BBC Verify ha prodotto immagini di una Torre Eiffel crollata e di carri armati russi a Kiev, aggirando in alcuni casi i filtri di sicurezza. Google ha difeso lo strumento citando la filigrana invisibile SynthID, ma esperti e test indipendenti hanno mostrato che la protezione era aggirabile.
Di fronte a queste critiche, Google ha deciso di rimuovere la funzione di generazione di immagini AI Nano Banana. La società ha promesso di ripristinare la funzione solo dopo aver implementato guardrail più robusti, senza indicare alcuna data. Ciò significa che gli utenti dovranno aspettare per poter utilizzare nuovamente lo strumento, ma è importante che Google prende il tempo necessario per risolvere i problemi di sicurezza e di disinformazione.
Le implicazioni per il futuro
La rimozione di Nano Banana solleva importanti questioni sul futuro della generazione di immagini AI e sulla possibilità di utilizzare questo tipo di tecnologia per diffondere disinformazione. È importante che le società tecnologiche come Google prendano misure robuste per prevenire l’uso improprio di questi strumenti e per garantire che le immagini generate siano chiaramente identificate come tali.
In conclusione, la rimozione di Nano Banana è un passo importante per prevenire la diffusione di disinformazione e per garantire che le immagini generate siano utilizzate in modo responsabile. È importante che gli utenti siano consapevoli dei rischi associati alla generazione di immagini AI e che le società tecnologiche continuino a lavorare per migliorare la sicurezza e la trasparenza di questi strumenti.
La decisione di Google di rimuovere Nano Banana è un esempio di come le società tecnologiche possano prendere misure concrete per prevenire la diffusione di disinformazione e per garantire che le immagini generate siano utilizzate in modo responsabile. È importante che gli utenti continui a essere vigili e a verificare le informazioni prima di condividerle, e che le società tecnologiche continuino a lavorare per migliorare la sicurezza e la trasparenza dei loro strumenti.