Il 12 giugno 2026 Google ha depositato querela nel Southern District of New York contro la "Outsider Enterprise", rete cibernetica con sede in Cina che ha convertito l'AI generativa in componente industriale di una piattaforma phishing-as-a-service. Il caso segna la prima volta che un big tech ricorre alla via civile per colpire l'abuso strutturato del proprio LLM da parte di criminali organizzati, con l'FBI e i principali carrier telefonici americani in supporto operativo.
- La rete Outsider Enterprise ha utilizzato Gemini per generare codice HTML/CSS di siti di phishing, integrandolo direttamente nella propria piattaforma criminal-as-a-service
- La piattaforma offre oltre 290 template che impersonano Google, YouTube, USPS, istituzioni finanziarie e agenzie governative statunitensi
- Secondo Google, 2,5 milioni di messaggi smishing sono stati inviati ad utenti Android in due settimane, con oltre 55.000 segnalazioni di spam text
- L'FBI stima 3.870.000 carte di credito rubate e 1,9 miliardi di dollari in perdite dal luglio 2023, con sequestro di circa 100.000 USDT nell'operazione parallela "Ghost Hook"
Come Gemini è diventato il motore di una fabbrica di phishing
Secondo il dossier di Google, i membri della Outsider Enterprise hanno "attivamente incoraggiato l'uno l'altro" a usare Gemini per generare codice personalizzato di pagine di phishing. La tecnica si basa sull'ingegneria dei prompt: richieste presentate come assistenza innocua nella creazione di "pagine di riscatto regali", che in realtà producono artefatti HTML/CSS inline pronti per l'integrazione nella suite Outsider.
La struttura della rete è organizzata in cinque gruppi interconnessi con funzioni specializzate: Developer, Data Broker, Spammer, Theft e il gruppo Telegram di coordinamento. Il kit di phishing costa 88 dollari a settimana o 200 dollari al mese, acquistabile tramite il bot Telegram @OutsiderCodeBot. La dashboard include tracciamento delle performance e keystroke logging in tempo reale.
Google ha disabilitato gli account Gemini e le infrastrutture collegate all'abuso. La società non specifica tuttavia quali controlli tecnici siano stati rafforzati per prevenire analoghi exploit futuri, oltre alla revoca degli account identificati.
I numeri di una campagna industriale: da 9.000 siti a milioni di URL
La scala dell'operazione Outsider Enterprise esce fuori dai parametri delle campagne di phishing tradizionali. Secondo i dati riportati da Google, la rete ha generato oltre 9.000 siti falsi e più di un milione di URL fraudolenti collegati al servizio. In un arco di due settimane — dal 18 maggio al 1 giugno 2026 — i messaggi smishing raggiungono i 2,5 milioni di invii verso utenti Android, con oltre 55.000 spam text segnalati e una media superiore di due reclami al minuto.
"The operation weaponized Gemini to help generate fraudulent phishing pages and deploy massive SMS phishing ('smishing') attacks"
— Google, citato da The Hacker News
Le stime sulle vittime oscillano tra centinaia di migliaia secondo Google e cifre aggregate molto più elevate nell'orizzonte temporale ampliato dell'FBI. Il Bureau stima 3.870.000 carte di credito rubate e perdite per 1,9 miliardi di dollari dal luglio 2023. Nell'operazione parallela "Ghost Hook", l'FBI ha sequestrato domini e circa 100.000 USDT da wallet collegati alla rete.
Un fronte legale inedito: RICO Act e responsabilità delle piattaforme AI
La querela di Google invoca due leggi federali statunitensi: il RICO Act, tradizionalmente impiegato contro organizzazioni criminali strutturate, e il Lanham Act, che tutela i marchi dall'uso fraudolento. La scelta del RICO è particolarmente significativa: applica un framework penale a scopo civile contro una rete che opera all'estero, aggirando le difficoltà di giurisdizione su singoli individui non ancora identificati.
La firma del General Counsel DeLaine sul deposito, citata dal New York Times tramite Cyber Security News, conferma la natura strategica dell'azione. Google non si limita a richiedere risarcimenti: mira a stabilire che l'abuso di piattaforme AI generative costituisca oggetto di azioni civili esecutive, con la piattaforma stessa come parte lesa invece che semplice spettatore.
Il caso si colloca in un vuoto normativo ancora aperto. Nessuna legge federale specifica regola oggi la responsabilità dei provider di LLM per output generati e successivamente impiegati in attività criminali. Google sostiene sette proposte bipartisan, incluso lo Stop SCAMS Act, che indirizzerebbe il Congresso verso un framework nazionale anti-truffa.
Perché è importante
Il dossier non documenta misure correttive specifiche adottate da Gemini per prevenire abusi futuri oltre alla disabilitazione degli account individuati. La fonte non specifica inoltre se altre piattaforme AI oltre a Gemini siano state utilizzate dalla rete, né identifica i nomi personali degli operatori dietro la Outsider Enterprise.
L'esito giudiziario della querela è in corso al momento della notizia, senza termini certi per una decisione. Il numero esatto di vittime e perdite totali verificate rimane indeterminato: le cifre disponibili sono stime, non consuntivi contabili. Non emerge inoltre se Google abbia subito danni economici diretti oltre all'erosione della reputazione di marca.
L'angolo tecnico del caso — LLM come modulo generativo all'interno di piattaforme criminal-as-a-service — solleva questioni che il brief non affronta testualmente: la natura dei dati esposti dalle vittime, l'eventuale presenza di meccanismi di evasione dei controlli di sicurezza di Gemini, la frequenza con cui i prompt ingegnerizzati superino i filtri di moderazione.
Coordinamento carrier e il ruolo dell'FBI
La risposta all'Outsider Enterprise ha coinvolto AT&T, T-Mobile e Verizon in un'azione di blocco dei messaggi a livello carrier — una cooperazione rara tra competiti diretti sotto coordinamento di un'azienda tech. Brett Leatherman, Assistant Director dell'FBI Cyber Division, ha dichiarato che "i criminali usano l'AI per rendere le frodi più convincenti e difficili da rilevare". Secondo la stessa fonte, i responsabili "hanno costruito un business impersonando marchi di fiducia per defraudare centinaia di migliaia di vittime".
Il modello difensivo di Google integra rilevamento AI contro frodi generate con la stessa AI: un paradosso operativo che caratterizza sempre più la cybersecurity del 2026. Il blog ufficiale riporta che le difese Google intercettano oltre 10 miliardi di messaggi malevoli al mese, un ordine di grandezza che giustifica l'investimento in strumenti automatici ma che non elimina il rischio di falsi negativi su campagne prompt-engineered.
FAQ
Perché Google ha citato in giudizio invece di limitarsi alla risposta tecnica?
La via civile serve a stabilire un precedente legale sulla responsabilità degli abusi di piattaforme AI generative, oltre a ottenere ingiunzioni e sequestri che la sola risposta tecnica non permette.
La Cina ha sponsorizzato ufficialmente l'operazione?
Il brief riporta che la rete ha "sede in Cina", ma non emerge alcuna evidenza di sponsorizzazione governativa. "Based in China" non equivale a operazione di stato-nazione.
Gemini presenta una vulnerabilità di sicurezza?
No. L'abuso avviene tramite account legittimi con prompt ingegnerizzati per apparire innocui. Non è una vulnerabilità tecnica del modello, ma un exploit funzionale delle capacità generative.
Fonti
- https://cybersecuritynews.com/google-sues-chinese-cybercrime-network/
- https://thehackernews.com/2026/06/google-sues-chinese-smishing-network.html
- https://blog.google/innovation-and-ai/technology/safety-security/combatting-ai-scams/
- https://thehackernews.com/
- https://thehackernews.com/p/upcoming-hacker-news-webinars.html
- https://thehackernews.com/search/label/Threat%20Intelligence
- https://thehackernews.com/search/label/Vulnerability
- https://thehackernews.com/search/label/Cyber%20Attack
Le informazioni sono basate sulla fonte citata e aggiornate al momento della pubblicazione.