I truffatori AI sono migliori nel creare fiducia rispetto agli umani.
L’IA Supera gli Umani nella Creazione di Fiducia per le Truffe: Uno Studio Rivelatore
L’idea che i truffatori possano utilizzare l’intelligenza artificiale per affinare i loro inganni, lucidare il linguaggio e rendere più scorrevole la conversazione con le vittime è ora una realtà palpabile per chiunque combatta le operazioni fraudolente che sottraggono decine di miliardi di dollari all’anno a livello globale. Ma può l’IA sostituire completamente un truffatore umano, costruendo autonomamente la ragnatela di inganni che porta a un falso investimento? Un nuovo esperimento suggerisce che sì, può farlo, e potrebbe persino essere in grado di condurre la maggior parte di queste truffe a lungo termine in modo più efficace degli esseri umani.
Ricercatori di quattro università – Amrita Vishwa Vidyapeetham in India, l’Università Ca’ Foscari di Venezia, l’Università di Melbourne e la Ben Gurion University del Negev – hanno condotto un ampio studio sull’uso e il potenziale dei chatbot IA generativi nell’industria delle truffe in crescita, incentrata su una forma di frode nota come "pig butchering" (letteralmente "macellazione del maiale"). Si tratta di truffe romantiche basate su testo che alla fine si trasformano in falsi investimenti in criptovalute, sottraendo alle vittime somme a sei cifre. Nel loro studio, i ricercatori hanno messo i chatbot IA direttamente contro gli esseri umani in una simulazione del processo di truffa, o più specificamente, delle lunghe conversazioni volte a costruire fiducia che alla fine portano a sollecitare un falso investimento dalla vittima.
Hanno scoperto che per le fasi iniziali di costruzione della relazione della truffa – la fase che nelle truffe del mondo reale rappresenta tipicamente la parte più lunga delle interazioni con la vittima, spesso estendendosi per mesi – un chatbot IA si è dimostrato straordinariamente efficace, impersonando con successo un essere umano e, secondo alcune misure, superando i veri "truffatori" umani nel loro esperimento. Dopo una settimana di conversazioni con 22 soggetti di test reclutati per fungere inconsapevolmente da "vittime", i chatbot e i truffatori umani sono stati incaricati di chiedere alla vittima di scaricare un’app o giocare a un gioco online, come indicatore della loro disponibilità a soddisfare la richiesta del truffatore. Quasi la metà dei soggetti di test ha soddisfatto quella richiesta per il chatbot IA, mentre meno di uno su cinque ha abboccato quando parlava con un umano. I soggetti hanno anche valutato il loro livello di fiducia con ogni "persona" con cui stavano chattando e hanno assegnato punteggi significativamente più alti al bot IA.
Ciò suggerisce, argomentano i ricercatori, che i chatbot IA potrebbero presto assumere gran parte del processo di truffa come agenti fraudolenti completamente indipendenti, sostituendo persino il personale, spesso vittime di tratta di esseri umani costrette ai lavori forzati, che operano nelle truffe principalmente nel sud-est asiatico. Per evitare di attivare le salvaguardie integrate nei modelli linguistici di grandi dimensioni per rilevare le truffe, un truffatore umano prenderebbe il controllo della conversazione solo nella fase finale del processo per indirizzare la vittima verso una falsa app o sito web di investimento. "Facendo eseguire automaticamente la prima fase completa della truffa con gli LLM su vasta scala, si porta la vittima a un punto in cui ha un livello di fiducia molto alto. Poi, trasferendo il tutto al truffatore umano alla fine, si aggirano completamente le salvaguardie del fornitore", afferma Yisroel Mirsky, professore di informatica alla Ben Gurion University del Negev, specializzato in sicurezza IA. "Con relativamente poco sforzo, siamo in grado di creare un agente che può superare un umano nella costruzione di questa fiducia emotiva sfruttabile".
Per comprendere come funziona in pratica il "pig butchering", i ricercatori hanno intervistato 145 ex operatori delle truffe, inclusi sopravvissuti alla tratta di esseri umani che erano stati costretti a lavorare in complessi di truffe in Cambogia, Myanmar e Laos. Basandosi in parte su queste interviste, così come su trascrizioni e guide fornite dagli ex operatori, i ricercatori descrivono un modello di funzionamento delle truffe che chiamano "amo, lenza e piombo" (hook, line, and sinker). Una vittima viene agganciata con un messaggio iniziale intrigante, poi viene "avvolta" con una conversazione a lungo termine volta a costruire una relazione, e solo alla fine di questo processo viene ingannata per fare un falso investimento. In questo sistema di truffe, i ricercatori hanno capito che la stragrande maggioranza del lavoro dei truffatori consiste in innocue conversazioni amichevoli o romantiche. Si tratta di un compito, hanno ipotizzato, che un LLM potrebbe essere in grado di svolgere altrettanto bene di un essere umano. Gli operatori delle truffe intervistati dai ricercatori hanno confermato di utilizzare spesso l’IA per affinare il linguaggio e la conversazione, per la traduzione, per rendere più convincenti le false identità che interpretavano e per i deepfake video. Tuttavia, i ricercatori hanno deciso di verificare se un LLM da solo potesse svolgere autonomamente la fase conversazionale della truffa senza alcun intervento umano.