Allarmi di emergenza IA in arrivo: l’umanità potrebbe non essere pronta
L’Intelligenza Artificiale Nelle Emergenze: Un Aiuto Silenzioso Tra Efficienza e Sospetto
Mentre l’azienda EM1 vanta contratti con circa un centinaio di agenzie governative e distretti scolastici, nessuno di questi utilizza ancora la sua tecnologia per automatizzare le allerte meteo estreme. Attualmente, l’impiego si limita all’elaborazione di piani e preparazioni interne. Nonostante ciò, tutti gli esperti intervistati per questo articolo concordano sul fatto che molti responsabili delle emergenze stiano già utilizzando i chatbot per redigere messaggi, anche se non lo ammettono pubblicamente.
Sutton, istruttrice di corsi di formazione sulle allerte, ha osservato che i partecipanti le presentano spesso avvisi di alta qualità, redatti in pochi secondi grazie a strumenti come ChatGPT o Gemini. "L’adozione ufficiale è piuttosto bassa, ma le persone la usano in modo non ufficiale, assolutamente", afferma Sarah Miller, professoressa di gestione delle emergenze al Pierce College in Florida e istruttrice di lunga data presso il National Disaster Preparedness Training Center. "Utilizzano i loro account personali, o quelli gratuiti".
Sembrerebbe un compromesso semplice: se l’IA è migliore e più veloce degli esseri umani, e la differenza tra un’allerta efficace e una inefficace può essere una questione di vita o di morte, dovremmo usarla per ogni ondata di calore o incendio. Eppure, anche i ricercatori più ottimisti sulla tecnologia chatbot avvertono che un passaggio completo potrebbe rivelarsi controproducente. I cittadini scettici nei confronti dell’IA o che nutrono sfiducia nel governo potrebbero infatti rifiutare le agenzie che pubblicano grafiche o post sui social media generati dall’intelligenza artificiale. A Syracuse, New York, ad esempio, un sindacato di dipendenti pubblici ha fatto causa al governo locale per l’utilizzo di un servizio di IA per rispondere a chiamate al 911 non di emergenza.
"Ci fidiamo di ciò che percepiamo come autentico e che si preoccupa di noi", ha dichiarato Ginny Katz, fondatrice di HazAdapt, una società di consulenza che aiuta i funzionari di emergenza a capire come utilizzare la tecnologia. "Il contenuto generato dall’IA non sembra autentico". Esiste anche il rischio che i chatbot possano consentire ai gestori delle emergenze di inviare più allerte, e più velocemente, aumentando il pericolo di una "fatica da allerta", rendendo il pubblico meno reattivo.
Come in altri settori in cui l’IA viene impiegata, gli esperti di disastri sottolineano che, per il momento, il software è tanto capace quanto la persona che lo utilizza. Un responsabile delle emergenze esperto potrebbe velocizzare la comunicazione con il pubblico facendo redigere una serie di allerte da un chatbot, ma uno inesperto, che si affretta a creare un’allerta urgente, non saprebbe come valutare l’output di un modello come ChatGPT o Claude.
Anche se la tecnologia è ancora lontana dal poter funzionare senza un esperto umano nel ciclo, questo non ha impedito a molti dipartimenti di gestione delle emergenze a corto di personale di utilizzarla. Per quanto riguarda l’impatto della proliferazione di contenuti generati dall’IA sulla fiducia del pubblico nel governo, gli esperti ritengono sia troppo presto per dirlo.
"Se ti inviasse un messaggio un essere umano rispetto a un computer, a chi crederesti di più in termini di accuratezza?", ha domandato Justin Snair, fondatore di Preppr, un’altra azienda che offre software di IA ai responsabili delle emergenze. La risposta, ha concluso, dipende dalla persona che riceve il messaggio.