Le nuove funzioni AI di Apple Watch normalizzano l’idea della tecnologia sempre in ascolto

Apple spinge i confini della privacy: i nuovi Watch ascoltano, e trascrivono, il mondo attorno a te.

Apple sta cercando di far accettare, e persino accogliere, una nuova realtà ai consumatori: la tua tecnologia è sempre in ascolto. All’evento “Surprise and Shine” di mercoledì, dove l’azienda ha presentato la sua nuova linea hardware, la vera sorpresa non è stato l’iPhone pieghevole, ma come il gigante tecnologico, storicamente sensibile alla privacy, abbia deciso che i suoi nuovi orologi saranno ora in grado di elaborare l’audio in tempo reale e trascrivere ciò che viene detto.

Questo solleva interrogativi non solo sull’effettiva richiesta di tale tecnologia da parte dei consumatori, ma anche se Apple si sia spinta in questa direzione per timore che altre aziende, come OpenAI, potessero presto introdurre dispositivi AI competitivi. Attualmente, diverse startup operano sulla convinzione che la trascrizione basata sull’IA sia un caso d’uso chiave per i consumatori, spesso applicata a note di riunioni, lezioni o interviste. Alcune, come il pendente AI Friend e Amazon Bee, hanno esplorato l’ambito di compagni AI sempre disponibili per aiutare a ricordare la giornata.

Apple ha scelto una via leggermente diversa con le funzionalità “Audio Intelligence,” “Live Rewind,” e “Siri Recap” dei suoi nuovi Watch. L’azienda si muove sul confine tra accessibilità e utilità da un lato, e quella che inizia a sembrare tecnologia invasiva dall’altro.

Di per sé, “Audio Intelligence” sembra essere una funzione utile per persone sorde o con problemi di udito, in quanto può avvisare chi indossa l’Apple Watch di suoni come sirene, allarmi, campanelli, pianti di bambini e altro ancora, utilizzando l’IA direttamente sul dispositivo. Questo può funzionare anche quando l’iPhone non è presente e, in alcuni casi, potrebbe fornire assistenza salvavita, ad esempio quando scatta un allarme antincendio o un rilevatore di monossido di carbonio. È improbabile che qualcuno si opponga a questo tipo di IA audio.

Tuttavia, “Live Rewind” e “Siri Recap” si spostano dallo spazio della tecnologia assistiva in un’area più ambigua. Sebbene le protezioni dei dati di Apple possano renderle più accettabili per alcuni, permane la possibilità che normalizzare la tecnologia di ascolto non sia la mossa migliore per un’azienda attenta alla privacy. Ciò è particolarmente vero dato il più ampio contraccolpo dei consumatori contro la tecnologia di sorveglianza come le telecamere Flock, i data center AI e le app AI in generale.

Per cominciare, la funzione AI “Live Rewind” consente di tornare indietro nel tempo di 15 secondi e trascrivere ciò che è stato appena detto, premendo due volte la Digital Crown dell’orologio. Questa trascrizione può poi essere salvata nella nuova app Siri autonoma di Apple per essere consultata in seguito. Apple suggerisce che ciò potrebbe essere utilizzato per ricordare consigli di libri, idee brillanti di colleghi o qualcosa che non è stato sentito la prima volta, ma significa anche che si può essenzialmente “catturare” chiunque dica qualcosa che non intendeva necessariamente fosse registrato e prenderne nota.

Questo ha implicazioni sul consenso, non solo da un punto di vista etico ma anche legale. Produttori di dispositivi AI come Plaud, ad esempio, consigliano ai clienti di ottenere il consenso legalmente richiesto prima di registrare. I termini di servizio di Amazon Bee ricordano agli utenti che sono gli unici responsabili del rispetto della legge sulla privacy dei dati dei minori, non Amazon. Poiché Apple non salva l’audio, non è chiaro come il sistema giudiziario potrebbe gestire queste nuove trascrizioni solo testuali. È possibile che le note possano essere introdotte come prova in tribunale, ma la loro mancanza di audio potrebbe renderle più difficili da autenticare o verificare. Inoltre, le regole probatorie sul loro utilizzo varieranno probabilmente a seconda dello stato.

Al di là delle questioni legali, l’idea che qualcuno possa sempre registrare dal proprio orologio ha implicazioni culturali. Già i dispositivi di registrazione hanno influenzato il modo in cui le persone si comportano nella vita reale, come dimostrato da studi, così come i social media e la cultura della sorveglianza dei dati. Sapere di poter essere registrati in qualsiasi momento ha un effetto di freno su come si interagisce con gli altri e ci si esprime. Tuttavia, scattare una foto o registrare un video richiede ancora un gesto piuttosto ovvio da parte del registratore: bisogna sollevare il telefono e puntarlo verso l’azione. Catturare un frammento audio da trasformare in trascrizione semplicemente premendo la Digital Crown dell’orologio è un gesto discutibilmente molto più sottile, anche se accompagnato da un segnale acustico e un’animazione a schermo intero di un microfono, afferma Apple.

Un’altra nuova funzione di Apple Watch, “Siri Recap,” utilizza l’ascolto ambientale per “prendere appunti di alto livello” delle conversazioni, che possono essere rivisti nell’app iOS di Siri. Queste note genereranno automaticamente un titolo, un riepilogo e i punti chiave basati su ciò che è stato registrato e sintetizzato dall’IA. Non saranno trascrizioni esatte. Apple suggerisce che ciò potrebbe avere senso per registrare i punti salienti di una riunione o informazioni chiave da un colloquio con gli insegnanti.

L’azienda ha anche cercato di rassicurare gli utenti di aver affrontato queste funzionalità di ascolto con rispetto per la privacy dell’utente. Apple sottolinea che “Siri Recap” non è sempre attiva per impostazione predefinita come altri dispositivi indossabili AI. Invece, si può scegliere quando abilitarla, ad esempio solo al lavoro o solo durante il giorno. Inoltre, la funzione può essere attivata e disattivata in qualsiasi momento dal Centro di Controllo. In particolare, Apple evidenzia di non creare o archiviare registrazioni audio e che l’audio grezzo non è accessibile, nemmeno ad Apple. Non identifica né attribuisce gli oratori e protegge le trascrizioni e i riepiloghi generati con crittografia end-to-end.

Se questo sia sufficiente perché i consumatori non percepiscano la funzione come inquietante è un’altra questione. O Apple ha trovato il giusto equilibrio tra utilità e privacy, o sta per assistere a un contraccolpo da parte dei consumatori.