Non c’è dubbio che l’intelligenza artificiale sia l’argomento del momento. Tutti ne parlano, la temono o la celebrano. Ma mentre ci perdiamo in discussioni apocalittiche sui robot senzienti alla Matrix, tendiamo ad ignorare un fenomeno molto più vicino a noi: l’IA è già qui, “nascosta” negli oggetti che usiamo ogni giorno.
È da almeno vent’anni che si parla di Internet of Things, ma solo ora stiamo iniziando a scoprirne tutte le possibilità – e a fare la differenza è proprio l’integrazione dell’intelligenza artificiale.
Oggi lo smartwatch non si limita più a contare i passi: analizza i tuoi dati biometrici, predice i tuoi stati di salute e ti consiglia quando andare dal medico. La bilancia smart non si accontenta di pesarti, ma utilizza algoritmi complessi per stimare la tua composizione corporea e fornirti consigli nutrizionali.
Tutto molto bello, tutto molto futuristico. Ma c’è un piccolo dettaglio che dovremmo considerare: quanto possiamo fidarci di questi consigli?
Consigli sulla salute, senza certificazioni adeguate
Una questione che non si affronta molto è che questi dispositivi smart forniscono informazioni mediche senza essere certificati come dispositivi medici.
Insomma, quando lo smartwatch da 200 € registra un ritmo cardiaco irregolare, che potrebbe suggerire aritmie o altri problemi, bisogna tenere in considerazione che questo dispositivo non ha mai superato i test di validazione clinica che invece deve affrontare un dispositivo medico certificato – il quale, infatti, può arrivare a costare anche 10 volte tanto!
La differenza di prezzo non è casuale: riflette anni di ricerca, test clinici, certificazioni e assunzione di responsabilità legale.
Ma quando il tuo orologio per il fitness ti suggerisce di consultare un cardiologo, su quali basi sta facendo questa raccomandazione? Quale margine di errore ha? Quanti falsi positivi genera?
[Ancora più pericoloso, a ben pensarci, è lo scenario opposto, in cui lo smartwatch registra un’attività cardiaca regolare e non rileva delle anomalie potenzialmente fatali…]
Il problema si amplifica quando consideriamo che questi dispositivi sono soggetti alle famose “allucinazioni” dell’AI: interpretazioni errate dei dati che possono portare a conclusioni completamente sbagliate. In ambito medico, questo può tradursi in ansia inutile o, peggio ancora, in falsa sicurezza.
Ti potrebbe interessare anche: Regolamento dispositivi medici: cosa è cambiato e a quali prodotti si applica
Dallo smartwatch alla fabbrica: i macchinari industriali e i rischi dell’intelligenza artificiale
Quello che rende questa situazione particolarmente interessante dal punto di vista della sicurezza industriale è che, in un certo senso, il problema si sta replicando anche nelle macchine e nei sistemi industriali. L’AI viene integrata nei macchinari, nei sistemi di controllo e nei dispositivi di sicurezza senza che esistano ancora normative tecniche specifiche per garantirne l’affidabilità.
Certo, nel mondo industriale abbiamo standard di sicurezza molto più rigorosi rispetto al mercato consumer, ma l’integrazione dell’AI sta creando zone grigie normative che richiedono attenzione immediata.
Ti potrebbe interessare anche: Intelligenza artificiale e responsabilità giuridiche: sfide e normative in evoluzione
Come membro del gruppo di lavoro che ha appena iniziato a redigere le linee guida per l’applicazione del nuovo Regolamento Macchine, sono testimone diretto di quanto questa sfida sia complessa e urgente: come regolamentare sistemi che per loro natura si modificano nel tempo?
Una macchina industriale che utilizza algoritmi di machine learning per ottimizzare la produzione, ad esempio, potrebbe sviluppare comportamenti imprevisti che i progettisti non hanno anticipato.
Dunque, il punto del problema è: come si certifica un sistema che impara e si modifica autonomamente?
I tradizionali processi di validazione e certificazione, infatti, si basano su comportamenti prevedibili e replicabili. Ma l’AI, per sua natura, evolve e si adatta, rendendo obsoleti i nostri metodi di controllo tradizionali.
Nel settore consumer, questo può significare prodotti che vengono lanciati sul mercato senza adeguati (o specifici) controlli di qualità, come nel caso dei dispositivi para-medicali. Nel settore industriale, potrebbe significare sistemi di sicurezza che sviluppano punti ciechi imprevisti o che prendono decisioni basate su pattern che non comprendiamo completamente.
→ Questo tema, di stretta attualità, è al centro del mio ultimo libro: “Intelligenza artificiale: i rischi nelle fabbriche. Guida per chi vuole implementare l’IA negli stabilimenti industriali”
Verso una nuova cultura della sicurezza
Anche nel mondo della sicurezza, l’IA ci pone davanti a una sfida epocale, che impone di modificare radicalmente i nostri schemi di pensiero. L’obiettivo non è certo fermare l’innovazione tecnologica, ma stabilire il modo migliore per accompagnarla, creando una nuova e adeguata cultura della sicurezza.
Alcuni punti di partenza potrebbero essere:
- Trasparenza negli algoritmi: I produttori dovrebbero essere trasparenti sui limiti e sui margini di errore dei loro sistemi AI.
- Nuovi standard di certificazione: È necessario sviluppare protocolli di test specifici per sistemi che utilizzano l’AI, sia in ambito consumer che industriale.
- Educazione degli utenti: Gli utilizzatori devono avere ben chiaro quando si stanno affidando a consigli generati da AI e quali sono i limiti di questi sistemi. In ambito industriale, questo significa anche implementare procedure di sicurezza che richiedano obbligatori passaggi di validazione umana.
- Responsabilità condivisa: Produttori, enti regolatori e utilizzatori devono essere tutti coinvolti (e responsabilizzati) con l’obiettivo di creare un ecosistema sicuro.
Conclusione: siamo pronti al futuro?
L’AI non è più una promessa: è già qui, integrata nei dispositivi che tocchiamo ogni giorno nella vita privata e nei sistemi con cui lavoriamo. La domanda giusta non è se questa tecnologia cambierà il nostro mondo, ma se saremo in grado di governare l’evoluzione in modo sicuro e responsabile.
Come consulenti in sicurezza industriale abbiamo la responsabilità di essere pionieri anche in questo campo, sviluppando approcci innovativi per valutare e mitigare i rischi di questa nuova era tecnologica.
Se ti interessa questo tema, ho scritto un libro che ne parla!
Lo trovi qui su Amazon.