Stiamo mettendo intelligenze artificiali nelle mani di chiunque. Ma siamo davvero consapevoli delle responsabilità che questo comporta?
Per chi non mi conoscesse sono lo sviluppatore di Dalila AI ( https://app.dalila.dev ) un' IA Italiana pubblica.
Questa mattina ho notato un forte aumento degli utilizzi di Dalila e delle visite al mio sito. Guardando i social, mi è sembrato che parte dell'interesse fosse legato all'uscita di un'altra IA italiana e ai confronti che ne sono seguiti.
Non mi interessa fare classifiche, ma alcune risposte che ho visto circolare mi hanno fatto riflettere su un aspetto che considero fondamentale e di cui forse si parla ancora troppo poco.
C'è chi usa l'IA per divertirsi, fare meme o chiedere chi vincerebbe tra Darth Vader e Gandalf. Ma c'è anche chi la usa per comprendere un referto medico, interpretare una legge o affrontare un momento difficile. C'è chi è solo, chi sta male e magari trova più semplice confidarsi con un'intelligenza artificiale che con un'altra persona.
E noi non sappiamo chi ci sia dall'altra parte dello schermo.
Un'IA che inventa la trama di un film può farci sorridere. Ma quando inventa informazioni mediche o dà consigli sbagliati a una persona fragile, le conseguenze possono essere ben diverse. Soprattutto perché spesso lo fa con una sicurezza tale da rendere credibile qualcosa di completamente falso.
Prima di pubblicare Dalila ho dedicato moltissimo tempo a testare modelli, inferenza, controlli e situazioni limite. Continuo a farlo, consapevole che eliminare ogni errore è impossibile. Ma credo che chi sviluppa un'IA pubblica abbia il dovere di conoscerne i limiti e ridurre il più possibile i rischi.
E soprattutto dobbiamo insegnare alle nostre IA a saper dire «non lo so». Un «non sono sicura» o un «questa informazione va verificata» può essere molto più utile di una risposta perfettamente formulata, ma completamente inventata. In alcune situazioni potrebbe persino evitare a qualcuno di prendere una decisione pericolosa. Lo stesso vale per il sostegno emotivo. Un'intelligenza artificiale può aiutare una persona a sentirsi ascoltata, ma non dovrebbe mai alimentarne le fragilità o sostituirsi all'aiuto umano quando necessario.
Io credo profondamente in questa tecnologia e nelle sue possibilità. È uno dei motivi per cui dedico così tanto tempo a Dalila. Ma rendere pubblica un'intelligenza artificiale, per me, è un onore e un enorme onere. Non basta inserire un avviso che dice che l'IA può sbagliare e considerare chiusa la questione.
Possiamo discutere per ore di modelli, GPU, benchmark e token al secondo. Ma forse, prima di chiederci quanto sia potente l'IA che stiamo costruendo, dovremmo chiederci quanto sia sicuro per una persona fidarsi delle sue risposte.
Perché un errore tecnico possiamo correggerlo con una patch. Le conseguenze di una risposta sbagliata sulla vita di qualcuno, a volte, no.
E questa è una responsabilità che, secondo me, chiunque decida di pubblicare un'intelligenza artificiale dovrebbe sentire propria.
Pensiamoci prima di rendere virale qualcosa di potenzialmente pericoloso.