L’adolescenza dell’AI: potenza senza giudizio?

L’AI è entrata nell’età più complicata: non l’infanzia ingenua delle demo, né la maturità rassicurante delle infrastrutture. È l’adolescenza, quella fase in cui la forza cresce più in fretta del giudizio. Dario Amodei la descrive così: capacità che accelerano, mentre norme, istituzioni e cultura della responsabilità restano indietro. E se l’immagine può sembrare “narrativa”, il punto è tecnico e politico insieme: la asimmetria fra potenza e controllo non è un problema di percezione, è un problema di sistema. 

Il cuore del saggio è una mappa del rischio. Non solo l’AI che “fa cose da sola”, ma anche l’AI come moltiplicatore sociale. La prima frattura è la concentrazione: quando una quantità enorme di capacità cognitiva è impacchettata in pochi datacenter, l’incentivo non è soltanto innovare; è anche dominare. Non serve immaginare androidi: basta la dipendenza digitale del mondo reale e la possibilità di orchestrare cyber, ricerca, supply chain, persuasion, a velocità non umana. 

Poi c’è il paradosso più moderno: anche se l’autonomia fosse “messa in sicurezza”, resta il misuse. Rendere tutti più capaci significa anche rendere più economico il danno. È la democratizzazione delle competenze… senza democratizzazione della responsabilità. 

E infine l’economia: crescita forte, sì, ma con due ombre lunghe. La sostituzione del lavoro (soprattutto entry-level) e la concentrazione di ricchezza, che può tradursi in concentrazione di influenza. Amodei la mette in modo brutale: se il cittadino perde leva economica, la democrazia perde il suo “fondamento pratico”. 

Il messaggio, allora, non è “paura”. È governance. Misure tecniche (safeguard, interpretabilità, test) e misure politiche (regole, accountability, limiti all’opacità, incentivi corretti). L’adolescenza non si supera con moralismi o slogan, ma con istituzioni all’altezza della nuova potenza. E con una domanda che nel dibattito manca quasi sempre: chi controlla l’AI, controlla anche le condizioni del futuro?