Intelligenza Artificiale, l’oracolo imperfetto: una riflessione sui confini del calcolo

A tutti è noto che, già da qualche anno, si discute ampiamente di Intelligenza Artificiale.
Molti si interrogano sulla sua potenziale pericolosità e sui rischi che comporta.
Per quanto mi riguarda, sono sempre stato favorevole agli sviluppi tecnologici, pur consapevole che ogni progresso porta con sé un lato potenzialmente molto rischioso. È una costante della storia umana: fin da quando abbiamo imparato a usare un bastone o una pietra come strumenti, il pericolo di farne un cattivo uso è sempre esistito, indipendentemente dal livello tecnologico raggiunto.

Per questo motivo non mi ero mai soffermato più di tanto sulla questione. Tuttavia, l’altro ieri mi è capitato di leggere alcuni commenti sulla pagina Facebook Dischi da leggere, relativi a una discussione sulla ritmica batteristica di Phil Collins nel brano dei Brand X Smacks of Euphoric Hysteria. La cosa mi ha stimolato un paio di brevi riflessioni.
​
Il fatto.
Un lettore ha chiesto a un altro se fosse in grado di comprendere la ritmica del groove di Collins nel brano citato (segnatamente nell’ultima sezione, dal minuto 3’33’’). L’altro ha risposto in modo un po’ bizzarro, elencando i metri che si susseguirebbero dall’inizio fino a un punto non precisato.

Incalzato dal primo a proporre una risposta più precisa, limitata alla sezione indicata, il secondo ha replicato con un link a un sito che utilizza l’Intelligenza Artificiale, il quale forniva una trascrizione completa del brano accompagnata da un audio sincronizzato, utile per seguirla passo passo.
Tralasciando la stranezza della risposta – poiché è paradossale voler dimostrare di comprendere una ritmica semplicemente rimandando alla trascrizione fatta da un terzo – ciò che mi ha colpito è che la trascrizione, per quanto formalmente sofisticata, risultava sostanzialmente errata (come il primo lettore ha subito fatto notare).
Incuriosito, ho poi “privatamente” sottoposto la stessa parte del brano a un’altra IA. Il risultato è stato diverso, ma anch’esso sbagliato.
La cosa mi ha sorpreso: se c’è un campo in cui una “macchina” dovrebbe eccellere è proprio il calcolo, e nella musica nulla è più aritmetico di tempi e ritmi. Tuttavia, questo episodio mi sembra evidenziare un problema da più punti di vista.
La fallibilità dell’IA a volte è evidente, altre meno, e in certi casi – come questo – è difficile da individuare.
È logico pensare che, con il tempo, i modelli si affineranno e gli errori diventeranno sempre più rari o impercettibili. Ma proprio per questo sarà sempre più difficile riconoscerli e dimostrarli: quanti saranno in grado di farlo?
Ed è qui che intravedo una potenziale pericolosità.
Progressivamente, e in modo quasi inevitabile, delegheremo all’IA una quantità crescente di analisi e sintesi; pure a fronte di un certo margine di errore statistico: le sue imprecisioni saranno comunque meno numerose – e meno evidenti – di quelle umane, e la capacità collettiva di riconoscere un errore si ridurrà ulteriormente. Anche perché è presumibile che gli specialisti dei vari settori diminuiranno.
È probabile che ci abitueremo rapidamente a questo stato di cose, in tutti i campi: scientifici, umanistici, tecnici, persino esistenziali.
Non credo sia lontano il giorno in cui sottoporremo noi stessi, il nostro comportamento, al giudizio dell’IA. Forse persino i tribunali non saranno più popolati da magistrati e avvocati indaffarati, ma soltanto da un pubblico curioso.
Indipendentemente da chi – politicamente o concretamente – controllerà o deterrà le “chiavi” dell’intelligenza, la moltitudine finirà per fidarsi e dunque affidarsi all’IA, come a un nuovo oracolo dai poteri quasi divini.