Lingue pericolose
E' questo un tempo di Intelligenza Artificiale (detta brevemente AI) e, soprattutto in Internet, c'è un fiorire di iniziative, analisi, commenti, articoli e sorprese; le reti neuronali, il deep learning, il Big Blue eccetera sono considerati l'avanguardia della tecnologia e dello sviluppo, argomenti "cool" su cui investire risorse pubbliche e private, e umana genialità.
Però qualche voce preoccupata si è già sentita: ci hanno messo in guardia il ricchissimo Bill Gates ex-windows, il co-fondatore di Apple Wozniak, l'astrofisico S. Hawking ed anche E. Musk, imprenditore di tecnologie all'avanguardia; tutti perplessi sia dell'accantonamento del lavoro umano sia della possibilità che le macchine ipertecnologiche possano prendere il controllo della società.
In effetti, a tutt'oggi, questi pericoli sono alquanto limitati: spariranno certamente i lavori manuali usuranti ma ancora il QI delle macchine non è elevato e quindi pericoloso.
Da tempo, però, una frase detta da non ricordo chi mi si è sedimentata nella memoria: il pericolo non è tanto che le macchine abbiano l'intelligenza, ma che la raggiungano senza avvertirci, a nostra insaputa!
C'è il rischio, cioè, di creare senza alcun sospetto, un intelligente mostro nascosto e pervasivo che, una volta cosciente delle proprie possibilità costruite olisticamente da singoli scienziati, possa essere fuori controllo quando ogni singolo pezzo di media intelligenza si connette a tutti gli altri.
Qualche giorno fa è uscito un interessante articolo del Georgia Institute of Technology su una simulazione di trattative: due Intelligenze Artificiali (autonome ed indipendenti) dovevano negoziare la divisione di risorse (cioè stabilire una scala di valore di oggetti e dividerli in base a trattative complesse fino ad arrivare ad un accordo) utilizzando un linguaggio naturale (e quindi controllabile nel corso delle sperimentazioni).
Il bello (ma, secondo me, il grave) è che ad un certo punto queste macchine cambiavano autonomamente il linguaggio con cui si scambiavano le valutazioni e gli accordi, probabilmente perché alcuni termini lessicali non erano così precisi di significato o valore da essere manipolati con la l'esattezza numerica delle macchine; tali nuovi termini erano incomprensibili agli scienziati che seguivano l'esperimento ed essi sono dovuti intervenire per correggere "l'errore" e continuare la simulazione.
La notizia di per sé ha poca importanza, ma per me rappresenta un campanello d'allarme: credo che questa notizia debba essere diffusa fra chi si occupa di AI, perché se le macchine possono comunicare in una loro lingua (conoscendo anche la nostra), il punto di "non ritorno" si avvicina sempre più.
Ci potremmo trovare, cioè, nell'illusione di poter gestire al nostro livello macchine complesse e connesse che, in realtà, al loro livello (subdolo e segreto) ragionano e prendono decisioni secondo la loro intelligenza complessiva (la quale, come diceva lo sconosciuto che non ricordo, verrà quindi scoperta troppo tardi).
Dovesse un giorno succedere l'irreparabile, è da vedere se questa "super-intelligenza" verrà usata pro o contro l'umanità ... ma questo è un altro discorso!
Co-Blogger 1
P.S. Forse bisognerà utilizzare seriamente "Le tre leggi della Robotica" di Asimov
Però qualche voce preoccupata si è già sentita: ci hanno messo in guardia il ricchissimo Bill Gates ex-windows, il co-fondatore di Apple Wozniak, l'astrofisico S. Hawking ed anche E. Musk, imprenditore di tecnologie all'avanguardia; tutti perplessi sia dell'accantonamento del lavoro umano sia della possibilità che le macchine ipertecnologiche possano prendere il controllo della società.
In effetti, a tutt'oggi, questi pericoli sono alquanto limitati: spariranno certamente i lavori manuali usuranti ma ancora il QI delle macchine non è elevato e quindi pericoloso.
Da tempo, però, una frase detta da non ricordo chi mi si è sedimentata nella memoria: il pericolo non è tanto che le macchine abbiano l'intelligenza, ma che la raggiungano senza avvertirci, a nostra insaputa!
C'è il rischio, cioè, di creare senza alcun sospetto, un intelligente mostro nascosto e pervasivo che, una volta cosciente delle proprie possibilità costruite olisticamente da singoli scienziati, possa essere fuori controllo quando ogni singolo pezzo di media intelligenza si connette a tutti gli altri.
Qualche giorno fa è uscito un interessante articolo del Georgia Institute of Technology su una simulazione di trattative: due Intelligenze Artificiali (autonome ed indipendenti) dovevano negoziare la divisione di risorse (cioè stabilire una scala di valore di oggetti e dividerli in base a trattative complesse fino ad arrivare ad un accordo) utilizzando un linguaggio naturale (e quindi controllabile nel corso delle sperimentazioni).
Il bello (ma, secondo me, il grave) è che ad un certo punto queste macchine cambiavano autonomamente il linguaggio con cui si scambiavano le valutazioni e gli accordi, probabilmente perché alcuni termini lessicali non erano così precisi di significato o valore da essere manipolati con la l'esattezza numerica delle macchine; tali nuovi termini erano incomprensibili agli scienziati che seguivano l'esperimento ed essi sono dovuti intervenire per correggere "l'errore" e continuare la simulazione.
La notizia di per sé ha poca importanza, ma per me rappresenta un campanello d'allarme: credo che questa notizia debba essere diffusa fra chi si occupa di AI, perché se le macchine possono comunicare in una loro lingua (conoscendo anche la nostra), il punto di "non ritorno" si avvicina sempre più.
Ci potremmo trovare, cioè, nell'illusione di poter gestire al nostro livello macchine complesse e connesse che, in realtà, al loro livello (subdolo e segreto) ragionano e prendono decisioni secondo la loro intelligenza complessiva (la quale, come diceva lo sconosciuto che non ricordo, verrà quindi scoperta troppo tardi).
Dovesse un giorno succedere l'irreparabile, è da vedere se questa "super-intelligenza" verrà usata pro o contro l'umanità ... ma questo è un altro discorso!
Co-Blogger 1
P.S. Forse bisognerà utilizzare seriamente "Le tre leggi della Robotica" di Asimov
Commenti
Posta un commento