Due robot parlano in una lingua ignota nei laboratori Facebook, ricercatori preoccupati

“Nonostante l’idea che delle macchine che inventano un nuovo linguaggio per parlare tra loro suoni inaspettata e allarmante per chi non si occupa di Intelligenza artificiale, in realtà si tratta di un aspetto molto ben conosciuto del settore, con pubblicazioni in merito che sono vecchie di decenni”, è questo quanto si legge in un post pubblicato su Facebook dal ricercatore del laboratorio Facebook Al research, il quale ha tentato di tranquillizzare circa le preoccupazioni seguite alla notizia che due robot avrebbero inventato autonomamente una nuova lingua per comunicare tra di loro, cosa che avrebbe spaventato i ricercatori al punto da spingerli a spegnere i due sistemi di intelligenza artificiale.

Ma cos’è avvenuto realmente nei laboratori? Secondo quanto riferito, sembra che nel corso degli ultimi mesi il team di Facebook abbia realizzato una serie di esperimenti su alcuni sistemi di intelligenza artificiale dai quali sarebbe nata la prima conversazione della storia tra due impianti artificiali e proprio nella giornata di ieri, tutti i quotidiani del mondo hanno riportato una vicenda alquanto particolare, ovvero quella che vede protagonisti due robot Bob e Alice, i quali pare che nel corso di un esperimento e nei laboratori Facebook abbiamo iniziato a dialogare in una lingua deforme completamente inventata da loro, non facendosi capire dal dall’uomo.

Nello specifico, sembra che dopo alcuni scambi di battute in inglese aventi l’obiettivo di contrattare tra loro una serie di oggetti da dividere tra i quali libri, palloni da basket, cappello da cowboy, improvvisamente i due robot  pare abbiano cominciato a parlare in un nuovo linguaggio davanti agli occhi increduli dei Ricercatori, i quali preoccupati hanno staccato la spina dei robot bloccando in questo modo l’esperimento. In tanti si sono preoccupati pensando che l’intelligenza artificiale potesse prendere il sopravvento sull’uomo, ma secondo quanto emerso sembra si sia trattato soltanto di un errore di programmazione da parte dei responsabili dell’esperimento che non hanno limitato soltanto alla lingua inglese, portando i due robot a parlare un linguaggio a noi sconosciuto.

“Se l’idea che delle macchine possano inventare una loro lingua può sembrare allarmante per chi non è addetto ai lavori è una circostanza già osservata in passato negli studi sull’intelligenza artificiale”, spiega in un post il ricercatore Facebook Dhruv Batra. Intervenuto sulla vicenda anche il professore britannico, esperto di robotica Kevin Warwick il quale ha affermato che questa rappresenta una pietra miliare per la scienza, ma chi dice che non costituisce un pericolo nasconde la testa sotto la sabbia, visto che secondo lui il pericolo c’è e non è da sottovalutare, perché la possibilità che due macchine possono entrare in contatto tra di loro escludendo così ogni tipo di componente umana, è estremamente rischioso soprattutto nel campo militare.

Dialogano tra loro in una lingua incomprensibile per gli umani. Sono i robot messi a punto dagli scienziati che operano da tempo nel laboratorio dell’intelligenza artificiale di Facebook, ribattezzati Bob e Alice dai loro creatori. Che ora, forse spaventati dal successo, hanno deciso di interrompere le conversazioni, le “bot-chat”, impostate per avviare una contrattazione, perché non controllabili. L’esperimento, coronato da un risultato ritenuto improbabile in tempi brevi, è ben noto ai cultori della fantascienza. Lo avevano descritto i maestri del genere (Asimov e Ballard, in anni ormai lontani), oppure gli sceneggiatori e i registi di film di grande come “Il pianeta della scimmie” o “Matrix”. Tra i pionieri di quello che i programmatori di Facebook considerano un pericolo ci sono alcuni geniali narratori che pubblicarono romanzi nel Regno Unito all’inizio del secolo scorso: Herbert George Wells, innanzitutto, e in seguito Aldous Huxley. Le loro opere furono definite “disto- pie”, ovvero utopie negative, al pari di “1984” di Orwell. Potenziali incubi, si disse all’epoca. Ammonimenti a beneficio dei saggi legislatori che, si aggiunse, avrebbero impedito si trasformassero in pratica abituale.

Lo sviluppo tecnologico, ovviamente, ha percorso strade diverse. Perché, da sempre, quello che appare realizzabile deve essere perseguito senza alcuna remora. Si tratta di una scelta antica, condivisa sin dal periodo medievale da chi opera nel campo della ricerca. A dispetto dei costi sul piano emotivo. Come dimostra, ad esempio, “Frankenstein” di Mary Shelley, immortale bestseller che ha generato da inizio Ottocento centinaia di variazioni sul tema. Allora si parlava di un ardito sperimentatore che costruisce un individuo pensante. Che insegue sino a lande remotissime il suo creatore in cerca d’affetto. Nei laboratori di Facebook, però, hanno compiuto un netto e decisivo passo in avanti: nessun uomo controlla le macchine. Capaci di scambiarsi messaggi con codici ignoti.

Le notizie arrivate dagli Stati Uniti propongono adesso uno scenario diverso. Da potenziale incubo, sostengono alcuni. In realtà l’autonomia della macchine capaci di agire in maniera autonoma non costituisce una sorpresa. In Cina figura da mesi in testa alle classifiche dei libri più venduti una raccolta di poesie scritte da un robot, il programma di intelligenza artificiale Microsoft Little Ice. Il volume, edito dalla Cheers Publishing, si intitola “La luce del sole si dissolse sulla finestra di vetro”, è stato realizzato usando un algoritmo che aveva in memoria i testi scritti da cinquecento poeti. Da questo deposito, il robot ha prodotto diecimila poesie, di cui 139 pubblicate nell’antologia ripartita in dieci capitoli, dedicati a un’emozione dell’animo umano. Il programma Little Ice, spiega il Quotidiano del Popolo, «s’ispira ogni volta che ‘vede’ un’immagine, con un processo sostanzialmente uguale a quello di un poeta reale». Il coordinatore del volume Dong Huan, ha garantito alla stampa che «nemmeno una virgola dei testi scritti è stata modificata» e che sono stati mantenuti anche gli eventuali errori grammaticali dei testi di partenza.

Ma i robot hanno agito in autonomia. E se Mark Zuckeberg investe fondi e anima nel progetto di ricerca Facebokk Ai, agli addetti ai lavori è nota l’esistenza di Google Brain, la divisione che si occupa di intelligenza artificiale di Goo- gle, e che ha ripreso dalle neuroscienze l’idea di rete neurale, per applicarla a tutti i prodotti dell’azienda.

“Google Translate” non si basa su regole grammaticali precaricate per coppie di lingue. È una sorta di neonato, una filosofica tabula rasa che parte da più indietro ma ha potenzialità enormi. Gli è stato fornito un nuovo cervello di algoritmi per scandagliare migliaia di server in cerca di similitudini tra gli idiomi del mondo. Le regole cerca di dedurle da solo, invece che riceverle dai suoi programmatori, e impara dagli errori commessi.
Come sottolinea Paolo Gallina, il migliore esperto italiano di intelligenza artificiale, l’uomo da tempo si circonda di tecnologia. Ogni volta che usiamo uno strumento deleghiamo parte delle nostre facoltà cognitive: chi usa il navigatore satellitare, dimostrano le ricerche, è meno pronto nell’interpretare una mappa geografica. In futuro, l’interazione con i robot creerà altre forme di dipendenza. Sempre che i robot non divengano autonomi. Se resteranno strumenti di progresso ci saranno molte nuove opportunità ancora ignote persino alla fantascienza.

La ripetizione di un codice ma senza regole definite

Parlare, interagire, esprimere opinioni, negoziare. Capacità che erano considerate prerogative dell’uomo. Eppure la cosiddetta intelligenza artificiale, basata sull’idea di trasformare le macchine da mere esecutrici a meccanismi pensanti e in grado di prendere decisioni in autonomia ha caratterizzato buona parte della ricerca tecnologica fino a oggi. Perciò non c’è poi troppo da sorprendersi se due robot nel laboratorio di ricerca di Face- book FAIR (adibito allo sviluppo dell’intelligenza artificiale per volontà di Mark Zuckerberg) siano stati in grado non solo di comunicare fra loro e intavolare una trattativa, ma addirittura di creare una propria lingua, che man mano è diventata incomprensibile agli stessi scienziati che hanno perciò sospeso l’esperimento.
È un po’ come quando due bambini sviluppano tra loro una sorta di linguaggio in codice per non farsi capire dagli adulti o per gioco. Ciò avviene perché proprio nei più piccoli l’utilizzo e le regole dell’espressione sono meno radicate, il che li rende creativi. Se ciò accade nelle macchine, è perché chi le ha programmate non ha insegnato a rispettare le regole della grammatica e della sintassi. È ciò che è accaduto a Bob e Alice, i due “chatbot” (robot che interagiscono) di Facebook.

Il fine dell’esperimento che li riguardava era di far sì che ognuno di loro fosse in grado di negoziare con l’altro. Una capacità tipica dell’essere umano, perché non prevede solo una conoscenza approfondita del linguaggio, ma anche una serie di valutazioni tratte dal vissuto: contrattare vuol dire saper gestire un conflitto, insistere, in caso mentire o esagerare e infine trovare un compromesso. Compiti estremamente complessi che Alice e Bob stavano imparando a svolgere.
Perciò le due macchine sono state messe l’una di fronte all’altra, e a forza di parlare e di confrontarsi, non avendo un limite imposto con precisione sono arrivate a esprimersi in un inglese sempre più simile a un linguaggio binario, solo che invece dell’1 e dello 0 a ripetersi erano una serie di parole. Ogni volta che un robot modificava un termine, l’altro lo imparava e lo registrava come regola da seguire, e in breve tempo il dialogo è diventato totalmente incomprensibile. «Se l’idea che delle macchine possano inventare una loro lingua può sembrare allarmante per chi non è addetto ai lavori – ha spiegato in un post il ricercatore Facebook Dhruv Batra – è una circostanza già osservata in passato negli studi sull’intelligenza artificiale». Che sia una ragione sufficienti per stare tranquilli, è un altro discorso.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Copy Protected by Chetan's WP-Copyprotect.