Suona un po’ come “ti lascio perché ti amo troppo”. Eppure è così: Facebook ha fermato temporaneamente il suo progetto di Intelligenza Artificiale perché…è troppo intelligente! All’interno di un esperimento, che prevedeva l’instaurazione di un rapporto testuale libero tra due bot, questi dopo qualche tentativo hanno inventato un nuovo linguaggio, comunicando in un idioma impossibile da decifrare per i ricercatori. Già da tempo il social network si era dedicato al miglioramento dell’approccio degli algoritmi senzienti verso gli umani, con l’intento di sviluppare un’AI che diventi molto più utile dei bot attuali. Al momento infatti, tramite le piattaforme dedicate, i robot informatici sanno dialogare con gli utenti in carne e ossa ma solo per certe finalità, limitate alla richiesta di informazioni su prodotti e servizi o logistiche, come ad esempio orari e giorni di apertura dei negozi.
Cosa è successo
Il test, focalizzato su una dialettica intesa a condurre trattative per ottenere il miglior risultato possibile circa libri, palloni da basket e cappelli da cowboy da dividere tra i due, ha costatato la persistenza di alcuni botta e risposta che solo in un primo momento erano parsi errori di interpretazione:
E invece i bot avevano imparato a usare le stesse parole immesse in fase di configurazione ma in maniera diversa, dando la sensazione di un’assenza di logica che invece per i due era più che reale. Il sospetto è che l’AI abbia sviluppato un proprio ordine per scambiare i messaggi, andando oltre l’imposizione generale: l’utilizzo della lingua inglese. Una notizia che getta più di un dubbio sulla comprensione che l’uomo ha dei sistemi che governano gli algoritmi, con il rischio che, in un futuro non molto remoto, sistemi autogestiti possano ribellarsi ai comandi degli sviluppatori, per organizzarsi in maniera indipendente e creare la propria comunità.
