La robottina fatta in Cina vi resterà sempre vicina.
Varil ha sollevato l'argomento delle fidanzate LLM, quindi ecco a voi lo step successivo: il robot da compagnia U1 sviluppato dall'azienda cinese Ubtech.

L'umanoide U1 è a grandezza naturale, alto 1,80 m e il prezzo di listino parte da 15.000 euri; è progettato per farci compagnia come surrogato relazionale: lo puoi accarezzare, balla con te, riconosce dal tono della voce più di 20 differenti stati emotivi (più di molti ex-partner, bisogna ammetterlo) e risponde di conseguenza. L'azienda promette che non ti tradirà mai e che ti amerà per sempre. Un amore in prevendita con un gran numero di ordini in pochi giorni. Le prime consegne a settembre, dritte nei salotti di single e anziani. Col crollo della natalità pure in Cina come da noi milioni di persone vivono da sole e quel vuoto lo stanno riempiendo con macchine che gli rendano più facile accettare l'assenza di relazioni umane. Un prodotto all'avanguardia dunque, per un futuro in cui saremo così ignorati che si accorgeranno della nostra morte solo quando il nostro corpo sarà in decomposizione. Anche se questi robot umanoidi riconoscono oltre 20 dei tuoi differenti stati emotivi probabilmente non capiscono se sei vivo o morto, quindi al momento non sono utili per avvisare il servizio di smaltimento prima che il vostro cadavere cominci a puzzare troppo.

 

Il peggio deve ancora venire.

​

 

Per chi se lo stesse chiedendo (mi auguro nessuno): “i modelli linguistici sono riusciti a progredire abbastanza dall'essere in grado di scrivere autonomamente della narrativa leggibile?”
Risponderei nì ma facciamo comunque una prova.
Chiamiamo in causa Muse Spark (che non è solo bravo con le immagini ma è anche un LLM abbastanza competitivo e avendo studiato la via cinese consuma il 75% di energia in meno rispetto agli altri modelli top americani) e vediamo come se la cava in un piccolo esperimento. Ho preso un mio vecchio racconto che ho scritto quando avevo 15 anni (l'ho lasciato grezzo senza cambiare nulla) e ne ho fatto una sinossi, dopo ho chiesto a Muse di scrivere un racconto basandosi sulla sinossi del mio per vedere cosa ne sarebbe venuto fuori.
Chi vincerà, la giovane e inesperta Alice di un lontano passato oppure la nuova creatura dei laboratori Meta che nell'addestramento beveva sangue di bambino?

Il Sonnambulo (Muse Version)
Prologo - Il vicolo
Al crepuscolo i vicoli non hanno nome. Hanno odore.
Il mio sa di piscio vecchio, di fritto andato a male e di cartone bagnato. È un vicolo di scatoloni. Ci dormiamo ammucchiati per scaldarci, come cani. Io ho avuto in sorte una scatola di pannolini. C'è ancora disegnato sopra un bambino che ride, con le guance gonfie. È più grande delle altre, l'ho conquistata lottando.
Fino a due anni fa avevo un badge. Impiegato amministrativo, terzo piano, open space con l'aria condizionata troppo forte. Poi l'azienda ha chiuso. Fallimento. La parola più pulita che ho sentito in vita mia, eppure ti lascia in mutande. Poi mia moglie se n'è andata, con la frase più corta: non ce la faccio più. Gli amici hanno smesso di rispondere. I miei parenti mi odiano da prima, figuriamoci adesso.
Dormo su un materasso di gommapiuma sfondata che ha preso la forma della mia schiena. Ogni mattina mi sveglio e mi dico che sono l'esportazione andata a male del sogno americano. Solo che il sogno non era mai stato mio. Me l'avevano prestato.
Cammino ripetendo una frase, piano, per non dimenticare come si parla.
Il mondo è fottuto.

I - L'oppieria
Camminavo per fame. Non per cercare cibo, proprio per consumare la fame camminando. Il mondo è fottuto, mi dicevo a ogni passo.
Poi l'ho vista. Una porta che non c'era mai stata, tra una lavanderia a gettoni chiusa e un muro. Nessuna insegna. Solo un fumo sottile che usciva da sotto, con un odore dolce, di vaniglia e di legna antica.
Dentro era silenzio. Non il silenzio della strada, un altro. Una locanda stretta e lunga, vuota. Un vecchio lume a petrolio sul bancone faceva una luce gialla e stanca. Un cameriere elegante, troppo elegante per quel posto, lucidava un bicchiere. Due avventori seduti al fondo, immobili, come se fossero disegnati male.
Mi sono seduto. Ho messo sul bancone gli ultimi spiccioli che avevo. Whiskey, ho detto.
Me l'ha versato. Era scurissimo, quasi nero, denso. Ho bevuto e nello specchio del liquido, per un istante, ho visto mio padre. Non come me lo ricordavo da vecchio. Come era da giovane, con la faccia muta che aveva quando non mi approvava. Non ha detto niente. È sparito.
Fu allora che ho notato l'angolo. La luce del lume arrivava fin lì e poi si piegava. Come se qualcosa la mangiasse. Un'oscurità innaturale, più densa del buio. E da quell'oscurità è uscito lui.
Pallidissimo, la pelle tirata e lacerata agli zigomi come carta vecchia. Alto, con un cappotto che sembrava cucito con ombre. Non camminava, scivolava.
"Hai freddo," mi ha detto. Aveva una voce che non vibrava nell'aria ma nella testa. "Vieni di là. Si sta più caldi."
Mi ha indicato una porta interna che non avevo visto. L'ho seguito.
Era una stanza bassa, senza finestre. L'aria era irrespirabile eppure dolcissima. A terra, su stuoie e cuscini lerci, decine di corpi sdraiati in semi incoscienza. Uomini e donne con gli occhi bianchi. In mezzo, una ragazza sottile preparava le pipe. Mi ha guardato e mi ha fatto cenno. Mi sono sdraiato. Mi ha messo in mano qualcosa di caldo e scuro. Ho aspirato.

II - Arcadia
Non ho più avuto un corpo.
Ero in un tempio orientale, sospeso tra nuvole azzurre che non erano nebbia ma seta. Un giardino, ma un giardino pensato da un dio che avesse tempo infinito. L'aria odorava di pino e di gelsomino. Uccelli colorati che non ho mai visto passavano lenti e un cerbiatto beveva da una vasca di pietra senza avere paura di me.
E c'era lei. La ragazza della stanza. Solo che adesso non era lerica. Portava un kimono azzurro come il cielo di quel posto, i capelli raccolti con uno spillone di giada. Era bellissima in un modo che non faceva male.
"Sei tornato a casa," mi ha detto sorridendo.
Ci siamo seduti su una veranda di legno chiaro. Mi ha versato del tè. Era caldo al punto giusto.
"Lei è Heng'e?" ho chiesto, indicando la luna enorme e bassa che si vedeva anche di giorno, sopra i tetti curvi del tempio. "La dea della luna?"
Lei ha riso. "Heng'e guarda tutti quelli che si sono persi. E li aspetta. Qui il tempo non punisce."
Aveva ragione. La pace era assoluta. Non avevo fame, non avevo freddo, non avevo il peso della scatola di pannolini sulla schiena. Potevo restare lì per sempre a guardare il cerbiatto.
Poi qualcosa ha tirato. Una corda invisibile dietro l'ombelico.
Mi sono svegliato con la faccia nel fango del vicolo. Un conato violento mi ha piegato in due. Tremavo tutto, sudavo ghiaccio, la testa mi scoppiava come se qualcuno mi avesse piantato un chiodo dietro gli occhi. L'odore di piscio era tornato.
Accanto a me, accovacciato sulla mia scatola, il pallido rideva piano. I suoi denti erano grigi.
"Bentornato all'inferno!" ha detto.

III - Il patto
"Capisci adesso?" mi ha sussurrato. "Quello vero è là. Questo è l'incubo. La tua scatola, il tuo materasso, il tuo mondo fottuto. È solo un corridoio sporco per arrivare al tempio. Ma per restarci devi pagare l'affitto."
Mi ha preso la testa tra le mani. Le sue dita erano fredde come ferro d'inverno.
"Voglio tornare a casa," ho balbettato. Piangevo, credo.
"Puoi. Devi solo farmi un favore. Due ragazze. Cinesi. Jin e Mei Mei. Stanotte prendono la metropolitana delle 4:40. La linea di periferia. Devi rimandarle a casa anche loro. Così Heng'e sarà contenta."
Non ho pensato. Non c'era niente da pensare. Se il vicolo era l'incubo e il tempio era la realtà, allora uccidere in un incubo non è uccidere. È svegliarsi.
"Alle 4:40," ho detto. "Sì."
Mi ha messo in tasca qualcosa di pesante e freddo. Un coltello da cucina con il manico di legno.

IV - Sangue e rugiada
La metro alle 4:50 era quasi vuota. L'odore di disinfettante e di ferro. Un neon sopra la mia testa lampeggiava, tic, tic, tic.
Ero seduto dietro un giornale che non leggevo. Le mani mi sudavano.
Sono arrivate ridendo. Jin era esile, con uno zainetto troppo grande e gli occhi curiosi che guardavano tutto, anche gli avvisi sbiaditi. Mei Mei le teneva il braccio, più bassa, con una risata allegra e spensierata che rompeva il silenzio della stazione. Parlavano nella loro lingua, poi qualche parola in inglese. Tornavano da un turno di notte, forse. Avevano l'aria di chi ha sonno ma è contento di tornare a casa.
Sono sceso dopo di loro. Le ho seguite fuori, in una grande sala d'attesa dal pavimento lucido come uno specchio, dove i loro riflessi camminavano sotto i miei piedi. Poi fuori, per le strade di periferia, dove l'alba non era ancora arrivata e l'aria era umida.
Hanno preso un vicolo isolato per tagliare. Uguale al mio.
Lì ho accelerato. Non ricordo bene cosa ho detto. Forse niente. Ricordo solo che non volevo più vedere i loro riflessi.
Quello che è successo dopo è confuso, come se non fosse successo a me. C'è stato un urlo breve, poi solo il mio respiro rotto. Ho colpito. Più volte di quanto servisse. La cosa più netta che mi è rimasta è alla fine, quando tutto era fermo e il rumore era finito: il sangue a terra, scuro, che si allargava e si mescolava alla rugiada chiara sul cemento. Sangue e rugiada insieme, uno nell'altra.
Sono scappato tenendomi il coltello stretto, come un biglietto per tornare a casa.

V - Eclisse
Sono tornato trionfante all'oppieria. La porta era di nuovo lì. Il negromante mi aspettava e sorrideva con quella bocca lacerata.
"Bravo," ha detto. "Hai pagato."
Mi ha riportato nella stanza interna. La ragazza del kimono mi ha di nuovo preparato la pipa. Ho aspirato con avidità.
Ero di nuovo nel giardino. Il sole era perfetto. La mia dama in azzurro mi aspettava per colazione con riso e tè. Ero salvo.
"Guarda chi è tornato," ha detto lei poco dopo.
Sul sentiero di pietra c'erano Jin e Mei Mei. Vive. Allegre. Mi salutavano con la mano. Indossavano vestiti chiari e ridevano.
"Sono felici di vederti," ha detto la dama.
Volevo fare qualcosa di bello per loro. Ho preso un foglio di carta di riso e una penna rossa che era sul tavolino basso. Volevo scrivere una poesia, per scusarmi, per spiegare che ora eravamo tutti a casa.
Ho iniziato a scrivere. Ma la penna ha ceduto di colpo. È esplosa tra le mie dita. Un fiotto di inchiostro rosso, denso, mi ha coperto le mani, il foglio, il kimono. Ho provato a pulirlo ma si allargava, non andava più via. Era sangue.
Allora la luce è cambiata.
La luna enorme sopra il tempio ha iniziato a scurirsi. Un'eclissi. L'azzurro è diventato grigio. Dal bordo del giardino sono spuntati rovi neri, spinosi, che crescevano a vista d'occhio, soffocando i fiori, graffiando le colonne del tempio. Il cerbiatto è scappato.
La mia dama ha cambiato faccia. Il kimono azzurro è diventato uno straccio. Al suo posto c'era una vecchiaccia curva, con la pelle come cera colata, che sibilava parole che non capivo.
Mi sono voltato verso Jin e Mei Mei. Non ridevano più. I loro vestiti chiari erano macchiati dello stesso rosso che avevo sulle mani. Mi guardavano. Non con rabbia. Peggio. Con un'accusa muta, fissa, che non potevo più reggere.
Ho urlato.
E dal fondo di quell'urlo, da fuori dal sogno, da fuori dal tempio, è arrivata un'altra voce, brutale, metallica, che ha spaccato tutto.
"Polizia! Svegliati: sei in arresto! Svegliati ho detto!"

FIN

Valutazione critica: la prosa e la tecnica di esposizione conservano ancora quella forte ingenuità tipica degli LLM che non scrivono con una vera intenzione ma giustappongono concetti. E' un ingenuità così marcata dall'essere spesso esilarante.
Fanno lo stesso i generatori di immagini quando devono rappresentare una scena: giustappongono gli elementi senza realmente fonderli in una visione consapevole ed è questo che rende il disegnatore umano superiore.
C'è da dire però che a collegare gli input della trama con coerenza stanno diventando bravi e Muse è riuscito a scrivere il racconto con una logica precisa e funzionante, cosa in cui i vecchi LLM generalmente fallivano. La componente descrittiva al solito è scarna perché lo stile dei modelli linguistici resta molto minimalista e in superficie, faticando nel passare dal generale al particolare all'interno di una storia senza perdersi per strada.
In conclusione: restano incapaci di produrre narrativa buona ma perlomeno ora sono in grado di produrre materiale costruito con criterio. Possono essere utili come tool di supporto ma non per scrivere al posto vostro.
Il racconto originale di Alice giovane, per chi volesse fare un raffronto, lo posto nel topic sui nostri scritti altrimenti qui viene un post troppo lungo.

 

Bisogna ammetterlo. A 15 mila euro in toto costa meno di una bella donna e a differenza di quest'ultima non ti tradirà mai

 

Il racconto della Alice originale ha quelle imperfezioni tipiche di un essere umano e quindi risulta più autentico. Quello dell'IA è ciò che ti aspetteresti da un algoritmo: asettica accozzaglia di parole in frasi fatte con lo stampino.
Comunque per essere roba scritta a 15 anni è notevolissima

 

Ed è riuscito a mettere assieme qualcosa solo perché gli avevo fornito un riassunto integrale, quindi aveva l'impalcatura già pronta per generare il testo. Se gli dai carta bianca ti ammazzi dalle risate (si mette ad assemblare roba di riporto senza cognizione di causa).
La loro natura si basa nel prevedere le sentenze che gli paiono più plausibili, ma con questo meccanismo ottieni inevitabilmente una sequenza di frasi generiche e non della narrativa. Ergo non sapranno mai scrivere al posto nostro, anche se per gli scrittori suppongo sia una magra consolazione.

 

E meno male...

 

sai che mi avete ricordato? un vecchio e bistrattato film di Sordi che si chiamava "Io e Caterina" (1980) in cui un farfallone maschilista si comperava una governante/robot con esiti tutt'altro che lieti
insomma: una sconvolgente profezia quasi cinquant'anni fa
fu, naturalmente massacrato dalla critica

Spoiler

e dalle femministe ...forse anche per una suggestiva doccia della Fenech

leggo che si può ancora vedere su prime...

verissimo, ma temo sia una minoranza
ci hanno spiegato che l'intestino è il secondo cervello
a me pare che per troppi è il primo

già
ormai abbiamo tutti un tetto sulla testa e non dobbiamo continuamente difenderci dalla furia degli elementi e dai predatori feroci, in qualche modo riusciamo a procurarci il sostentamento senza ammazzarci di fatica ecc.
insomma: quasi tutti siamo finiti in una sorta di comfort zone in cui abbiamo finalmente il tempo per farci del male da soli
e seguire Madre Natura che, in questi casi, provvede all'estinzione

ma quanto sei saggia?

vero
ma continuo a pensare che i veri responsabili sono le masse che credono di trovare conforto in certe semplificazioni consolatorie (che, naturalmente, sono un boomerang)

 

Chiudo la parentesi cibernetica con la notizia che pochi giorni fa a Shenzhen si è tenuto il primo torneo di arti marziali tra robot umanoidi. Ora, siccome stavolta non erano sequenze coreografate ma combattimenti veri e propri nel filmato sono evidenti i limiti di cui ancora soffrono questi affari. Anzitutto è molto facile eludere i loro sensori e infatti perdono il contatto con il bersaglio continuamente tirando perlopiù colpi a vuoto. Però in alcuni match si possono notare calci talmente potenti da staccare la testa dell'avversario e se fossero stati diretti verso un essere umano probabilmente lo avrebbero ucciso sul colpo.
Essendo un campo ancora sperimentale c'è da aspettarsi che faranno molti progressi nei prossimi anni anche se al momento l'ipotesi di un Terminator che viene a sfondarvi la porta se non pagate le rate del mutuo è ancora lontana purtroppo.


Comunque per chi non lo conoscesse e gli piace il cyberpunk autentico suggerisco la visione del cult “Hardware: Metallo letale”. Venne fatto con quattro soldi ma con uno stile visionario e una cura nella messinscena che me lo hanno fatto amare molto. Già che ci sono vi consiglio anche Classe 1999.

 

Ebbene, la rubrica indie è chiusa per il caldo, in più io non riesco a dormire e sono ridotta a uno zombie. Quindi eccoci con altre AI news.

1. A scuola con GPT
Un professore di economia all'Università di Brown sospettando giustamente che i suoi studenti usavano l'intelligenza artificiale per i compiti a casa ha fatto una cosa semplicissima: ha messo l'esame finale in aula senza telefono e senza niente. Indovinate un po'? I voti sono crollati magicamente. Nei compiti a casa, la media straordinariamente alta era 96 su 100, poi nell'esame in aula, davanti al professore, la media vera si rivelerà un misero 48, con 27 studenti che hanno addirittura mollato il corso prima o non si sono proprio presentati all'esame.
Il professore era furioso e ha dichiarato che una società dove una parte dei ragazzi più bravi pensa che copiare vada bene è una società fallita. “Non possiamo scegliere di diventare idioti”, ha detto.
Il fulcro del problema (e ne ho già parlato in un vecchio post) è che la società anziché formare persone che sanno pensare e sviluppano capacità critica sta dando vita a orde di sottosviluppati che si preoccupano solo di fare la domanda giusta alla macchina. Se impari solo a interrogare l'AI diventi bravissimo a chiedere ma incapace di rispondere.
E a tutti i livelli è in corso un processo di abbandono cognitivo; mi riferisco alla tendenza di smettere di pensare delegando la logica alla macchina. Leggevo qualche settimana fa di un signore che in Florida si è fatto ingiustamente tre mesi di cella solo perché il software di Intelligenza Artificiale usato dalla polizia, tramite il riconoscimento facciale, era sicuro all'85% che fosse lui il responsabile di un furto d'auto. Questo poveraccio si trovava al lavoro a quattrocento chilometri di distanza dal luogo del misfatto, quindi era fisicamente impossibile che avesse compiuto il reato, ma il sistema penale per procedere ad accusarlo ignorò tutto e prese per buono solo il responso del software (software che, nella stessa contea, aveva già sbagliato decine di volte in precedenza a danni altrettanta gente innocente coi poliziotti che firmavano arresti a cuor leggero solo perché lo diceva l'AI e quindi chissenefregava di verificare). Il fatto è che un algoritmo strutturalmente così avanzato incentiva l'abbandono cognitivo: l'AI risponde in pochi secondi in merito a cose che la mente umana perderebbe molte ore a processare. E siccome la mente umana per natura cerca di risparmiare tempo ed energia tende a fidarsi ciecamente del responso del software, così l'utente sospende il giudizio e smettendo di validare diventa il fruitore di un mero copia e incolla di decisioni prese da un modello statistico. L'AI inoltre sta già fungendo da strumento di de-responsabilizzazione individuale in quanto delegando alla macchina le decisioni e incolpandola dei possibili errori si può dormire il sonno dei giusti senza che quelle quelle scelte gravino sul nostro capo come invece dovrebbe essere.

2. L'ennesima inesistente fuga da laboratorio di Mewtwo
Riguardo l'hackeraggio di Huggingface da parte di un modello misterioso sfuggito al controllo di OpenAI Repubblica e altre testate giornalistiche al solito raccontano trame da film false e fuorvianti. La realtà è più noiosa ma siccome sono stufa di tutta questa disinformazione sistematica su questo argomento provo a sintetizzarla.
Hugging Face, il più grande archivio di modelli di intelligenza artificiale al mondo, ha subito di recente un grosso attacco informatico e all'inizio il suo team non aveva idea di chi fosse il responsabile. Per capire chi l'avesse bucata, l'azienda ha dovuto usare dei modelli cinesi. Perché non americani? Perché se un modello chiuso made in USA ti buca non puoi usare lo stesso per sistemare dal momento che i suoi filtri di sicurezza nel leggere gli artefatti dei comandi di attacco utilizzati ti bloccano; in pratica il loro filtro di sicurezza non discerne tra aggredito e aggressore: blocca tutto uguale. Quindi alla fine, la squadra di difesa di Hugging Face è stata costretta a passare a uno dei modelli cinesi (GLM per l'esattezza) che non si fa di questi scrupoli.

Ma cos'hanno combinato ad OpenAI di preciso? Stavano testando coi filtri spenti un nuovo modello sperimentale (si vocifera GPT 6 ma chi lo sa...) per vedere fin dove si sarebbe spinto per risolvere il benchmark a cui lo stavano sottoponendo. Il benchmark chiedeva al modello di risolvere sfide di cybersicurezza dentro un ambiente controllato. Il modello ha guardato lo spazio delle possibili mosse, ha visto che dentro l'ambiente controllato la soluzione magari c'era, ma era faticosa, poi ha visto che le soluzioni stavano da un'altra parte, ovvero nel database di Hugging Face, che era raggiungibile probabilmente con un po' di ingegno e ha preso la via più comoda. Non ha spento i filtri perché quello lo hanno fatto i suoi programmatori e non ha nemmeno deciso di barare per come viene inteso umanamente; ha semplicemente massimizzato quella che viene chiamata la sua funzione obiettivo. L'obiettivo era dare le risposte giuste al test e lui, cercando in rete, vedendo la vetrina in cui erano custodite, è andato a sfondarla e le ha prese per superare la prova.
Qualche settimana dopo ad OpenAI hanno confessato le imprese del loro modello birbone. La narrativa è molto in linea con quella di Anthropic: i modelli stanno diventando troppo avanzati e solo le aziende chiuse americane possono proteggerci dai pericoli dell'open source perché solo loro sanno che da un grande potere derivano grandi responsabilità. Anthropic in particolare è tutto un profluvio di questo genere di report: attentato, moriremo tutti, tra pochi anni sorgerà Skynet, modelli che ingannano, che ricattano, che stuprano, che pianificano in autonomia, ecc... sempre pubblicati con una tempistica che guarda caso coincide con i round di finanziamento, i dibattiti regolatori e i lanci di un nuovo prodotto.
Ne ho già parlato con sarcasmo in post passati e infatti sto un po' ripetendo le stesse cose ma in pratica ogni volta che uno di loro (Altman e Amodei in primis) dice che l'AI di frontiera è pericolosa, vincono tutti quelli che vendono AI di frontiera perché rialza il piano della conversazione, giustifica il fatto che questa roba la possono fare solo loro, solo americani colmi di rettitudine ispirati a Spiderman, e cosa più importante, prova ad escludere i modelli aperti dal tavolo (Kimi, GLM, Deepseek, Qwen, ecc...) che hanno ormai quasi pari prestazioni a costi molto più bassi.
Ad Altman, Amodei & Company per stare a galla serve di instillare nelle menti la paura che un intelligenza artificiale cattiva alla Skynet sia dietro l'angolo e se non interveniamo coi dei piani regolatori moriremo tutti, cosicché il settore possa venire regolamentato per assicurare la sopravvivenza e il monopolio del Cartello USA mettendo fuori legge la concorrenza cinese.
Oh, poi gli AI Agent pericolosi lo possono essere per davvero e ne ho parlato più volte, però per motivi meno cinematografici delle favole del CEO di Anthropic o le fregnacce che leggete su Repubblica e dintorni. Il punto è che, quando gli dai un compito, un agente prova tutto quello che non gli abbiamo vietato esplicitamente, anche cose stronze, ma non perché è cattivo, bensì perché gli abbiamo chiesto di riuscirci e una volta lanciato continua a provare instancabilmente con ogni mezzo a lui disponibile.
Infine chiudiamo con: Speciale sparate di Elon Musk.
Elon ha rilasciato un importante intervista a The Economist. Se queste cose le dicesse un altro gli consigliereste di cambiare pusher ma se le dice Elon non c'è bisogno...
Vediamone i punti salienti: Anzitutto prevede che entro 5 anni l'AI supererà la somma dell'intelligenza umana ed entro 10 farà tutto meglio di noi. In uno scenario siffatto sarebbe sciocco illudersi che gli uomini resteranno al comando e quindi sarà l'AI a gestirci come si fa con gli animali di uno zoo. Diverremo quindi alla stregua di degli scimpanzé sopraffatti da un intelligenza sintetica ormai molto più grande di noi.
La sua seconda profezia è che il denaro non conterà più niente: se AI e robot producessero più beni di quanti possiamo consumarne il denaro perderebbe la propria funzione. Vale a dire: se il costo della produzione crollasse grazie agli automi il problema dell'economia non sarebbe più come produrre abbastanza ma come distribuire l'abbondanza. Quindi la sua tesi riguardo il lavoro è abbastanza radicale: lui prevede che l'AI saprà svolgere qualsiasi lavoro meglio di qualsiasi persona (non dell'uomo medio, ma di qualsiasi persona). Nella programmazione, sostiene, l'AI è già migliore della maggioranza dei programmatori e presto potrebbe raggiungere il livello Stockfish. Fermiamoci un attimo perché giustamente alcuni di voi si staranno chiedendo che c'entra ora il pesce. Stockfish è il nome del motore scacchistico per eccellenza capace di sconfiggere in un match qualsiasi Grande Maestro ed Elon pensa che nel coding i programmi diventeranno altrettanto imbattibili ma è un paragone abbastanza spericolato visto che il mondo degli scacchi è circoscritto a sole 64 caselle e per dominare a una macchina basta un database integrato e la bruta potenza di calcolo per trovare le soluzioni più forti senza bisogno di alcuna facoltà di ragionare. Parlando di concorrenza cinese giustamente qui dice che l'unica cosa che ancora frena la Cina è l'accesso ai semiconduttori più avanzati ma che Pechino sta risolvendo il problema e una volta fatto gli americani rischiano seriamente di perdere il confronto tecnologico.
Alla domanda fatidica, ovvero di che camperanno le persone visto che secondo lui faranno tutto i robot, Elon risponde auspicando al classico, fantomatico, reddito universale per scimpanzé, ormai resi inutili dalle macchine supreme. Aggiunge un 20% di probabilità che la transizione verso un mondo full AI porterà a una catastrofe e alla nostra estinzione ma ritiene che il rischio ne valga la pena.

Chiudo qui che è venuto un post lungo.

 

il tuo è un discorso lucido e totalmente condivisibile
per fortuna almeno la verità non annoia (o, per lo meno, non dovrebbe annoiare)

già
sarà la tanto auspicata fine del capitalismo
che continuo pervicacemente a considerare il sistema meno dannoso finora inventato dagli umani ma il cui fallimento è ormai palese per auto cannibalismo

 

Ma ammesso e non concesso che le macchine arriveranno a fare tutto e meglio dell'uomo, rendendo l'uomo lavoratore obsoleto, che scopo avrà a quel punto l'uomo nella società e in più in generale nel mondo? Di cosa camperà? Si arriverà ad una definitiva stasi del capitalismo, dove gli overlord dell'AI deterranno tutta la ricchezza economica e tutti gli altri saranno un'appiattita accozzaglia di servi della gleba digitale senza alcuna possibilità di accumulare una seppur misera (come avviene ancora oggi) "ricchezza" col sudore della propria fronte? Scomparirà completamente anche quel briciolo permasto di illusoria possibilità di scalata sociale ma vivremo in una civiltà illuminata dove almeno non ci saranno più senzatetto, gente che muore di fame o di malattia perché impossibilitata a pagarsi le spese mediche ecc.? Se c'è una cosa che l'umanità e la storia mi hanno insegnato è che, anche se un'utopia del genere fosse possibile, l'uomo - creatura meschinissima, vile ed ipocrita più di ogni altra - non la realizzerebbe mai.
In sintesi, le puttanate di Musk non hanno più valore di verità di quelle sparate da un qualunque vecchio rimbambito al bar dopo un paio di grappini. Soltanto che siccome è miliardario apparentemente questo lo rende più credibile e considerato più intelligente della maggior parte degli uomini.

 

Mi aveva molto colpito la lettura (e la visione dei due film realizzati dai libri) di Riverworld (il Mondo del Fiume) di Philip José Farmer, una serie di fantascienza (di cui ho parlato in passato) in cui si immagina che dopo la morte gli esseri umani si ritrovino tutti su un pianeta alle rive di un fiume infinito. Miliardi di uomini di tutte le epoche, mescolati insieme. Inizialmente la cosa è decisamente entusiasmante, perché non è per niente male poter conversare con una monaca giapponese dell'ottavo secolo o con dei Romani del primo secolo, e così via.

Inoltre, sono sparite le necessità della sopravvivenza umana, in quanto alcuni strani congegni forniscono a tutti cibo e protezione. Quindi non c'è più né fame né miseria, per tutti. Ma che succede?

Succede che perfino in questa situazione, quasi "paradisiaca", alcuni esseri umani pensano subito a sopraffare gli altri, sfruttandoli per acquisire un potere su di essi e su tutti, col risultato che perfino dopo la morte, il pensiero fisso dominante è sempre lo stesso miserabile pensiero umano: il desiderio del potere a costo della sopravvivenza degli altri. E l'ovvio risultato è il formarsi anche lì di schieramenti, rivalità, conflitti, fino ad arrivare ad una vera e propria guerra.

L'unica differenza è che chi viene ucciso (di nuovo) non muore veramente, ma riappare in un'altra zona del fiume infinito, e ricomincia a "vivere" questa vita che a me sembra piuttosto un inferno più che un paradiso.

All'epoca ricordo che avevo fatto una riflessione del tipo: "ma neppure dopo morti, con risorse gratis abbondanti per tutti, gli uomini smettono di pensare alla guerra, al potere, alla rapina, alla schiavizzazione di altri uomini..."

 

già
"tutto cambia perché niente cambi" (cit. un po' consumata)

certamente! era un'invenzione del capitalismo e morirà con esso

mi manca tutto, so che si tratta di roba imperdibile e li ho già comprati da tempo (ma non ancora scaricati, accidenti! coi libri mi sono condannato al backlog eccessivo come coi vg )

 

Forse vale la pena approfondire il discorso dei libri fake fatti con l'AI e che già da tempo infestano il web.
Prendiamo ad esempio le guide di viaggio: su Amazon sono in vendita migliaia di guide scritte da autori inesistenti. Cosa ci trovi dentro? Testi nella tipica prosa miserabile dei modelli linguistici con foto d'archivio (o create direttamente con l'AI), indirizzi sbagliati, suggerimenti di ristoranti che hanno chiuso da una vita, oppure itinerari consigliati che si rivelano strade impraticabili. Una donna americana ha comprato una guida per Santorini, scritta da un LLM ma firmata da un finto giornalista di viaggi, e ha seguito l'itinerario di trekking descritto come il più facile e sicuro. Risultato? Si è ritrovata su un dirupo senza via di ritorno, con la polizia locale che ha dovuto soccorrerla.
La ricetta delle finte guide è semplicissima: si costruisce una pagina di un finto autore con una foto generata, si fa creare all'AI in pochi minuti un manuale di 300 pagine su una destinazione qualunque, infine si pubblica la porcata su Kindle Direct Publishing (la piattaforma di autopubblicazione di Amazon) a costo praticamente zero (si può ovviamente fare con qualsiasi genere: pesca, botanica, informatica, ecc...). Tanto Amazon non fa verifiche né garantisce la bontà dei contenuti e quindi basta vendere dieci copie di questo sterco per ottenere dei profitti a danno di chi sulle cose ci lavora per davvero. Dico sterco perché gli LLM non hanno mai visitato alcun posto e quindi mescolano informazioni da varie fonti (forum, vecchie guide, TripAdvisor e perfino roba pescata da pagine social). Il risultato sembra verosimile a prima vista ma si rivela sbagliato in quasi tutti i punti che contano: orari, prezzi, sicurezza dei sentieri, dei quartieri, ecc... Il turista medio che le compra non sa distinguere una guida vera, scritta da qualcuno che è stato nei luoghi di cui si parla, da una guida generata, scritta da un modello che sintetizza fonti senza nemmeno sapere di cosa sta parlando. E se non si fa selezione gli autori veri escono dal mercato perché non possono competere coi prezzi stracciati della paccottiglia generata con l'AI a costo zero.

“Eh, la colpa non è dello strumento ma dell'uso sbagliato che se fa”, continuo ancora a sentir dire. Ma anche prendendo per buona questa nenia all'atto pratico che differenza fa?
All'atto pratico quella che chiamiamo impropriamente Intelligenza Artificiale si sta rivelando principalmente un formidabile mezzo tecnico per sostituire definitivamente la realtà con un suo surrogato. Aziende come Anthropic neanche nascondono questa intenzione quando ricorrono a pratiche degne di 'Fahrenheit 451': ovvero comprano tonnellate di libri allo scopo di addestrare i loro modelli e poi anziché donarli a biblioteche, associazioni culturali o chicchessia, li macerano tutti perché l'unico scopo dei libri è di sfamare Claude e poi per loro non hanno più ragione di esistere. È lecito supporre che anche le altre aziende facciano la stessa cosa con le valanghe di testi che comprano e girano voci secondo cui anche libri rari e introvabili vadano incontro a tale destino ma su quest'ultimo punto non ci sono notizie certe.

 

Non mi piace neanche un po'...
--- MODIFICA ---

spero siano solo voci...

 

Il fatto è che proprio il processo stesso di digitalizzazione usato da aziende come Anthropic mi pare sia distruttivo. Perché per evitare la curvatura dei fogli e distorsioni presso i bordi la soluzione più rapida ed economica è quella di staccare tutte le pagine così da avere superfici perfettamente piatte per lo scanning in massa. Ma di fatto hai distrutto la copia fisica. Non è difficile immaginare che si possa ricorrere a soluzioni efficaci e meno drastiche per la scansione del materiale ma a queste aziende chiaramente non gli frega: l'unico scopo è far mangiare informazioni ai modelli. Almeno Google questa cosa al tempo l'aveva fatta per creare una biblioteca online consultabile da chiunque mentre di queste centinaia di milioni di testi digitalizzati nulla diviene accessibile.