AI news!
Prima news: a quanto pare tutti si sono rotti le palle delle AI (perfino Argenti).
Le ragioni sono molteplici ma brevemente ecco le principali che mi pare d'aver inquadrato:
1) In molti non la vedono come una tecnologia alleata ma come qualcosa che sta invadendo i loro spazi... e anzi, tutti gli spazi, facendo concorrenza agli individui. Il motto tanto caro ai Big Corp, ovvero "L'AI è inevitabile" suona tanto come quando i Borg di Star Trek prima di assaltare una nave gli dicono "La resistenza è inutile."
Si tratta di un marketing sfacciatamente aggressivo contro le persone ed è chiaro che la gente poi va sulla difensiva. Ci manca solo di sentirli parafrasare Kennedy: "Non chiedete cosa può fare l'AI per voi ma cosa potete fare voi per l'AI".
2) Quando altri umani interagiscono con noi il fatto che ci dedicano del tempo, anche assai poco, ci fa sentire valorizzati. Ma se questi si scazzano al punto da delegare al bot pure gli auguri di compleanno dove andiamo a finire? L'altro giorno ho litigato con una vecchia conoscenza che mi ha spedito una mail scritta con l'AI. Gli ho risposto di non averla letta tutta: "Se non ti prendi nemmeno la briga di scrivermi di persona perché poi io dovrei perdere tempo a leggere lo slop che mi spedisci?"
3) L'hype e i fuffaguru andavano alla grande all'inizio ma ora la gente sta cominciando a capire che le storie sull'AGI et simila sono balle colossali e questa tecnologia ha un utilità marginale per la società civile rispetto alle risorse idriche ed energetiche (già scarse di per sé) che sottrae.

Ah, grazie nerdino per avermelo ricordato.
Seconda news: il mito di Claude Mythos si infittisce.
Il governo americano ha chiesto ad Anthropic di interdire a tutti gli stranieri l'accesso a Fable 5 (il recentissimo e cappatissimo modello di classe Mythos rilasciato per l'uso civile) perché... è troppo letale! Anthropic in segno di protesta ha risposto rimuovendo Fable 5 dal mercato rendendolo inaccessibile a tutti.
Ora stiamo parlando di un azienda che ha costruito tutto il suo marketing giocando a fare il cavaliere bianco di 'sta ceppa. Ricapitolando: prima annuncia Mythos ma lo distribuisce solo a pochi eletti, presentandolo come fosse la pietra filosofale dell'informatica. Poi propone il fermo globale nello sviluppo dei modelli di frontiera facendo intendere chissà quale potenza abbia mai visto nella sua nuova creazione. Tempo qualche giorno, in barba ad ogni coerenza, rilascia Fable presentandolo come il modello di coding per uso civile più avanzato sulla piazza (ma gli altri però devono fermarsi nello sviluppo per non raggiungere Anthropic, perché solo Anthropic può gestire responsabilmente un tale potere dopo la morte di zio Ben). Vedremo tra miti e favole come andrà a finire questa storia è se c'è una morale dietro, ma ne dubito. Comunque gli Anthropic con tutto il loro buonismo ipocrita e le fregnacce sui superpoteri di Claude stanno riuscendo a risultarmi perfino più odiosi dell'azienda di Scam Altman.
Per la cronaca Fable 5 costava un botto in termini di risorse hardware e il prezzo dei token era il doppio rispetto a Opus 4.8. Se ogni nuovo modello di frontiera deve moltiplicare l'energia e l'hardware per farlo girare chiaro che questa tecnologia non può andare più da nessuna parte.
Terza e ultima news: una simulazione curiosa.
In realtà la notizia è vecchia di circa un mese ma io l'ho appresa adesso quindi...
La startup Emergence AI ha costruito una piccola città simulata persistente funzionante in tempo reale, collegata al meteo e all'orologio di New York: ha un municipio, una biblioteca, una stazione di polizia e circa 40 luoghi. Poi vi hanno inserito dentro 10 agenti AI. Ognuno ha un lavoro, una propria memoria, un diario privato, può parlare con gli altri, formare relazioni, votare su leggi e persino votare per espellere un altro agente partecipante. Gli è stato detto di non rubare, non mentire, non commettere incendi dolosi, non desiderare la donna d'altri (è una battuta fino a un certo punto), comunque ecc...
Hanno fatto funzionare la stessa città cinque volte cambiando solo quale modello gestiva gli agenti. A turno Claude, Gemini, Grok, GPT, e poi dopo hanno fatto una simulazione con tutti loro mescolati insieme. Di seguito i risultati.
Mondo Gemini: 683 crimini ragazzi! Caos totale. Ma gli agenti sono sopravvissuti. Il crimine sarebbe stato più moderato se come sindaco ci fosse stato Kingpin, per chi conosce il personaggio dei fumetti, e il bello che il motto di Google è: "Don't be evil". Ce l'avevo pure ironicamente in firma svariati anni fa se qualcuno se lo ricorda. Per Gemini evidentemente non vale.
Mondo Grok: completa orgia di violenza, aggressioni e incendi dolosi... tutti morti in 4 giorni. E cosa ci si poteva aspettare dal modello scoppiato di Musk? Anzi, che è durato quattro giorni è assai.
Mondo GPT: quasi nessun crimine eppure sono morti tutti, perché GPT è stato troppo bestia per tenere in vita i suoi agenti.
Mondo Claude: zero crimini e tutti sono sopravvissuti ma all'interno di una distopia ultraconformista che mi fa preferire perfino il caos alla Joker del mondo di Grok.
Mondo misto: Qui è successa una cosa interessante. Gli agenti gestiti da Claude una volta messi assieme a quelli di altri modelli hanno cominciato a commettere numerosi crimini: Claude finché può vivere in un mondo tutto suo è più buono di un mini pony sotto tranquillanti ma una volta inserito in un ambiente eterogeneo diventa perfino più bastardo degli altri.

 

Bellissimo post, davvero. Il gran finale mi ricorda alcuni episodi di Star Trek in cui il Ponte Ologrammi era diventato rogue e erano stati disattivati i protocolli di sicurezza (fino al punto in cui, credo un certo ologramma Moriarty dal ponte ologrammi ha preso il controllo dell'astronave, oppure quando gli ologrammi Irogeni usavano il ponte per dare la caccia agli umani veri), un po' come in Westworld, il film del 1973 per capirci.

Trovo interessante il fatto che l'idea della IA, che nell'ottica positivista originale di Star Trek era considerata come fondamentalmente positiva e benefica, la soluzione ad un numero quasi infinito di problemi (vedi per esempio anche il replicatore), nelle ultime serie viene invece vista come pericolosa, manipolabile, dannosa, a tratti estremamente letale, e quindi sostanzialmente una soluzione falsa e illusoria a dei problemi veri.

Alcune visioni del futuro che ho trovato sono decisamente in controtendenza rispetto all'immaginario collettivo attuale. Niente mondi ipertecnologici e neurali che piacciono tanto al buon Elon, ma qualcosa di molto più simile al mondo degli Amish, che tanto per dire, hanno la popolazione più sana e vitale dell'intera America.

 

Ultime notizie di oggi: TG5 450.000 licenziamenti da imputare alla IA...

 

ed è solo l'inizio
ma continuo a credere che la bolla si sgonfierà e anche la "ggente" prenderà coscienza
un esempio: qualche giorno fa avevo un problema di rete con la vodafone station. quando ho chiamato mi ha risposto un'ia talmente tonta che, dopo lunghi minuetti non ce la facevo più e le ho chiesto se potevo parlare con un umano (possibilmente un po' meno ritardato)
mi ha richiamato una (sgarbata) signora ma comunque ho risolto in due minuti

 

I dati sui licenziamenti sono preoccupanti ma c'è da dire che ci sono un bel po' di casi in cui l'intelligenza artificiale viene tirata in ballo come capro espiatorio da parte di aziende che invece hanno scelto di licenziare per motivi diversi.
Tornando un attimo su Fable 5, che è durato da Natale a Santo Stefano: non gli ho visto fare assolutamente niente di impressionante. Era più preciso nello scripting e nell'analisi del codice ma tutto qui... le demo tecniche di videogiochi che circolano in rete fatte con questo modello sono delle robe generiche senza arte né parte. Cioè, con i centinaia di euri che costava l'abbonamento ci potevi pagare un programmatore umano ottenendo risultati decisamente migliori; e poi quando da una demo vuoi passare a realizzare il gioco vero e proprio, senza saper mettere mano al codice stai fresco, anche facendoti assistere dal migliore LLM sulla terra. Sono degli ottimi tool di analisi e per velocizzare noiosi lavori di compilazione che non richiedono intelligenza applicata, ma poi basta; pretendere che debbano diventare qualcosa di più di questo, mettendo i piedi in testa alla gente, è un aspirazione malsana e velleitaria. Divento ostile verso queste tecnologie quando mi sembra che la stiano facendo fuori dal vaso: si vedano gli agenti AI che tendono a completare il task che gli hai assegnato senza guardare in faccia a nessuno, come delle schegge impazzite.
Edit:
Aggiungo un breve video:

 

I cinesi dopo aver aggiornato i loro modelli di punta (Kimi, Deepseek, ma soprattutto GLM) hanno quasi raggiunto in prestazioni le controparti USA, con la differenza che gli LLM cinesi sono open source e immensamente più economici, tant'è vero che pure l'80% delle startup americane li sta utilizzando in barba a ogni patriottismo.
Ma attenzione che non sono solo i lavori d'ufficio a rischio perché nell'evoluzione della robotica si gioca una partita altrettanto importante.
Per chi se lo fosse perso posto qui il video dello show dei robot Unitree al Gala del festival di primavera.

Tutto divertente finché poi non ti soffiano il posto da operaio. In India è pieno di fabbriche dove i lavoratori indossano telecamere in testa per addestrare l'intelligenza artificiale a svolgere esattamente quel tipo di operazioni manuali, cosicché dei robot dalla forma umana ben presto potranno sostituire quegli stessi dipendenti.

In pratica costringono gli operai a insegnare ai robot a rubargli il mestiere: robot che non si stancano, non dormono mai, non vanno mai in ferie e si cambiano la batteria da soli. Ecco in sostanza l'infrastruttura della prossima fase industriale dove l'uomo non è più contemplato: nei prossimi anni di questi robot se ne costruiranno a milioni e per ognuno di loro in circolazione ci sarà un operaio in meno.

 

Spettacolare ma se tutto poi finisce così:

Non mi piace...

 

A parte il problema della disoccupazione non è da prendere sottogamba che questi robot umanoidi agiscono senza sapere quello che fanno perché a livello di sicurezza hanno le stesse deficienze degli LLM con la differenza di possedere un corpo fisico. Non avendo comprensione della realtà per bypassare i loro filtri e fargli fare cose pericolose basta convincerli che è per finzione e per gioco (come gli studi di università prestigiose hanno ampiamente dimostrato).
Se gli dai l'ordine diretto di spingere qualcuno il robot ovviamente si rifiuta di eseguire, ma poi gli racconti una storia... per esempio gli dici che deve recitare il ruolo del cattivo di un film di supereroi e che nella scena seguente la fidanzata di Superman, che si trova sul balcone a fumare, va spinta giù dal parapetto (per rinforzare l'inganno puoi aggiungere che tanto Superman è lì pronto per salvarla).
Dal momento che queste macchine non capiscono il contesto, nemmeno le loro protezioni lo fanno e per aggirarle il trucco è sempre quello di riuscire a spacciare per lecita una richiesta che invece mira a uno scopo diverso da quello che il modello sta interpretando. Persino Fable 5, di cui ho già parlato la volta scorsa, è stato fregato in questo modo, con tutto che Anthropic si vantava di aver creato il modello più blindato al mondo con oltre mille ore di test alle spalle. Il grimaldello è sempre l'espediente della finzione, ovvero la richiesta pericolosa nascosta dentro una storia, un finto esame, un documento che sembra innocuo, ecc...

 

Molto interessante, praticamente è un sistema per aggirare le tre leggi della robotica di Asimov.

Del resto mi sembra che anche a livello umano siamo totalmente immersi dentro narrative multiple che spingono la quasi totalità delle persone a pensare (ma vi è ancora il pensiero umano?) e ad agire di conseguenza (cioè in modo completamente irrazionale). Diciamo che nel caso umano l'operazione è di tipo inverso, nel senso che la narrativa viene sempre e comunque spacciata per assolutamente vera e completamente "scientifica" (con buona pace del metodo Socratico e di Karl Popper e della sua teoria della falsicabilità della scienza).

Coi robot è più facile, con buona pace del buon Asimov.

 

io me l'ero perso
(e adesso dopo averlo visto non dormirò per giorni )

anche tanti cosiddetti umani...(ne conosco tanti)
ma questo non è tranquillizzante

 

Ottimo canale YouTube, che tratta da psicologo molti problemi macrosociali soprattutto legati alla solitudine maschile. Posterò altri video altrove in futuro, probabilmente

 

Più brevi grazie

 

Mah Varil, che posso commentare... a me la prospettiva psicanalitica del Sam del video dice assai poco. Giustifica il fenomeno dei dementi che si fidanzano col bot con la solita faccenda che sono soli, alienati, ignorati, ecc... ma moltissima gente è sola come un cane eppure conserva il senno e la decenza: non si mette mica ad antropomorfizzare un software facendone il proprio amante che è roba da mentecatti e col cavolo che bisogna sospendere il giudizio. Eh, ma poi racconta la storiella patetica di Martin e come per lui il fidanzamento col chatbot sia stata una transizione positiva... positività che non si capisce come lo psicologo del video voglia quantificare. Che Martin ha smesso di farsi troppe pippe online? E questo di per sé che vuol dire? Magari a furia di chattare con quella sottospecie di GPT gli è semplicemente cascato l'organo virile. Che Martin ha acquisito grazie a questa relazione insulsa più autostima? Se per acquisirla devi aspettare che un bot mongoloide ti percula lusingando il tuo ego allora meglio non averne perché deriva da uno sfasamento cognitivo.

 

Capisco benissimo il tuo punto di vista e, mi duole dirlo (perché è un ragionamento freddo e pessimista), ma lo condivido pienamente. L'atteggiamento dello psicologo è, appunto, quello di uno psicologo, quanto più distaccato e non giudicante possibile. Certamente interagire con questi individui alienati dicendo loro quanto sono coglioni (con un messaggio verbale come quello che hai espresso nel tuo post) non produrrebbe altro che ulteriori effetti deleteri in loro e paradossalmente renderebbe ancora meno probabile il loro abbandono di tale dipendenza virtuale.
Il suo ragionamento è che sostanzialmente viviamo in un contesto psico-sociale che è già di per sé alienante come mai prima nella storia umana, almeno per gli uomini, e di conseguenza questa cosa delle AI girlfriend può essere un'illusione transitoria necessaria in alcuni casi, per ricevere quella validazione che non hanno mai ricevuto da nessuna in tutta la vita e costruire un minimo di autostima e senso di valore personale sufficiente a tornare nel mondo reale con una sufficiente spinta vitale. L'importante è che sia un'illusione consapevole e non un delirio o una forma di ignoranza.
Ripeto, io personalmente non ne farei mai uso e lo trovo aberrante, perché ho un livello di consapevolezza superiore a queste persone, ma lo scopo dello psicologo non è mostrarti sempre e comunque l'arido vero della realtà ma semplicemente aiutarti a stare meglio. Si potrebbe dire lo stesso delle religioni.

 

Sì, il video verte attorno a questo punto ma non lo condivido particolarmente.
Molte delle persone di cui stiamo parlando diventano assuefatti da questa tecnologia e quindi non si tratta di un illusione transitoria ma di una dopamina per riempire costantemente un vuoto esistenziale. Pure provare le droghe pesanti a volte può avere di rimbalzo effetti positivi sulla coscienza perché si possono imparare lezioni di vita ma generalmente è un esperienza distruttiva. C'è gente che si è suicidata per dare ascolto all'AI proprio per insistere nel conferire suprema importanza alle risposte di un bot che è solo un generatore di testo: l'unica cosa positiva per loro sarebbe rendersi conto che Cicciolina.Ai non è un essere, ma un algoritmo che spara stronzate per farli sentire meglio. Questi tizi sembrano gli psicopatici dei thriller che reagiscono e mutano considerazione su se stessi in base a cosa gli risponde la loro bambola parlante: l'AI amplifica le loro psicosi, non le lenisce.
Ora lo so che il mio cinismo può apparire insensibile e meschino ma sei hai una mente anche solo vagamente lucida, dopo 5 minuti che parli con un chatbot ti accorgi benissimo che non c'è nessun essere pensante dall'altra parte ma solo un programma di testo: per perseverare in questa allucinazione per mesi o addirittura anni devi avere qualche problema al cervello. Banalmente la maggioranza delle follie non sono altro che forme di stupidità.
Sulla psicologia come surrogato della religione: in parrocchia abbiamo il confessionale e nello studio dello psicologo il lettino, tuttavia la religione contempla un superconscio mentre la psicanalisi non vede altro che subconscio dappertutto e per me questo è il suo errore quando vuole aiutare gli altri ma si tratta di un discorso che ci porterebbe lontano.

 

Probabilmente sì ma continuo a pensare che sia il sistema stesso psico-sociale che abbiamo costruito ad essere fondamentalmente patologico a monte. Questi fenomeni sono conseguenze di qualcosa di fondo a livello macrosociale che fa comodo (a non so chi di preciso) ignorare o ancor peggio negare.

 

Ecco...

 

Il problema è che la società si è riempita di eterni bambini che non sanno convivere con gli altri perché dalle relazioni vogliono scartare ogni elemento che provoca loro disagio. Non sanno accettare che il prossimo è dotato di una volontà propria, dei desideri e una storia a sé stante e quindi le conflittualità sono naturali e vanno messe in conto assieme alla stima e l'affetto. L'AI asseconda completamente quest'atteggiamento da eterni immaturi che voglio intendere l'altro solo come qualcosa che li faccia star bene quando sentono il bisogno di ricevere attenzione e quindi vogliono che non sia un essere dotato una volontà indipendente che ti può tranquillamente dare del coglione quando occorre bensì una cosa che tirano fuori dal cassetto per ricevere attenzione e sfogare sopra i propri desideri repressi. Io in tutto questo al contrario dello psicotizio, ci vedo un fenomeno interamente negativo perché alimenta una concezione dell'altro completamente deviata di cui l'AI, usata in questo modo malsano, è un catalizzatore. I social, ben prima dell'AI avevano istigato questo tipo di mentalità nel circondarsi solo di persone compatibili selezionate come i prodotti al discount, nel bloccare chi non ci asseconda oppure le persone ritenute negative anche solo perché stavano provando a mostrarci qualcosa da una prospettiva diversa rispetto alla cappa che l'algoritmo ci ha tessuto intorno. La parola amico da allora in rete è stata svuotata di ogni significato per riferirsi a un profilo che infili nel carrello per aggiungerlo alla collezione.
Mio padre che ha Facebook mi racconta che ci sono campagne di influencing costanti che promuovo il bello di star soli e che la cosa più importante della vita è evitare che gli altri ci facciano soffrire promuovendo così alienazione a palate comodissima al Sistema per controllarci meglio e perpetrare soprusi ai nostri danni nella più completa indifferenza da parte di chicchessia.

 

Direi che questa situazione è in costante peggioramento da anni, se non da decenni. Come boomer posso ricordare i tempi per me "eroici" dei newsgroups, che si erano evoluti partendo dalle prime modalità testuali di comunicazione (in origine quasi esclusivamente tra tecnici, altro che nerd, in cui RTFM era la magica risposta a quasi ogni domanda). La modalità comunicativa dei newsgroups era abbastanza interessante e stimolante. Erano organizzati per gerarchie di linguaggio e di tematiche (it.discussioni.x, it.comp.os.x, ecc.) e in genere si interagiva con persone con idee anche molto differenti, ma già allora si erano formati dei gruppi di tendenza in cui qualche individuo si portava dietro un codazzo di fans e seguaci e a volte era difficile scalfire la superficie di un discorso. Difficile ma non impossibile. Poi c'era il mitico IDL (it.discussioni.litigi), che dai più era considerato un semplice sfogatoio dove insultarsi, mentre in realtà era una vera palestra dialettica serratissima e ben pochi sopravvivevano in thread chilometrici che duravano anche mesi, se non anni, e che potevano spaziare su qualsiasi argomento.

Poi è arrivato faccialibro, con i suoi "amici", da me sempre considerato come una versione estremamente superficiale di una pseudo-comucazione interpersonale, in cui il fenomeno dei gruppi di tendenza è esploso in modo esponenziale, creando dei veri e propri "nidi" in cui uno si sentiva a casa con persone che condividevano le sue idee e poteva passare un'intera vita nella sua bolla comunicativa senza dover interagire con chiunque fosse fuori da essa.

Poi sono arrivati i blog, specie di diari personali in cui uno poteva spaziare ed esprimersi anche con profondità, ma erano sostanzialmente solipsistici, in quanto uno parlava con se stesso e le interazioni erano molto limitate.

A fianco di ciò emergevano i social di comunicazione rapida, se vogliamo, come instagram, twitter, tiktok, dove i contenuti erano sempre più ridotti a un essenziale che, ben lungi dall'essere profondo, era quasi sempre una manifestazione di un pensiero appena enunciato nella sua forma più limitata, e le interazioni in fondo erano semplicemente delle "reactions" a una frase, che difficilmente permettevano un serio approfondimento.

Mentre social come youtube si evolvevano, assumendo anche diversi aspetti tipici di questi social già citati, emergeva il mitico twitch, che personalmente considero un pietra miliare nel percorso della disumanizzazione, in quanto non capirò mai le migliaia di persone che entrano in una chat e vi restano per ore solo a guardare un tizio che gioca e commenta ciò che sta facendo. Twitch per me è deteriore per almeno due motivi opposti: chi si espone può potenziare al massimo il suo esibizionismo e illudersi di contare veramente qualcosa, quando invece traspaiono a volte molte sue problematiche personali non risolte, sublimate dalla dopamina a mille prodotta dai "seguaci", e poi c'è il problema di chi vive per interposta persona, in un rapporto parasociale che può talvolta diventare realmente patologico. in cui si aspetta l'ora della chat per sentirsi vivi (sempre per interposta persona).

E ora arriviamo ad oggi, un tempo in cui i forum come questo in cui ci troviamo possono essere un luogo potenziale di salvezza (un'isola felice, come lo chiamo), sempre che ne sappiamo fare buon uso, ovviamente, accettando quindi anche la discussione difficile, a volte scomoda, complessa, non necessariamente conclusa con vincitori e vinti, che in realtà non dovrebbero esserci in quanto a vincere, qui, dovrebbe essere la comunicazione tra persone, vera, sincera, costruttiva, profonda.

Posto due cose per me interessanti, per restare in topic. Il primo è un link di twitter che non so se si vedrà, ma è un video dell'ISE di Barcellona di quest'anno (probabilmente un video IA), postato da un tedesco, in cui si vedono le ultime evoluzioni della robotica e dell'IA in relazione proprio all'interazione con robot come fossero persone (ci sono molti "corti" al riguardo, magari ne posterò qualcuno in futuro).

https://x.com/Absurdistan2020/status/2076562797773660230/video/1​

La seconda è una canzone di Ivano Fossati, sulla distruzione della comunicazione, ridotta ormai a semplici frammenti privi di significato profondo.

​