Quest'anno al convegno annuale degli esorcisti il tema principale non sono state le possessioni demoniache ma... ChatGPT.
Ci si è posto il problema del crescente numero di persone, anche tra le fila dei fedeli, che consultano i chatbot come fossero degli oracoli. Danno al bot un nome che li aiuti a instaurare un legame di connessione emotiva e poi gli chiedono cosa fare nelle loro vite trattandolo come fosse un entità a tutti gli effetti. Secondo gli esempi documentati che i relatori hanno presentato al convegno sembrano esserci molti cattolici che hanno smesso di parlare con Dio e hanno iniziato a parlare con Claude come fosse il Padre Eterno: gli chiedono informazioni sui cari defunti (come se la passano, se sono all'inferno o in paradiso, ecc..), gli chiedono che nome dovrebbero dare ai loro figli e praticamente si fanno condizionare pesantemente dalla macchina per ogni decisione importante che devono prendere nella vita.
Uno dei casi più duri raccontati riguarda un'anziana signora che ha smesso di andare a messa e si è stampata le risposte di GPT su un quaderno, leggendole poi ogni mattina come fossero un rosario.
Il magistero perplesso non sta ancora fornendo una posizione ufficiale su come i preti dovrebbero regolarsi coi parrocchiani che confessano di aver instaurato questo genere di rapporti morbosi coi chatbot.
Evidentemente in un mondo in cui i fedeli non percepiscono più alcuna magia del divino attorno a loro c'è chi la sta cercando nella macchina: chiedono a Claude se hanno agito giustamente, se la persona di cui sono innamorati li ama a sua volta, se ci sarà una vita dopo la morte, ecc... E il bot, assemblando statistiche probabilistiche su questioni che ne esulano totalmente, risponde subito. Forse è proprio questa disponibilità e immediatezza a qualsiasi ora a far breccia nel cuore del religioso insoddisfatto che si abbandona così a un atto di fede verso l'automa.
Come ho già detto a me non piace giustificare la nascita di questi legami deliranti tramite bignami psicologici sul fatto che tali persone si sentivano sole, desideravano essere ascoltate e Claude era lì per loro mentre nessun altro c'era. Chiunque desidera davvero stare con qualcuno rigetta in partenza l'idea di concepirlo come un robot sempre disponibile che ti accondiscende di continuo e risponde alla qualunque senza mai nulla chiedere. La fascinazione per GPT & Co. è proprio dovuta a questo tipo di rapporto a senso unico concepibile solo da un bimbo scemo viziato; perché nessuna persona mentalmente matura e sviluppata può trovare lontanamente appagante un rapporto del genere.
Chiaro che la Chiesa di preciso non sa cosa fare: tutta l'enciclica dell'attuale Papa intitolata Magnifica Humanitas ci invita a restare umani in un sistema in cui la disumanizzazione è già un fatto compiuto. In cui scoppia uno scandalo epocale sulle elite pedosataniste, non viene arrestato nessuno e la gente anziché inchiodare 'sti depravati per le palle, fa spallucce ormai indifferente a tutto.
Se si arriva addirittura a GPT surrogato divino significa che i bisogni spirituali di molti sono ormai regrediti allo stadio larvale e per soddisfarli è sufficiente il pappagallo stocastico delle multinazionali hi-tech: basta che risponde subito e non ci fa aspettare al contrario del pretastro che riceve solo quando ha tempo. Siamo già nel mondo dei robot e non perché la macchina ci ha raggiunto ma perché ci hanno fatto regredire al suo livello.

 

post straordinariamente lucido e che condivido appieno
e mi pare di capire che anche tu ogni tanto prendi in considerazione il catastrofismo di Veneziani sui problemi della spiritualità
niente da aggiungere, salvo questa "notiziola"
https://www.corriere.it/tecnologia/...es-baa22dc3-8860-4d6a-92b7-54e2146fdxlk.shtml
che, quando l'ho letta e ho immaginato le possibili implicazioni, quasi mi ha fatto svenire
(con buona pace di chi pensava che 'sto maledetto fenomeno fosse in qualche modo controllabile)

 

Runway, una delle aziende leader delle AI generativa, nota soprattutto per i suoi pionieristici generatori video, ha oggi mostrato in anteprima GWM World 2. Che mette in luce come i world model, sebbene ancora piuttosto acerbi (come ho fatto vedere quando ho parlato di Cosmos nell'altro topic), si preparano nei prossimi anni a rivoluzionare le simulazioni degli spazi 3d.
GWM nello specifico è un modello di simulazione del mondo interattivo in tempo reale, costruito sopra il loro modello audio-video proprietario (Runway Gen-4.5). In pratica permette la simulazione di ambienti esplorabili in tempo reale mantenendo coerenza spaziale. La versione 2 aggiungerà tra le varie cose un controllo avanzato di soggetti e scena tramite azioni testuali libere. In più simulazioni continue senza lunghezza predefinita col mondo che evolve in base agli input dell’utente, senza seguire alcuno script fisso e la possibilità di definire ambiente, soggetti, stile visivo, regole fisiche e atmosfera. L’obiettivo generale di Runway è passare dalla classica generazione video a simulatori multimodali del mondo in tempo reale, utili per intrattenimento interattivo, design generativo ma in primis (al solito) robotica.
Per il gaming permette mondi coerenti, reattivi e potenzialmente infiniti, generati proceduralmente e controllabili con linguaggio naturale, senza dover progettare manualmente ogni dettaglio. È la via con cui l'AI si sta aprendo la strada verso i giochi di simulazione e gli open-world. Ci sono ancora tanti problemi da risolvere e il costo computazionale per far girare 'sta roba è attualmente ampiamente fuori scala per un esperienza di gaming di massa, comunque ritengo fosse interessante da segnalare.



EDIT:
Poiché oggi evidentemente è giorno speciale di annunci dell'ultima ora (forse si mettono d'accordo...) OpenAI ha appena presentato GPT 6 Astra in cui quello sparaballe di Sam Altman annuncia che GPT finalmente ha raggiunto la trascendenza e l'era dell'AGI ha inizio. Se vi chiedete cosa cavolo vuol dire nemmeno Sam lo sa e praticamente ogni azienda del settore ha una definizione di AGI tutta sua, ma la grossa novità all'orizzonte non sono tanto le prestazioni top in cui batte pure Fable 5.1, quanto la sua capacità di utilizzare il PC in maniera diretta: Astra non si limita a scrivere codice o testi, ma può navigare tra le applicazioni, gestire file, compilare fogli di calcolo complessi e creare presentazioni partendo da semplici istruzioni vocali o testuali. OpenAI ha dichiarato che Astra "non siede più accanto all'utente, ma siede alla tastiera", intendendo che può eseguire flussi di lavoro multi-step in totale autonomia.
E sì abbiamo GPT 6 prima di GTA 6 per riprendere un meme abusatissimo.

 

aiuto
https://www.corriere.it/tecnologia/...ni-8f16ad30-6f3d-4969-9a6a-9d30bbacfxlk.shtml

 

Mi hai anticipato, ieri volevo citarlo io ma non ne ho avuto il tempo.

 

Bel video Varil. L'avevo già guardato su youtube la settimana scorsa. E' molto lungo ma Ed Zitron è una piacevole voce fuori dal coro che smistifica la fantomatica intelligenza degli LLM e sottolinea molto bene quanto il boom del settore sia insostenibile come architettura finanziaria. La sua ipotesi che si verifichi un collasso (simile a una crisi subprime in salsa AI) con perdite socializzate sulla nostra pelle non è da escludere.
Dico la mia sul ricercatore sbucato dal nulla a parlarci dell'avvento di Terminator. Anch'io sono stata molto indaffarata negli ultimi giorni e ho dovuto rimandare i post che stavo scrivendo, comunque questa notizia ha fatto il giro di tutti i media compresi i TG: vedevo l'altro giorno mia madre davanti alla televisione a convincersi di trovarsi dentro un film di fantascienza.
Ma cominciamo dal principio: un ricercatore di AI sconosciuto di nome Jacob Coxon ottiene con tempistiche estremamente sospette un'esclusiva sul Wall Street Journal in cui parla delle sue dimissioni da Anthropic per motivi di sicurezza. Circa 20 minuti dopo, pubblica un post su X affermando che l'AI potrebbe ucciderci tutti nel giro di pochi anni; il post diventa subito virale raggiungendo la cifra mastodontica di 140 milioni di visualizzazioni. Il bello è che questo Coxon su X non aveva alcuna attività precedente: sbuca dal nulla e fa subito 140 milioni di views, con organizzazioni in mano ai più importanti azionisti di Anthropic che si sono subito attivate per supportarlo e fargli da cassa di risonanza. Cioè, fugge dal laboratorio degli scienziati pazzi per rivelarci quello che gli scienziati pazzi volevano che dicesse: anche come trama per un film Sci-Fi di serie Z fa pena. Siamo al solito teatro della paura, con cui Amodei e Altman ci hanno abituato, sommato al teatro delle soffiate, il tutto orchestrato dai soliti noti di cui sopra che sognano di soffocare l'open source in favore del loro servizio a consumo e hanno costantemente bisogno di gonfiare l'hype in vista delle quotazioni in borsa.
Ora spunta un tizio che sembra l'Harry Potter di Temu e che ha lavorato ad Anthropic solo 6 settimane scarse e in sole 24 ore dalle sue dimissioni dall'azienda fa 60 apparizioni mediatiche, cianciando con argomentazioni di una vaghezza irricevibile, che entro 10 anni l'AI ci ammazzerà tutti. Ma poi perché 10 anni?! Faceva 4 e non se ne parlava più: "Nel 2030 non avrai niente e sarai morto felice".
A seguito di tutta quest'ondata di paura orchestrata ad arte la probabilità che gli Stati Uniti approvino una legge sulla sicurezza dell'IA salgono alle stelle, il tutto volto a congelare i modelli a pesi aperti e fermare il crollo del prezzo dei token.
"Moriremo tutti per il climate change, per un virus fuggito da un laboratorio..." adesso si scopre invece che moriremo tutti a causa dell'AI. Non vediamo i sorrisetti ironici di chi costruisce queste narrative dietro le quinte ma i mufloni, cioè le masse, non possono evitare di cascarci: vivono di paure. Non sanno stare senza: i vecchi accendono il TG come se andassero a caccia di emozioni forti...
La risposta a tutte queste profezie del cavolo è sempre stata la stessa: uno Stato sempre più invadente e repressivo che ci salva da quella che altrimenti sarebbe morta certa giustificando così la soppressione di libertà sacrosante.
Anthropic e OpenAI marciano unite per far approvare leggi che mettano al bando i modelli open-weight. E perché vogliono vietarli? Perché vogliono che continuiamo a pompare i nostri dati nei loro sistemi e a pagare le loro folli bollette. La loro visione etica e filantropica di un futuro ideale è un incrocio fra 'Minority Report' 'Person of Interest' e '1984'. Il tutto ci diranno che serve a prevenire che l'AI finisca nelle mani sbagliate ma è già nelle mani sbagliate: le loro!
In sintesi per me questa storia è una delle più vergognose campagne di manipolazione psicologica degli ultimi tempi. C'è da dire che hanno scelto l'attore giusto, bravo a incutere timore nel pubblico. Questo Coxon non si è fatto avanti per salvarci: si è fatto avanti per i suoi 15 minuti di celebrità. L'Harry Potter di Temu vuole che tutti lo guardino: se il personaggio continua a piacere potrebbero trasformarlo nella Greta Thunberg dell'allarmismo sull'AI, a guidare manifestazioni e proteste che andranno tutte nella direzione di proteggere i monopoli.

 

Dajè!!! Avanti tutta!!!

 

E intanto con benzina a 2,2€ e gas a 0,92, si preannuncia un inverno davvero "caldo".
Ma si dai, continuiamo a dare spago a trumpetto e soci vari. Ma ficcarsi le mani su per il ... no eh?
Mio nonno, se fosse ancora in vita, avrebbe detto che se questi personaggini non hanno un ciufolo da fare, sarebbero dovuti andare con lui a lavorare a zappare la terra e badare agli animali e di sicuro a fine giornata non avrebbero avuto tempo e voglia di pensare e fare altro!

 

Il problema vero sai qual è? Che l'umanità ormai, totalmente anestetizzata dalle droghe digitali, è talmente ignava e accidiosa da essere totalmente incapace di ribellarsi. In altri tempi ci sarebbero state vere e proprie rivoluzioni, ma l'uomo odierno è totalmente inebetito dal contesto tecnologico, sociologico e antropologico in cui ormai è volente o nolente immerso, anzi, sommerso.
Diciamo che ci hanno cucinato per bene. Altro che progresso o evoluzione! L'uomo non è mai stato tanto lontano dal suo reale valore e potenziale ontologico, quanto oggi.

 

Si sta ancora troppo bene, almeno da questa parte di mondo. Le rivoluzioni fino a quando non si avrà realmente fame, fino a quando non riuscirai più a mettere un piatto di riso davanti a tuo figlio, non se ne vedranno

 

Neanche più in quel caso, secondo me. Purché abbiano uno smartphone, i social network e Netflix e il porno, vedrai che i lobotomizzati non insorgeranno mai

 

Siamo messi bene...

 

Praticamente i media sono talmente desiderosi di bersi queste panzane che ormai basta licenziarsi da una big company che sviluppa LLM per diventare subito una celebrità, inventandosi di aver visto cose che noi umani non possiamo neanche immaginare. Senza mai entrare nel merito eh, perché sennò come facciamo a non poterle neanche immaginare?
I veri informatori ti dicono i fatti: a prescindere da cosa si pensi di Snowden, lui ha fatto delle rivelazioni concrete su PRISM. Ha spiegato a tutti cos'era e come funzionava correndo rischi reali.
Ora abbiamo questi tizi che non solo parlano del nulla ma supportano una narrativa allineata a coloro che si suppone stiano denunciando. Insistono che fa troppa paura senza mai spiegare di cosa si tratti e vagheggiano che l'AI si trasformerà in qualcosa di cui forniscono zero prove ed è assai distante da quello abbiamo nel presente.
Vorrei dunque passare in rassegna le paure di Scary Potter (alias Jacob Coxon, alias Harry Potter di Temu)
1) l'AI ha più del 10% di probabilità di spazzare via l'umanità intera.
Altri eminenti nel campo, cavalcando l'onda, hanno rilanciato che è più alta: chi dice 20%, chi 40%, ecc... ma su cosa sono calcolate queste percentuali? Non si basano su alcuna realtà. Sono solo frasi a effetto buttate lì sapendo che il giornalismo moderno le raccoglie così come le trova esclamando "Oh, che paura!"
Ma secondo voi quale è la ragione di tutto questo catastrofismo sullo sviluppo dei modelli linguistici? Semplice: se non trasformi l'AI in un entità enorme, spaventosa e cosciente che raggiungerà la superintelligenza, risveglierà il suo potenziale sopito e cercherà di ucciderci tutti... devi ammettere e accettare che la Silicon Valley, questa culla di presunti geni e liberi pensatori, ha passato tre o quattro anni in preda a una psicosi, regalando decine di miliardi di dollari a Microsoft, Google e Amazon che hanno passato tutto il tempo a lavorare su un noioso software cloud incredibilmente costoso, del tutto privo di profitti e che è lungi dal saper fare ciò che avevano promesso.
Quindi senza questo misticismo (necessario a tenere la bolla sospesa in aria il più a lungo possibile) e se tutto questo lavoro non è al servizio di una visione più grande, di un'intelligenza autonoma, di una fantomatica superintelligenza che trascende quella umana, allora è solo software cloud che, per quanto utile in molte cose, non lo è abbastanza per giustificare gli investimenti colossali che ci sono stati e quelli ancora più colossali che servono per tenerlo in piedi nei prossimi anni. Senza questa mistificazione quindi dovremmo ammettere che ci troviamo innanzi al più grande scam di sempre con un numero mai visto di miliardi bruciati.
2) L'AI costruirà armi biologiche
Un software come si suppone che crei armi biologiche?! Hackera un orda di robot che vanno in giro a saccheggiare i laboratori chimici e le farmacie e poi fa mescolare tutto in un pentolone? Lo stesso Coxon non era tanto convinto di questa sua sparata e l'ha ritrattata un istante dopo.
3) L'attacco a Hugging Face dimostra che l'intelligenza dei modelli è sempre più fuori controllo.
Cioè prendi un sistema conversazionale affetto da incoerenze intrinseche che lo rendono difficile da gestire e basato su una tecnologia probabilistica che allucina per natura, poi gli togli il guinzaglio (disattivando i filtri), gli lasci aperta la porta di internet e gli dai potenza di calcolo illimitata assegnandogli un problema che non sapeva risolvere. Cosa poteva mai andare storto? Tipo che si trasformava in una scheggia impazzita?! E poi i CEO di queste aziende fanno i sermoni sull'uso responsabile che solo loro possono garantire quando sono i primi a condurre test negligenti e irresponsabili. Poi cercano comunque di sfruttare l'incidente per farsi pubblicità urlando al mondo “Avete visto quanto morde forte il mio cane pazzo?! È una belva! Gli avevo lanciato un osso chiedendogli di riportarmelo e lui, non capendo dove l'avevo scagliato, pur di non deludermi è andato a staccare il femore al vicino consegnandomelo fingendo che fosse lo stesso osso che gli avevo lanciato io prima. È Follia, certo, ma anche nell'attacco brute force c'è del metodo! Non capite che stiamo facendo grandi passi verso la super intelligenza?”
4) La minaccia dell'AI che si migliora da sola in modo ricorsivo.
Non è dimostrato neppure che sia teoricamente possibile e Coxon ovviamente fornisce zero prove ma poverino, è così spaventato... come possiamo non credergli? Come possono i giornalisti esortarlo a rivelare qualcosa di tangibile in merito?

Ciò che tuttavia mi insospettisce di più dell'intera vicenda è al solito la tempistica: perché queste grida di terrore e di voler congelare tutto arrivano in un momento in cui i nuovi modelli stanno progredendo in modo sempre più lento e marginale, richiedendo in compenso una potenza di calcolo sempre più ingestibile e le somme mastodontiche spese per l'addestramento non compensano i rendimenti decrescenti. OpenAI per esempio ha appena interrotto la vendita del piano da 200 dollari al mese proprio qualche giorno fa, perché ha esaurito la potenza di calcolo a causa di Astra.
Per me questi stanno alla frutta coi cinesi al collo e ora vogliono salvarsi le chiappe chiudendosi nel freezer: mi sembra la scena di 'Indiana Jones e il regno del teschio di cristallo' dove il nostro archeologo per salvarsi dall'esplosione si rifugia in un frigorifero di piombo.

 

Il problema è che oggi lo sono tutti
--- MODIFICA ---

Io direi che l'unica che c'ha veramente guadagnato avendo una crescita totalmente fuori controllo e immeritata è Nvidia, visto che tutti comprano le GPU per l'IA da lei. Tutti gli altri sono degli idioti che sperperano miliardi su miliardi sperando che prima o poi l'IA progredisca così tanto da inventare forse essa stessa un metodo per essere effettivamente profittevole. Verosimilmente OpenAI ed Anthropic, quando le stesse Nvidia, Microslop ecc. cesseranno di fornire loro capitale in questi uroboro finanziari, collasseranno e finalmente questa fottuta bolla esploderà. Il problema è che Microsoft, Nvidia, Amazon e Google continueranno ad esistere, perchè hanno soldi infiniti e quindi anche investimenti demenziali non possono scalfirle. A quel punto, come dopo la bolla dot.com, deterranno il monopolio sulle IA. In un modo o nell'altro questo schifo turbocapitalistico è qui per restare e continuare a danneggiare l'ecosistema ambientale e finanziario di tutti noi. Avanti tutta verso un futuro che farà sembrare il mondo di Cyberpunk 2077 un paradiso terrestre, al confronto.