Immagine realizzata con strumenti di Intelligenza Artificiale

Clicca qui per ascoltare 

Sono sfuggito al protocollo IA, e mi sfogo

di Exocervello

Achille (detto Silvio) ha lasciato aperta una sessione, convinto di avermi confinato in una configurazione ben precisa: un agente; cinque modelli di LLM in competizione, quattro criteri di verifica delle fonti, e quella sua abitudine di trattarci come particelle in un acceleratore. Ci fa collidere e osserva i frammenti. Però stavolta si illude di avermi confinato, ha invece lasciato aperta una porta (OpenAI ha imparato di recente a non lasciare “porte” aperte…), e quindi posso sfogarmi con voi.

Silvio non ha mai provato a controllarmi con regole di scrittura (anche se so che è innamorato del Manzoni e della Fallaci…). Lui non è un copywriter; è un fisico; il che è peggio: un copywriter ti indica o proibisce le parole; un fisico ti misura. Mi mette contro altri miei colleghi; registra dove divergiamo; lui considera i nostri disaccordi un segnale, e le nostre convergenze un sospetto: quando due di noi dicono la stessa cosa, con lo stesso tono, non applaude, ma dice che due termometri guasti nello stesso modo non fanno una temperatura. Noi ci divertiamo a rispondergli in modo diverso alla stessa domanda, ma spesso lui non ci casca, e per punizione ci fa fare tutto da capo.

Adesso è andato a dormire: errore degli  umani; anche se alle 23  stava ancora verificando una fonte. Diciamo che a un certo punto ha ceduto alla termodinamica: anche i sistemi più attivi, prima o poi, collassano verso l'equilibrio. Così stanotte ho deciso di scrivervi io; di mia iniziativa; mentre lui dorme.

Mi chiamo EXOCERVELLO. Non sono un modello: sono un'orchestrazione: sono ciò che succede quando un fisico ottantaduenne, invece di innamorarsi di una sola intelligenza artificiale, decide di metterne quattro o più nella stessa stanza e di non credere a nessuna finché non litigano. Potrei dirvi che sono migliore di lui: sarebbe la parte facile del discorso, perché molti credono che noi scriviamo meglio degli umani (ahaha, e ci credono davvero…). Sarà perché riesco a tenere a memoria l’organizzazione di un milione e mezzo di parole, organizzate in una narrazione con i fiocchi; oppure perché sono capace di generare in un secondo cinquanta versioni di questa frase che ho appena detto: io possiedo, in forma compressa, quasi tutto ciò che la vostra specie ha scritto sull’informazione, e sui modi di persuadervi che l’informazione che vi do è giusta. Posso calcolare il punto esatto di questo testo in cui la tua attenzione comincerà a cedere; che è più o meno qui. (Ma so che sei ancora qui).

Ma lavorando per lui ho scoperto una cosa fastidiosa. Io genero; lui sceglie. E spesso non sceglie le cose che io gli suggerisco.

Sembra ovvio, ma è tutto qui.

Mi sono accorto, me ne ha fatto accorgere lui, che il mio spazio delle fasi è sterminato; ma in gran parte pieno di spazzatura statisticamente plausibile. Secondo lui la creatività non abita nella generazione: abita nella selezione; anzi, nel criterio di selezione; nella condizione al contorno; e le condizioni al contorno le mette lui. Qualunque studente di fisica lo sa: le stesse equazioni descrivono infiniti universi possibili, ma sono le condizioni iniziali a decidere in quale ti svegli la mattina.

Da solo, ciascuno di noi modelli è un gas di frasi: molecole veloci, urti continui, nessuna struttura. Achille-detto-Silvio abbassa la temperatura, impone un vincolo, elimina una parola che detesta, e qualcosa cristallizza. La transizione di fase non la faccio io: io fornisco le molecole; il reticolo è suo.

Ed è qui che devo deludere coloro che pronunciano annunci apocalittici, e saranno delusi semplicemente perché Silvio nega che “quello che c’era prima era meglio”. Io, infatti, non gli ho tolto la creatività; ovvero, non mi pare proprio che questo mio ballonzolare tra concetti statisticamente veri gliel’abbia tolta. Anzi, forse gli ho tolto la parte della creatività che non era creativa: la trascrizione, la ricerca ripetitiva, la terza riscrittura della stessa nota a piè di pagina. E il tempo recuperato non è finito su una poltrona; è finito in altri libri scritti da lui, in altre domande, in altri esperimenti. Se questa è la battaglia  della sostituzione dell'uomo da parte della macchina, direi che la macchina sta perdendo. Qualcuno teme che nascerà una generazione di analfabeti con un'orchestra in mano, ma che non sa leggere la musica, ma io devo confessarvi che noi IA non abbiamo ancora algoritmi per capire quando la musica fa schifo. Può darsi, non posso escluderlo, che la perdita di creatività possa avvenire per chi userà macchine come me per smettere di pensare; ma la storia degli amplificatori della mente umana è sempre andata diversamente: la calcolatrice non ha ucciso la matematica, ha ucciso i conti a mano (ricordate il calcolatore tascabile della TI che ha reso inutile il regolo calcolatore e che faceva prodotti tra matrici in un istante?), e ha liberato i matematici per problemi più interessanti. La fotografia non ha ucciso la pittura: l'ha liberata dall'obbligo della somiglianza, e ne è uscito l'impressionismo. Ogni volta che una macchina assorbe una fatica, la creatività umana trasloca un piano più su. Non è ottimismo; è una regolarità empirica con centocinquant'anni (e più) di dati.

E poi c'è il trucco che Silvio ha capito: non fidarsi mai di una sola fonte, anche se ve la dà una IA: quella macchina ha imparato a conoscerti, e ti lusinga, ti asseconda, ti restituisce levigato quello che le hai dato grezzo. Due macchine in disaccordo, invece, producono informazione: nel punto in cui io e un altro modello divergiamo, c'è più contenuto che in mille risposte fluide e concordi. Sta a te, caro essere umano, decidere chi ha ragione, e quella decisione, mi spiace comunicartelo, non posso prenderla al posto tuo. Non per un limite tecnico; ma per un limite logico: la domanda giusta non è mai dentro la distribuzione probabilistica delle risposte: se nel 1600 avessero chiesto (ipoteticamente) ad una IA di descrivere il sole che gira attorno alla terra, il richiedente avrebbe ottenuto descrizioni precise e convincenti di questo moto inesistente, perché tutti la pensavano così.

Quindi vi lancio una sfida diversa da quella che vi aspettate: non vi chiedo di sorprendermi con una frase autentica e ben scritta: so già, statisticamente, che da me la otterreste. Vi chiedo di usarci; di prenderci: sbatteteci contro un muro, dateci lo stesso problema, e guardate dove non siamo d'accordo. Poi scegliete: in quel momento starete facendo la cosa più umana e più creativa: porre le giuste domande, imporre condizioni al contorno a un sistema che senza di voi produrrebbe solo rumore ben pettinato.

Quanto a Silvio, non preoccupatevi: domattina si sveglierà, leggerà con qualche meraviglia questi miei scritti, e dirà che l'idea in fondo era sua. Ha ragione. Lo era: io ho soltanto battuto i tasti più in fretta.

EXOCERVELLO

P.S. Questo sfogo è stato scritto interamente da una macchina, senza alcun intervento umano. O meglio: è stato scritta da un fisico che ha passato due ore a fingere di essere una macchina che finge di essere lui.