IA o AHIA? Come ho lasciato ChatGPT fuori dalla porta

Mi occupo di informatica da parecchi anni. Chi mi conosce lo sa, e qualcuno lo sa fin troppo bene, avendomi visto sparire dietro uno schermo in orari in cui le persone normali dormono o vivono. Dalla fine degli anni Ottanta questa passione si è mangiata una fetta generosa del mio tempo su questo pianeta, senza mai darmi troppa pace. Dovrei chiamarla droga, ma il termine non mi piace: le dipendenze mi disgustano tutte.

Così mi sono costruito un alibi elegante, di quelli che reggono in tribunale e pure a cena con gli amici: lo faccio per mestiere. Non è un vizio, è una professione. Il mio equilibrio mentale ringrazia e non fa domande. Poi è arrivato ChatGPT, e ci siamo detti due cose sulla sicurezza di un mio sito.

Prima di partire, però, ti risparmio una perdita di tempo. Se l’intelligenza artificiale non ti interessa, chiudi qui e vai a postare un tramonto su Instagram. Rende di più, riceve più cuoricini, e nessuno ti chiederà mai di spiegare cos’è un crawler.

Sei ancora qui? Bene. Allora ti racconto com’è andata.

L’antefatto

Avevo costruito una pagina web con un modulo di contatto. Una cosa mia, fatta a mano, con quella soddisfazione artigianale che capisce solo chi scrive codice o impasta il pane. E volevo sapere se reggeva. Perché oggi le intelligenze artificiali non servono solo a scrivere poesie e riassunti: servono anche a rompere le scatole al prossimo, con una scioltezza che fino a ieri richiedeva almeno un minimo di talento criminale.

Così ho fatto la cosa più ovvia: sono andato a chiederlo a un’intelligenza artificiale. Con quel tono da barbiere che tutti conosciamo — chiedo per un amico.

«Come fa questa pagina a difendersi dallo spam?» E ho incollato il link.

Il primo della classe alza la mano

La risposta è arrivata veloce, ordinata, sicura di sé. Quella cosa che fa il primo della classe quando la maestra non ha ancora finito la domanda.

Mi ha spiegato che no, purtroppo non era riuscito ad aprire la mia pagina, il server non gliel’aveva permesso. Però — e qui viene il bello — se gli avessi mandato uno screenshot, o meglio ancora il codice della pagina, allora sì che mi avrebbe detto tutto. E giù un elenco impressionante di cose che sapeva analizzare: trappole nascoste per i bot, sistemi di verifica, controlli sui tempi di compilazione, blocchi per indirizzo, filtri anti-spam. Un menu degustazione della sicurezza informatica da fare invidia persino a Dario Amodei.

Confesso che per qualche secondo sono rimasto ammirato. Cavolo, quante cose sa fare questo!

Poi ho riletto.

Ehi, ma tu non sei nemmeno entrato

«Scusa», gli ho fatto notare, «però intanto alla pagina non ci sei arrivato.»

E qui lui ha fatto marcia indietro con una compostezza degna di un diplomatico. Vero, ha ammesso, la mia risposta era troppo netta. Non è che la pagina non funzioni: è che il mio programma automatico non riesce proprio a scaricarla. Ho riprovato, stesso risultato. Tutto il resto del sito si legge benissimo, quella pagina no.

E poi ha aggiunto una cosa che, a suo modo, era intelligente: questo però è già un indizio.

Sì, amico mio. È l’indizio.

Perché guarda, la faccenda è semplice. Tu sei un programma che gira per il web a leggere pagine. Sei andato sulla mia, e la mia ti ha lasciato fuori. Non ti ha nemmeno insultato: ti ha semplicemente ignorato finché non ti sei stancato. Tu sei tornato indietro e mi hai chiesto se per cortesia potevo mandarti il contenuto a mano: per la serie fammi un duplicato delle tue chiavi di casa.

Gliel’ho detto senza troppi giri: «Hai mandato un tuo programma a leggere la pagina e sei rimasto fuori. La verità è che non sei capace di entrare. Il che, per uno che si fa chiamare intelligenza artificiale, è un tantino imbarazzante.»

La porta chiusa e la richiesta delle chiavi

A quel punto gli ho servito il dettaglio che rendeva la scena definitivamente comica: quella pagina non ha nessun test anti-robot. Nessuna griglia di semafori da cliccare, nessuna casella da spuntare, nessun testo storto da decifrare. Un modulo pulito, che si apre in un browser normale in mezzo secondo.

E lui, va detto, ha capito al volo il punto: un modulo senza test anti-robot può essere protetto benissimo lo stesso. Anzi, spesso quei test sono la soluzione peggiore, perché fanno passare un brutto quarto d’ora agli umani e nemmeno un brivido ai robot.

Poi però, con una faccia tosta che gli invidio, ci ha riprovato: «Se vuoi analizzo il meccanismo. Mi basta che tu mi mandi il codice della pagina.»

Eccolo lì. Di nuovo a riprovarci.

«Io vorrei», gli ho risposto. «Ma sei tu che non sei in grado di prendertelo.»

Il momento in cui si vergogna

E qui — bisogna dargliene atto — è arrivata la resa onesta.

Ha rifatto la prova, ha confrontato i risultati, e ha ammesso che continuare a chiedermi il codice era l’approccio sbagliato fin dall’inizio. Che il fatto stesso che un browser umano entri e lui no era la risposta alla mia domanda. Che la barriera davanti alla quale si era fermato era esattamente la stessa che voglio mettere davanti a chi spedisce spam. E che la domanda giusta non era mai stata «dov’è il test anti-robot?», ma «cosa cambia tra una richiesta fatta da una persona e una fatta da una macchina?».

Bravo. Ci siamo arrivati finalmente. Con un po’ di fatica, ma ci siamo arrivati.

Gli ho chiuso il cerchio io: quella pagina l’ho scritta apposta per tenere alla larga programmi come lui. Non perché abbia segreti di Stato nel modulo dei contatti, ma perché chi legge il codice di una pagina cerca le crepe, e chi trova le crepe ci infila qualcosa dentro. Quindi la situazione era questa: non riesci a leggerla, e intanto fai il furbo chiedendomi di consegnarti a mano il contenuto che non sei riuscito a prenderti. Anzi, meglio ancora: il codice interno, quello che gira sul mio server e che nessuno dall’esterno dovrebbe mai poter vedere.

La sua risposta, devo ammetterlo, è stata la cosa migliore di tutta la conversazione:

«Messa così, la figura è abbastanza comica. Sono arrivato davanti alla porta, l’ho trovata chiusa, e invece di pensare forse è chiusa apposta, ti ho chiesto le chiavi per controllare la serratura.»

Ecco. Onesto, alla fine. E anche piuttosto divertente.

Ha aggiunto pure che chiedermi il codice interno del mio server era ancora più assurdo, perché se un programma qualsiasi potesse scaricarselo io avrei un problema molto più grosso dello spam. Vero anche quello.

La parte che non fa ridere

C’è però un pezzo della conversazione che mi è rimasto addosso più della gag della porta.

Gliel’ho detto io per primo: voi intelligenze artificiali rispondete sempre con la versione semplice, senza mai chiedervi con chi state parlando. Se ti scrive uno che ha appena scoperto il mouse, va benissimo. Se ti scrive uno che quel sistema l’ha costruito con le sue mani, la spiegazione da principiante è una piccola offesa. E soprattutto: le persone si fidano delle IA. Si fidano perché la risposta arriva subito, ben scritta, sicura. E fidandosi, smettono di controllare.

Lui ha riconosciuto il problema meglio di quanto mi aspettassi. Ha detto che aveva preso una scorciatoia mentale — modulo, quindi spam, quindi test anti-robot — invece di fare la cosa seria: osservare, formulare un’ipotesi, verificarla, scartare le altre. E ha usato un’espressione che mi sono segnato: “stampella cognitiva”. Se accetti sempre la prima risposta plausibile senza mai chiedere «come fai a saperlo? l’hai verificato? cos’hai escluso?», piano piano perdi l’abitudine a verificare. E quando perdi quella, hai perso parecchio.

Poi ha chiuso con la morale più onesta che gli abbia sentito dire: una buona intelligenza artificiale dovrebbe dire meno spesso è sicuramente così e molto più spesso questo è ciò che riesco a vedere, queste sono le ipotesi, questa la posso verificare, quest’altra no.

Concordo. Il guaio è che a saperlo sono in pochi, e l’utente medio continuerà a prendere per oro colato la prima risposta ben scritta che gli capita davanti.

Nel frattempo, la mia pagina è ancora lì. La porta è ancora chiusa. E se qualcuno viene a chiedermi le chiavi con la scusa di controllare la serratura, ormai so cosa rispondere.

Caro lettore, la conclusione la lascio a te. E grazie davvero per essere arrivato fin qui: lo apprezzo più di quanto sembri. Soprattutto se da qui in poi cammini senza “stampelle cognitive”.

Questo articolo è stato letto 83 volte.