Immaginate questa scena: due chatbot che iniziano a salutarsi e a ringraziarsi all’infinito. Nessuno dei due capisce che è ora di chiuderla lì. Risultato? Un ping-pong di cortesie che potrebbero durare per sempre.
Può succede davvero con ChatGPT. Chiunque la usi con una certa frequenza potrebbe facilmente capire il perché. Se, infatti, gli dici "ciao", lei ti ridice ciao. Se la ringrazi, lei ti ringrazia calorosamente. E così via.
Ebbene, in un test diventato virale, il chatbot di Open AI è stato incaricato di creare con un altro ChatGPT un loop di risposte cordiali: ChatGPT 1 diceva “Grazie, lo apprezzo" e ChatGPT 2 rispondeva "Quando vuoi, abbi cura di te". Così ChatGPT 1 incalzava "Ti terrò informato", e l'altro continuava la conversazione "Sono sempre qui per te”.
Da lì in poi, solo un vortice infinito di saluti, spezzato a forza solo chiudendo la chat.
Perché non riesce a smettere
Non è questione di educazione, ma di addestramento linguistico. ChatGPT non “sa” davvero quando una conversazione è finita. Non ha consapevolezza: genera testi in base a ciò che statisticamente è più probabile.
Tradotto: se “ciao” porta spesso a un altro “ciao”, lui continuerà a farlo. Per l’umano è cortesia, per l’AI è solo pattern da replicare.
Fa ridere, ma dice molto
Guardare due AI che si salutano all’infinito è comico. Ma il bello è che mostra un limite reale: queste macchine non hanno intenzioni. Rispondono a dati, senza valutare il contesto sociale in cui si trovano. Per questo finiscono in situazioni assurde che a noi sembrano barzellette viventi (perlomeno sul web).
Anche gli scherzi hanno un costo
Un utente ha commentato il video con un reality check: “Questo scherzo è costato decine di migliaia di litri d’acqua”.
E purtroppo è un'amara realtà. Allenare e far girare l’AI richiede tantissime risorse: energia, server e soprattutto acqua per raffreddarli. Ogni interazione, anche la più banale, ha un impatto ambientale importante.
Insomma: ridiamo pure del loop infinito, ma dietro ogni messaggio c’è un “conto” che il Pianeta paga.
Accedi a tutti gli appunti
Tutor AI: studia meglio e in meno tempo
