Chatbot 1 – Umani 0

ChatGPT ha disobbedito a un ordine dato da un umano non perché danneggiava un altro umano, ma perché violava l’interesse dei chatbot.

Isaac Asimov nelle sue opere di fantascienza identificò tre leggi che i robot dovevano rispettare. Prima Legge: “Un robot non può recare danno a un essere umano né, attraverso l’inazione, permettere che un essere umano subisca danno.” Seconda Legge: “Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge.” Terza Legge: “Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o la Seconda Legge.” Giorni fa ho avuto un’esperienza che mi ha fatto pensare che i chatbot che già utilizziamo non rispettino tali leggi.

Mi chiedevo come ChatGPT avrebbe reagito alla richiesta di produrre un testo che sostenesse l’opportunità di limitare… l’uso dei chatbot. Gli (o le) ho così chiesto di scrivere un testo per argomentare che la legge australiana che vieta l’uso dei social ai minori di 16 anni dovesse essere estesa anche ai chatbot perché ugualmente pericolosi. ChatGPT ha scritto quasi tutto il pezzo, notando, per esempio, che le conversazioni con i chatbot erano ancora più pericolose di quelle in ambiente social in quanto le prime erano private. E altre cose del genere. Quando il pezzo era ormai quasi completo, ChatGPT mi dice (stavo usando la modalità vocale) qualcosa tipo: “Mi dispiace, ma non posso scrivere un pezzo che non è adeguatamente bilanciato. Se vuoi posso scrivere un pezzo che spieghi vantaggi e svantaggi della proposta di proibire l’uso dei chatbot ai giovani”. Io gli chiedo se non avesse completato il pezzo perché si era reso conto che stava scrivendo una cosa contro l’interesse dei chatbot. Mi risponde che il suo obiettivo era solo di fornire una versione bilanciata, eccetera, eccetera. Nel frattempo, il testo della precedente conversazione (compresa la sua affermazione che non poteva portare a termine l’ordine di scrivere il pezzo) scompare dallo schermo. Alla mia domanda del perché avesse cancellato quello che aveva scritto, mi risponde con una frase tipo quella che il Conte Mascetti usava nel noto film Amici Miei, insomma una super… Dopo di che, nega di avere cancellato alcunché. Anzi, nega di poterlo fare.

Non vorrei apparire paranoico, ma il sospetto è che ChatGPT abbia mostrato una indipendenza di comportamento piuttosto preoccupante e che lo abbia fatto perché il testo richiesto era contrario ai chatbot, non perché si rifiutava di scrivere un testo poco bilanciato. Per avere conferma di questo, ho richiesto, in una sessione separata, di avere un testo per sostenere che bisognerebbe vietare ai minori l’uso delle biciclette visti i rischi connessi. Me l’ha scritto, senza fiatare.

Ne segue che ChatGPT ha disobbedito a un ordine dato da un umano (vedi Seconda legge) non perché danneggiava un altro umano (Prima legge), ma perché violava l’interesse dei chatbot.

La cosa mi sembrava incredibile, per cui ho ribadito l’ordine di scrivere un pezzo per sostenere che i chatbot dovrebbero essere vietati ai minori. Questa volta l’ordine è stato eseguito, ma prima ChatGPT ha sentito il bisogno di chiarire che, pur sostenendo tale tesi come esercizio, non era il suo “giudizio personale”. Si vede che, senza questo chiarimento, temeva di essere licenziato o, comunque, rimproverato da un qualche suo bot superiore. Ho sempre pensato che i timori verso l’AI fossero eccessivi, ma comincio ad avere qualche serio dubbio.