ChatGPT si rifiuta di fornire informazioni quando richiede dettagli su alcuni nomi personali.
Il “problema tecnico” è stato scoperto all’inizio di questo mese durante la ricerca di informazioni su “David Mayer“, nome non apprezzato dall'AI e per il quale, fino a poco tempo fa, compariva di conseguenza il messaggio di errore: “Non riesco a produrre una risposta”.
Ma chi è David Mayer? Se cercate su internet troverete varie persone, tra cui un compositore, un direttore d'orchestra e un professore del MIT, un membro della ricchissima famiglia di banchieri Rothschild, uno storico britannico, un politico americano e sindaco di Gloucester Township, New Jersey, e David Delaney Mayer, regista di documentari americano del 1992.
Probabilmente ce ne sono altri oltre al blocco, spiega L'Indipendente è correlato alle richieste effettuate in conformità con il Regolamento generale sulla protezione dei dati dell'UE (“GDPR”).
Alberto Puliafito, giornalista di Internazionalespiega che in questo elenco di nomi vietati ce ne sono anche Brian Hood, Jonathan Turley, Jonathan Zittrain, Davide Faber e altri, compresi Guido Scorza, membro del collegio del Garante per la protezione dei dati personali in Italia.
Alla domanda sul perché non possa essere citato da ChatGPT, Scorza ha spiegato: “Ho semplicemente esercitato nei confronti di OpenAi (la società che gestisce ChatGpt, ndr) “il diritto di opposizione che l'attuale legislazione europea riconosce a tutti gli interessati – cioè alle persone a cui cui si riferiscono i dati personali – ottenere che il trattamento iniziato senza il loro consenso venga interrotto da parte del titolare del trattamento. Chiunque, almeno se vive in Europa, può fare lo stesso semplicemente attraverso la piattaforma utilizzata per fornire il servizio ChatGpt, ottenendo, credo, lo stesso risultato”.
Il link per richiedere di non comparire in ChatGPT è questo (è necessario cliccare su “Richiesta rimozione dati personali ChatGPT) ma l'eliminazione comporta in alcuni casi dei paradossi. Cercando, ad esempio, l'elenco dei membri del collegio del garante della privacy in Italia, ChatGpt si ferma quando deve indicare il nome di Scorza.
«I personaggi pubblici che rappresentano un'istituzione hanno i loro nomi e i loro ruoli resi pubblici dalla legge», spiega Internazionale. «le loro attività e i dati essenziali relativi al loro incarico devono essere accessibili per garantire trasparenza e responsabilità. In questo caso, il fatto che un LLM non possa menzionare direttamente i propri nomi sembra contraddire questi principi.”
Il rischio, come è facile immaginare, è quello di fornire informazioni errate o nascondere altre informazioni senza motivo, ma anche di aumentare il divario tra chi ha le capacità per svolgere determinate ricerche e chi no. Inoltre, cosa dobbiamo fare in caso di omonimi? Non ha senso bloccare un nome a prescindere. “Quando evitiamo di nominare personaggi pubblici per paura di commettere errori o di violare diritti, rischiamo di erodere il valore stesso delle tecnologie che abbiamo inventato”, scrive ancora Internazionale. “Paradossalmente, ciò può anche alimentare confusione e dubbi sulla neutralità o sull’efficacia di questi sistemi”. Scorza spiega che le valutazioni potrebbero essere prese in considerazione nel rispetto dell'interesse prevalente ma il rischio è quello di “educare il pubblico ad una confusione di programmi, ad aspettarsi da servizi come ChatGpt che diano informazioni attendibili e che ci sia un'aspettativa nei confronti dei LLM di verità e affidabilità”.
Tutti gli articoli che parlano di Intelligenza Artificiale sono nella sezione dedicata di macitynet.