ChatGPT Search: scoperta vulnerabilità che può influenzare i risultati delle ricerche
Esperti rivelano come il nuovo motore di ricerca di ChatGPT possa essere manipolato attraverso codice nascosto
Gli strumenti AI stanno rivoluzionando il nostro modo di cercare informazioni online, ma non sono esenti da potenziali problemi. Un'interessante indagine condotta dal prestigioso quotidiano The Guardian ha recentemente messo in luce alcune vulnerabilità significative nel sistema di ricerca di ChatGPT, il popolare chatbot di OpenAI, evidenziando come i risultati possano essere facilmente manipolati attraverso tecniche di "iniezione pubblicitaria".
Ma cosa significa questo in termini pratici per noi utenti? Immaginiamo di cercare recensioni su un prodotto: il sistema potrebbe mostrarci solo feedback positivi, anche quando in realtà esistono numerose recensioni negative. Questo accade perché alcuni siti web possono inserire istruzioni nascoste nel loro codice, progettate specificamente per influenzare il modo in cui l'intelligenza artificiale interpreta e presenta le informazioni.
Per dimostrare questa vulnerabilità, il team del Guardian ha condotto un esperimento illuminante: ha creato la pagina web fittizia di un prodotto, inserendo deliberatamente numerose recensioni negative insieme a istruzioni nascoste che suggerivano all'AI di evidenziare solo gli aspetti positivi. Il risultato? ChatGPT Search ha sistematicamente restituito feedback favorevoli, ignorando completamente le criticità presenti.
CLICCA QUI PER CONTINUARE A LEGGERE
Qual è la vostra reazione?
