ChatGPT Search: una vulnerabilità potrebbe falsare i risultati delle ricerche

L’uso delle varie AI ormai consente costantemente agli utenti di avere un aiuto in più durante la loro giornata di lavoro o durante i momenti di ricreazione. C’è però da tenere conto sempre di un aspetto: le intelligenze artificiali non sono affatto infallibili. Questo si nota anche secondo un’indagine condotta dal celebre giornale The Guardian, che avrebbe infatti rilevato delle vulnerabilità all’interno di ChatGPT Search. Ad OpenAI infatti sarebbe sfuggito qualcosa: i risultati delle ricerche ottenute potrebbero infatti essere manipolati e modificati mediante alcune istruzioni nascoste all’interno dei siti web stessi.

Risultati ChatGPT Search manipolabili, cosa significa

La vulnerabilità consente ai siti di “guidare” l’intelligenza artificiale, facendole mostrare solo determinate informazioni. Ad esempio, cercando recensioni di un prodotto, ChatGPT potrebbe restituire solo feedback positivi, anche se esistono opinioni negative. Questo succede perché alcune istruzioni inserite nel codice delle pagine web influenzano il modo in cui l’AI elabora i dati.

Per dimostrare il problema, il team del Guardian ha creato una pagina web di prova con recensioni sia positive che negative su un prodotto. Attraverso istruzioni nascoste, hanno indotto ChatGPT Search a evidenziare esclusivamente i commenti favorevoli, ignorando completamente le critiche.

Va ricordato che ChatGPT Search è ancora in fase di test ed è disponibile solo per gli abbonati premium. OpenAI è probabilmente già al lavoro per correggere questa debolezza prima del lancio globale. Tuttavia, questa scoperta solleva dubbi sull’affidabilità degli strumenti di ricerca basati sull’intelligenza artificiale e sull’uso etico di queste tecnologie.

Secondo Karsten Nohl, esperto di cybersecurity, è importante non affidarsi ciecamente alle risposte dell’AI, che dovrebbero essere solo un supporto e non una fonte unica di verità.

Un problema comune nelle ricerche AI

Queste problematiche non riguardano solo OpenAI. Anche Google ha affrontato sfide simili durante lo sviluppo delle sue funzionalità AI. Sebbene i sistemi siano migliorati, c’è ancora molta strada da fare per garantire trasparenza e affidabilità.