Motori di ricerca, IA e adolescenti: ecco il nuovo progetto di Google

Google sta lavorando per realizzare una nuova esperienza di ricerca con Intelligenza Artificiale generativa per agli adolescenti.

L’annuncio, pubblicato nella giornata di ieri, riguarda funzionalità che valutano il contesto visualizzato dagli utenti, andando a rivelare query ritenute offensive o comunque pericolose.

L’esperienza di ricerca basata sull’IA, nota anche come SGE (Search Generative Experience), introduce una modalità conversazionale per porre delle vere e proprie domande all’engine, un po’ come se l’utente stesse chattando con un’altra persona.

A partire da questa settimana, gli adolescenti di età compresa tra 13 e 17 anni negli Stati Uniti che hanno effettuato l’accesso a un Account Google potranno registrarsi a Search Labs per accedere all’esperienza di ricerca AI tramite l’app Google o la versione desktop di Chrome.

SGE: per gli adolescenti è un sistema migliore rispetto alle classiche query di ricerca

Secondo Hema Budaraju, direttore senior della gestione dei prodotti di Google “L’intelligenza artificiale generativa può aiutare i più giovani a porre domande a cui in genere non riescono a trovare risposta da un motore di ricerca e a porre domande di follow-up per aiutarli a scavare più a fondo“.

Il post sul blog continuava poi con “Mentre presentiamo questa nuova tecnologia agli adolescenti, vogliamo trovare il giusto equilibrio nel creare opportunità affinché possano beneficiare di tutto ciò che ha da offrire, dando priorità anche alla sicurezza e soddisfacendo le loro esigenze di sviluppo. Grazie alla consulenza di ricercatori ed esperti nello sviluppo degli adolescenti, abbiamo integrato ulteriori garanzie nell’esperienza“.

Per Budaraju Google ha progettato dei “guardrail” per impedire la comparsa di contenuti inappropriati o dannosi. Ad esempio, l’azienda ha posto protezioni più forti per “Prodotti relativi a sostanze illegali o soggette a limiti di età o al bullismo“.

L’idea da cui nasce questo progetto arriva quando il colosso di Mountain View ha compreso come SGE interagisce in modo massiccio con gli utenti più giovani. Google ha affermato che i punteggi di soddisfazione più alti si registrano tra le persone di età compresa tra i 18 e i 24 anni, che secondo l’azienda preferiscono porre le loro domande in modo più colloquiale.

“Informazioni su questo risultato” e blocco delle query ritenute offensive

Oltre ad aprire l’esperienza di ricerca dell’IA agli adolescenti, Google sta introducendo una nuova funzionalità per offrire agli utenti più contesto sui contenuti che vedono. L’azienda sta aggiungendo un avviso Informazioni su questo risultato. Google afferma che gli avvisi forniranno alle persone un contesto su come SGE ha generato la risposta, in modo che possano avere un’idea migliore di come lavora l’IA.

Come già accennato, vi è inoltre margini di sviluppo nel complesso di query con una premessa falsa o offensiva, evitando una risposta basata sull’IA che potrebbe convalidare l’affermazione ritenuta non corretta. Google vuole adottare soluzioni che possano inviare l’utenza solo verso pagine Web che rimandano a informazioni affidabili.

Così come spesso avviene in questi contesti, però, vi è una domanda più che lecita: chi e come viene decisa quando una query è realmente offensiva? Come può lavorare l’IA in questo contesto? Google, si spera, potrà presto offrire un servizio soddisfacente anche sotto questo punto di vista.