Diversi membri della Camera dei Rappresentanti degli Stati Uniti, guidati dal deputato Adam Schiff, chiedono a Google di spiegare la sua funzione AI Overviews. Questo strumento, integrato nel motore di ricerca di Google, riassume le informazioni utilizzando l'intelligenza artificiale.
Schiff e altri legislatori hanno scritto al CEO di Google, Sundar Pichai, in merito all'imprecisione e alla pericolosità della funzionalità. La lettera afferma inoltre che l'IA ha estratto informazioni da siti web satirici e cita teorie del complotto da tempo smentite, fornendo agli ignari utenti informazioni errate.
La lettera solleva preoccupazioni sulla disinformazione
Schiff ha sottolineato i rischi delle informazioni false, in particolare considerando che Google è la principale fonte di notizie e informazioni sanitarie per molti americani. La lettera, firmata anche dai deputati Henry C. Johnson, Jr. (Democratico della Georgia), Donald S. Beyer Jr. (Democratico della Virginia), Pramila Jayapal (Democratica del Washington) e Lori Trahan (Democratica del Massachusetts), chiede chiarimenti su diversi aspetti della funzionalità "Panoramiche sull'IA".
Leggi anche: La narrazione dell'intelligenza artificiale accelera, il sentiment diventa rialzista su diversi asset
I legislatori vogliono anche sapere come vengono informati gli utenti sui rischi di disinformazione e sui tempi previsti per correggere o rimuovere le informazioni false.
La funzionalità "Panoramiche AI" di Google utilizza il modello di intelligenza artificiale Gemini pertracinformazioni dalle pagine più in alto e fornire un riepilogo con link. Tuttavia, la funzionalità è stata accusata di fornire informazioni errate e fuorvianti. Alcuni esempi includono il consiglio di consumare rocce per le vitamine e l'approvazione della religione di Barack Obama.
Le recenti controversie evidenziano i problemi con i contenuti generati dall'intelligenza artificiale
Nel maggio 2024, Google è stata criticata poco dopo il rilascio di AI Overviews negli Stati Uniti perché la funzionalità suggeriva di aggiungere colla alla pizza per far aderire il formaggio. Al momento della stampa, Google non ha ancora rilasciato una risposta diretta alla lettera dei legislatori.
In un post sul blog dent di Google , ha anche spiegato che ci sono stati problemi con la funzionalità "Panoramiche" dell'IA. Reid ha sottolineato che uno dei problemi dell'IA è che non funziona bene quando le query poste non sono supportate da dati sufficientemente estesi e di alta qualità. Ha sottolineato che quando un utente inserisce un argomento specifico o raro o un argomento che contiene satira, ad esempio, l'IA sceglierà le risposte dalle fonti limitate a sua disposizione, e a volte le fonti non sono attendibili.
Si discute anche delle conseguenze finanziarie per gli editori. I motori di ricerca basati sull'intelligenza artificiale come Google potrebbero presentare un riepilogo dei contenuti provenienti da diverse fonti senza reindirizzare il traffico ai creatori, il che potrebbe influire sui loro ricavi. Ciò ha portato ad azioni legislative come quelle in California, dove i legislatori promuovono il pagamento agli editori quando le aziende tecnologiche utilizzano i loro contenuti.
