Lo stato pietoso della ricerca è un segnale inquietante per l’era dell’intelligenza artificiale

Un recente sabato sera, un dirigente tecnologico annoiato ha deciso di giocare con un'app di intelligenza artificiale di cui aveva sentito parlare. Il dirigente, che chiameremo Matthew, ha iniziato nel modo in cui la maggior parte delle persone cerca cose su Internet: ha aperto il suo laptop e ha digitato su Google il nome dell'azienda di intelligenza artificiale, Midjourney. Ha cliccato sul risultato in alto e con qualche altro clic ha scaricato e installato l'app.

O almeno questo è quello che pensava di aver fatto: quello su cui aveva effettivamente cliccato era un annuncio che Google aveva involontariamente venduto a un truffatore travestito da Midjourney. Matthew, che ha richiesto l'anonimato perché teme che chiunque abbia avuto accesso al suo computer possa ancora avere i suoi dati personali, ha inavvertitamente installato un "infostealer", un tipo di malware che setaccia il computer della vittima alla ricerca di nomi utente e password, per poi trasmetterli agli hacker. Questo, noto come Aurora, aveva avuto accesso al suo portafoglio crittografico, ai suoi account sui social media e chissà cos'altro. Gli hacker hanno trasferito il contenuto del portafoglio Coinbase di Matthew, centinaia di migliaia di dollari in criptovalute, a una banca che non era la sua. "È tutta la tua vita", dice Matthew. "Ti senti così nudo, spaventato e vulnerabile."

Matthew si incolpa per non essere stato più attento, ma incolpa anche Google per aver consentito a un'evidente truffa di raggiungere la parte superiore della pagina dei risultati. Il fallimento è stato amplificato dalle scelte progettuali che creano la sensazione che i collegamenti dei risultati di ricerca di Google siano perfettamente oggettivi e affidabili, rendendo difficile dire quali siano lì perché qualcuno ha pagato per inserirli lì. (Google etichetta gli annunci come "sponsorizzati", ma è facile non notare l'etichetta.)

L'esperienza di Matthew solleva interrogativi di lunga data sui costi del dominio dell'azienda sul mercato della ricerca e sulla sua apparente incapacità di frenare le truffe. E suggerisce che Google potrebbe avere difficoltà più del previsto a tenere lontane truffe e disinformazione dal suo motore di ricerca chatbot sperimentale (e talvolta messo in discussione di fatto). Su Google Bard, come è noto, probabilmente sarà ancora più difficile determinare la provenienza delle informazioni fornite dall'azienda.

Alla fine di luglio l'annuncio su cui Matthew aveva cliccato era scomparso, ma c'erano ancora falsi siti Web di Midjourney visualizzati in cima ai risultati di ricerca di Google. "Il fatto che emerga ancora nei risultati è inconcepibile", afferma. "Mi fidavo di loro, ma era una fiducia falsa." I falsi elenchi di Midjourney sono scomparsi da Google poco dopo una richiesta di Bloomberg Businessweek. Google ha rifiutato di commentare gli elenchi falsi, ma afferma di utilizzare un mix di revisori umani e software per rimuovere tali contenuti, cosa che vieta. Rileva inoltre che lo scorso anno ha rimosso 5,2 miliardi di annunci pubblicitari per aver violato le politiche aziendali. "Anche se ci sono malintenzionati che tentano di aggirare le nostre protezioni, i sistemi di Google sono molto efficaci nel far emergere informazioni di alta qualità e nel combattere spam e comportamenti dannosi", afferma Ned Adriance, portavoce dell'azienda.

Non avrebbe dovuto essere necessario un sofisticato sistema anti-truffa per capire che l'annuncio mostrato da Google a Matthew era dannoso. L'elenco puntava a un sito web che pretendeva di essere quello di Midjourney, ma sostituiva la lettera "o" nel nome dell'azienda con uno zero, una nota tattica di truffa. C'erano thread su Reddit che avvertivano gli utenti di questa cosa esatta prima che Matthew cliccasse, e il senatore democratico del Connecticut Richard Blumenthal in una lettera del 2022 accusava Google di "aver regolarmente omesso di affrontare truffe pericolose, impersonificazione e criminalità informatica". Inoltre, Midjourney non ha nemmeno un'app scaricabile; puoi accedervi tramite l'app di chat Discord.

Esempi simili sono comparsi periodicamente nel corso della storia di Google. Alla fine di luglio, ad esempio, Shmuli Evers, un designer digitale, ha scoperto che i truffatori erano riusciti a indurre Google a fornire numeri di telefono falsi a Delta Air Lines Inc. e ad altri grandi vettori per vendere biglietti falsi. Google ha corretto l'errore dopo che Evers ha twittato al riguardo, ma i critici affermano che la società è a conoscenza da tempo di truffe simili sui numeri di telefono. "Questi dirottamenti si sono verificati ogni anno negli ultimi 15 anni", afferma Mike Blumenthal, co-fondatore di Near Media, che fornisce consulenza alle aziende sul marketing digitale e di ricerca. "Google ha da tempo scaricato i costi di queste truffe sulla società."