Negli ultimi mesi, vari esempi di Google Home che hanno risposto a domande con risposte di dubbia veridicità sono apparsi su Internet. Ecco un esempio.
Ed ecco cosa succede se chiedi a Google Home "Obama sta pianificando un colpo di stato?" pic.twitter.com/MzmZqGOOal
- Rory Cellan-Jones (@ ruskin147) 5 marzo 2017
Il problema è che Google, al fine di ottimizzare le risposte vocali, sta leggendo il risultato di ricerca principale di una determinata query, senza necessariamente verificare se quella fonte fornisce risposte veritiere. Secondo The Outline, questo problema peggiorerà solo quando più persone investono in compagni di intelligenza artificiale basati sulla voce che tolgono la responsabilità all'utente per ottenere conoscenze:
Il numero di dispositivi connessi a Internet senza browser sta crescendo rapidamente e già assistenti ad attivazione vocale come Amazon Echo e Google Home stanno penetrando nel mercato. Il tradizionale elenco di risultati di ricerca di Google non si traduce bene in voice: immagina Google Home che ti legge un elenco di 10 siti Web quando vuoi solo sapere quante calorie ci sono in un'arancia.
Google può essere giocato in modo relativamente semplice e con una manipolazione sufficiente un determinato sito Web può raggiungere la cima dei risultati di ricerca.
I problemi sorgono quando Google bilancia l'idea che il suo motore di ricerca sia intrinsecamente affidabile - la maggior parte delle persone afferma di ritenere che le informazioni che trovano sui siti Web mostrati sulla prima pagina di Google - con gli algoritmi di apprendimento automatico che aiutano determinate informazioni a salire il miglior risultato.
La capacità di leggere frammenti in primo piano è anche la principale caratteristica distintiva tra Google Home e concorrenti come Amazon Echo e Siri, ha affermato Danny Sullivan di Search Engine Land. "Google lo considera un vantaggio competitivo e non vogliono disattivarlo", ha affermato. Il problema è che anche quando si sbagliano, gli snippet in primo piano hanno il massimo riconoscimento da parte di Google. "Dov'è il punto di non ritorno in cui hai abbastanza di queste risposte imbarazzanti che decidi di spegnerlo?"
Questo è un problema molto difficile da risolvere. Google sta utilizzando il suo ampio Knowledge Graph per fornire quella che ritiene essere la migliore risposta a qualsiasi domanda, e la sua più grande forza - i dati e il suo utilizzo per fornire una risposta praticamente a qualsiasi richiesta - è anche la sua più grande responsabilità. Questo perché Google può essere facilmente giocato, e con una manipolazione sufficiente un determinato sito Web può raggiungere i risultati della ricerca. Google attualmente non fa distinzioni tra il suo motore di ricerca - l'elenco di risultati basato su testo e video che milioni di persone usano ogni giorno - e quello del suo Assistente, che fornisce le risposte a Google Home. Lungo la strada, potrebbe essere costretto a curare i risultati di domande più frequenti o rischiare di diffondere contenuti che non necessariamente sostengono.
Naturalmente, Google stesso non pretende di avallare nessuna di queste affermazioni, né sta verificando la veridicità dei migliori risultati forniti a Home. Lo afferma in modo molto chiaro in ogni risposta anteponendo "Secondo, " a ogni risposta. Ma la maggior parte degli utenti, nel bene e nel male, non distingue Google dal provider di ricerca da Google per la fonte di notizie affidabile, e ciò metterà nei guai l'azienda man mano che sorgono altri esempi controversi.
Il nostro Jerry Hildenbrand ha scritto sul problema della pubblicità di Google Home in una colonna precedente:
Il modo corretto di affrontare questo secondo Google è di segnalare lo snippet in primo piano come inappropriato. Il problema è che non è inappropriato su un sito Web che non lo legge ad alta voce. Non credo che la ricerca sia migliorata rimuovendo un risultato interessante in alto fino a quando una voce robotica femminile raccapricciante non la legge ad alta voce ai bambini. E Google Home è progettato per essere all'aperto davanti a tutti quelli che fanno le loro cose. Non è più privato una volta uscito dall'altoparlante.
Questo arriva al nocciolo del problema: le persone sono più in grado di distinguere il reale dal falso quando viene mostrato un elenco di risultati alternativi. Quando Google offre un solo risultato definitivo, le persone hanno maggiori probabilità di trattarlo come verità.
Nel frattempo, Google Home sta per essere lanciato nel Regno Unito e ha dimostrato di essere uno dei maggiori successi hardware di Google negli ultimi anni.
