Un experiment realizat de The New York Times și startup-ul Oumi a arătat că funcția AI Overviews din motorul de căutare Google oferă răspunsuri corecte doar în 90% din cazuri. Acest lucru înseamnă că cel puțin 1 din 10 răspunsuri este fals, ceea ce poate avea consecințe semnificative având în vedere numărul mare de căutări efectuate pe platformă. Funcția AI Overviews a fost lansată pentru prima dată în 2024 și a cunoscut o largă răspândire începând din luna mai a anului trecut. De la momentul implementării, Google AI Overviews a stârnit o mulțime de controverse și plângeri, dar a devenit mai bună odată cu lansarea noilor modele Gemini.
Studiul a fost realizat utilizând testul standard SimpleQA, creat de OpenAI în 2024, care conține 4.000 de întrebări. Rezultatele arată că acuratețea răspunsurilor AI a crescut de la 85% la 91% după actualizarea la modelul Gemini 3. Cu toate acestea, Google a criticat metodologia studiului, afirmând că SimpleQA poate conține inexactități. Compania folosește propriul test SimpleQA Verified, care se bazează pe un eșantion mai mic, dar verificat mai atent. Purtătorul de cuvânt Ned Adrians a declarat că studiul are lacune serioase și nu reflectă ceea ce caută oamenii cu adevărat pe Google.
Contextul în care funcționează inteligența artificială de la Google este complex și dinamic. Funcția AI Overviews utilizează inteligența artificială Gemini pentru a genera răspunsuri automate și concise la solicitările utilizatorilor. Deși această funcție a devenit mai bună odată cu lansarea noilor modele, evaluarea acurateței răspunsurilor rămâne o sarcină dificilă. Fiecare companie are propria modalitate de a demonstra capacitățile, dar verificarea este complicată de faptul că modelele pot oferi răspunsuri diferite la aceeași întrebare.
Impactul răspunsurilor eronate oferite de inteligența artificială de la Google poate fi semnificativ. Utilizatorii au încredență în informațiile furnizate de aceste sisteme, iar răspunsurile eronate pot duce la consecințe neplăcute. De exemplu, în cazul căutărilor medicale, răspunsurile eronate pot avea consecințe grave pentru sănătatea utilizatorilor. Prin urmare, este esențial ca Google să ia măsuri pentru a îmbunătăți acuratețea răspunsurilor oferite de inteligența artificială și să asigure că utilizatorii sunt conștienți de limitările acestor sisteme.
Perspectivele pentru viitorul inteligenței artificiale de la Google sunt complexe și depind de numeroși factori. Pe de o parte, compania a anunțat planuri pentru a îmbunătăți acuratețea răspunsurilor oferite de inteligența artificială, dar pe de altă parte, există îngrijorări cu privire la impactul acestor sisteme asupra societății. În orice caz, este clar că inteligența artificială de la Google va continua să joace un rol important în viața noastră de zi cu zi, iar compania trebuie să ia măsuri pentru a asigura că aceste sisteme sunt folosite în mod responsabil și etic.