Aplicațiile AI i-ar putea concura pe conspiraționiști. Sunt convingătoare, dar halucinează - director Google

Avertisment privind aplicațiile de tip AI chatBot, lansat chiar de un director al Google. Acesta a avertizat că astfel de algoritmi generativi pot produce enunțuri convingătoare, dar în esență inventate și false.

Prabhakar Raghavan, directorul departamentului Google Search, a declarat într-un interviu pentru publicația germană de presă Welt am Sonntag, că “acest tip de inteligență artificială poate duce uneori la ceva ce noi numim halucinație, mai exact, atunci când o mașinărie oferă un răspuns convingător, dar complet inventat”.

Acesta a precizat că ceea ce încearcă să facă Google este să mențină aceste erori la un nivel minim, potrivit biziday.ro.

Alphabet, compania-mamă a Google, a lansat la începutul acestei săptămâni chatbot-ul Bard, care ar trebui să-l concureze pe rivalul ChatGPT, a cărui companie mamă a intrat sub aripa Microsoft.

Google a pierdut din valoare peste 120 de miliarde de dolari la lansarea Bard, asistentul său de inteligență artificială, din cauză că acesta a dat un răspuns greșit la întrebarea “Despre ce descoperiri noi de la telescopul spațial James Webb (JWST) îi pot spune copilului meu de 9 ani?”.

Aplicația a răspuns că “JWST a făcut primele fotografii ale unei planete în afara propriului nostru sistem solar”, ceea ce este greșit, pentru că primele astfel de fotografii au fost făcute cu 19 ani în urmă, cu un telescop din Chile.

Chiar și rivalul OpenAI a recunoscut că sistemul său ChatGPT este limitat, iar răspunsurile oferite pot suna corect uneori, dar pot fi de fapt greșite sau lipsite de sens.