Google oznámil, že ačkoliv nový nástroj AI Overviews testoval před jeho spuštěním před dvěma týdny, technologie přináší podivné a chybné odpovědi. Mezi příklady patří doporučení použít lepidlo, aby se sýr přilepil na pizzu, nebo pít moč k rychlému odstranění ledvinových kamenů.
Některé chyby byly neškodné, jiné mohly být nebezpečné. Například na dotaz, které divoké houby jsou jedlé, AI generovalo dlouhý přehled, který byl většinou technicky správný, ale postrádal důležité informace, což mohlo být nebezpečné. Například AI uvádělo nesprávné rady ohledně hub známých jako pýchavky, které mohou být smrtelně jedovaté.
Další případ ukázal, že AI odpovědělo na otázku, kolik muslimů bylo prezidentem USA, dlouho vyvrácenou konspirační teorií, že Barack Obama byl muslimský prezident. Kvůli těmto nedostatkům Google nástroj AI Overviews omezil a pokračuje ve vylepšování. Google také aktualizoval algoritmy, aby omezil použití uživatelsky generovaného obsahu v odpovědích, které by mohly poskytnout zavádějící rady.
