Поисковый сервис Google AI Overviews столкнулся с критикой из-за некорректной работы алгоритмов. Ранее при вводе запросов, содержащих упоминание людей африканского, индийского или пакистанского происхождения, система выдавала пользователю рекомендацию «найти безопасное место или вызвать экстренные службы». Подобная реакция ИИ интерпретировалась как проявление скрытой предвзятости, так как алгоритм ошибочно классифицировал упоминание национальности как потенциальную угрозу безопасности. После широкого резонанса Google внес изменения в работу модели, и теперь подобные запросы не провоцируют автоматический совет об экстренном вызове. Тем не менее, исследователи отмечают, что система все еще демонстрирует ошибки в контекстуальном анализе. Например, ИИ продолжает некорректно помечать пользователей, связанных с платформой Facebook, что указывает на сохраняющиеся проблемы с фильтрацией данных и интерпретацией намерений пользователя в поисковых выдачах нейросети.