Миллион ошибок в минуту: ИИ-поиск Google уличили в дезинформации

Нейросеть Gemini, интегрированная в поиск Google, ежедневно выдает миллионы ложных ответов, которые пользователи принимают за истину. Исследование стартапа Oumi показало, что около 10% результатов содержат фактические ошибки, несмотря на переход корпорации на более продвинутые алгоритмы.

Аналитики стартапа Oumi по заказу The New York Times проверили точность работы Gemini с помощью бенчмарка SimpleQA. Выяснилось, что при колоссальных объемах мирового трафика поисковик генерирует примерно 57 миллионов неточных ответов каждый час. Это означает, что ежеминутно пользователи сталкиваются с миллионом случаев «галлюцинаций» ИИ.

Логические ловушки и манипуляции

Исследователи обнаружили парадокс: нейросеть часто прикрепляет к ответу ссылки на источники, которые прямо противоречат её же утверждениям. В версии Gemini 3 доля таких расхождений выросла до 56%, хотя общая точность системы формально повысилась. Кроме того, алгоритм оказался уязвим для внешних манипуляций. В ходе эксперимента ИИ начал транслировать как факт заведомо ложную информацию из личного блога спустя всего сутки после её публикации.

В самой корпорации Google результаты исследования раскритиковали, назвав их «не отражающими реальное поведение пользователей». Тем не менее, разработчики не отрицают склонность системы к ошибкам. Чтобы минимизировать юридические риски, техгиганты все чаще маркируют ИИ-инструменты как сервисы для развлекательных целей и призывают перепроверять каждое слово. На текущий момент доля недостоверных данных в выдаче составляет стабильные 10%, что ставит под вопрос надежность ИИ-ассистентов в критически важных сферах.