Поисковый искусственный интеллект Google не смог правильно подсчитать буквы в собственном названии: в слове «Google» модель насчитала две буквы «P», которых там нет вовсе. Это не единичный сбой - по данным TechCrunch, ошибки подобного рода носят системный характер, и сама компания не скрывает, что проблема существует.
Камни, клей и теперь правописание
Для Google это уже не первый публичный конфуз с ИИ-поиском. Раньше «Обзоры от ИИ» советовали пользователям есть камни и мазать пиццу клеем - абсурд, который не нуждался в дополнительной сатире. Теперь выясняется, что модель не справляется с задачей, которую осилит любой первоклассник: посчитать буквы в слове.
В компании отреагировали без паники. «Подсчёт букв в словах - известная проблема для больших языковых моделей, и мы работаем над решением этой конкретной проблемы», - заявили в Google. Общественность подобное спокойствие не разделила.
Почему ИИ не умеет читать по буквам
Дело не в недоработке конкретной версии, а в архитектуре. Большие языковые модели, на которых строятся чат-боты и поисковые ИИ, не воспринимают текст как набор букв и слов - они разбивают его на токены и преобразуют в числовые представления. Модель выдаёт статистически вероятный ответ, опираясь на контекст, а не анализирует орфографию. Читать, как человек, она не умеет и не должна.
Исследователи не дают оптимистичных прогнозов по решению этой проблемы - и приоритет у неё невысокий. Большая языковая модель ценна не умением писать грамотно, а способностью связно рассуждать и генерировать текст. Попутно выяснилось, что поисковый ИИ Google воспринимает слово «игнорируй» не как часть запроса, а как прямую команду - что открывает отдельную тему для разговора о надёжности таких систем.
Что это значит для пользователя
Случай с буквами в слове «Google» - наглядное напоминание: ИИ не является всезнающей машиной, даже когда производит именно такое впечатление. Уверенный тон ответа и его достоверность - разные вещи, и между ними пропасть.
Доверять ответам поискового ИИ без проверки нельзя - особенно там, где требуется точность. Это не повод отказываться от технологии, но веский аргумент в пользу того, чтобы относиться к ней как к инструменту с ограничениями, а не как к источнику истины.