Информация стала бесплатной

Информация почти ничего не стоит. Вопрос, который раньше требовал похода в библиотеку или часа в Google, сейчас решается за тридцать секунд. Звучит как победа. Но я думаю, что не все понимают, чем мы за неё платим.

Когда ты гуглил что-то раньше, ты хотя бы видел, кто говорит. Статья в Wikipedia: есть ссылки, есть авторы, есть правки, и да, там тоже было оценочное мнение конкретного редактора, но это хотя бы было видно среди источников. Публикация в журнале: есть редакция. Форум: есть конкретный человек с конкретной историей. Ты мог оценить источник, мог не согласиться, мог сказать: «это предвзятый взгляд, у него своя повестка».

Теперь всё это растворилось в одном ровном, уверенном, хорошо написанном ответе.

Вот в чём проблема. Языковые модели обучаются на текстах. И на предпочтениях людей. RLHF, или обучение с подкреплением на основе человеческой обратной связи, буквально оптимизирует модель под то, что нравится аудитории, что звучит убедительно, что не вызывает возражений. Это инструмент, который сделал модели удобными, и одновременно встроил в них чужие представления о том, каким должен быть правильный ответ. Чьи именно представления, вопрос открытый. Но точно не нейтральные.

И вот ты спрашиваешь: «Неужели в Иране всё так плохо с режимом?», и уже в формулировке вопроса зашита оценка, навязанная тебе годами определённой медиаповестки. Модель это чувствует. Она отвечает в том же ключе. Ты получаешь ответ, который укрепляет позицию, которая никогда не была твоей, а через неделю, благодаря особенностям человеческой памяти, ты уже не помнишь ни откуда она взялась, ни кто её сформулировал. Ты просто «так считаешь».

Это механика.

Я замечаю это на себе. Я доверяю трактовке модели больше, чем трактовке автора из книги. И у этого есть рациональное объяснение, которое легко принять за правду: при формировании обучающих датасетов в них попадает сама книга, рецензии на неё, критические статьи, обсуждения в интернете, академические споры. То есть модель как будто агрегирует сразу много точек зрения, и ответ кажется более всесторонним. Это соблазнительная логика. Но в ней есть ловушка: модель всё равно может чего-то не знать. И даже поиск по интернету, надстройка, которую часто добавляют сервисы поверх, не всегда спасает. Модель может ответить по-своему из-за собственных предубеждений или просто проигнорировать результаты поиска, если они плохо легли в контекст. Я сам сталкивался с этим, когда пытался объяснить модели, что она называет неверную версию библиотеки или языковую модель, выпущенную после её даты обучения (cut-off), и даже давал прямые ссылки. Она выслушивала, соглашалась, и через два сообщения возвращалась к старому ответу. Это особенность того, как модель вообще устроена.

И поверх этого ещё один слой. Модели не врут это некорректное слово для того, что происходит. Но правда ещё более неудобная: они галлюцинируют, и делают это уверенно. Есть конкретный способ это измерить. Hallucination Rate в бенчмарке AA-Omniscience считается так: берутся все случаи, когда модель не дала правильного ответа, и измеряется, в какой доле из них она всё равно что-то ответила вместо того, чтобы признать незнание. Иными словами: если модель не знает, как часто она врёт вместо того, чтобы промолчать? Лучший результат в индустрии на сегодня около трети. Это значит: каждый третий раз, когда frontier-модель не знает ответа, она скорее солжёт, чем скажет «не знаю». И это лучшее, чего удалось достичь. Большинство моделей хуже. При этом ответ звучит так же уверенно, связно и в нужном тоне, вне зависимости от того, правда это или нет.

А классическая поисковая выдача хотя бы давала тебе десять противоречивых источников, и ты видел, что вопрос неоднозначный. Модель выдаёт один ответ, в котором нет швов. Нет видимой неуверенности. Нет «а вот другая точка зрения». Просто ответ, гладкий и законченный.

Есть ли выход из этой архитектурной проблемы? Возможно. Янн ЛеКун, один из отцов-основателей современного глубокого обучения, лауреат премии Тьюринга, покинул Meta и основал AMI Labs, которая в марте 2026 года привлекла больше миллиарда долларов. Лаборатория работает над world models, моделями, которые учатся у реального мира, помимо языка. В основе лежит JEPA, Joint Embedding Predictive Architecture, предложенная ЛеКуном ещё в 2022 году. Идея в том, что модель, которая понимает мир через структуру и причинно-следственные связи, будет меньше галлюцинировать, чем модель, предсказывающая следующий токен: у первой ошибки другой природы. Но, как честно признают сами основатели, до коммерческих применений годы.

Пока это дело будущего, нам всё равно нужно как-то жить с тем, что уже есть. И здесь меня удивляет одно: институты образования до сих пор воюют с ChatGPT вместо того, чтобы учить людей с ним работать. Понимать, что у ответа есть источник, у источника есть позиция, у позиции есть контекст. И что вопрос, заданный с предубеждением, вернётся с ответом, в котором это предубеждение уже стало фактом.

Или вот NotebookLM. Это то, как должно было выглядеть образование всегда. Ты загружаешь материал сам. Ты задаёшь вопросы в своём темпе. Ты трансформируешь текст до тех пор, пока он наконец не становится понятным. Строишь свою коллекцию знаний, к которой можно вернуться и спросить что-то новое.

Я иногда думаю про себя в школе: как я учил историю перед очередной контрольной: зубрил даты, имена, формулировки из учебника, написанного методически верным, но совершенно мёртвым языком. Никакого контекста, никакого «почему», никакого ощущения, что за этим стоят живые люди и реальные решения. Просто параграфы, которые нужно было воспроизвести. Если бы тогда у меня был инструмент, который мог бы объяснить то же самое в том формате, который мне запомнится: через аналогии, через вопросы, через связи с тем, что мне уже было интересно это была бы другая история. Буквально.

Но только при одном условии: если ты понимаешь, с чем работаешь. Если ты не забываешь, что у инструмента есть своя точка зрения. Что твои предубеждения и его предубеждения это два разных взгляда, которые очень легко принять за один.

Информация стала бесплатной. Умение с ней работать никогда не было дешёвым.