Что такое нейросеть — простыми словами

Один искусственный нейрон берёт несколько числовых входов, умножает каждый на вес, складывает и пропускает результат через простую функцию, решающую, насколько сильно «сработать». Сам по себе он бесполезен — сила появляется, когда тысячи или миллионы таких нейронов складываются в слои, где выход одного слоя питает следующий.

Обучение — процесс подстройки каждого веса в сети так, чтобы на данном входе она выдавала правильный выход. Это делается путём сравнения догадки сети с правильным ответом, измерения того, насколько она ошиблась, и небольшой корректировки каждого веса в сторону уменьшения ошибки — повторяется на миллионах примеров.

Разные конфигурации одного и того же базового строительного блока оказываются хороши в очень разных задачах: свёрточные слои эффективны в распознавании локальных паттернов на изображениях, а механизм «внимания» внутри архитектуры трансформеров — именно то, что позволяет современным LLM взвешивать, какие предыдущие слова в предложении важнее для предсказания следующего.

Ничего из этого не требует, чтобы кто-то вручную прописал правила («у кота острые уши и усы») — сеть выводит собственное внутреннее представление паттерна исключительно из того, что ей показали достаточно правильно размеченных примеров.

Нейросеть знает только то, что было в её обучающих данных, и статистические закономерности, которые она там нашла — у неё нет встроенного понятия истины, поэтому она может выдать уверенный, гладкий и полностью неверный ответ так же легко, как и правильный (это и называется «галлюцинацией»).

Понимание этого — вся причина, по которой существуют техники вроде retrieval-augmented generation: вместо того чтобы доверять внутренним, замороженным знаниям сети, ей в момент ответа дают реальный, актуальный исходный текст и позволяют делать то, в чём она реально хороша, — читать и синтезировать этот текст в связный ответ.