Нейросети на NumPy и PyTorch: от тензора до поиска и RAG ★ 0.000

Как строка превращается в числа, как матрица выдаёт баллы и что меняется при обучении? Начнём с коротких вопросов о животных и разберём каждый переход: фрагменты текста → номера → вектор → матрица весов → следующий токен → ответ.

Сначала числа и формы можно проверить вручную. Затем тот же расчёт выполняется в NumPy и PyTorch. Мы разбираем массивы, общую память срезов, скалярное и матричное произведения, батчи, блочное вычисление и измерение времени. Основной практический путь выполняется на CPU. Примеры с устройствами объясняют переносы, синхронизацию и разбиение весов; фактическая работа на GPU зависит от оборудования и установленной сборки PyTorch.

После инференса переходим к обучению: вероятность нужного ответа, cross-entropy, производная, градиентный шаг и autograd. На маленьких примерах видно, какие числа меняет каждый шаг. Отдельно проверяем накопление градиентов, teacher forcing и различие между воспроизведением обучающих ответов и результатом на новом запросе.

Вторая задача курса — поиск карточек по текстовому запросу. Фиксированный корпус содержит 40 документов о животных; к нему подготовлены 80 train-, 40 validation- и 40 test-запросов с разметкой релевантности. Разбираем TF-IDF, BM25, списки документов для каждого слова, плотные векторы, два кодировщика и обучение по правильным ID документов.

Recall, MRR и nDCG вычисляются на конкретной выдаче. Сравниваем результаты по одним и тем же запросам, находим отдельные выигрыши и проигрыши, объединяем ранги через RRF и проверяем, попал ли нужный документ в кандидаты.

Линейный и MLP-компоненты перестановки в этом проекте получают признаки запроса и выдают баллы известным ID документов. На них удобно изучать обучение и фильтрацию кандидатов. Их область применения — фиксированная учебная коллекция; текст документа не входит в этот классификатор. Усложнение модели оцениваем по измеренному качеству, включая опыт, в котором MLP уступает линейной модели.

Финальный компонент собирает контекст с идентификаторами источников и возвращает фрагмент выбранной карточки либо отказывает по порогу score. Разбираем точный подсчёт бюджета, калибровку порога и ошибочно принятые ответы. Ссылка на существующий документ позволяет проверить происхождение фрагмента; его релевантность проверяется отдельно. Это учебная extractive-система, на которой видны границы поиска, выбора источника и формирования ответа.

Каждый урок начинается со ссылки на полный ZIP-checkpoint. Готовые проекты можно запускать по порядку, сравнивать промежуточные массивы и воспроизводить разобранные ошибки. В зависимости от темы задания предлагают вычислить число, выбрать объяснение, проверить код или пройти полный исполняемый опыт. Объяснения и необходимые примеры находятся в самих уроках.

После 37 предметных уроков идут 10 итоговых разборов в формате собеседования: новая форма массива, потерянная информация во входе, ошибочное измерение, утечка данных, устаревший индекс и предел улучшения выдачи. Их задача — научиться объяснять наблюдаемое поведение и подтверждать вывод проверкой.