Утром на склад позвонил поставщик: мелованной на триста граммов не будет до конца месяца. Сан Саныч выслушал, положил трубку и, не заглядывая в таблицу, назвал две замены для визиток и одну для меню. Потом посмотрел на тебя.
В прошлом уроке машина разрезала письмо на токены, и у каждого токена оказался номер в словаре. Номер это адрес, а не смысл. Соседние номера достаются кускам, которые BPE склеил друг за другом, а не похожим по смыслу. Считать с таким номером нечего: среднее между «бумагой» и «резаком» не существует.
Чтобы машина могла сравнивать, каждому токену дают не один номер, а список чисел, и подбирают эти числа так, чтобы у похожих токенов списки были похожи. Сегодня разберёмся, как устроен такой список, как машина меряет сходство и почему знаменитая арифметика «король минус мужчина плюс женщина» это упрощение.
премиум-урок
Продолжение в премиуме: 1 200 ₽ в месяц или 10 000 ₽ в год. Вместе с ним серверные проверки задач и школьные токены AI-коуча.
Оплата пока не подключена: премиум и курсы открываются промокодом.