Четыре литеры назад звучит как небольшая правка. Но таблица счёта на четыре литеры не влезет ни в одну кассу, а нейробиграмма из прошлого урока устроена так, что строка весов отвечает ровно за одну предыдущую литеру. Как научить машину смотреть на несколько литер сразу и при этом догадываться о тех сочетаниях, которых в папке не было?
Начнём с того, сколько стоит слепота на одну литеру. Мерилом возьмём модель счёта со сглаживанием из урока 24, с ней же тест этапа сравнивает MLP. Её потеря на всей папке 2.607, перплексия 13.55: на каждом шаге Литера выбирает так, будто перед ней 13-14 равных литер. После пробела она даёт двойке вероятность 0.093. В папке Сан Саныча 53 телефона, и после «Тел. » везде стоит двойка. Литера этого не видит, потому что смотрит только на пробел.
премиум-урок
Продолжение в премиуме: 1 200 ₽ в месяц или 10 000 ₽ в год. Вместе с ним серверные проверки задач и школьные токены AI-коуча.
Оплата пока не подключена: премиум и курсы открываются промокодом.