В прошлом уроке «Приёмка» научилась ходить к пяти провайдерам. Но каждый раз она ждёт ответ целиком: запрос ушёл, десять секунд тишины, ответ пришёл. Для разбора письма в бланк это нормально. Для клиента у стойки нет: десять секунд пустого экрана выглядят как зависание.
Модель и так пишет ответ по токену, слева направо, как наборщик набирает строку (урок 08). Вопрос только в том, отдавать ли эти токены по мере готовности или копить до конца. Сегодня «Приёмка» научится первому, а заодно трём вещам, без которых первое опасно: собирать ответ из кусков, отменять его и отличать конец от обрыва.
премиум-урок
Продолжение в премиуме: 1 200 ₽ в месяц или 10 000 ₽ в год. Вместе с ним серверные проверки задач и школьные токены AI-коуча.
Оплата пока не подключена: премиум и курсы открываются промокодом.