Эволюция байтовых языковых моделей: как научить LLM понимать сырые данные

Представьте, что вы пытаетесь объяснить нейросети суть редкой системной ошибки или сложного бинарного дампа, а ваш токенизатор кромсает ценные данные на бессмыслицу (примерно как легаси-код пытается …