Примирение размеров: новая версия Ternary Bonsai 2 27B

Примирение размеров языковых моделей - это сложная задача, на которую работает множество исследователей и разработчиков. Недавно команда PrismML представила новую версию Ternary Bonsai 2 27B, которая стремится решить эту проблему.

Версия Ternary Bonsai 2 27B представляет собой весовой версию Qwen3.8 27B. Это означает, что она использует весовые коэффициенты для определения важности каждого элемента языкового модели. Это позволяет ей занимать меньше места на диске, чем ее предшественник.

По словам разработчиков, новая версия сохраняет 98,2% производительности Qwen3.8 27B по 20 различным бенчмаркам. Это действительно внушительная цифра, учитывая, что размер модели уменьшился до 5,93 ГБ.

Новая версия также поддерживает работу с текстом и изображениями, а ее контекстный размер составляет 262 000 токенов. Это действительно внушительная цифра, учитывая, что большинство языковых моделей имеют контекстный размер не более 100 000 токенов.

В общем, новая версия Ternary Bonsai 2 27B представляет собой значительный шаг вперед в области примирения размеров языковых моделей. Ее возможности и возможности для применения огромны, и мы ждем с нетерпением, когда она будет доступна для широкой общественности.