Шаг вперед: StepFun представила Step 5 Preview с открытыми весами

Компания StepFun объявила о выпуске Step 5 Preview в виде открытых весов. FP8 и BF16 чекпоинты уже доступны на Hugging Face и ModelScope. Step 5 Preview представляет собой спарсную модель Mixture-of-Experts от StepFun, предназначенную для выполнения долгосрочной агентной работы.

Эта модель имеет 600 миллиардов параметров в общей сложности, 27 миллиардов активных параметров на каждый токен и может обрабатывать до 1 миллиона токенов в контексте. Для разработчиков это означает возможность использовать мощные инструменты для создания сложных агентных систем.

Step 5 Preview представляет собой значительный шаг вперед в развитии агентной технологии и может найти применение в различных областях, таких как игры, навигация и управление. Мы ожидаем, что эта технология будет иметь значительное влияние на будущее AI.

Характеристики Step 5 Preview:

• 600 миллиардов параметров в общей сложности

• 27 миллиардов активных параметров на каждый токен

• Обработка до 1 миллиона токенов в контексте