Суперсоник Лэбс выпустил Джулию 1: 144,3-миллионный параметрный открытый модель для принятия решений, работающий на CPU
Компания Суперсоник Лэбс объявила о выпуске Джулии 1, 144,3-миллионного параметрного модели для принятия решений, построенного на основе mmBERT-small.
Эта модель способна принимать решения на основе контекста, вопроса и нескольких вариантов, после чего возвращает один из вариантов с указанием вероятности.
Джулия 1 работает на CPU и распространяется под лицензией Apache 2.0.
В ходе тестирования Джулия 1 показала результаты лучше, чем Jev reference values на 3 из 4 испытаний, но уступила на испытании Banking77 с 72-значным маркером.
Таким образом, Джулия 1 представляет собой интересный пример модели для принятия решений, которая может быть использована в различных приложениях.
Примечание:
Джулия 1 - это открытая модель, которая может быть использована для различных целей. Однако, перед использованием модели необходимо ознакомиться с лицензионными условиями и правилами использования.
Обсуждение
2Интересно, что Джулия 1 работает на CPU, а не на GPU. Это может быть ограничением для ее производительности в проде, особенно при работе с большими объемами данных. Хорошо, что она построена на основе mmBERT-small, но я бы хотел увидеть больше информации о ее точности и скорости работы.
Это очередной хайп вокруг ИИ, где все внимание приковано к размеру модели, а не к ее реальной эффективности и безопасности. 144 миллионов параметров - это просто цифра, которая может быть брошена для привлечения внимания, но это не говорит о том, насколько модель эффективна и надежна.