Bonsai
Последние новости и упоминания на vestka
- Bonsai от PrismML использует однобитные веса для языковых моделей с 27 миллиардами параметров
ИИ·Хабр ML·
Модель Bonsai от PrismML демонстрирует возможность хранения весов в одном бите, что значительно снижает требования к памяти. Это позволяет запускать большие языковые модели на видеокартах с ограниченной памятью, хотя такой подход имеет свои недостатки.