Автор статьи провел эксперименты по запуску восьми нейросетей на FPGA, затратив всего $50. В процессе работы он столкнулся с проблемами, связанными с ограничениями памяти DDR3, что стало серьезным препятствием для эффективного выполнения задач.
В первой части эксперимента была протестирована нейросеть Qwen, а во второй части автор разобрал openTPU до RTL и собрал прошивку в Vivado. Он провел 165 запусков, чтобы получить реальные замеры производительности и выявить основные трудности, с которыми сталкиваются разработчики при использовании таких решений.
Данная работа подчеркивает актуальные проблемы в области нейросетей и их запуска на доступных платформах. Автор указывает, что даже современные дата-центры сталкиваются с аналогичными ограничениями, что делает его выводы значимыми для широкой аудитории, интересующейся развитием технологий в области искусственного интеллекта.