Raspberry Pi получает прирост производительности благодаря AI HAT+
Raspberry Pi теперь предлагает надстройку AI HAT+, обеспечивающую производительность до 26 TOPS. Это интересное дополнение к Pi 5, особенно для разработчиков, которые интересуются встроенными приложениями компьютерного зрения.
Как вы, возможно, знаете, в начале этого года Raspberry Pi представила плату M.2 HAT+ для Pi 5. M.2 HAT+ может вместить целый ряд устройств M.2 PCIe — большинство людей используют его для твердотельных накопителей NVMe, хотя некоторые разработчики отточили AI Kit от Raspberry Pi, продукт, который включает в себя как M.2 HAT+, так и Halio. -8Л модуль НПУ. Крошечный модуль Halio подключается к M.2 HAT+ и обеспечивает вычислительную мощность до 13 тераопераций в секунду (TOPS), что значительно повышает возможности искусственного интеллекта Pi 5.
AI HAT+ по сути представляет собой M.2 HAT+ со встроенным припаянным модулем Halio NPU вместо слота M.2. Другими словами, это одноплатная версия Pi AI Kit. Этот интегрированный дизайн упрощает настройку (особенно для корпоративных клиентов, которым может потребоваться несколько Pi SBC, оснащенных NPU) и обеспечивает улучшенные тепловые характеристики для расширенных задач искусственного интеллекта.
Клиенты могут выбирать между двумя версиями AI HAT+. Стандартная версия оснащена тем же ускорителем Halio-8L, что и Pi AI Kit, а это означает, что ее мощность ограничена 13 TOPS. Также доступна более впечатляющая версия Halio-8 с вычислительной мощностью 26 TOPS, которая отлично подходит для одновременной работы нескольких нейронных сетей. Модели, разработанные для оригинального комплекта Pi AI Kit, совместимы с AI HAT+, а любая модель, работающая на Halio-8L, будет работать на более мощном Halio-8.
Конечно, в конструкции AI HAT+ есть некоторые ограничения, наиболее заметным из которых является мощность. Хотя ускорители Halio-8L и Halio-8 способны выполнять разнообразный набор задач, включая некоторые очень легкие LLM, они в первую очередь предназначены для моделей компьютерного зрения. И хотя «Зоопарк моделей» Halio — это фантастическая отправная точка для разработчиков и любителей, которые хотят протестировать возможности искусственного интеллекта Pi, процесс обучения и компиляции собственной модели для Pi требует изрядного количества терпения и знаний. Тем, кто не знаком с машинным обучением, следует начать свое путешествие с обычного ПК, а не с Raspberry Pi.
AI HAT+ также лишает вас возможности установить M.2 HAT+ на Pi 5, поскольку SBC ограничен одним интерфейсом PCIe 3.0. У вас может быть NPU или SSD NVME, но не оба сразу. (Если вы хотите поменять между NPU и NVME, вам лучше использовать Pi AI Kit.)
Вкратце, я хочу отметить, как трудно идти в ногу с аксессуарами Pi в 2024 году. Raspberry Pi Foundation продолжает выпускать новые классные игрушки, такие как вышеупомянутый комплект AI и плата расширения M.2, камера, SD-карты сторонних производителей, а также линейка накопителей NVMe. И это всего лишь аксессуары: в этом году Raspberry PI представила несколько интересных программных решений, а в августе представила свою первую плату RISC-V.
Модели Raspberry Pi AI HAT+ с 13 TOPS и 26 TOPS доступны сегодня по цене 70 и 110 долларов США соответственно. Если вы готовы пожертвовать производительностью ради модульности, комплект Pi AI Kit (который включает в себя плату M.2 HAT+ и съемный модуль NPU 13 TOPS) также доступен за 70 долларов. Независимо от того, какую плату AI вы покупаете, вам, вероятно, также захочется приобрести камеру Pi AI за 70 долларов.
Источник: Малиновый Пи.