Компания Raspberry Pi представила новый ИИ-ускоритель Raspberry Pi AI HAT+ 2, предназначенный для одноплатных компьютеров Raspberry Pi и ориентированный на запуск генеративных моделей искусственного интеллекта. Новинка стала развитием выпущенного в конце 2024 года AI HAT+ и предлагает заметно более высокую производительность и расширенные возможности для работы с LLM.
В основе Raspberry Pi AI HAT+ 2 используется нейросетевой ускоритель Hailo-10H, обеспечивающий производительность до 40 TOPS при вычислениях INT4. Это заметный шаг вперёд по сравнению с предыдущей моделью AI HAT+, рассчитанной на 26 TOPS.
Одним из ключевых улучшений стало появление 8 ГБ собственной встроенной оперативной памяти. Благодаря этому плата способна работать с более крупными моделями, включая генеративные ИИ-решения, которые не могли быть запущены на оригинальном AI HAT+. По заявлению разработчиков, ускоритель поддерживает запуск таких моделей, как LLaMA 3.2 1B, DeepSeek R1-Distill 1.5B, Qwen2 1.5B и других LLM с размером до примерно 1,5 млрд параметров.
Примеры поддерживаемых моделей
На старте для Raspberry Pi AI HAT+ 2 будут доступны для установки следующие языковые модели (LLM), рассчитанные на локальный запуск:
| Модель | Количество параметров / размер |
|---|---|
| DeepSeek-R1-Distill | 1,5 млрд параметров |
| LLaMA 3.2 | 1 млрд параметров |
| Qwen 2.5 Coder | 1,5 млрд параметров |
| Qwen 2.5 Instruct | 1,5 млрд параметров |
| Qwen 2 | 1,5 млрд параметров |
Raspberry Pi AI HAT+ 2 рассчитан на использование с Raspberry Pi 5 и может применяться в проектах локального ИИ-анализа, компьютерного зрения, офлайн-чат-ботов, умных ассистентов и других сценариях, где требуется выполнение ИИ-моделей без обращения к облачным сервисам.
Новый Raspberry Pi AI HAT+ 2 уже доступен для заказа по цене 130 долларов США. Дополнительные сведения о характеристиках, совместимости и примерах использования опубликованы в официальном анонсе на сайте Raspberry Pi.
Обновления программ, что нового
• iQOO Z11 Turbo представлен официально: Snapdragon 8 Gen 5, камера 200 Мп и батарея 7600 мАч
• Вышел Raspberry Pi AI HAT+ 2: ИИ-ускоритель с 40 TOPS и 8 ГБ памяти для запуска генеративных моделей
• Браузер Samsung Internet для Windows с поддержкой Galaxy AI и блокировкой рекламы стал доступен для всех пользователей
• Релиз Opera One R3: новый ИИ Opera AI, интеграция сервисов Google в боковую панель и другие улучшения
• OpenAI запустила ChatGPT Translate – новый ИИ-переводчик
• MediaTek представила чип Dimensity 8500: архитектура Cortex-A725 и прирост графики на 25%