ИИ и Raspberry Pi
Подписаться на канал в Макс

Знаете, до сих пор встречаю людей, которые уверены: чтобы работать с нейросетями, нужен компьютер за 300 тысяч и видеокарта, от которой электросчётчик плачет. Это миф, и он реально блокирует кучу толковых ребят - и разработчиков, и предпринимателей.

А на деле? Чтобы автоматизировать генерацию, скажем, описаний для товаров или статей для блога, вам вовсе не нужны гигабайты VRAM. Всё, что действительно нужно - это чёткая логика, правильный API и устройство, которое жрёт электричества меньше, чем ночник. Я лично уже год как построил на этом принципе свой «контент-конвейер», и работает он на обычной Raspberry Pi. Да-да, той самой «малинке» за несколько тысяч.

Вот как это устроено у меня.

Железо: Почему именно «маленькая коробочка»?

Суть в разделении труда: вся тяжёлая работа - генерация текста - происходит в облаке, на серверах провайдера модели. А Raspberry Pi (у меня, кстати, Pi 4, но подойдёт и любой Orange Pi) выступает в роли тихого, но надёжного «прораба»:

  • Работает 24/7 - включил один раз, и забыл. Потребляет ватт 5-7, не больше.
  • Полностью автономен - запустил скрипт в PM2 или через Docker, и он работает месяцами без перезагрузок и вмешательства.
  • Мощности хватает - для отправки HTTP-запросов и парсинга JSON «малинка» справляется на ура.

Никаких «подожди, пока освободится мой ноутбук». Пусть «коробочка» шуршит в углу, пока я сплю или пью кофе. Кстати в сутки получается генерировать около 700-1000 страниц.

«Мозги»: Qwen 3 и почему именно через API

Я использую Qwen 3 - конкретно модель qwen3-14b (иногда путаю название и пишу «qwe3», но вы поняли 😄). Через OpenRouter она доступна буквально за копейки, а по качеству - более чем достаточно даже для технических описаний и статей под SEO.

Почему не локально? Технически можно запустить 14B-модель прямо на Pi, но с таким квантованием, что вы получите 1-2 токена в секунду - скучно и бессмысленно. А через API - готовый текст за 5–10 секунд, и процессор «малинки» даже не вспотеет.

Как это работает у меня под капотом

Код, конечно, не выкладываю — во-первых, он под мои задачи, во-вторых, лучший скрипт тот, что написан под себя. Но логику расскажу подробно.

Я работаю на Node.js, хотя Python здесь тоже подошёл бы. Просто JS мне привычнее, особенно с его асинхронностью — идеально для сетевых запросов.

Шаг 1. Промпт как договор
Я не просто прошу: «напиши про стальной уголок». Я даю модели чёткую инструкцию:

«Верни ответ строго в JSON с полями: pagetitle, title, description, text».

И Qwen 3 прекрасно это понимает. Никакого мусора, только структура - сразу готово к дальнейшей обработке.

Шаг 2. Скрипт-оркестратор
На Pi крутится мой скрипт, который:

  • берёт задачу (например, из CSV: «товар - алюминиевый профиль, длина 6м, толщина 2мм»);
  • формирует запрос к https://openrouter.ai/api/v1/chat/completions;
  • указывает модель qwen/qwen3-14b;
  • отправляет и ждёт ответа.

Шаг 3. Обработка и публикация
Получил JSON — сразу парсю, валидирую поля и отправляю результат куда надо:
→ в CMS через API (у меня иногда ModX, иногда кастомный движок),
→ или просто кладу в файловую систему как черновик.

Всё это может работать по расписанию - у меня, например, интервал 15 минут: за это время генерируется одна статья и публикуется.

Итог?

Получается замкнутый, полностью автоматизированный цикл:

Вход → список тем или товаров
Процесс → Raspberry Pi + Node.js + OpenRouter (Qwen 3)
Выход → готовый контент на сайте

А я? Я просто раз в день заглядываю в логи — всё ли пошло по плану. Остальное делает «маленькая коробочка». И, поверьте, она справляется лучше, чем половина фрилансеров.

Вот такая вот тихая, недорогая, но очень эффективная автоматизация.