У меня старый ноутбук: Intel Core i3, 6 ГБ ОЗУ. ChatGPT в браузере — тормозит. Платные API — дорого. А хотелось свой ИИ, который работает локально и без цензуры.

За три дня я собрал Jarvis AI — локального ассистента, который работает и на моём железе, и в Telegram.

Расскажу, как это устроено и что получилось.

Что такое Jarvis AI

Jarvis AI — это личный ИИ-ассистент, который:

  • Работает локально на ноутбуке (Ollama + qwen2.5).
  • Умеет гибрид: сложные вопросы → облако (Groq GPT-OSS 120B).
  • 6 ролей: программист, учитель, переводчик, писатель, аналитик, free.
  • Помнит контекст диалога.
  • Хранит историю в файлах.
  • Доступен в Telegram, в браузере и в терминале.

Почему локально

Три причины:

1. Приватность. Мои диалоги не уходят в OpenAI, Google или Anthropic. Всё хранится у меня на диске.

2. Бесплатно. Локальная модель — 0 рублей. Groq — бесплатный (free-tier). Никаких подписок.

3. Без цензуры. Открытые модели (Qwen, Llama) не отказываются отвечать на законные вопросы. Я сам решаю, что спрашивать.

Что внутри

Локально:

  • Ollama — движок для запуска моделей.
  • qwen2.5:1.5b — основная модель, влезает в 6 ГБ ОЗУ.
  • qwen2.5:3b — умнее, но медленнее.

Облако:

  • Groq — бесплатный доступ к GPT-OSS 120B.
  • Через прокси (xray) — потому что Groq блокирует РФ-IP.

Автовыбор:

  • Простой вопрос → локально (3–8 сек).
  • Сложный вопрос → Groq (3–5 сек).

Как это работает в Telegram

Бот @Jarvis927g_bot — это тот же Jarvis, но в Telegram. Пишешь сообщение — получаешь ответ.

Команды:

  • /new — новый чат.
  • /role programmer — сменить роль.
  • /status — сколько запросов осталось.
  • /help — справка.

Free-лимит: 10 запросов в день. Premium: безлимит.

Что умеет

  • Отвечать на вопросы — от простых до сложных.
  • Писать код — Python, Bash, C++, HTML, CSS.
  • Объяснять — как учитель, простыми словами.
  • Переводить — на любой язык.
  • Помнить контекст — не нужно повторять.
  • Сохранять чаты — история не теряется.

Технические детали

Стек:

  • Python 3.12
  • Ollama (локальные модели)
  • Groq API (облако)
  • python-telegram-bot (Telegram)
  • FastAPI / чистый Python (веб)

Железо:

  • Lenovo IdeaPad 320
  • Intel Core i3-6006U
  • 6 ГБ ОЗУ
  • SSD 256 ГБ

Работает на: Linux Mint 22.3.

Итог

Jarvis AI — это не ChatGPT и не Claude. Это мой ассистент:

  • Приватный — данные не уходят.
  • Бесплатный — 0 ₽ в месяц.
  • Без цензуры — открытые модели.
  • На слабом железе — i3 + 6 ГБ.

Если хочешь попробовать — пиши боту @Jarvis927g_bot. Первые 10 запросов в день — бесплатно.

Если проект окажется полезным — поддержи Telegram-канал:

Проверенные сервисы, которыми я пользуюсь:

Hide Expert — обход блокировок Быстрый и стабильный. Работает в Linux. AdGuard — без рекламы VPN + блокировка рекламы. Reg.ru — домен + хостинг Домен от 200 ₽/год. Хостинг для сайта. Kaspersky — антивирус Защита для Linux. Официальная партнёрка.