Хочешь своего собственного ИИ, который болтает на русском, работает без Wi-Fi 🛜 и не просит денег? 💸 Тогда ты попал по адресу! Сегодня мы устроим магию на Mac mini (или любом другом компе) и запустим локальную модель google.gemma-3-1b-it.Q2_K.gguf. Почему она? Потому что она шустро говорит по-русски, жрет всего 350 МБ оперативки и летает даже на стареньком процессоре i3! 😎 Готов? Погнали! 🚗
Что тебе понадобится? 🛠
- Mac mini (или любой комп с 4 ГБ ОЗУ и выше).
- Python: https://www.python.org/downloads/
- Терминал, который уже есть на твоем Mac. 🖥
- Чуток терпения и желание творить крутые вещи! 😜
- Модель google.gemma-3-1b-it.Q2_K.gguf 🔗: https://huggingface.co/gaianet/gemma-3-1b-it-GGUF/tree/main
Почему эта модель — твой лучший друг? 🤗
- Легкая как перышко: всего 350 МБ ОЗУ, и твой Mac не будет пыхтеть. 😅 (можно и на телефоне запустить)
- Русский — ее родной: отвечает четко, понятно и без акцента. 🗣
- Оффлайн-магия: интернет? Не нужен! Работает где угодно. 🌍
- Бесплатно навсегда: никаких подписок, твой ИИ — твой навек! 💖
Шаг 1: Готовим почву 🌱
- Скачай Python 🐍 Залетай на python.org, качай последнюю версию и устанавливай. Это как поставить любимую игру — просто и быстро! 🎮
- Открой терминал 💻 На Mac он уже есть. Найди его через Spotlight (лупа вверху справа) или в папке “Программы -> Утилиты”. Готов? Теперь ты хакер! 😎
- Установи библиотеку 📚 Вставь в терминал эту команду и жми Enter:
pip3 install llama-cpp-python
Это как загрузить суперсилу для твоего ИИ! ⚡ Жди, пока все установится (20-50 секунд и готово).
Шаг 2: Создаем ИИ-бота 🤖
- Скачай модель Найди файл google.gemma-3-1b-it.Q2_K.gguf (например, на Hugging Face) и закинь его на Рабочий стол. Это твой ИИ в сжатом виде! 📦
- Создай файл bot.py 📝 Открой текстовый редактор (например, встроенный TextEdit или Visual Studio Code, если хочешь быть крутым 😎). Создай новый файл и назови его bot.py. Вставь этот код (не пугайся, он проще, чем кажется!):
from llama_cpp import Llama model_path = "/Users/ТВОЕ_ИМЯ_ПК/Desktop/google.gemma-3-1b-it.Q2_K.gguf" llm = Llama( model_path=model_path, n_ctx=1024, n_batch=512, n_threads=0, use_mlock=False, use_mmap=True, verbose=False ) def generate_response(user_input): system_prompt = "Ты ИИ, ты должен давать четкие и понятные ответы и помогать!" full_prompt = ( f"<start_of_turn>usern" f"{system_prompt}nn" f"{user_input}<end_of_turn>n" f"<start_of_turn>modeln" ) for chunk in llm( prompt=full_prompt, max_tokens=1024, top_k=40, top_p=0.95, temperature=0.7, repeat_penalty=1.0, echo=False, stream=True ): token = chunk["choices"][0]["text"] print(token, end="", flush=True) print() if __name__ == '__main__': while True: user_input = input("Вы: ") if user_input.lower() in ["exit", "выход"]: break generate_response(user_input)
- Замени ТВОЕ_ИМЯ_ПК на имя пользователя твоего Mac (посмотри в папке /Users, там увидишь).
- Сохрани файл на Рабочий стол. Готово! 🎉
Шаг 3: Запускаем ИИ! 🚀
- Перейди на Рабочий стол в терминале Вставь эту команду и жми Enter:
cd ~/Desktop
- Запусти бота Теперь вот это и жди Enter:
python3 bot.py
Если все ок, терминал покажет “Вы: “. Это твой ИИ готов болтать! 😄
На видео я показал запуск и рабту.
- Задай вопрос Пиши что угодно: “Как приготовить пиццу?” или “Почему коты такие милые?” 🐱 Жми Enter и смотри, как твой ИИ выдает ответы. Чтобы выйти, напиши exit или выход.
Что дальше? Твой ИИ — твой мир! 🌟
- Интеграция в Telegram 📱 Хочешь, чтобы твой ИИ болтал в мессенджере? Это реально! Создай Telegram-бота через BotFather, подключи код, и твой ИИ будет отвечать друзьям. А если захочешь, можешь даже продавать доступ к боту — это уже бизнес-идея! 💡
- Экспериментируй 🧪 Поменяй параметры в коде (например, temperature для более креативных ответов) или попробуй другие модели, если твой Mac потянет.
- Задавай вопросы ❓ Что-то не работает? Пиши в комментариях, и я помогу! Мы вместе разберемся. 😊
Почему это так круто? 😍
• Твой ИИ — твой навсегда: никаких подписок, никаких облаков. Он живет у тебя дома! 🏠
• Оффлайн-сила: в лесу, в горах, в самолете — твой ИИ всегда с тобой. ✈
• Русский на уровне: модель понимает и отвечает так, будто это твой лучший друг. 👊
• Масса возможностей: от личного помощника до бота, который зарабатывает деньги. 💰
🎉 Поздравляю! Ты только что создал своего личного ИИ, который работает без интернета и готов помогать 24/7. Делись в комментариях, что ты спросил у своего бота первым, и как он ответил! 😄 Если что-то не получилось или есть идеи, пиши — я на связи! 🚀
