Файнтюнинг на примере Llama 3 + QLoRA. ПРОЩЕ и ЭФФЕКТИВНЕЕ чем когда-либо
В этом видео я показываю, как выполнить файнтюнинг Llama 3 максимально просто, как настроить GPU и программный стек.
💻 immers.cloud – широкий выбор карт для обучения и инференса нейронных сетей: https://immers.cloud/signup/r/2024042...
Один из ведущих поставщиков услуг IaaS (Infrastructure as a Service) в России, специализирующийся на использовании графических процессоров (GPU).
Сервис предлагает конкурентоспособные цены и интуитивно понятный интерфейс, который даже начинающие пользователи могут легко освоить и начать работу с необходимым программным обеспечением.
💻 gptchain – фреймворк для быстрого развертывания AI-ассистентов: https://github.com/RuslanPeresy/gptchain
Поддерживает интеграцию с Telegram-ботом, Retrieval Augmented Generation (RAG), деплой моделей на LLM сервер и файнтюнинг LLM на собственных данных.
Телеграм-канал: https://t.me/ruslandevlive
Дискорд: / discord
🤗 Веса моей модели: https://huggingface.co/ruslandev/llam...
В карточке модели - гиперпараметры, которые я использовал при файнтюнинге, и формат моего промпта, а также метрики обучения.
Это описание содержит реферальные ссылки.
Watch video Файнтюнинг на примере Llama 3 + QLoRA. ПРОЩЕ и ЭФФЕКТИВНЕЕ чем когда-либо online without registration, duration hours minute second in high quality. This video was added by user Ruslan Dev 28 April 2024, don't forget to share it with your friends and acquaintances, it has been viewed on our site 7,35 once and liked it 44 people.