Что есть кроме ChatGPT и как это готовить: разворачиваем локальные LLM у себя на компьютере!
Модели от лидеров рынка удобны, но дороги и подходят далеко не для всех сценариев использования. Open-source модели развиваются невероятными темпами и сегодня использовать собственную LLM можно даже на макбуке!
В рамках воркшопа мы разберемся:
• В чем суть локальных LLM, и правда ли, что Open Source >= ChatGPT?
• Как выбрать опенсорс-модель под свои задачи?
• Правда ли, что промпты для open source LLM = промпты для GPT?
• RAG, Fine-Tuning, QLoRa — вот они слева направо. Как увеличить точность выбранной модели?
• Как урезать и файнтюнить Open Source LLM под свои задачи?
🙎♀️ О спикере: Ирина Николаева, Lead Data Scientist, Руководитель R’n’D-отдела машинного обучения в компании Raft Digital Solutions. У Ирины огромный опыт внедрения различных ML-моделей: от анализа временных рядов и computer vision до высоконагруженных дата-инженерных сервисов.
🧠 Кому будет интересно: всем, кто решает различные задачи с помощью LLM, а также разрабатывает собственные решения.
👨🏫 Уже есть специфический вопрос или тема для обсуждения? Поделитесь с нами по ссылке: https://go.codex.town/ask и мы обсудим ее во время вебинара!
P.S. Для практической части рекомендуется иметь не менее 4ГБ свободного места на компьютере.