- 14.09.2024
- 78
- 5
- 18
- Награды
- 5
- Автор темы
-
- #1
Всем привет!
Я хотел бы поделиться подробным руководством по установке и использованию Ollama на Linux
Ollama — это инструмент, который позволяет вам извлекать различные языковые модели и запускать их прямо на вашем компьютере.
Что такое Ollama?
Ollama — это инструмент с открытым исходным кодом, который делает работу с большими языковыми моделями очень простой.
Подготовим необходимые либы. Проверим, что оллама запускается без ошибок.
Далее необходимо скачать модель, например:
Остальные модели можете глянуть на официальном сайте ollama.com
Загружать нужно только один раз.
Далее уже можно запускать либо диалог (сохраняется контекст)
Либо использовать единичный запрос (контекст не сохраняется)
Чтобы выйти используйте:
Если появляются ошибки/вопросы - пишите, разберемся
пы. сы. Единственная просьба - не пишите сообщение с содержанием "ничего не работает", если хотите помощи
Опишите, что пошло не так, какая ошибка, ну и скрины можете прицепить
Всем удачных познаний
Я хотел бы поделиться подробным руководством по установке и использованию Ollama на Linux
Ollama — это инструмент, который позволяет вам извлекать различные языковые модели и запускать их прямо на вашем компьютере.
Что такое Ollama?
Ollama — это инструмент с открытым исходным кодом, который делает работу с большими языковыми моделями очень простой.
Подготовим необходимые либы. Проверим, что оллама запускается без ошибок.
Bash:
sudo apt update && sudo apt upgrade
sudo apt install python3 python3-pip git
git clone https://github.com/ollama/ollama.git
cd ollama
pip install .
ollama --versionДалее необходимо скачать модель, например:
- GPT-3 (OpenAI)
- LLaMA (Meta AI)
- Mistral (Hugging Face)
Bash:
ollama pull gpt-3Остальные модели можете глянуть на официальном сайте ollama.com
Загружать нужно только один раз.
Далее уже можно запускать либо диалог (сохраняется контекст)
Bash:
ollama run gpt-3Либо использовать единичный запрос (контекст не сохраняется)
Bash:
ollama run gpt-3 "Что такое квантовая физика?"
Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.
Если появляются ошибки/вопросы - пишите, разберемся
пы. сы. Единственная просьба - не пишите сообщение с содержанием "ничего не работает", если хотите помощи
Опишите, что пошло не так, какая ошибка, ну и скрины можете прицепить
Всем удачных познаний
Последние темы в этом разделе:
- [Павел Монахов] [Специалист] Linux. Уровень 2. Администрирование сетевых сервисов (2024)
- Путь настоящего хакера - лежит в его инструменте. Или Kali Linux'еры !
- [Павел Монахов] [Специалист] Системное администрирование Linux (2024)
- [Udemy] Cyber Security: Освоение безопасности Linux (2019)
- [Платон Платонов] [Слёрм] Администрирование Linux. Мега. Тариф Стандарт (2022)
- Российская операционная система Alt Linux
- Сегодня день, когда вы удалите Windows.
- Trace Labs OSINT - Виртуальная машина на Linux, ориентированная для OSINT
- Список 500 лучших инструментов взлома в termux и Linux
- [Павел Калашников] [Слёрм] Linux для разработчиков (2024)