Гайд Как запустить на своём пк chatgpt или использование LLM с помощью ollama.

[sunilia]

Всем привет!

Я хотел бы поделиться подробным руководством по установке и использованию Ollama на Linux
Ollama — это инструмент, который позволяет вам извлекать различные языковые модели и запускать их прямо на вашем компьютере.

Что такое Ollama?
Ollama — это инструмент с открытым исходным кодом, который делает работу с большими языковыми моделями очень простой.
Подготовим необходимые либы. Проверим, что оллама запускается без ошибок.

sudo apt update && sudo apt upgrade
sudo apt install python3 python3-pip git

git clone https://github.com/ollama/ollama.git
cd ollama

pip install .

ollama --version

Далее необходимо скачать модель, например:

• GPT-3 (OpenAI)
• LLaMA (Meta AI)
• Mistral (Hugging Face)

Пример:

ollama pull gpt-3

Остальные модели можете глянуть на официальном сайте ollama.com

Загружать нужно только один раз.

Далее уже можно запускать либо диалог (сохраняется контекст)

ollama run gpt-3

Либо использовать единичный запрос (контекст не сохраняется)

ollama run gpt-3 "Что такое квантовая физика?"

Чтобы выйти используйте:

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

Если появляются ошибки/вопросы - пишите, разберемся



пы. сы. Единственная просьба - не пишите сообщение с содержанием "ничего не работает", если хотите помощи
Опишите, что пошло не так, какая ошибка, ну и скрины можете прицепить

Всем удачных познаний

 

[slowtema]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[sunilia]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[keeker]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[Loraks_1]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[danik2225754]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[sergeevnikita]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[sunilia]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[chaffi]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[nba]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[tri_nim]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[Minoru]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[Elesy]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[Morrison1]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[salatusss]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[bruhbro]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[Facece777]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[rapidrabbit]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[joomjf]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.

 

[thekreperyelloww]

Для просмотра скрытого содержимого вы должны войти или зарегистрироваться.

You must be logged in to see the message.