- 官方网站
- 开源平台
- 主要特点
- 使用指南
- 模型下载与使用
- 开始使用
- 系统要求
您可以在 GitHub 上找到ollama的开源地址。
ollama拥有强大的功能,可以启动并运行大型语言模型,包括Llama 3、Phi 3、Mistral、Gemma等多个模型,同时支持用户自定义创建模型。
ollama还支持本地知识库的接入,为语言模型的运行提供更多背景信息。
您需要从下载安装ollama。
下载ollama后,您可以轻松地通过它下载所需的模型。例如,您可以选择适合您电脑配置的模型进行下载和使用。
一旦您完成了模型的下载和安装,您就可以开始使用ollama了。例如,您可以将其与网页或桌面客户端搭配使用,实现像访问“豆包”、“chatgpt”一样的体验,但这次您将使用自己电脑上的大模型。
为了确保最佳的使用体验,您应该确保您的电脑至少具备以下配置:对于7B模型,至少需要8 GB的RAM;对于13B模型,需要16 GB的RAM;而对于33B模型,则需要32 GB的RAM。
这意味着,即使是普通的家用电脑也可以轻松运行这些大模型。