Ollama v0.2 – 本地大语言模型运行框架

简介

Ollama 是一个轻量级、可扩展的本地大语言模型框架，用于在本地机器上构建和运行大型语言模型。它提供了简单的 API 用于创建、运行和管理模型，以及一系列预构建模型，可以轻松地在各种应用程序中使用。

软件截图

软件特征

• 支持多种模型：如 Llama 3.1, Phi 3, Mistral, Gemma 2 等。
• 模型定制：允许用户定制和创建自己的模型。
• 跨平台支持：适用于 macOS, Linux, 和 Windows (预览版)。
• 模型库：提供模型库，用户可以下载和使用多种预训练模型。
• CLI 参考：提供命令行界面参考，方便模型的创建和管理。
• REST API：提供 REST API 用于运行和管理模型。
• 社区集成：拥有丰富的社区集成，包括 Web & Desktop 应用、终端工具、数据库集成、库、移动应用、扩展和插件等。

下载

Ollama

官方网站

Ollama

GitHub 页面