一、软件介绍

文末提供程序和源码下载

       AIChat是一个全能的LLMCLI工具，具有Shell Assistant、CMD和REPL模式、RAG、AI工具和代理等功能，通过统一界面与 20 多家领先LLM提供商无缝集成。支持的提供商包括 OpenAI、Claude、Gemini （Google AI Studio）、Ollama、Groq、Azure-OpenAI、VertexAI、Bedrock、Github Models、Mistral、Deepseek、AI21、XAI Grok、Cohere、Perplexity、Cloudflare、OpenRouter、Ernie、Qianwen、Moonshot、ZhipuAI、Lingyiwanwu、MiniMax、Deepinfra、VoyageAI，以及任何与 OpenAI 兼容的 API 提供商。

• Rust 开发人员： cargo install aichat
• Homebrew/Linuxbrew 用户： brew install aichat
•  Pacman 用户： pacman -S aichat
• Windows Scoop 用户： scoop install aichat
• Android Termux 用户： pkg install aichat

     从文末下载适用于 macOS、Linux 和 Windows 的预构建二进制文件，提取它们，然后将 aichat 二进制文件添加到您的 $PATH .

使用 AIChat 的 CMD 模式探索强大的命令行功能。

体验交互式 Chat-REPL，其中包含 Tab 键自动完成、多行输入支持、历史记录搜索、可配置的键绑定和自定义 REPL 提示等功能。

提升您的命令行效率。用自然语言描述您的任务，并让 AIChat 将它们转换为精确的 shell 命令。AIChat 会智能地适应您的作系统和 shell 环境。

接受多种输入形式，如 stdin、本地文件和目录以及远程 URL，从而实现数据处理的灵活性。

自定义角色以定制LLM行为，从而提高交互效率和生产力。

该角色由提示和模型配置组成。

通过会话保持上下文感知对话，确保交互的连续性。

左侧使用 session，而右侧不使用 session。

通过将一系列 REPL 命令组合到自定义宏中来简化重复性任务。

将外部文档集成到您的LLM对话中，以获得更准确且与上下文相关的响应。

函数调用通过将函数连接到外部工具和数据源来增强LLMs它们。这开启了一个充满可能性的世界，使其LLMs能够超越其核心能力并处理更广泛的任务。

我们创建了一个新的存储库 https://github.com/sigoden/llm-functions，以帮助您充分利用此功能。

集成外部工具，直接在工作流中自动执行任务、检索信息和执行作。

AI 代理 = 指令（提示）+ 工具（函数调用）+ 文档 （RAG）。

AIChat 包括一个轻量级的内置 HTTP 服务器，便于部署。

<span style="background-color:var(--bgColor-muted, var(--color-canvas-subtle))"><span style="color:#1f2328"><span style="color:var(--fgColor-default, var(--color-fg-default))"><span style="background-color:var(--bgColor-muted, var(--color-canvas-subtle))"><code>$ aichat --serve
Chat Completions API: http://127.0.0.1:8000/v1/chat/completions
Embeddings API:       http://127.0.0.1:8000/v1/embeddings
Rerank API:           http://127.0.0.1:8000/v1/rerank
LLM Playground:       http://127.0.0.1:8000/playground
LLM Arena:            http://127.0.0.1:8000/arena?num=2
</code></span></span></span></span>

The LLM Arena 是一个基于 Web 的平台，您可以在其中并排比较不同的LLMs内容。

 使用 curl 进行测试：

curl -X POST -H "Content-Type: application/json" -d '{
  "model":"claude:claude-3-5-sonnet-20240620",
  "messages":[{"role":"user","content":"hello"}], 
  "stream":true
}' http://127.0.0.1:8000/v1/chat/completions

一个 Web 应用程序，可直接从您的浏览器与支持的LLMs支持人员进行交互。

一个用于并排比较不同LLMs内容的 Web 平台。

AIChat 支持自定义深色和浅色主题，以突出显示响应文本和代码块。

三、软件下载

夸克网盘分享

本文信息来源于GitHub作者地址：GitHub - sigoden/aichat: All-in-one LLM CLI tool featuring Shell Assistant, Chat-REPL, RAG, AI Tools & Agents, with access to OpenAI, Claude, Gemini, Ollama, Groq, and more.