1、下载并安装 Ollama

• 
• 官网地址：Ollama，下载后双击运行即可完成安装。
• 该程序安装过程中，没有提供选择安装位置选项，因此只能安装到C盘，大概5G左右

2、选择模型

选择模型： deepseek-r1: 8 b

操作步骤：官网首页 → 左上角 → Models → deepseek-r1

3、运行模型
右键开始图标 → 选择“终端管理员”：
在管理员终端中运行命令（即前面一步从官网中复制好的命令）：
命令：ollama run deepseek-r1:8b
等待拉取模型
成功后出现 “>>>” 的提示符，在此处输入你的问题回车就可以了

其它有用命令：

• 启动 Ollama 服务：ollama serve
• 查看当前模型列表：ollama list

 如运行模型成功后可以提问：

4、使用 allama_gui

如果需要，可以安装一个简易界面来使用模型

• 安装：python -m pip install ollama_gui
• 运行：python -m ollama_gui

 

5、API 接口调用

通过代码调用 Ollama 提供的 API 接口，实现模型的能力

 

 

 

 如：使用 api/chat 接口

import requests
 
# Ollama中提供的chat功能的API地址
url = 'http://127.0.0.1:11434/api/chat'
# 要发送的数据
data = {
    "model": "deepseek-r1:8b",
    "messages": [{
        "role": "user",
        "content": "中国大模型行业2025年将会迎来哪些机遇和挑战"}],
    "stream": False
}
 
# 发送POST请求
response = requests.post(url, json=data)
# 打印模型的输出文本
print(response.json()["message"]["content"])

在 PyCharm 中运行输出：

中国大模型行业将迎来一系列机遇和挑战。这些机遇和挑战主要围绕技术进步、市场应用、政策支持、国际竞争以及伦理和监管等方面展开。以下是一些关键点：

### 机遇

1. **技术突破与创新**：
   - 随着计算能力的提升和算法的优化，大模型在自然语言处理（NLP）、计算机视觉（CV）、语音识别等领域的性能将继续提升。
   - 量子计算和边缘计算等新技术的应用可能会推动大模型在特定场景下实现突破性进展。

2. **市场需求增长**：
   - 各行各业对智能化解决方案的需求将不断增加，尤其是在金融、医疗、教育、制造、零售等领域。
   - 大模型的应用将帮助企业实现更高效的运营、更精准的决策和更好的客户体验。

3. **政策支持**：
   - 中国政府对人工智能技术的重视将继续体现在政策支持上，包括资金投入、产业扶持和法规制定等。
   - “十四五”规划等国家战略将推动大模型技术的研发和应用。

4. **产业链完善**：
   - 随着大模型技术的成熟，相关产业链将进一步完善，包括芯片、云计算、数据服务、算法优化等领域。
   - 生态系统的健全将为大模型的广泛应用提供支持。

5. **国际化合作与竞争**：
   - 中国大模型企业将有机会参与全球竞争，尤其是在“一带一路”倡议下，与沿线国家的合作将进一步扩大。
   - 国际化合作将带来更多技术交流和市场机会。

### 挑战

1. **技术壁垒与瓶颈**：
   - 尽管大模型技术发展迅速，但仍面临一些技术瓶颈，如模型的可解释性、鲁棒性（对输入变化的稳定性）和计算资源消耗等问题。
   - 如何在大规模数据和复杂模型中实现高效训练和推理仍是一个挑战。

2. **数据隐私与安全**：
   - 大模型的训练和应用依赖于大量数据，但数据隐私和安全问题将成为监管的重点。
   - 如何在满足数据需求的同时保护用户隐私和数据安全，是企业需要面对的难题。

3. **伦理与社会影响**：
   - 大模型的广泛应用可能带来伦理和社会问题，如算法偏见、虚假信息传播、就业替代等。
   - 如何确保大模型技术的公平性和透明性，以及如何应对可能的社会冲击，是行业需要解决的伦理问题。

4. **国际竞争与技术封锁**：
   - 国际环境下，技术封锁和知识产权保护问题可能对中国大模型行业的发展构成挑战。
   - 如何在与国际巨头的竞争中保持自主创新能力，是中国企业需要思考的问题。

5. **人才短缺**：
   - 大模型技术的发展需要大量高端人才，包括算法工程师、数据科学家、领域专家等。
   - 如何培养和吸引高素质人才，将是企业和教育机构面临的重要问题。

### 总结

到2025年，中国大模型行业将面临技术进步、市场需求增长和政策支持等多重机遇。然而，技术瓶颈、数据隐私、伦理问题、国际竞争和人才短缺等挑战也将伴随而来。行业需要在这些机遇和挑战中找到平衡，推动大模型技术的健康、可持续发展。

6、其他方式使用，先上图

• 架构

• 下载

• 运行

 

•  准备知识库文档

 运行anythingllm

 

 

 

 

•  私人知识库部署完成