登录社区云,与社区用户共同成长
邀请您加入社区
传统 WebShell 检测最大的问题:不是没有规则。而是:攻击者已经开始绕过规则。未来企业安全代码审计:本地大模型代码理解Prompt工程自动化扫描通过 Docker 部署 DeepSeek,将 AI 能力部署到企业内部,可以在保护源码隐私的同时,大幅提升代码审计效率。真正成熟的 AI 安全审计平台,不是简单调用 API。而是:构建属于企业自己的安全智能分析能力。如果在 Docker 部署拉取镜
在本地构建大模型应用工作流的过程中,服务间的灵活解耦与连通始终是核心诉求。本文记录在 1Panel 中使用 Docker 部署 DeepSeek Harness (DSH) 0.1.1-rc.1 后,如何将其默认模型切换到局域网另一台 Windows 主机上的llama.cpp多模态模型。在实际对接中,直接阻断工作流的核心瓶颈在于 DSH 的 Web GUI。。该异常导致 Provider 配置入
Ollama 把本地运行大语言模型这件事情做得非常简单,而 Docker 又进一步解决了环境部署、迁移和管理的问题。DockerOllama而且整个模型运行在自己的设备上。对于第一次接触 Ollama 的人来说,是一个非常合适的入门模型:模型文件大约 1.1GB,部署成本低,可以先把 Docker、Ollama、本地模型和 API 调用这一整套流程跑通,再逐渐尝试 7B、8B、14B、32B 等更
least_conn 负载均衡会把同一会话的多轮请求分散到不同实例,而 vLLM 的前缀缓存(Prefix Cache,即 KV cache 复用)是每个实例各自独立的——第二轮请求落到另一台机器时,前几轮已算好的 KV cache 完全用不上,长历史会话的 prefill 成本每轮都全价重算。同一会话的多轮请求始终落在同一实例,直接命中该实例的 KV cache。如业务几乎不使用超长上下文,可考
餐小助从最初的前端页面,逐步扩展成一个包含 PC 后台、手机商户端、顾客扫码点餐页、后端 API、数据库、AI 模型接入、天气系统、短信注册和 Docker 部署的完整项目。从技术角度看,它覆盖了 Vue3 多端开发、Fastify 接口设计、Prisma 数据建模、SQLite 持久化、SSE 流式输出、Qwen 模型接入、和风天气、阿里云验证码、Nginx 反向代理、Docker Compos
DeepSeek Harness 发布新版本 0.1.0-rc.12。这一版本进一步完善了 DeepSeek Harness 的多平台、多形态分发能力。从本地开发者使用,到服务器部署,再到 Kubernetes 集群运行,DeepSeek Harness 现在已经形成了一套完整的安装与部署体系。
FlyEnv是一款专为开发者设计的高效本地环境管理工具,解决了PHP开发者长期面临的多版本切换、环境配置繁琐等痛点。相比传统工具(XAMPP、Docker等),FlyEnv提供原生轻量级体验,支持PHP/Node.js等多版本秒级切换、一键启动服务组、自动站点与Hosts管理,并内置JSON解析等开发工具。其特色功能包括启动组管理、全版本支持、AI编码集成(Claude/GitHub Copilo
摘要: 本文针对AI编码Agent(如Claude Code等)在获取Shell后可能引发的越权风险,提出基于Docker 28.x + runsc(gVisor) 1.0的沙箱隔离方案。方案遵循三原则:边界最小化、出网默认拒绝和特权操作前审查。通过配置gVisor运行时、加固容器启动命令及边界探测脚本,实现Agent在隔离环境中的安全运行。对比普通容器、gVisor和microVM的隔离强度,推
用 FastAPI 搭建多模型 API 网关,统一接入 DeepSeek 等厂商,实现协议转换、负载均衡、熔断降级。附完整代码和生产环境踩坑经验。
《Windows下AI开发工具实战指南》系列提供完整的Windows平台AI开发解决方案,通过6篇文章详细讲解:1)WSL2环境搭建与配置;2)ClaudeCode+DeepSeek编程助手部署;3)HermesAgent智能体应用;4)Docker容器化开发;5)本地GPU推理环境搭建;6)vLLM大模型部署。涵盖从基础环境到高级AI工具链搭建,适合Windows开发者、AI工具爱好者及大模型实
本文介绍了OpenWebUI的本地部署与应用。OpenWebUI是一个功能丰富的开源Web界面,用于管理和交互本地或云端的大语言模型,支持Ollama和OpenAI兼容API,提供直观的聊天体验和模型管理。 主要内容包括: OpenWebUI的优势:用户友好界面、多模型支持、知识库管理、隐私安全等。 本地部署步骤:Python 3.11环境准备、pip安装、启动服务。 使用演示:连接Ollama本
claude.md。
BiliNote是一款开源AI视频笔记工具,可将B站、YouTube等平台视频自动转化为结构化Markdown笔记。本文推荐使用Docker部署(提供现成镜像和启动脚本),相比源码部署更简单稳定。关键配置包括:1)选择多模态视觉模型(如GPT/Qwen);2)配置在线音频转写引擎;3)填写各平台Cookie。生成笔记时可选"原片截图"功能,10分钟内即可获得带目录、截图和要点总
诚实地说,GLM-5.1在极专业的子领域术语(比如师弟那篇论文里涉及的一个CV新算法名称)上偶尔会翻错。但这不是GLM-5.1独有的问题——我拿同样的场景试过DeepSeek-V3.2和Qwen3-235B(都在蓝耘上),表现差不多。解决办法也很简单:在提示词里加一句”如果遇到不确定的专业术语,请保留原文并用[不确定]标注”。
当我们提出“统一账本”时,架构师们的第一反应通常是:为什么不选Redis?为什么不选MySQL/PostgreSQL?甚至为什么不选Kafka?这里,我们运用奥卡姆剃刀原则(如无必要,勿增实体)来进行审视:维度RedisKafkaSQLite运维复杂度高(需维护进程、内存淘汰)极高(需DBA、连接池、主从)极高(需ZK/KRaft集群)零(单文件嵌入)状态持久化需配置RDB/AOF,存在丢失窗口强
用过 Hermes Agent 的朋友都知道,它的命令行模式虽然功能强大,但对新手和不想敲命令的朋友来说还是有点门槛。好消息是,它的 Web UI 终于来了!不用再对着黑框框敲命令,点一点就能配置、管理和使用,今天就给大家分享一下 Hermes WebUI 的完整部署教程。
一台支持 Docker 的 x86 架构 NAS,建议内存 4GB 以上。Hindsight 容器运行时平均占用约 1GB 内存。:确保 Docker 服务已开启并运行正常。:确保 Hermes 版本为 v0.7.0 或更高。可通过 hermes --version 命令确认。:Hindsight 需要一个外部大模型(如 DeepSeek, OpenAI, 硅基流动等)的 API Key 来提取记
使用 DeepSeek V4 Pro / V4 Flash 的 thinking mode + tool calls 时,第一轮工具调用后的每次请求都返回。在 Claude Code 和 DeepSeek API 之间插入一个本地 Node.js 代理,自动补全被丢弃的 thinking 字段。的消息必须保留 thinking 块。Claude Code / cc-switch 在序列化历史时把它
本文总结了在Ubuntu虚拟机中部署绿色版Ollama和Docker版OpenWebUI时的常见问题及解决方案。主要问题包括:Ollama未开机自启、默认仅监听本地端口导致容器无法访问,以及网络配置错误。修复步骤包括:1)启动Ollama并开放0.0.0.0访问;2)重建OpenWebUI容器并配置正确的API地址;3)验证连通性。关键点在于设置OLLAMA_HOST=0.0.0.0和使用172.
Ollama核心概念与架构解析(150字摘要) Ollama采用Client-Server架构,由后台HTTP服务处理模型推理和管理,客户端通过API与之交互。模型管理包含GGUF文件和配置层,默认存储在~/.ollama/models/路径,通过tag机制区分版本。Modelfile支持5种指令实现模型定制,类似Dockerfile原理。提供原生和OpenAI兼容两套API,Java开发者推荐后
本文介绍了基于Qwen3-Embedding-4B模型实现1536维自定义向量方案的两种方法。针对线上text-embedding-v4模型转线下的需求,作者发现开源模型缺少标准1536维embedding模型,因此提出利用2560维的Qwen3-Embedding-4B模型进行维度转换。方案一使用Ollama,通过简单添加dimensions参数即可调整维度;方案二采用vLLM部署,通过配置Ma
使用 Docker 部署 Qwen2.5-72B 能实现环境隔离、一键部署和便捷管理。结合 vLLM 推理后端,可以充分发挥您 4 张 RTX 3090 的性能。
OpenCode 支持两种配置方式:桌面版 GUI 图形界面(适合新手)和 配置文件(适合开发者与多项目管理)。本文将完整覆盖两种方案,以及 Windows、macOS、Linux 全平台操作步骤。
本文档记录了在Ubuntu 24.04系统上使用vLLM部署Qwen3-1.7B语言模型的过程。
gpt-load —— 一个基于 Go + Vue 开发、高性能、企业级的 AI 接口透明代理服务,专门为需要集成多种 AI 服务的企业和开发者设计。具备智能密钥管理、负载均衡和完善的监控功能。
预估体重 = 0.03 * 50 + 0.02 * 55 + 0.08 * 60 + 0.1 * 65 +0.2 * 70 + 0.41 * 75 + 0.46 * 80 + 0.32 * 85。
本文介绍了一种在Win11操作系统下,使用Docker部署OpenClaw的一种方案,并且Token由本地部署的Ollama加载开源的qwen3.5模型产生,实现零成本、相对安全可控的一种部署方案。当然,目前OpenClaw和Ollama的安全性还是有待提升,结合自己的情况,慎重部署!!!