登录社区云,与社区用户共同成长
邀请您加入社区
各大文章都在讲如何通过ollama运行DeepSeek R1蒸馏版,我也深以为然,但我一直是通过vllm来运行的,想着都是同样的模型,也就觉得没什么不同了。可是今晚在测试ollama时,发现不对啊。
这篇文章我们完整拆解了一个"浏览器本地大模型"应用。浏览器跑大模型是可行的,靠的是 WebGPU 提供 GPU 算力 + 量化压缩模型体积;架构上采用主线程 + Web Worker分离:Worker 负责吃力的推理,主线程只做渲染,两者靠消息协议通信;流式输出是体验的关键,靠逐个 token 解码回调,主线程增量拼接实现"打字机"效果;思考/回答的区分利用了<think></think>特殊 t
Vibe Coding(氛围编程/意图驱动编程)由 OpenAI 联合创始人 Andrej Karpathy 于 2025 年 2 月提出,核心理念是:开发者用自然语言描述"要做什么",AI 负责生成代码,开发者只管看结果、提反馈,从"手写代码"转向"描述意图 + 验收结果"。描述需求(自然语言)↓AI 生成代码(Cursor / Claude / Codex 等)↓运行 → 看效果 / 报错↓有
不知道大家看完这些升级之后是什么感觉?Sunday 个人的感觉是:“前端又要失业了”。没那么严重!如果你还是把自己定义为 “切图仔” 或者 “API 调包侠” ,那是真完了但是,如果你把自己定义为“产品工程师”!那么属于你的黄金时代才刚刚开始。为什么这么说?
让 GPT/Claude 流式输出一段 markdown,中间夹着这种结构化块 —— markdown 要实时显示给用户,JSON 又必须校验通过才能用。原生 schema 约束解决不了这种"混合流",fluxmend 给了另一种解法:字符级 FSM 逐字符校验,坏了三层修复,markdown 文本部分全程透传不阻塞。
2026 年了,“前端调 AI API"这件事已经不是什么新鲜事。但如果你的认知还停留在"前端发个fetch、拿个文本回显到页面上”——那你可能错过了多模态这个更有想象力的方向。多模态(Multimodal)是 2025-2026 年 AI 领域最大的突破之一。模型不再只是"输入文字、输出文字",而是能理解图片、生成图片、甚至图文混合输入。你给模型两张穿搭图 + 一句文字描述 → 它生成一张融合后
如果你也在做 coding agent,这篇文章最值得带走的,不是哪一段 CrewAI 代码,而是一个判断:真正决定 agent 上限的,往往不是模型有多会答,而是你有没有把 loop、planning、delegation、memory、sandbox 和 approval 这些“外围系统”搭对。模型是大脑。但 harness,才是让大脑能持续把事情做完的那套身体。
且目视他人之凝目如点点鬼火,大胆去走你的夜路。在正式开始之前,先快速过一遍这次用到的“武器库”。如果你对某些组件已经很熟悉,可以直接跳过;如果还不太了解,看这段就够了。整个系统由四个核心组件构成,我按“大脑 → 神经 → 身体”的顺序来拆解:🧠 蓝耘 MaaS(大脑)蓝耘的 MaaS(Model as a Service)平台,简单说就是把 DeepSeek、GLM、Qwen 这些主流大模型打包
《企业级AI助手开发实践:Vue3+FastAPI+DeepSeek全栈解决方案》 本文详细介绍了从0到1构建企业级AI智能助手的完整技术方案。文章基于Vue3+FastAPI+DeepSeek技术栈,展示了包括前端交互、后端服务、大模型集成和数据存储的全流程实现。重点解析了企业AI应用的核心架构设计,区别于简单对话接口的关键技术(Prompt管理、RAG检索增强),并提供了SSE流式输出等优化方
BS 架构开发中,最折磨人的环节往往是前后端联调前端传的字段名和后端接收的不一致分页参数前端叫pageNum,后端叫page日期格式前端传的是时间戳,后端要的是yyyy-MM-dd跨域报错、CORS 配置不对、Token 传递方式不一致如果前后端都是你一个人开发,Claude Code 可以帮你一把梭——同时操作前端和后端代码,确保接口契约完全对齐。在动手写代码之前,先让 Claude 帮你梳理接
本文探讨了OpenClaw作为"大连接时代的探索触手"的核心价值,分析了从传统功能调用到现代连接编排的范式转变。文章指出,OpenClaw的本质不在于单纯增加连接数量,而在于建立可控、可组合、可选择的动态连接网络。通过五个阶段的演进:连接描述、组合能力、策略选择、并行探索和经验记忆,系统实现了从固定流程到智能探索的跃迁。最终形成具备连接抽象、策略控制、并行探索、动态组合和经验记
Jiang I-Agent 使用 Spring AI 2.0 + DeepSeek 模型(通过硅基流动 SiliconFlow 代理),需要获取模型的思考过程(这个 SDK 是 OpenAI 官方维护的,它的数据模型只包含 OpenAI 标准字段,不用 Spring AI 直连的决策是正确的。直接调硅基流动 API,手动解析 SSE 响应。Bean(排除了 MySQL/Redis 循环依赖问题后)
支持拍照或从相册选择病历/检测报告图片,调用后端AI进行OCR识别,提取关键医疗指标并结构化展示。OCR入口内嵌在病历管理页面()中,同时保留独立的OCR结果页面(独立的疾病管理模块(),支持老人常见疾病的录入、编辑、删除,并与用药计划模块实现数据关联。健康数据可视化页面(),集成健康数据统计分析、趋势记录列表、疾病档案管理于一体。建立了统一的设计系统文件,定义了全站共享的设计令牌,确保视觉一致性
当工具数量达到数百个时,这会消耗大量 token(文中提到多达 134K tokens),而且容易导致错误的工具选择。工具在代码执行环境中运行,处理大量数据,仅将最终结果返回给 Claude。Anthropic 在 Claude 开发者平台上推出了三项 Beta 功能,从根本上解决了工具调用的扩展性问题。JSON Schema 只能定义结构,无法表达具体的使用模式——可选参数何时填写、日期格式惯例
Anthropic于2026年6月发布Claude Fable 5模型,其API接入点仍为Messages API,但涉及请求参数、错误处理、成本计算等多项行为变更。开发者需重点关注: 模型规格:默认支持1M token上下文,但需警惕上下文过长导致的性能退化; 拒答处理:新增安全分类器,需解析stop_reason和stop_details.category,优化异常流程; Fallback机制
Anthropic工程师用GAN的思路搭了一套多agent框架:规划器+生成器+评估器三角配合,让Claude从单次生成天花板突围,自主开发出能玩的复古游戏和能用的DAW,耗时6小时、成本$200,但质量碾压单agent。
摘要:本文解决了豆包实时通话模型集成前端后出现电音问题。原因为火山引擎RealtimeAPI默认返回OGG封装的Opus音频,而前端期望接收PCM格式。通过在会话配置中添加tts模块,显式指定音频格式为16kHz单声道s16le PCM,使服务端返回正确格式的音频数据,解决了电音问题。关键修改是在buildSessionStartPayload()方法中加入tts配置块,包含speaker和音频参
DeepSeek V4 Preview 在参数规模、上下文长度和成本效率上具备明显看点,但真实工程输出与基准跑分之间仍存在差距。本文从模型规格、MoE 原理、前端/Agent/代码生成场景出发,给出一套可复用的大模型实测方案。
DeepSeek 表格导出优化方案 问题痛点 DeepSeek 生成的表格默认以 Markdown 格式输出,无法直接导出为 Excel、CSV 等结构化文件,导致格式错乱、数据解析困难。 解决方案 Prompt + HTML 导出:利用 DeepSeek 生成 HTML+JS 代码,实现一键导出 Excel。 API + Python 自动化:调用 DeepSeek API 解析 Markdow