大模型在做RAG时,怎么处理文档中的图表呢?
最近在做一个rag项目,遇到了表格的问题,已解决,分享下解决思路。分享不易,点个关注行不行初始表格的数据如下 大模型在做RAG时,怎么处理文档中的图表呢? - 知乎_files/v2-9a3616d9b389e05f3343cf5422fa729a_720w.webp)
表格处理的难点与要点:
问题
- 1、向量被检索出来后,返回给大模型,大模型要能理解
- 2、表格的信息被提取出来,表达的信息依旧准确,不会理解偏差
如果按照一行一行的提取,遇到合并后的表格数据,会导致数据顺序混乱,无法表达其原有的意思。
此时需要既能准确的表达数据样式,又能让模型的准确立即的形式。
整体的逻辑分为三部分:读取,转换,拼接
 大模型在做RAG时,怎么处理文档中的图表呢? - 知乎_files/v2-9b2a876199686813cc22e066a2fccd6e_720w.webp)
1、读取:识别出文档中的表格,转换为所需的格式。如图
 大模型在做RAG时,怎么处理文档中的图表呢? - 知乎_files/v2-0925e1f4ee2a8804634566bd6df7d413_720w.webp)
2、转换:使用算法,转换为html格式,转换的最终结果如下:
“
| 情况 | 网上月均幅度 | 示例 | 调整逻辑 | 结算调整幅度示例 | |
|---|---|---|---|---|---|
| 幅度超过(含)5.00% | 5.50% | 不进行市场调研,以网上月均幅 度为准 | 5.50% | ||
| 幅度未超过±5.00% | ± 3.00% | 不进行市场调研,不调整执行价格 | |||
| 情况 | 网上月均幅度 | 示例 | 调整逻辑 | 实际调研幅度示 例 | 结算调整幅度示例 |
| 幅度超过(含)-5.00% | -5.50% | 启动市场调研 | 6.00% | 6.00% | |
| ± 3.00% | 不调整 | ||||
| -6.00% | -5.50% | ||||
“4.2.1 年度废旧商品调价4.2.1.1 常规类品种调价机制(废钢废铝等单一材质类):20XX年9月结算价格不作调整,101月1日起按以下调价机制进行调整:月度价格调整逻辑示例
| 情况 | 网上月均幅度 | 示例 | 调整逻辑 | 结算调整幅度示例 | |
|---|---|---|---|---|---|
| 幅度超过(含)5.00% | 5.50% | 不进行市场调研,以网上月均幅 度为准 | 5.50% | ||
| 幅度未超过±5.00% | ± 3.00% | 不进行市场调研,不调整执行价格 | |||
| 情况 | 网上月均幅度 | 示例 | 调整逻辑 | 实际调研幅度示 例 | 结算调整幅度示例 |
| 幅度超过(含)-5.00% | -5.50% | 启动市场调研 | 6.00% | 6.00% | |
| ± 3.00% | 不调整 | ||||
| -6.00% | -5.50% | ||||
但是需要注意的是,切片的过程中,不能将html文件中途切段。
效果
模型基于htlm格式的表格问答问答效果如下,整体能赚准确的理解意思
大模型岗位需求
大模型时代,企业对人才的需求变了,AIGC相关岗位人才难求,薪资持续走高,AI运营薪资平均值约18457元,AI工程师薪资平均值约37336元,大模型算法薪资平均值约39607元。
掌握大模型技术你还能拥有更多可能性:
• 成为一名全栈大模型工程师,包括Prompt,LangChain,LoRA等技术开发、运营、产品等方向全栈工程;
• 能够拥有模型二次训练和微调能力,带领大家完成智能对话、文生图等热门应用;
• 薪资上浮10%-20%,覆盖更多高薪岗位,这是一个高需求、高待遇的热门方向和领域;
• 更优质的项目可以为未来创新创业提供基石。
可能大家都想学习AI大模型技术,也想通过这项技能真正达到升职加薪,就业或是副业的目的,但是不知道该如何开始学习,因为网上的资料太多太杂乱了,如果不能系统的学习就相当于是白学。为了让大家少走弯路,少碰壁,这里我直接把全套AI技术和大模型入门资料、操作变现玩法都打包整理好,希望能够真正帮助到大家。
读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用
零基础入门AI大模型
今天贴心为大家准备好了一系列AI大模型资源,包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
有需要的小伙伴,可以点击下方链接免费领取【保证100%免费】
1.学习路线图




如果大家想领取完整的学习路线及大模型学习资料包,可以扫下方二维码获取
👉2.大模型配套视频👈
很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。(篇幅有限,仅展示部分)

大模型教程
👉3.大模型经典学习电子书👈
随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。(篇幅有限,仅展示部分,公众号内领取)

电子书
👉4.大模型面试题&答案👈
截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。(篇幅有限,仅展示部分,公众号内领取)

大模型面试
**因篇幅有限,仅展示部分资料,**有需要的小伙伴,可以点击下方链接免费领取【保证100%免费】
**或扫描下方二维码领取 **

更多推荐


所有评论(0)