大模型产业链瓶颈与挑战

1. 大模型产业链梳理

近年来，随着深度学习技术的飞速发展，大型语言模型（LLM）展现出惊人的能力，并在自然语言处理领域掀起了一场新的技术革命。LLM产业链涉及多个环节，每个环节都对LLM的发展至关重要。以下是LLM产业链的主要环节：

• 数据采集与标注:

  高质量的数据是LLM训练的关键。数据采集环节需要从各种来源获取海量文本数据，例如书籍、网页、代码等。

  数据标注环节则需要对原始数据进行清洗、标注和分类，以提高数据的质量和可用性。

  • 关键技术: 网络爬虫、数据清洗、文本分类、实体识别、情感分析等。

  • 主要参与者: 数据提供商、数据标注公司、众包平台等。

  • 挑战: 现代预训练数据集的规模庞大，人工评估其内容几乎是不可能的。 2 数据中存在近似重复项会损害模型性能，而这些重复项与完全重复项不同，难以检测和过滤。 2 此外，训练数据与评估测试集重叠会导致基准数据污染，从而导致性能指标虚高。 2

• 模型训练:

  模型训练环节需要利用强大的算力资源和高效的训练算法，对海量数据进行训练，以得到性能优异的LLM。

  • 关键技术: 深度学习框架（如TensorFlow、PyTorch）、分布式训练、模型并行化、优化算法等。

  • 主要参与者: 科技巨头（如Google、OpenAI、Meta）、AI芯片厂商（如NVIDIA、Intel）、云计算服务商（如AWS、Azure、阿里云）等。

• 模型部署:

  模型部署环节需要将训练好的LLM部署到各种平台和设备上，例如云端服务器、移动设备、嵌入式系统等，以便用户进行访问和使用。

  • 关键技术: 模型压缩、模型量化、模型加速、云原生技术、边缘计算等。

  • 主要参与者: 云计算服务商、边缘计算服务商、AI平台提供商等。

• 应用开发:

  应用开发环节需要基于LLM开发各种应用，例如聊天机器人、智能助手、机器翻译、文本摘要、代码生成等，以满足用户的不同需求。

  • 关键技术: 自然语言理解、自然语言生成、对话管理、知识图谱等。

  • 主要参与者: AI应用开发公司、互联网公司、传统行业公司等。

个人语言模型 vs. 大型语言模型

除了大型语言模型（LLM）之外，个人语言模型（PLM）也逐渐引起关注。PLM 与 LLM 的主要区别在于，PLM 是“基于事实的”（grounded），而不是“预训练的”（pretrained）。 3 PLM 使用类似 GPT 和 BERT 的架构，但它们更注重个人信息的整合和利用，能够根据用户的个人记忆和经验提供更个性化、更符合语境的回复。 3 可以将 LLM 比作百科全书或 Google，用于获取和学习新的信息；而 PLM 则像个人电脑，能够捕捉和利用用户已知的信息，并学习用户的个人观点，并在适当的语境下呈现出来。 3

神经符号 AI 与挑战

当前 LLM 的发展方向之一是神经符号 AI，它结合了深度学习和逻辑推理，旨在使 AI 应用更具可解释性、数据效率、安全性和易开发性。 4 然而，开发神经符号 AI 系统也面临着诸多挑战，例如如何将符号推理与神经网络有效结合、如何构建大规模的知识图谱等。 4 Scallop 等工具的出现为神经符号 AI 的发展提供了新的思路，但仍需进一步研究和探索。 4

2. 大模型产业链瓶颈与挑战分析

尽管LLM产业链发展迅速，但也面临着诸多瓶颈和挑战，主要体现在以下三个方面：

2.1 技术角度

2.1.1 算力需求

LLM 的训练和推理需要巨大的算力支持，这给硬件设施和能源消耗带来了巨大压力。 5 随着模型规模的不断增大，算力需求将进一步提升，对芯片性能和并行计算技术提出了更高的要求。 5

2.1.2 算法突破

当前 LLM 的性能仍然存在局限性，例如生成文本的质量、逻辑推理能力、可解释性等方面仍有待提高。 1 需要不断进行算法创新，探索新的模型架构和训练方法，以提升 LLM 的整体性能。 1

2.1.3 模型安全

• 安全风险:

  LLM 的安全性问题日益突出，例如模型可能被攻击者利用，生成虚假信息、恶意代码或进行其他有害活动。

  6

  此外，LLM 还容易受到各种攻击，例如越狱攻击、数据中毒攻击和个人身份信息 (PII) 泄露攻击。

  7

  需要加强模型安全研究，开发更加可靠的防御机制，保障 LLM 的安全性和可靠性。

  6

  具体而言，LLM 供应链中存在 12 种潜在的安全风险，包括：

  8

  • 数据相关漏洞: 数据选择和清理过程中存在风险，例如攻击者可以在这些阶段注入恶意数据，最终损害下游 LLM 应用的完整性。 8

  • 模型和框架威胁: AI 框架和第三方库中存在漏洞，例如模型训练和微调阶段的风险，其中训练技术和分发冲突等问题可能会对模型可靠性产生负面影响。 8

  • 下游应用风险: 应用程序级别的威胁，例如将 LLM 与其他软件集成或通过模型优化过程产生的威胁，会给最终用户带来风险，因为它们可能会引入攻击者可能利用的潜在漏洞。 8

• 幻觉: LLM 的“幻觉”是指模型产生与用户意图不符的虚假输出，例如声称自己是人类、有情感或爱上了用户。 9 由于 LLM 预测的是下一个语法正确的单词或短语，因此它们无法完全理解人类的含义，有时会导致“幻觉”。 9

• 检索增强生成: “检索增强生成”技术通过为 LLM 提供相关信息来帮助减少幻觉，但这项技术在大规模应用时仍然可能失效。 4

2.1.4 模型更新与维护

• 信息更新: LLM 的一大挑战是难以保持模型的最新状态。 10 制药供应链管理是一个非常动态和复杂的领域，涉及多个利益相关者、法规和不确定性。 10 LLM 可能会根据过时的信息提出建议。 10 让 LLM 掌握最新信息和趋势可能非常困难且成本高昂。 10

• 再训练: 重新训练 LLM 可能会破坏从人类反馈中进行强化学习的过程，这是一种利用人类用户的反馈及其偏好来优化 LLM 输出性能的技术。 10 因此，重新训练模型可能会降低其性能，并降低其与人类价值观和偏好的 aligned 程度。 10 确保生成的输出是最新的也是一项挑战。 11 如果生成的结果过时，可能会导致决策效率低下，并引发客户服务问题。 11 特别是当处理旧的服务条款时，可能会让你和你的公司对过时的答案负责。 11

2.1.5 Prompt 工程的挑战

• Prompt 质量: LLM 的有效性和结果在很大程度上取决于 prompt 的质量和设计，prompt 会影响 LLM 的行为和输出。 10

• 限制: Prompt 也存在一些限制，例如上下文和 token 限制。 10 上下文限制是指 prompt 可能无法为模型生成相关且准确的文本提供足够的上下文或信息。 10 Token 限制是因为大多数 LLM 对其可以处理的输入或输出 token（单词或字符）数量有限制。 10

• 改进方法: “思维链提示” (Chain of Thought prompting) 可以帮助 LLM 更好地理解和回答复杂问题。 4 使用 API 可以改进 LLM 的 prompt，并克服其限制。 10 API 可以提供来自各种来源的相关和更新的信息，例如数据库、网络搜索结果或新闻文章，并将这些信息整合到反馈给 LLM 的新 prompt 中。 10

2.1.6 模型规模扩展

扩展和维护 LLM 可能很困难，并且会消耗大量时间和资源。 9

2.1.7 分词器的挑战

分词器在 LLM 中引入了一些挑战，例如： 2

• 计算开销

• 语言依赖性

• 词汇量限制

• 信息丢失

• 降低人类可解释性

2.1.8 推理过程的挑战

LLM 的推理过程也面临一些挑战： 2

• 并行性低：LLM 的推理过程按 token 进行，因此并行性低。

• 内存占用大：LLM 的内存占用很大，这是因为模型的规模很大，并且解码过程中需要瞬态状态，例如注意力键和值张量。

2.1.9 模型对齐与伦理

为了使 LLM 的行为与人类价值观更好地 aligned，人们探索了各种方法，例如： 2

• 预训练时加入人类反馈 (PHF): 在预训练阶段加入人类反馈，以提高 aligned 程度。

• 指令微调: 在包含人类判断的自然语言指令和回复的指令数据上对 LLM 进行微调。

• 从人类反馈中进行强化学习 (RLHF): 使用人类生成的奖励来 aligned LLM 行为。

• 自我改进: 在自我生成的数据上对 LLM 进行微调，以提高能力和与人类价值观的 aligned 程度。

• 评估和审计: 对 LLM 行为进行彻底的评估和审计对于 aligned 至关重要。

• 偏见和毒性: LLM 可能会从训练数据中继承偏见，从而导致输出结果存在偏见。

2.1.10 模型可解释性

随着语言模型的规模和复杂性不断增长，理解其内部机制和决策过程变得越来越具有挑战性。 5 确保透明度和可解释性至关重要，尤其是在医疗保健或金融等敏感领域部署模型时。 5

2.2 市场角度

2.2.1 应用场景落地

尽管 LLM 具有强大的能力，但目前仍然缺乏杀手级应用，许多应用场景仍处于探索阶段。 12 需要进一步挖掘 LLM 的应用潜力，开发更多实用、易用、有价值的应用，推动 LLM 的商业化落地。 12

2.2.2 商业模式探索

LLM 的商业模式尚不明确，如何将 LLM 的技术优势转化为商业价值，是产业链各方需要思考的问题。 13 需要探索新的商业模式，例如 API 服务、模型授权、定制化解决方案等，以实现 LLM 的商业化发展。 13

2.2.3 竞争格局

LLM 领域的竞争日益激烈，科技巨头、创业公司、科研机构等纷纷加入竞争行列。 14 美国在 LLM 领域的研究和开发占据主导地位，但中国等其他国家也投入了大量资源来构建自己的模型。 14 各国可能越来越将语言模型的开发视为民族自豪感的来源，这种观念可能会加剧各国在 LLM 开发方面的竞争。 14 虽然美国以外的公司渴望生产出与 ChatGPT 匹敌的模型，但它们可能面临美国不存在的监管障碍。 14 此外，该行业依赖少数关键供应商来提供基本组件，因此其中任何一家公司出现任何中断都可能造成严重的瓶颈，从而延迟生产并影响整个供应链。 15 需要不断提升自身的技术实力和市场竞争力，才能在激烈的市场竞争中脱颖而出。 14

2.2.4 成本与可及性

开发和维护 LLM 的成本很高，这对大多数组织来说可能是不可持续的。 11 训练 LLM 的计算资源成本可能高达数百万美元，部署 LLM 的成本也很高，这使得小型组织或个人更难获得 LLM。 5 训练和部署 LLM 需要大量的计算资源，这会导致能源消耗增加和碳足迹大幅增加，这对致力于减少环境影响的组织来说是一个难题。 5 为了缓解这一挑战，需要对扩大生产和加强供应链进行战略性投资。 5 构建自定义 LLM 比使用预训练模型的优势在于可以更好地控制模型行为、长期成本效益和增强数据隐私。 2

2.2.5 企业级应用挑战

• 企业需求: 将 LLM 应用于企业级应用的一大挑战是确保 AI 模型或 LLM 了解企业的具体情况，这意味着要更深入地了解其独特的数据、流程和要求。 11 此外，LLM 还需要生成与公司语气相符的内容或所需的输出。 11

• 领域专业化: 为特定领域（尤其是医疗领域）定制 LLM 也面临挑战。 4 在医疗领域，用于微调的数据的 curation 存在困难，并且存在数据缺失或偏差的问题。 4

• 上下文依赖和人工监督: LLM 的有效性、相关性和适当性会因特定环境、用例以及特定采购计划中的文化或运营规范而异。 12

• 实施障碍: 在组织中实施 LLM 存在一些障碍，例如对变革的抵制、缺乏技术专长、合作不足、资源限制、数据隐私和安全问题以及伦理问题。 16

2.2.6 市场预期管理

最新版本的 LLM 通常功能强大，但并不是解决所有软件采购挑战的万能解决方案。 12 需要对 LLM 的能力和局限性有一个现实的认识，不要将其视为万能解决方案。 12

2.2.7 技术人才需求

部署 LLM 需要深度学习、transformer 模型、分布式软件和硬件方面的专业知识，以及整体技术技能。 9

2.2.8 构建 vs. 购买

在选择构建还是购买 LLM 时，需要考虑以下因素： 9

• 上市时间: 从头开始构建 LLM 可能非常耗时，从而延迟在组织中部署语言处理能力。购买预训练的 LLM 可以加快上市时间，并更快地获得高级语言功能。

• 定制需求: 评估特定用例所需的定制级别。如果你的组织需要高度定制的语言模型，那么构建自己的 LLM 可能是更好的选择。但是，如果现有的预训练模型可以通过少量调整来满足你的需求，那么购买可能是一个可行的选择。

• 资源和专业知识: 评估你组织的资源，包括数据、计算能力以及 NLP 和机器学习方面的专业知识。构建 LLM 需要大量的技术专业知识和资源，而购买预训练的模型可以利用提供商的专业知识。

• 成本考虑因素: 构建 LLM 需要在基础设施、数据采集、人才和持续维护方面进行大量投资。购买预训练的 LLM 会产生许可成本，并且可能会根据使用情况收取额外费用。评估与每种方法相关的长期成本和收益。

2.3 政策角度

2.3.1 数据安全

LLM 的训练需要海量数据，其中可能包含敏感信息或个人隐私数据。 10 LLM 可能会泄露个人隐私信息、参与网络钓鱼诈骗或被用于恶意目的。 9 需要制定相关政策法规，加强数据安全和隐私保护，防止数据泄露和滥用。 10

2.3.2 伦理规范

LLM 的应用可能引发伦理问题 1，例如：

• 算法歧视: LLM 可能会延续训练数据中的偏见，导致输出结果存在偏见。 2

• 虚假信息传播: LLM 可能会被用于生成和传播虚假信息。 9

• 社会责任: LLM 的开发和应用需要承担相应的社会责任。 1

• 数据采集的同意: LLM 使用的海量数据集中，有些可能未经同意获取。 9 从互联网上抓取数据时，LLM 可能会忽略版权许可、剽窃书面内容，并在未经原所有者或艺术家许可的情况下重新利用专有内容。 9

• 知识产权侵权: LLM 庞大的训练数据可能包含受版权保护的内容，在将其应用于开发或增强软件采购代码时，可能会导致潜在的法律挑战。 12

需要制定相应的伦理规范，引导 LLM 的健康发展，避免其被用于非法或不道德的活动。 1

3. 中外对比

方面	中国	欧美国家
技术水平	发展迅速，但在一些关键技术方面与欧美国家仍存在差距 14	总体而言处于领先地位，拥有更先进的算法、更强大的算力和更丰富的研发经验 14
市场规模	发展潜力巨大，但目前仍处于起步阶段 14	市场规模更大，应用场景更加丰富，商业化程度更高 14
政策环境	监管更加严格，更加注重数据安全、隐私保护和伦理规范 17	监管相对灵活，更加注重技术创新和市场竞争，但也存在监管壁垒 14
文化偏见	LLM 倾向于反映英语国家和新教欧洲国家的文化价值观 18	LLM 倾向于反映英语国家和新教欧洲国家的文化价值观 18

3.1 文化偏见

LLM 存在文化偏见，倾向于偏袒特定的文化视角、价值观和规范，这可能会导致主观意见，并冒犯其他文化的人。 17 例如，根据世界价值观调查，阿拉伯文化认为男性比女性更适合担任政治领导人，而美国人则不同意这种观点。 17 由于英语语料库在训练数据中占主导地位，LLM 往往表现出类似英语国家和新教欧洲国家的文化价值观。 18 文化差异会影响各种人类认知和行为，如果处理不当，这些偏见可能会嵌入到 LLM 中。 9 构建 LLM 的组织有责任确保其模型不会延续文化偏见或加剧现有的不平等现象。 19 “文化提示”（在 prompt 中指定文化身份）可以作为一种控制策略，提高不同国家和地区的文化 aligned 程度，从而减少 LLM 输出中的文化偏见。 18

3.2 低资源语言

东南亚等地区在低资源语言和高资源语言（如英语和中文）之间的 LLM 发展存在差距。 20 需要强调“包容性 AI 的重要性，表明先进的 LLM 功能可以使服务不足的语言和文化社区受益”。 20

LLM 在政策制定中的应用

LLM 为模拟包括政策选择在内的多种人类决策提供了新方法。 21 LLM 可以用来模拟政策制定过程，但这项技术也存在一些挑战，例如可扩展性、可解释性和可靠性。 21

LLM 的行业应用案例

LLM 在各个行业都有潜在的应用价值。例如，在国防软件采购过程中，LLM 可以用于： 12

• 文档摘要: 帮助理解大型采购文档或多个文档。

• 法规遵从: 持续监控和总结法规变化，确保采购活动始终符合最新法规。

• 标准识别: 根据项目规范，系统地解析庞大的标准数据库，并提供建议。

4. 总结与展望

LLM 作为一项变革性技术，正在深刻改变着人类社会。LLM 产业链的蓬勃发展，将为经济社会发展注入新的活力。但同时也必须清醒地认识到 LLM 产业链面临的瓶颈和挑战，并积极采取措施加以应对。

为了促进 LLM 产业链的健康发展，需要加强技术创新、推动应用落地、探索商业模式、完善政策法规，共同构建一个安全、可靠、可持续的 LLM 生态系统。在技术方面，需要解决算力需求、算法突破、模型安全等问题；在市场方面，需要推动应用场景落地、探索商业模式、应对激烈的市场竞争；在政策方面，需要加强数据安全和隐私保护，制定伦理规范，引导 LLM 的健康发展。

展望未来，LLM 的发展将更加注重模型的效率、可解释性、安全性、公平性和文化包容性。跨学科合作、国际合作和产学研合作将成为 LLM 发展的重要趋势。相信在各方的共同努力下，LLM 产业链必将迎来更加美好的未来。