大模型应用

大模型的应用属于交叉岗位，既要对模型特性有所了解，更要对接口开发熟悉。

大模型目前普及主要的问题是幻觉，因此需要高度人类监管。大模型一般指代大量参数和计算资源的机器学习模型，下面二者都是，但易于混淆：

AIGC（生成式 AI）是 AI 生成内容，包括文本、图像、音频、视频等。

LLM（Large Language Model）大语言模型，主要用于处理和文本生成。

二者交集较多，但不是包含关系。

AIGC不仅限于LLM，还包括图像、音频、视频等生成技术。

部分大语言模型也不提供生成功能，只提供文本处理功能。

📄️ 模型社区

本部分内容告诉你如何选择或者微调量化出功能及大小合适的模型并部署。

上下文工程（Context Engineering）是指系统性地构建大模型执行任务所需的上下文信息。以 Cursor 为例，其上下文工程体系由以下组件构成：

Agent的三个核心板块：模型、工具、流程。

检索增强生成(RAG)是一种通过结合实时数据检索来增强大语言模型文本生成的技术。它允许模型在生成过程中搜索外部数据库，产生更准确和最新的响应。