现代工作流展现了生成式 AI 与代理式 AI 在 PC 平台上的上使无穷潜能。

这些应用涵盖由聊天机器人处理产品支持事项，用U言模或担任协助安排日程的微调个人助理。然而，大语如何使小语言模型（SLM）在执行特定代理任务时始终维持高水平的上使准确性，依然是用U言模一个亟待解决的问题。

这正是微调微调发挥关键作用的时机。

Unsloth 是大语全球应用最广泛的开源大语言模型（LLM）微调框架之一，为模型定制提供了便捷高效的上使入门方式。该框架针对 NVIDIA GPU 进行了深度优化，用U言模具备高效训练与低显存占用的微调特点，支持从 GeForce RTX 台式机及笔记本电脑、大语RTX PRO 工作站，上使到全球最小的用U言模 AI 超级计算机 DGX Spark 全系列设备。

另一个强劲的微调微调起点来自新发布的 NVIDIA Nemotron 3 系列开放模型、数据与代码库。“Nemotron 3”引入了当前效率最高的开源模型系列，特别适用于代理型AI的微调。

教会AI新技能

微调相当于对AI模型实施一次定向训练。借助与特定主题或工作流程相关的样例，模型能够习得新规律，并更好地适配当前任务，进而提高准确率。

选择何种微调方法，取决于开发者期望对预训练模型做出多大程度的修改。根据具体需求，可从中选取以下三种主流微调策略之一：

参数高效微调方法（例如 LoRA 或 QLoRA）：

工作原理：通过仅调整模型的少量参数，在不显著改变整体结构的前提下实现性能提升，从而以更快速度、更低成本完成训练。这是一种高效增强模型能力的方法。适用场景：广泛应用于原本需完整微调的任务中，例如融入特定领域知识、提高代码生成准确率、适配法律或科研类任务、强化推理能力，以及对模型的表达风格与行为模式进行优化调整。要求：使用小到中等规模的数据集（100–1,000组提示词-响应示例）。

全量微调：

工作原理：通过全量更新模型参数，使其适应特定格式或风格的输出需求。 适用场景：高阶应用，如打造 AI 智能体与聊天机器人，这些系统需围绕指定主题提供服务，遵守预设规则，并以统一方式响应用户请求。 要求：需提供大规模数据集（不少于 1,000 组示例提示词对）。

强化学习：

工作原理：通过反馈或偏好信号来调节模型的行为。模型在与环境的交互中持续学习，并借助反馈机制不断优化自身表现。这一技术融合了训练与推理，属于复杂的高级方法，可与参数高效微调及完整微调技术协同应用。详细信息请参见 Unsloth 的强化学习指南。 适用场景：增强模型在特定领域（如法律或医学）中的精准度，或打造能为用户规划并执行任务的自主智能体。 要求：需构建一个包含行为模型、奖励模型及可供模型学习的环境的完整流程。

还需考量的是不同方法对显存的占用情况。下表总结了在 Unsloth 平台上运行各类微调方法所需的显存资源概况。

Unsloth：在 NVIDIA GPU 上实现快速微调的高效路径

LLM 微调是一项对内存与计算资源要求极高的任务，在每一个训练步骤中均需执行数十亿次的矩阵乘法以更新模型参数。此类大规模并行运算依赖于 NVIDIA GPU 强大的计算能力，方能实现高效的处理速度。

Unsloth 在此类负载下表现优异，能够将复杂的数学运算高效转换为定制化的 GPU 核函数，显著提升 AI 训练速度。

Unsloth 能够在 NVIDIA GPU 上将 Hugging Face transformers 库的性能提升高达 2.5 倍。结合针对 GPU 的深度优化与出色的易用性，让微调任务对更多 AI 爱好者和开发者而言变得更加轻松便捷。

该框架专为 NVIDIA 硬件定制并深度优化，全面适配从 GeForce RTX 笔记本电脑、RTX PRO 工作站至 DGX Spark 的各类设备，在显著减少显存占用的前提下，实现卓越的性能表现。

Unsloth 提供了多种实用指南，助力用户快速掌握各类 LLM 配置、超参数及选项的设置，并配备示例 notebook 与分步操作流程。

请点击下方链接查阅 Unsloth 使用指南：

● Fine-Tuning LLMs With NVIDIA RTX 50 Series GPUs and Unsloth

● Fine-Tuning LLMs With NVIDIA DGX Spark and Unsloth

查看链接了解如何在 NVIDIA DGX Spark 上安装 Unsloth。阅读 NVIDIA 技术博客，深入了解在 NVIDIA Blackwell 平台上进行微调和强化学习的相关内容。

现已发布：NVIDIA Nemotron 3 开放模型系列

全新推出的 Nemotron 3 开放模型系列（包含 Nano、Super 和 Ultra 三种规模），基于创新的异构潜在混合专家（Mixture-of-Experts, MoE）架构，实现了卓越的准确率与高效性能的平衡，为构建代理型 AI 应用提供了理想选择。

已发布的 Nemotron 3 Nano 30B-A3B 是该系列中计算效率最高的模型，专为软件调试、内容摘要、AI 助手工作流及信息检索等任务优化，具备更低的推理成本。其异构 MoE 设计带来了以下优势：

推理所需的 token 数量最多可缩减 60%，大幅降低推理开销。支持长达 100 万 token 的上下文处理，让模型在长流程、多阶段任务中具备更强的信息留存能力。

Nemotron 3 Super 是专为多智能体应用场景设计的高精度推理模型，而 Nemotron 3 Ultra 更适合处理复杂的 AI 任务。两款模型预计将亮相于 2026 年上半年。

NVIDIA 于 12 月 15 日推出一套开放的训练数据集及先进的强化学习库，目前 Nemotron 3 Nano 的微调已可在 Unsloth 上使用。

Nemotron 3 Nano 现可在 Hugging Face 获取，或通过 Llama.cpp 和 LM Studio 进行体验。

DGX Spark：小巧却极具性能的 AI 算力核心

DGX Spark 提供本地微调功能，以小巧的桌面级超算形式融合强劲的 AI 性能，使开发者可获得远超普通 PC 的内存资源。

DGX Spark 采用 NVIDIA Grace Blackwell 架构，最高可实现 1 PFLOP 的 FP4 AI 算力，并搭载 128GB 的 CPU-GPU 统一内存，助力开发者在本地环境运行更大规模模型、支持更长的上下文窗口以及处理更高负载的训练任务。

在模型微调方面，DGX Spark 能够实现：

可支持更大规模的模型。参数量超过 30B 的模型通常超出消费级 GPU 的 VRAM 承载能力，但可在 DGX Spark 的统一内存中高效运行。支持更复杂的训练技术。完整微调与基于强化学习的工作流对内存和吞吐量要求更高，在 DGX Spark 上的执行速度明显提升。本地部署，无需依赖云端调度。开发者可直接在本地处理高计算负载任务，避免等待云资源或管理多环境带来的复杂性。

DGX Spark 的优势远不止于 LLM 应用。高分辨率扩散模型通常对内存需求极高，超出普通桌面系统的承载能力。得益于 FP4 支持与大容量统一内存，DGX Spark 能在几秒内生成千张图像，并为创意及多模态工作流提供更高效的持续吞吐性能。

下表呈现了在 DGX Spark 平台上对 Llama 系列模型进行微调时的性能表现。

随着微调工作流的持续演进，全新推出的 Nemotron 3 开放模型系列为 RTX 系统及 DGX Spark 带来了可扩展的推理能力与针对长上下文场景的性能优化。

请点击链接，深入了解 DGX Spark 如何助力高负载 AI 任务。

#别错过 — NVIDIA RTX AI PC 的最新进展

🚀 FLUX.2 图像生成模型已正式上线，特别为 NVIDIA RTX GPU 优化加速

Black Forest Labs 发布的新模型引入 FP8 量化技术，显著减少显存占用，并实现最高达40%的性能提升。（）

✨Nexa.ai 通过 Hyperlink 为 RTX PC 扩展本地 AI，实现代理式搜索

这款全新的本地搜索智能体可将检索增强生成（RAG）的索引速度提升至原来的3倍，LLM 推理速度也加快2倍，使一个高密度1GB 文件夹的索引时间由约15分钟缩短至仅4到5分钟。DeepSeek OCR 现已通过 NexaSDK 以 GGUF 格式在本地部署，支持在 RTX GPU 上即插即用，可高效解析图表、公式及多语言 PDF。

🤝 Mistral AI 发布全新模型家族，并针对 NVIDIA GPU 进行优化

全新推出的 Mistral 3 模型在云端与边缘设备上均已完成优化，支持通过 Ollama 和 Llama.cpp 实现高效的本地快速实验。

🎨 Blender 5.0 正式上线，支持 HDR 色彩并实现性能优化

本次更新引入 ACES 2.0 广色域/HDR 色彩支持，集成 NVIDIA DLSS 技术，使毛发与皮毛渲染速度最高提升 5 倍，并优化了大规模几何体的处理性能，同时为 Grease Pencil 新增动态模糊效果。

关于NVIDIA RTX AI PC的最新资讯，请持续关注我们的官方微博、抖音账号以及哔哩哔哩频道。

有关软件产品的详细信息，请查阅声明。