跳到正文

教程实践

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

最新精選

第 1–15 條 · 共 15 條
今天10月1日週四
  1. AWS Machine Learning Blog62

    在 Amazon Bedrock AgentCore Runtime Instances 上构建多智能体音乐制作管线

    AWS 介绍了如何使用 Amazon Bedrock AgentCore Runtime Instances 部署一个三智能体协作的音乐制作管线,实现 GPU 音乐生成、音频处理与合规筛查。文章详细讲解了容量提供者配置、共享会话的多智能体同机协作、多日持久化存储以及各智能体的独立部署流程。

    推薦理由:文章给出了基于 Amazon Bedrock AgentCore Runtime Instances 部署多智能体音乐制作管线的具体步骤与架构设计,读者可以据此了解长周期持久化与多智能体协同的实现方式。

  2. AWS Machine Learning Blog61

    如何使用 Amazon Bedrock Knowledge Bases 以自然语言查询理赔数据

    本文介绍了如何使用 Amazon Bedrock Knowledge Bases 构建具备自然语言查询、元数据过滤、对话记忆和上下文安全护栏的理赔助手。文章详细给出了将 S3 中的理赔文档与元数据同步至托管知识库、调用 AgenticRetrieveStream API 处理多步问题、渲染引用以及配置防护栏的具体实现步骤与代码示例。

    推薦理由:文章提供了构建带有引用和元数据过滤的智能检索助手的完整代码与架构,读者可以据此在实际工作流中实现可追溯的文档查询。

9月26日週六
  1. GitHub Blog · AI & ML62

    GitHub Copilot 如何使用 canvases 构建自定义工作流

    GitHub Copilot app 推出了 canvases 功能,允许用户通过 /create-canvas 技能与自然语言描述,免编码生成支持双向交互的自定义工作流界面。画布可作为共享白板实时更新,支持团队共享或保存为个人扩展,用户也可直接安装 Awesome Copilot 中的现成扩展进行定制。

    推薦理由:文章介绍了 GitHub Copilot app 中使用 canvases 自定义工作流的方法,读者可以学习如何通过描述直接生成双向交互界面。

  2. AWS Machine Learning Blog65

    AWS 详解基于 Amazon Bedrock 构建生产级大语言模型质量保障体系

    AWS 团队详细介绍了面向生产环境的大语言模型质量保障架构,通过自适应管道编排、跨账户多模型故障转移、实时流式评估、复合评估框架以及数据准确性验证五项技术,在 Amazon Bedrock 上实现了约 99% 的数值准确率并支持实时流式响应。文章重点阐述了如何通过三阶段自适应处理、独立配额空间网格、生产者消费者并发模式及两阶段级联验证来解决模型幻觉、API 限流和验证延迟等工程挑战。

    推薦理由:文章详细拆解了五项用于保障大语言模型生产环境质量的技术实现,帮助开发者在实际业务中平衡准确率与响应延迟。

9月25日週五
  1. AWS Machine Learning Blog70

    Amazon SageMaker HyperPod 与 Qumulo 实现多区域训练

    本文介绍了如何使用 Amazon SageMaker HyperPod 与 Qumulo 的 Cloud Native 解决方案,在不同 AWS 区域间进行大规模 AI 模型训练,并给出了跨区域训练的性能验证结果。

    推薦理由:文章详细说明如何使用 SageMaker HyperPod 与 Qumulo 进行跨区域训练,并给出验证结果,帮助读者评估跨区域训练的性能与成本。

  2. AWS Machine Learning Blog67

    WhisperX 在 SageMaker AI 上实现说话人标注转写

    本文介绍了 AWS WhisperX Deep Learning Container(DLC)的使用方法,演示如何在 Amazon SageMaker AI 上部署实时和异步端点,实现词级时间戳和说话人标签的转写。

    推薦理由:本文展示了如何在 SageMaker 上部署 WhisperX,实现精准的词级时间戳和说话人标签,帮助用户快速构建可搜索、可审核的音频转写系统。

9月12日週六
  1. GitHub Blog · AI & ML62

    Marketing ops as code:在 GitHub 上将活动从规划到跟进全流程自动化

    GitHub 营销负责人分享了如何利用 GitHub Copilot、GitHub Actions 及 API/CLI 工具将亚太区的活动运营流程实现代码化与自动化。通过将运行手册转化为 Markdown 技能并结合 Issue 触发器,系统能够自动生成落地页、分发 UTM 链接、每日筛查注册名单以及在活动后执行跟进。

    推薦理由:作者通过自身实践展示了如何用自然语言和平台原生功能自动化营销运营,为非技术背景人员提供了可复用的工作流改造方法。

9月10日週四
  1. Hugging Face Blog73

    基于 Hugging Face Jobs 与存储桶跨节点异步训练 LoRA

    Hugging Face 官方介绍了如何使用 TRL v1.14 中的 AsyncGRPOTrainer 在不同机器上异步训练 LoRA 适配器并同步至 vLLM。通过将兆字节大小的 rank-1 适配器写入存储桶并借助代理路由 KV 缓存前缀,该方案省去了 NCCL 跨节点通信,使 500 步训练耗时缩短至原来的四分之一。

    推薦理由:文章展示了如何在不同机器上运行训练与推理,通过存储桶同步 LoRA 适配器,为分布式强化学习提供了可复用的工程方案。

9月9日週三
  1. Mistral AI65

    Mistral AI 用 AI 代理完成 Fortran 77 迁移至 C++

    Mistral AI 帮助一家欧洲能源运营商将 40,000 行 Fortran 77 代码迁移至 C++,通过 AI 代理完成语法转换、架构重构和测试。文章详细阐述了构建数值一致性验证 harness、文档化流程、以及人机协同的结构化工作流,并给出迁移经验。

    推薦理由:案例展示了如何用 AI 代理完成 Fortran 77 到 C++ 的迁移,并给出可复制的工作流程与经验。

9月3日週四
  1. Hugging Face Blog66

    如何用 TRL 和 OpenEnv 训练代码模型绘制水彩画

    作者基于开源方案复现了让大语言模型通过编写 JavaScript 代码绘制水彩画的强化学习流程,并公开了参考图像池、强化学习环境、训练脚本及训练好的模型。文章对比了不同美学奖励权重配置下的多项实验结果,详细记录了基础设施搭建及训练调优过程中的发现。

    推薦理由:文章复现并开源了使用强化学习训练代码模型绘制水彩画的完整流程,为读者提供了基于美学偏好进行对齐的具体实现与多重实验对比。

  2. Hugging Face Blog62

    如何微调 350M 模型以在 100 个 GRPO 步骤中实现更好的结构化输出

    本文介绍了使用 TRL 库和 GRPO 对 LFM2.5-350M 模型进行轻量化微调的开源教程,展示了仅需约 500 个样本和 100 个训练步骤即可将模型在 IFStruct 基准测试中的整体表现从 22.6% 提升至 29.7% 的具体方法。

    推薦理由:文章提供了在免费 GPU 环境下用 GRPO 优化小模型结构化输出的完整开源配方,读者可以借此评估低成本对齐对模型输出合规性的实际提升效果。

8月26日週三
  1. Hugging Face Blog77

    使用 Sentence Transformers 训练和微调多向量嵌入模型

    Sentence Transformers v6.0 版本引入了多向量检索模型和完整的训练方法。作者以医疗检索领域为例,展示了如何在一块消费级 GPU 上微调出一个超越各大通用检索模型的领域专用模型。微调方法涵盖了模型选择、数据集格式、损失函数、训练参数以及评估器等核心组件。

    推薦理由:文章给出了多向量嵌入模型的完整训练与微调步骤,读者可以据此在特定领域获得超越通用检索模型的效果。

8月14日週五
  1. Hugging Face Blog65

    使用 Strands Agents、LeRobot 与 Hugging Face Storage Buckets 实现录制、训练与部署一体化

    本文介绍了 Strands Robots 中的流式数据闭环方案,展示了如何通过自然语言指令录制机器人示范数据、将其同步至 Hugging Face Storage Buckets 并进行基于 Xet 的字节级去重。随后,开发者可以直接从 Hub 流式读取数据集来训练策略,并将训练好的检查点重新部署到硬件上。

    推薦理由:文章介绍了基于 Strands Agents 和 LeRobot 的机器人流式数据闭环方案,读者可以据此了解如何通过云端存储桶实现无本地下载的高效训练。

1月22日週四
  1. Mistral AI66

    Mistral AI:排查 vLLM 中的内存泄漏

    Mistral AI 团队详细复盘了在 vLLM 分离部署测试中发现并解决隐蔽内存泄漏的完整过程。通过结合 pmap、BPFtrace 与 GDB 自动化脚本,团队最终定位到根源在于 UCX 内存管理模块的 mmap 钩子机制与注册缓存队列。通过设置环境变量 UCX_MEM_MMAP_HOOK_MODE=none 或限制未释放区域数量,成功解决了该内存泄漏问题。

    推薦理由:文章详细记录了排查 vllm 分离部署中隐蔽内存泄漏的过程,读者可以学习如何通过 pmap 与 GDB 组合定位底层系统调用问题。