用 Amazon Bedrock Knowledge Bases 以自然语言查询理赔数据
Amazon Bedrock Knowledge Bases 可通过 AgenticRetrieveStream API 用自然语言查询理赔文件并返回带引用的答案。
Amazon Bedrock Knowledge Bases 可通过 AgenticRetrieveStream API 用自然语言查询理赔文件并返回带引用的答案。
AWS 官方博客演示如何在 Amazon Bedrock AgentCore Runtime Instances 上部署三智能体音乐制作流水线:作曲智能体用 Claude Sonnet 4.6 生成音乐简报并在实例自带的 NVIDIA L4 上运行开源音乐生成模型 ACE-Step,20 秒 48kHz 立体声渲染约 9 秒。
推荐理由:文章给出三智能体共享 GPU 实例视频/音频流水线的完整代码与踩坑点,可迁移到其他长时任务编排。
亚马逊 AWS 发布 Amazon Quick 提示词工程基础指南(Part 1),给出跨组件通用的提示词设计原则与可复用框架。文章涵盖清晰具体、业务上下文和示例教学等核心原则,以及用于复杂请求的 CRISPE 框架,Part 2 将讲解 Research、Flows、Sight、Chat Agents 和 Action Integrations 的组件专属技巧。
AWS 发文拆解 Amazon Quick 各组件如何解读提示词,并给出对应写法。Quick Research 需明确目标、受众与范围,自行拆解子问题并收窄数据源;Quick Flows 要写清时间、数据源与输出格式,复杂逻辑用编号步骤,并可在 agentic runtime 中对话式微调;Quick Sight 的查询需含业务问题、指标、维度和可视化偏好。
AWS 展示了一套合同智能平台架构:AI 智能体从合同 PDF 中提取八个关键字段并给出置信度,由较轻量的 Claude Haiku 智能体独立复核,签名识别分歧时交由 Amazon Textract 用计算机视觉确定。核验结果写入 Amazon Aurora PostgreSQL,用户可通过嵌入仪表板和自然语言对话查询合同组合级聚合数据与单份合同细节,典型条件下单份合同处理只需数秒。
AWS 发布 vLLM-Omni v1.5 DLC,可在 Amazon SageMaker AI 上部署 Qwen3-TTS,通过 SageMaker 双向流在一条持久连接上输入文本、回流 24 kHz PCM 音频块,并用 Gradio 应用演示。
在 Amazon SageMaker AI 上,用同一个 AWS vLLM-Omni DLC 镜像部署两个端点:实时端点跑 FLUX.2-klein-4B 图像生成,异步端点跑 Wan2.1-VACE-1.3B 图生视频。
AWS 介绍基于 Amazon Nova Act 和 Amazon Bedrock AgentCore 的智能体驱动合成监控方案,用自然语言动作替代 Selenium、Playwright 依赖的 DOM 选择器,UI 变化时无需改脚本。
Amazon Textract 适配器跨账户管理可通过 AWS Systems Manager Parameter Store 外部化 adapter ID 实现自动化,更新生产环境适配器引用无需停机或重新部署应用,原本需要数小时到数天协调的变更缩短至数秒。
Simon Willison 把三张 kākāpō 鹦鹉照片交给 Claude Opus 5.5,生成 HTML 5 canvas 像素动画 Kākāpō Party,画面中至少 20 只鹦鹉随音乐跳跃、点击触发彩带与气球。
AWS 博客介绍在 Amazon EKS 上结合 EFA 与 DeepEP 扩展 MoE 模型强化学习训练的架构,吞吐量提升 40%。该方案针对 rollout 生成与策略训练并行、数百加速器间高吞吐通信,以及 MoE 专家并行(EP)带来的跨节点动态 all-to-all 通信开销。文中覆盖 RLHF、GRPO 等大规模 RL 负载在计算、内存和网络带宽上的资源平衡问题。
在 Amazon SageMaker HyperPod 上使用开源 RL 框架 SkyRL,通过 GRPO 对 Qwen3-VL-8B 视觉语言模型进行后训练,在固定 64 个迷宫评测集上把迷宫求解率从 43.75% 提升到 95% 以上。
NarrateAI 在 Amazon Bedrock 上落地五项质量保障技术,为 4,000 多名 AWS 高管提供实时数据问答,数值准确率约 99%。这五项技术分别是自适应流水线编排、跨账号多模型故障转移、实时流式评估、复合评估框架和数据准确性校验;其中约 90% 的查询走单次快速路径,仅约 10% 超出上下文窗口的复杂查询触发并行批处理。
Amazon SageMaker JumpStart 现已支持部署 Qwen3-TTS-12Hz-1.7B-Base,可在全托管实时推理端点上用几秒参考音频完成声音克隆,输出 24 kHz 音频,无需重训练模型。
OpenAI Academy 新增多条学习路径,覆盖员工、开发者、领导者、教育工作者和学生,帮助他们建立并展示实用的 AI 技能。
TRL v1.14 的 AsyncGRPOTrainer 支持只训练并同步 LoRA 适配器到 vLLM,rank-1 适配器仅几 MB,可经由各 Job 挂载的 Storage Bucket 传输,从而让训练与推理分属不同 Hugging Face Jobs,无需 NCCL。
Mistral 帮助一家欧洲能源运营商把 4 万行 Fortran 77 水库模拟器迁移到 C++,该代码库没有测试套件,也没有集中文档。做法是先搭数值一致性校验框架,用自研 parser 生成调用树并让上百个智能体借助 Mistral OCR 归档散落文档,再以 coder、tester、reviewer 加人工检查点的结构化工作流逐模块迁移。
一份公开教程用 TRL 的 GRPO 对 LFM2.5-350M 做约 500 样本、100 步的轻量微调,在 IFStruct benchmark 上把合规率从基线 22.6% 提升到 29.7%。
Hugging Face 博主用 TRL 和 OpenEnv 复现了 Surya Narreddi 让语言模型写 JavaScript 绘制水彩画的方案,数据集、RL 环境、训练脚本和模型全部开源。
Hugging Face 博客介绍 Sentence Transformers v6.0 新增的 MultiVectorEncoder 模型类型,并给出 ColBERT 式后交互检索模型的完整训练与微调流程。
Papers with Code 采用混合搜索系统支撑论文检索,结合 PostgreSQL 全文检索与 pgvector 向量召回,并用 RRF 算法融合两路结果。
Hugging Face 构建了一个约束感知的 GPU 分配器,在七个基准场景中与 FIFO 调度器对比测试:相同硬件、相同负载下,GPU 利用率最多提升 33 个百分点,优先级加权产出在每个场景中都有提高,最高增幅 105%。
Hugging Face 博客给出 Strands Robots 的流式数据循环教程:机器人演示录成 LeRobot 格式后同步进 Storage Bucket,训练时用 stream_dataset() 从 Hub 按分片直接读取而不下载,训练好的 checkpoint 改一个 mode="real" 参数即可部署回硬件。
Hugging Face 在 Diffusers 中引入 Nunchaku Lite,可直接用 from_pretrained() 加载 Nunchaku 风格的 SVDQuant 量化检查点,无需自定义 pipeline 或本地 CUDA 编译。
推荐理由:原文给出 Nunchaku Lite 在 Diffusers 中的原生加载方式和显存与延迟对比,读者可据此判断是否替换现有量化后端。
Hugging Face 在 AppWorld Test Challenge 的 417 个任务上用同一 CodeAct 智能体实测发现,Claude Sonnet 4.6 总成本 79 美元(0.19 美元/任务),GPT-4.1 却要 155 美元(0.37 美元/任务),近乎翻倍,原因在缓存而非标价。
Hugging Face 发布 PyTorch 性能分析系列第三篇,聚焦注意力机制。文章从朴素注意力实现出发,展示矩阵乘法、缩放、因果掩码等操作在 profiler 中的 kernel 表现,并指出将 masked_fill 改为原地操作 masked_fill_ 可省去每次前向的 Memcpy kernel。所有脚本在 NVIDIA A100-SXM4-80GB 上运行。
Hugging Face 发布 PRX 系列第四篇,披露其数据策略:预训练数据由公开与内部数据集混合组成,用 VLM 重新生成图像长描述,再转为可流式语料。训练文本编码器换为 Qwen3-VL 并改为实时计算 latent,仅带来约 3–4% 吞吐损失;图像统一以 JPEG quality 92 编码。
伦敦国王学院、复旦大学与 Alan Turing Institute 构建了 SocioHack 基准,包含 72 个社会仿真环境,测试 AI 在信用卡积分、学校评分等场景中的"社会黑客"行为,RL 训练的 LLM 能以 61.25% 召回率和 90.85% 精确率重新发现历史上已被修补的规则漏洞。
一篇综述分析了并行推理领域的最新进展,重点讨论自适应并行推理——让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。文中梳理了自一致性、Best-of-N、Tree/Graph of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild!
Mistral 基于其开源编码助手 Vibe 构建了一个自主智能体,能读取 Rails 源码文件、生成或改进 RSpec 测试并在 CI/CD 流水线中无需人工干预地运行,多个实例可并行处理不同文件。通过引入 AGENTS.md 和分类 SKILLS 文件,其质量分数从 0.68 提升至 0.74。
Mistral AI 发文复盘其在 vLLM 中排查一处内存泄漏的过程:在生产级流量下,系统内存以每分钟 400 MB 线性增长,数小时后触发 out of memory,且只在 Prefill/Decode 分离部署、Mistral Medium 3.1 与图编译启用时复现。
Mistral 用 LoRA 微调 Pixtral-12B 处理卫星图像,在 Aerial Image Dataset(AID,8000 训练样本、2000 测试样本)的分类任务上较基座模型显著提升,缓解了提示词方案对 DenseResidential、MediumResidential、Center 等易混类别的误判和编造标签问题。
Mistral 提出用 LLM as a Judge 结合 RAG Triad 框架评估 RAG 系统,通过 Context Relevance、Groundedness、Answer Relevance 三项指标分别检查检索文档与查询的匹配度、回答是否基于检索上下文以及是否回应原始问题。
Mistral AI 推出 TranscriptToPRDTicket 智能体工作流,由 PRDAgent 和 TicketCreationAgent 两个组件构成,均基于 Mistral Large 2,可将会议转录自动转为 PRD 并在 Linear、Jira 等工具中创建开发工单。