Llm

你是否曾感觉，与 AI 协作编程时，与其说是在下达精确指令，不如说是在营造一种“氛围”或“感觉”，引导它走向你期望的解决方案？

在开发在线客服、远程协作或在线教育平台时，“同屏共享”是一个绕不开的核心功能。许多团队在技术选型时，第一反应可能是：“这不就是把一端的画面数据，通过WebSocket发到另一端吗？”

听起来很简单，但这个看似直观的方案，却隐藏着可能导致项目延迟甚至失败的巨大技术陷阱。今天，我们就来深入探讨构建一套高性能、可扩展的在线同屏服务的正确姿势，并揭示其中两个关键角色——“活动总指挥”（信令服务器）与“超级分发机”（SFU媒体服务器）的秘密。

摘要：随着 AI Agent 从理论走向实践，如何构建一个稳定、可扩展且可靠的生产级系统成为核心挑战。本文深入探讨了 Shopify 工程团队在打造其 AI 助手 Sidekick 过程中的经验教训，重点介绍了他们为解决“工具复杂性问题”而设计的 JIT（Just-in-Time）指令架构，以及如何建立一套与人类判断对齐的、可信赖的 LLM 评估体系。

摘要：模型上下文协议（Model Context Protocol, MCP）为 AI 代理与外部数据和服务的交互提供了一个开放标准。它并非万能灵药，但在特定场景下能发挥巨大价值。本文旨在剖析 MCP 的核心优势、适用场景与潜在风险，帮助你判断它是否适合你的下一个项目。

AI Agent 正在从实验性技术转变为企业运营的核心组成部分。但一个能在演示中完成任务的原型 Agent，与一个能在生产环境中可靠运行、处理高风险任务的生产级 Agent 之间，存在着巨大的鸿沟。其根本区别在于一个更成熟、更严谨的操作生命周期。

2025年，几乎所有科技媒体都在预言，这将是“AI Agent之年”。“自主AI将变革工作”、“代理是下一个前沿”……这些标题充斥着我们的信息流，描绘了一个由无所不能的AI助手主导的未来。然而，当我们从云端的炒作回到满是泥泞的现实，尤其是听取那些日夜奋战在一线的AI工程师的声音时，一幅截然不同的画面浮现出来。

在大型语言模型（LLM）的浪潮中，我们一直在探索如何让AI的回答更精准、更可靠。检索增强生成（RAG） 应运而生，通过引入外部知识库，成功地为LLM的回答提供了事实依据，显著减少了“一本正经地胡说八道”（即“幻觉”）。然而，技术的演进从未停歇。当我们还在赞叹RAG的巧妙时，一个更强大的范式——Agentic RAG——已经悄然兴起，它预示着AI正从一个被动的“问答机器”向一个主动的“任务执行者”转变。

过去一年，ChatGPT、GitHub Copilot和Claude等AI工具彻底改变了我们写代码的方式。这些工具声称能自动生成代码、解决复杂问题，甚至有人担心它们会取代程序员。但真实情况如何？程序员到底怎么用这些AI工具？

我在2025年NICAR数据新闻会议上进行了两场演讲。本文是基于我对2024年LLM回顾的演讲，并扩展了几个月的内容，涵盖了2025年迄今为止发生的所有新进展。我的第二场演讲是关于前沿网络抓取技术的工作坊，我已在另一篇文章中详细介绍。

以下是我对LLM新动向回顾的幻灯片和详细笔记，重点关注与数据新闻相关的趋势。