雾中有塔

Triton 简介

什么是 Triton？ Triton 是由 OpenAI 开发的一种开源编程语言和编译器框架，专门用于编写高效的 GPU 内核（Kernel）程序。它的目标是让开发者能够以接近 CUDA 的性能，用更简洁、更 Pythonic 的方式编写 GPU 代码。官方仓库：https://github.co

PDF 解析是 RAG 质量的地基 —— 解析质量直接决定召回质量，是整个 RAG 链路中最容易被忽视但影响最大的环节为什么 PDF 解析很难？ PDF 的本质是"打印格式"，不是"语义格式" ┌──────────────────────────────────────────────────

分布式系统的"大脑" —— 一个高可用、强一致的分布式键值存储系统什么是 etcd？ etcd 是一个开源的分布式键值存储系统，由 CoreOS 团队于 2013 年开发，现已成为 CNCF 毕业项目。名字来源于 Linux /etc 目录（存储配置）+ d（distributed，分布式）。 e

市场主流网关全景 API 网关市场分层： ┌─────────────────────────────────────────────────────┐ │ 云厂商托管网关 │ │ AWS API Gateway 阿

APISIX 不仅能结合，还正在成为 LLM Gateway 的主流选择之一 —— 管理 AI 流量的鉴权、限速、路由、可观测性为什么 LLM 需要专属网关？传统 API 网关处理：请求进来 → 转发 → 响应回去耗时：毫秒级，响应体：KB级 LLM API 的特殊性： ├──

云原生时代的高性能 API 网关 —— 基于 Nginx + Lua，动态、实时、高性能什么是 APISIX？ Apache APISIX 是一个动态、实时、高性能的开源 API 网关，提供负载均衡、动态上游、灰度发布、限流限速、身份认证、可观测性等丰富功能。2019年由国内公司深圳支流科技开源，

用更少的计算，撑起更大的模型 —— MoE 是当前顶级大模型（GPT-4、Gemini、DeepSeek）普遍采用的核心架构先从一个直觉出发传统公司（Dense 模型）：每个问题 → 所有员工都参与处理成本高，但每人只需懂一点点专家公司（MoE 模型）：法律问题 → 只找