ABOUT / 关于我

Johney Zheng.

AI Infrastructure & LLM Inference Engineer

工作与关注方向

我主要从事 AI 基础设施与模型推理相关工作,关注推理系统、异构硬件、分布式服务与 Agent Systems,也对计算机视觉和机器人控制感兴趣。

这个网站用来整理学习笔记和工程实践,记录读过的论文、实现中的问题,以及实验中的观察。

01

Inference systems

推理引擎、调度、KV Cache 与模型部署。

02

Heterogeneous hardware

NVIDIA / AMD GPU、NPU 等硬件平台上的模型适配、部署与性能优化。

03

Distributed serving

并行策略、集合通信与分布式推理服务。

04

Agent systems

工具调用、工作流与工程任务自动化。

05

Computer Vision / Robotics Control

计算机视觉与机器人控制相关的学习与探索。

开源参与

SGLang Collaborator;vLLM-Omni Committer。

SGLang 是大语言模型与多模态模型推理框架;vLLM-Omni 关注多模态推理与服务。参与记录可在 GitHub 查看。

关于这些笔记

文章是个人学习与工作的阶段性记录。早期的 CV、Python、C++ 笔记也会继续保留,方便查阅和回顾。

CONTACT

技术交流与合作,可通过邮件联系。

zwg0606@gmail.com ↗