A Foreign Financial Institution
岗位使命
您的核心使命是构建并持续演进高性能、高可靠的AI服务架构,深度优化模型推理效能与数据智能链路。您需要主动追踪前沿AI工程化技术,通过严谨的工程实践与数据驱动的评估体系,系统性解决系统瓶颈,持续提升AI服务的准确率、响应速度与资源利用率。您不等待需求,而是主动定义技术挑战,用架构升级驱动产品能力进化。
主要职责
一、主导AI服务架构设计与演进
负责AI核心服务的整体技术架构规划,包括模型推理层、知识索引层、编排调度层与可观测性体系。
设计高可用、低延迟的AI网关与API管道,支撑多模型混合路由与灰度发布。
推动AI基础设施的平台化演进,构建可复用、可插拔的共享服务组件(如模型中间件、提示词管理、向量索引服务)。
在系统性能、弹性扩展、成本控制与交付效率之间做出架构级权衡。
二、深度优化RAG与知识检索链路
全面优化检索增强生成(RAG)全链路,涵盖数据分块策略、Embedding模型选型、混合检索(关键词+向量)调优及重排序(Rerank)策略。
针对复杂知识场景,探索并落地图谱RAG(Graph RAG)、结构化检索与非结构化检索的融合方案。
持续优化检索延迟、命中率与上下文相关性,从工程层面降低模型幻觉(Hallucination)。
三、推进Agentic系统与多智能体编排
设计并实现高鲁棒性的Agentic工作流,包括任务规划(Planning)、工具调用(Function Calling/Tool Use)及状态管理(Memory)。
评估并引入多智能体协作(Multi-Agent)框架,解决复杂任务分解与协同决策问题。
构建可观测的Agent执行追踪链路,用于调试、性能分析与行为优化。
四、建立AI效能评估与实验体系(AI Evaluation & MLOps)
构建自动化AI评估框架(Evaluation Framework),覆盖准确性、忠实度(Groundedness)、推理连贯性及响应质量等核心指标。
建立离线与在线实验机制,支持Prompt版本对比、模型A/B测试及策略灰度验证,确保每次技术变更均有量化数据支撑。
搭建持续集成与持续交付(CI/CD)流水线,涵盖模型验证、安全检查和性能基线测试。
五、前沿技术验证与工程落地
持续跟踪LLM、Agent、RAG、模型压缩、推理加速等领域的最新成果,进行技术可行性验证(POC)与性能基准测试(Benchmark)。
负责关键AI组件的技术选型,包括基础模型(开源/闭源)、推理框架、编排引擎及向量数据库,并输出明确的选型评估报告。
针对高并发场景优化推理吞吐量,探索模型量化、KV Cache优化、投机采样等加速技术。
六、跨团队技术协作与知识沉淀
与后端工程团队协作,定义AI服务接口规范与数据契约,确保系统平滑集成。
与业务团队协作,将模糊的业务需求转化为清晰的技术方案与可度量的技术指标。
编写高质量的技术设计文档,沉淀AI工程化经验,并推动团队内部的技术分享与代码审查。
职位要求
任职要求
基础要求
计算机科学、人工智能、软件工程或相关专业硕士及以上学历。
5年以上后端系统或基础架构开发经验,其中至少2年专注于LLM/生成式AI领域的工程研发。
有从0到1构建生产级AI服务或核心组件(如RAG管道、Agent框架、模型网关)的实战经验。
良好的英文技术文档阅读与撰写能力,能够参与国际技术社区交流。
技术能力(需具备以下多数方向的实践深度)
模型与推理:精通主流LLM(如GPT系列、Claude、Gemini、DeepSeek、Qwen、Llama等)的API调用、参数调优及推理部署;熟悉vLLM、TensorRT-LLM等推理加速框架者优先。
AI工程框架:深入掌握至少一种Agent/工作流编排框架(如LangGraph、Semantic Kernel、CrewAI、AutoGen、OpenAI Agents SDK),并有生产环境调优经验。
检索与知识工程:精通RAG管道构建与优化,熟悉Elasticsearch、Milvus、Pinecone等向量/混合检索数据库;了解知识图谱构建与Graph RAG实现原理。
编程与系统:扎实的Python编程能力,熟练使用FastAPI构建高性能微服务;熟悉RESTful设计、异步编程及常用中间件(Redis、消息队列)。具备TypeScript或C#能力者加分。
云原生与基础设施:熟悉AWS、Azure或阿里云等云平台,掌握Docker、Kubernetes及基础设施即代码(IaC)工具。
评估与实验:有构建AI评估流水线(如使用Ragas、DeepEval或自研框架)的实践经验,理解统计学基础与实验设计原则。
我们看重的核心特质
深度技术好奇心:不满足于API调用,乐于研读技术论文、开源源码,主动拆解前沿技术的内在机理。
工程严谨性:坚信“不可测量则无法改进”,所有技术决策均基于数据、实验与客观基准,而非直觉。
架构抽象能力:能从繁杂的业务场景中提炼共性技术需求,设计可扩展、可维护的架构方案。
结果导向与韧性:面对系统延迟、检索相关性等棘手问题,具备系统化排查与持久攻坚的精神。
持续学习与分享:拥抱AI领域日新月异的迭代速度,并乐于将新认知转化为团队共享的技术资产。
我们寻找的人
我们需要的不只是熟练调用模型接口的开发者,而是能够深入AI工程腹地、定义技术方向、以架构演进驱动产品价值提升的技术专家。您将把AI服务视为一个持续进化的智能系统,而非一次性的项目交付。
入职一年内的关键成果目标
完成核心AI服务(检索+推理+编排)的下一代架构设计与原型落地。
建立全链路的AI自动化评估体系,覆盖离线验证与线上监控。
通过检索优化、提示词工程及推理加速,将核心场景的响应延迟降低30%以上,准确率提升至目标基准。
推动至少2项前沿技术(如Graph RAG、MCP、流式推理优化)完成POC并实现生产环境灰度上线。
建立团队内部的技术演进路线图与工程规范,形成可持续的创新文化。