About the job
团队介绍:数据平台是字节跳动数据中台部门,为公司多业务线(包括抖音、电商、直播和生活服务等)提供一站式大数据解决方案,涵盖数据的生产、清洗、传输、建模、分析等全流程链路,提供数据开发、实验评估、画像标签、增强分析等多元场景解决能力。同时,数据平台部门也致力于把字节跳动积累沉淀的数据中台解决方案做商业化输出,让更多行业能够应用我们的产品能力构建自己的数据中台。在火山引擎上,我们提供了营销增长套件,数据中台等相关产品解决方案,为泛互联网、金融、汽车、新零售等行业提供了行业解决方案。
1、负责知识引擎底层平台与核心框架的设计研发,建设统一的知识处理、存储、索引与检索能力,为上层RAG、Agent及行业应用提供稳定、可扩展的基础服务;
2、负责知识处理执行引擎建设,涵盖数据接入、解析、切分、知识抽取及索引更新等环节,完善任务编排、异步调度、并发控制、状态管理与失败恢复机制,支撑大规模知识处理;
3、参与存储与检索引擎架构设计,建设统一的数据模型、引擎接口及插件扩展机制,支持向量、全文、结构化及图等不同检索能力的接入与组合,优化查询执行效率与数据一致性;
4、参与Agent运行时与工具执行基础设施建设,完善执行生命周期、上下文与状态持久化、事件流、取消与恢复、资源隔离等机制,支撑长任务及复杂工作流的可靠执行;
5、建设企业级平台基础能力,包括多租户隔离、细粒度权限、资源配额、流量控制与可观测性,保障系统在高并发、大数据量和复杂部署环境下的稳定性与可运维性;
6、持续开展核心链路的性能分析、容量规划与架构优化,沉淀可复用的框架和组件,提升系统吞吐、扩展能力及研发交付效率。
Responsibilities
1、负责知识引擎底层平台与核心框架的设计研发,建设统一的知识处理、存储、索引与检索能力,为上层RAG、Agent及行业应用提供稳定、可扩展的基础服务;
2、负责知识处理执行引擎建设,涵盖数据接入、解析、切分、知识抽取及索引更新等环节,完善任务编排、异步调度、并发控制、状态管理与失败恢复机制,支撑大规模知识处理;
3、参与存储与检索引擎架构设计,建设统一的数据模型、引擎接口及插件扩展机制,支持向量、全文、结构化及图等不同检索能力的接入与组合,优化查询执行效率与数据一致性;
4、参与Agent运行时与工具执行基础设施建设,完善执行生命周期、上下文与状态持久化、事件流、取消与恢复、资源隔离等机制,支撑长任务及复杂工作流的可靠执行;
5、建设企业级平台基础能力,包括多租户隔离、细粒度权限、资源配额、流量控制与可观测性,保障系统在高并发、大数据量和复杂部署环境下的稳定性与可运维性;
6、持续开展核心链路的性能分析、容量规划与架构优化,沉淀可复用的框架和组件,提升系统吞吐、扩展能力及研发交付效率。
Qualifications
Minimum
1、计算机或相关专业本科及以上学历,具备扎实的数据结构、算法、操作系统、计算机网络及数据库基础;
2、熟练掌握Java、Go、Python中至少一门编程语言,深入理解所用语言的并发模型、运行机制及性能分析方法,具备良好的接口设计、模块抽象和复杂问题定位能力;
3、熟悉分布式系统的常见设计与工程实践,理解任务调度、并发控制、幂等重试、故障恢复及数据一致性,具有相关系统或核心模块的研发经验;
4、熟悉数据库、搜索引擎、缓存、消息队列等基础组件,对其中至少一类组件的工作原理、性能瓶颈与适用边界有较深入理解;
5、具备平台或框架研发意识,能够从业务需求中抽象通用能力,合理设计模块边界与扩展机制,兼顾兼容性、可测试性及长期维护成本;
6、具备良好的沟通协作与自主学习能力,对知识引擎、检索系统或Agent基础设施有兴趣,能够推动复杂技术问题的分析与解决。
Preferred
1、有分布式任务调度、工作流引擎、数据处理引擎、搜索引擎或存储系统的核心研发经验;
2、熟悉倒排索引、向量索引、混合检索或查询执行机制,有Elasticsearch/OpenSearch、Milvus等系统的深度使用、性能优化或二次开发经验;
3、有Agent Runtime、工具执行框架、沙箱隔离、执行状态持久化或长任务恢复机制的建设经验;
4、有大规模知识处理、多租户平台、资源调度、容器化部署及复杂生产环境性能优化经验。