字节跳动技术团队发文宣布,基于 Golang 的大模型应用综合开发框架 Eino 已正式开源,旨在提供简洁、可扩展、可靠的开发工具。
据悉,Eino 基于明确的「组件」定义,提供强大的流程「编排」,覆盖开发全流程,旨在帮助开发者以最快的速度实现最有深度的大模型应用。
项目地址:
字节跳动技术团队介绍,Eino 作为旨在覆盖 devops 全流程的大模型应用开发框架,具有内核稳定、API 简单易懂、丰富的扩展性、提供开箱即用的配套工具等特点,能够帮助开发者快速、简单的上手。
Eino 已成为字节跳动内部大模型应用的首选全代码开发框架,已有包括豆包、抖音、扣子等多条业务线、数百个服务接入使用。字节跳动表示,未来还将以 Eino 开源库为核心代码仓库,坚持内外用一套代码,与社区共建最优秀的大模型应用开发框架。
Eino 借鉴了 LangChain 和 LlamaIndex 等开源框架的优势,并结合前沿研究,提供了一系列丰富的组件抽象,如 ChatModel、Tool、ChatTemplate 等,方便用户组合开发。通过强大的编排框架(Graph、Chain),Eino 支持类型检查、流式处理、并发管理等功能,简化了开发流程。
Eino 框架结构图:
此外,Eino 提供了流式处理、回调机制、可视化开发工具等功能,帮助开发者高效构建 AI 应用。
未经允许不得转载:岩猫星空网 » 字节跳动开源大语言模型应用开发框架 Eino