轻量级Python执行管道库,使用@action装饰器定义任务,支持重试、并行执行、可观测性,并可一键部署到包括AWS Lambda、GCP Cloud Run和Kubernetes在内的34+云平台。
好开源,值得被发现。
发现优质开源项目,匿名提交开源项目,认领编辑你的开源项目。
带着好奇心,发现开源世界。
THE FIRST COLLECTIONStormByte-Buffer 是 StormByte 套件中的 C++26 库,提供 FIFO、SharedFIFO、Ring 缓冲区及流水线工具。包含线程安全与非线程安全缓冲区、生产者/消费者模式以及可配置的流水线阶段(同步/异步/并行),需依赖 StormByte Base。
marimo 是一款响应式 Python notebook,确保代码与输出之间的一致性。它将内容存储为纯 Python 文件,从而提升了 git 友好度和可部署性。
Tekton Pipelines 提供 Kubernetes 原生的资源来声明 CI/CD 流水线。流水线是云原生的、解耦的和类型化的,使用容器作为构建块,Task 可以独立运行,并且资源可以替换。
nf-core/fastqrepair 是一个用于恢复损坏的 FASTQ.gz 文件、修复不合规读段、移除未配对读段以及重新配对无序读段的生物信息学管道。它输出干净的 FASTQ 文件和 QC 报告。
Prefect 是一个基于 Python 的工作流编排框架,旨在构建、自动化和监控具有弹性的数据管道,并提供调度和重试等功能。
Kestra 是一个开源的事件驱动编排平台,旨在为数据、AI 和基础设施工作流提供支持,采用声明式 YAML 接口进行配置。
Taipy 是一个专为数据科学家和机器学习工程师设计的 Python 框架,旨在无需学习前端语言即可构建并部署生产级的数据和 AI 驱动型 Web 应用程序。
Great Expectations (GX Core) 是一个开源的 Python 数据质量库,提供了一个为数据创建单元测试的框架,旨在确保数据的一致性和可靠性。