首页 后端开发 Golang Kontroler 简介:用于 DAG 的 Kubernetes 调度引擎

Kontroler 简介:用于 DAG 的 Kubernetes 调度引擎

Nov 22, 2024 pm 03:59 PM

什么是控制器?

Kontroler 是一个开源 Kubernetes 调度引擎,旨在简化有向无环图 (DAG) 的管理。借助 Kontroler,您可以在 YAML 中定义工作流程,将任务作为容器化作业运行,甚至可以通过可选的基于 Web 的 UI 将其可视化。无论您需要按计划执行工作流程还是响应实时事件,Kontroler 都能提供灵活的 Kubernetes 原生解决方案。

也就是说,我必须警告 Kontroler 目前处于 alpha 状态。它非常适合实验和原型设计,但可能尚未准备好用于生产。作为一个副项目,Kontroler 不提供支持,因此在生产中使用它需要您自担风险!

如果您想查看 GitHub 存储库,请访问:https://github.com/GreedyKomodoDragon/Kontroler

为什么要使用控制器?

管理 Kubernetes 上的工作流程可能具有挑战性。虽然 Kubernetes 提供了强大的原语(如 CronJobs 和 Jobs),但协调复杂的工作流程与依赖项、重试和动态触发器通常需要自定义脚本或外部工具。 Kontroler 通过提供 Kubernetes 原生解决方案来定义、安排和管理有向无环图 (DAG) 的工作流程,从而简化了此过程。

以下是 Kontroler 脱颖而出的原因:

1. 使用 YAML 进行 Gitops DAG 管理

Kontroler 使您能够使用简单的 YAML 文件定义整个工作流程,包括任务、依赖项、重试逻辑和条件执行。这种方法使您的工作流程保持声明性、版本控制,并且易于在团队之间共享。

将它们包装在 Helm 图表中并使用自动化部署系统(例如 ArgoCD 或 FluxCD),您就可以在 GitOps 工作流程中管理 DAG。

2. 支持事件驱动和预定的工作流程

无论您需要工作流程定期运行(例如 CronJobs)还是对实时触发器做出反应(例如来自队列的消息),Kontroler 都能满足您的需求。它无缝集成了两种调度范例,使其适用于各种用例。

Kontroler 使用 DagRuns(Kontroler 可以监控的自定义资源定义或 CRD)进行操作。要执行 DAG 运行,您只需创建一个 DagRun,然后 Kontroler 管理执行。通过在控制器外部公开此功能,Kontroler 可以与外部系统无缝集成。请参阅下面的 DagRun 示例:

apiVersion: kontroler.greedykomodo/v1alpha1
kind: DagRun
metadata:
  labels:
    app.kubernetes.io/name: dagrun
    app.kubernetes.io/instance: dagrun-sample
  name: dagrun-sample
spec:
  dagName: dag-sample
  parameters:
    - name: first
      fromSecret: secret-name-new
    - name: second
      value: value_new
登录后复制

您只需提供 DAG 的名称,可以选择包含任何参数。如果未指定,参数将使用默认值。

3. 与容器无缝集成

作为 Kubernetes 原生应用程序,Kontroler 利用了该平台的优势。从简单的脚本到复杂的应用程序,Kontroler 的容器优先设计确保任何工作负载都可以轻松集成到 DAG 中。

为了进一步减少重复工作,我们正在添加对作为 CRD 的任务的支持。

4. 提供可选 UI 以提高可见性

虽然 YAML 非常适合基础设施即代码,但可视化工作流程并跟踪其执行可以显着简化调试和优化。 Kontroler 提供了一个可选的基于 Web 的 UI,用于创建和监控 DAG,为团队提供了一种直观的方式来管理工作流程。

Introducing Kontroler: A Kubernetes Scheduling Engine for DAGs

在上面的屏幕截图中,它向您展示了:

  • 任务之间的联系
  • 在 DagRun 中它将显示状态
  • 单击网络时的 Pod 结果

在底层,此功能由 vis-network 提供支持,vis-network 是一个用于创建图形的开源项目。您可以在此处找到他们的 GitHub 存储库。最初,我们开发了自己的图形工具,但发现很难扩展并且使复杂的图形可读具有挑战性。因此,我们采用了这个开源解决方案。

5. 用于高级配置的灵活 Pod 模板

Kontroler 的 pod 模板可让您使用高级 Kubernetes 功能(如机密、PVC、节点亲和性、安全上下文等)自定义任务。这使您可以对任务的执行方式进行细粒度控制,确保与集群的特定要求兼容。

数据存储的灵活性

管理工作流程的关键挑战之一是确保底层基础设施可以根据您的需求进行扩展。 Kontroler 提供灵活的数据库支持和日志记录功能,使团队能够更轻松地管理 DAG 并捕获详细的执行日志。无论您使用的是轻量级设置还是更强大的生产环境,Kontroler 都有适合您需求的选项。

SQLite(默认小规模)

对于较小的设置或开发过程,SQLite 是 Kontroler 使用的默认数据库。它简单、轻量,不需要太多配置。如果您刚刚开始或出于测试目的运行 Kontroler,SQLite 是一个方便的选择,因为它“开箱即用”,无需额外的数据库设置。

如果您更喜欢使用 SQLite,则无需对部署进行任何其他更改。只需按照安装说明进行操作,Kontroler 就会处理剩下的事情。

PostgreSQL(用于生产/大规模)

对于大型生产级部署,推荐使用 PostgreSQL 来存储 DAG 和 DagRun。 Kontroler 使用 PostgreSQL 提供处理大量工作流数据所需的更高性能、可扩展性和可靠性。 Kontroler 兼容 PostgreSQL 16 及以上版本

日志收集

对于许多 Kubernetes 用户来说,集中式日志存储是可观察性和故障排除的关键要求。 Kontroler 与 Amazon S3 无缝集成以进行日志存储,从而可以轻松收集、存储和分析 DAG 执行的日志。这种集成确保您可以捕获详细的日志,长期保存它们以供审核,并在出现问题时使用它们进行事后分析。

我们正在使用 MinIO 进行测试以避免成本,但在幕后,它使用 AWS S3 API,并且应该能够检测您的 IAM 属性以授予对 S3 存储桶的访问权限。

最后的评论

我们希望您能看看 Kontroler!您可以在这里找到它:https://github.com/GreedyKomodoDragon/Kontroler。

尽管仍处于 alpha 阶段,Kontroler 对于希望简化 Kubernetes 运营的团队来说具有巨大的潜力。随着它的发展,Kontroler 的目标是成为在 Kubernetes 中编排工作流程的强大工具,为团队提供轻松自动化复杂流程所需的可靠性和可扩展性。

Kontroler 正在不断改进,因此请密切关注未来的更新!如果您想为该项目做出贡献,我们欢迎各种形式的贡献。

以上是Kontroler 简介:用于 DAG 的 Kubernetes 调度引擎的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

Debian OpenSSL有哪些漏洞 Debian OpenSSL有哪些漏洞 Apr 02, 2025 am 07:30 AM

OpenSSL,作为广泛应用于安全通信的开源库,提供了加密算法、密钥和证书管理等功能。然而,其历史版本中存在一些已知安全漏洞,其中一些危害极大。本文将重点介绍Debian系统中OpenSSL的常见漏洞及应对措施。DebianOpenSSL已知漏洞:OpenSSL曾出现过多个严重漏洞,例如:心脏出血漏洞(CVE-2014-0160):该漏洞影响OpenSSL1.0.1至1.0.1f以及1.0.2至1.0.2beta版本。攻击者可利用此漏洞未经授权读取服务器上的敏感信息,包括加密密钥等。

Beego ORM中如何指定模型关联的数据库? Beego ORM中如何指定模型关联的数据库? Apr 02, 2025 pm 03:54 PM

在BeegoORM框架下,如何指定模型关联的数据库?许多Beego项目需要同时操作多个数据库。当使用Beego...

从前端转型后端开发,学习Java还是Golang更有前景? 从前端转型后端开发,学习Java还是Golang更有前景? Apr 02, 2025 am 09:12 AM

后端学习路径:从前端转型到后端的探索之旅作为一名从前端开发转型的后端初学者,你已经有了nodejs的基础,...

在Go语言中使用Redis Stream实现消息队列时,如何解决user_id类型转换问题? 在Go语言中使用Redis Stream实现消息队列时,如何解决user_id类型转换问题? Apr 02, 2025 pm 04:54 PM

Go语言中使用RedisStream实现消息队列时类型转换问题在使用Go语言与Redis...

GoLand中自定义结构体标签不显示怎么办? GoLand中自定义结构体标签不显示怎么办? Apr 02, 2025 pm 05:09 PM

GoLand中自定义结构体标签不显示怎么办?在使用GoLand进行Go语言开发时,很多开发者会遇到自定义结构体标签在�...

Go语言中用于浮点数运算的库有哪些? Go语言中用于浮点数运算的库有哪些? Apr 02, 2025 pm 02:06 PM

Go语言中用于浮点数运算的库介绍在Go语言(也称为Golang)中,进行浮点数的加减乘除运算时,如何确保精度是�...

Go的爬虫Colly中Queue线程的问题是什么? Go的爬虫Colly中Queue线程的问题是什么? Apr 02, 2025 pm 02:09 PM

Go爬虫Colly中的Queue线程问题探讨在使用Go语言的Colly爬虫库时,开发者常常会遇到关于线程和请求队列的问题。�...

如何在Debian上配置MongoDB自动扩容 如何在Debian上配置MongoDB自动扩容 Apr 02, 2025 am 07:36 AM

本文介绍如何在Debian系统上配置MongoDB实现自动扩容,主要步骤包括MongoDB副本集的设置和磁盘空间监控。一、MongoDB安装首先,确保已在Debian系统上安装MongoDB。使用以下命令安装:sudoaptupdatesudoaptinstall-ymongodb-org二、配置MongoDB副本集MongoDB副本集确保高可用性和数据冗余,是实现自动扩容的基础。启动MongoDB服务:sudosystemctlstartmongodsudosys

See all articles