首页 > 科技周边 > IT业界 > 如何使用Anaconda在Vultr上部署Apache气流

如何使用Anaconda在Vultr上部署Apache气流

Jennifer Aniston
发布: 2025-02-08 11:11:08
原创
725 人浏览过

>本文指导您通过在Conda环境中部署安全的气流应用程序,利用NGINX作为反向代理,让我们加密SSL证书。 AirFlow是一种强大的工作流管理工具,已在Vultr服务器上部署,以供可伸缩性和可靠性。

>

How to Deploy Apache Airflow on Vultr Using Anaconda

气流简化了使用定向的无环图(DAG)对复杂工作流的定义,调度和监视。它的开源性质可确保社区的支持和持续改进。

(这是Vultr的赞助文章,Vultr是一个领先的云计算平台,在全球范围内提供可扩展解决方案。)

>在vultr上部署服务器:

    >访问vultr客户门户并创建一个帐户。
  1. >导航到“产品”,然后选择“计算”。
  2. >选择“部署服务器”,选择“ Cloud Compute”作为服务器类型。
  3. >指定您的首选位置,然后从市场应用程序中选择“ Anaconda”。
  4. How to Deploy Apache Airflow on Vultr Using Anaconda 选择一个计划和任何其他功能。

  5. 单击“现在部署。”

  6. How to Deploy Apache Airflow on Vultr Using Anaconda 设置一个vultr托管的postgresql数据库:

  7. 接下来,为AirFlow的元数据和芹菜结果分别创建一个由Vultr管理的PostgreSQL数据库以及其中的两个新数据库(“ AirFlow-PGSQL”和“ AIRFLOWE-CELERY”)。 这些步骤涉及导航到“数据库”,添加PostgreSQL数据库,然后在“用户和数据库”下添加两个新数据库。屏幕截图说明了每个步骤。 (此处将包括类似于原件的屏幕截图,引用原始图像URL。

conda环境设置和气流安装:>

验证您的conda版本(

)。

创建一个conda环境(
    )。
  1. conda --ver

    激活环境(
  2. )。
  3. conda create -n airflow python=3.8

    > install redis(
  4. ),启用它(
  5. ),然后检查其状态(

    )。 conda activate airflow

  6. apt install -y redis-server> installsudo systemctl enable redis-serversudo systemctl status redis-server)。

    How to Deploy Apache Airflow on Vultr Using Anaconda

    安装必要的依赖项(
  7. )。
  8. >安装气流(pip install "apache-airflow[celery]==2.8.1" --constraint "https://raw.githubusercontent.com/apache/airflow/constraints-2.8.1/constraints-3.8.txt")。

>将气流连接到vultr数据库:>

使用数据库凭据(引用AirFlow-PGSQL数据库)设置环境变量。 (此处将包括与原始类似的屏幕截图,引用原始图像URL。
    >初始化气流元数据数据库(
  1. )。AIRFLOW__DATABASE__SQL_ALCHEMY_CONN>
  2. configure
  3. ,将执行程序设置为airflow db init(使用AirFlow-PGSQL),Worker和trigger Log端口(8794和8795),
  4. ),以及airflow.cfg >(使用气流库)。 (此处将包括与原始类似的屏幕截图,引用原始图像URL。 CeleryExecutor创建气流用户(sql_alchemy_conn)。 (请记住用实际值替换占位符)。broker_url redis://localhost:6379/0 result_backend
  5. >驱动气流服务:
  6. airflow users create ...
  7. >为气流Web服务器,调度程序和芹菜工作人员创建并启用SystemD服务文件,以确保它们在后台持续运行。 这涉及使用适当的
路径和用户/组设置创建

>文件(例如,),然后使用启用并启动它们。 (此处将包括类似于原件的屏幕截图,引用原始图像URL。

nginx反向代理配置:.service airflow-webserver.service ExecStart>将NGINX设置为改善安全性和可扩展性的反向代理。这包括安装NGINX,创建一个虚拟主机配置文件(systemctl),以向AirFlow Weberver(端口8080)的代理请求以及启用配置。 请记住要配置防火墙规则以允许HTTP(端口80)和HTTPS(端口443)流量。 (此处将包括与原始类似的屏幕截图,引用原始图像URL。

>让我们加密SSL证书:>

>最后,使用certbot从Let's Gyerpt获得并安装SSL证书。这可以通过HTTPS确保您的气流应用程序。 该过程涉及安装CERTBOT,获得证书(

)和测试自动续订。 (此处将包括与原始类似的屏幕截图,引用原始图像URL。 airflow.conf

结论:

该全面的指南详细介绍了使用conda,nginx和让我们加密的vultr上部署强大而安全的气流应用程序。 结果是准备生产,可扩展且安全的工作流管理系统。>

以上是如何使用Anaconda在Vultr上部署Apache气流的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
作者最新文章
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板