雪板:使用雪花
的数据库机器学习传统的机器学习通常涉及将大量数据集从数据库中移动到模型培训环境。 当今的大型数据集越来越效率。 Snowflake Snowpark通过启用数据库处理来解决此问题。 Snowpark直接在Snowflake的云中提供了库和运行时间,以执行代码(Python,Java,Scala),从而最大程度地减少数据移动并增强安全性。
>为什么选择Snowpark?
Snowpark提供了几个关键优势:
入门:逐步指南
该教程展示了使用Snowpark构建超参数调整的模型。
>虚拟环境设置:创建一个conda环境并安装必要的库(>,snowflake-snowpark-python
,pandas
,pyarrow
,numpy
,matplotlib
,seaborn
,ipykernel
,
数据摄入:导入样本数据(例如,海底钻石数据集)进入雪花表。 (注意:在现实世界中,您通常会使用现有的雪花数据库。)
> Snekark Session创建:config.py
>使用您的凭据(帐户名,用户名,密码)建立与雪花的连接,将其牢固存储在.gitignore
> file(添加到
>数据加载:
使用Snowpark会话访问并将数据加载到Snowpark DataFrame中。了解Snowpark DataFrames
Snowpark DataFrames懒惰地操作,在将操作转换为优化的SQL查询之前,建立了逻辑的操作表示。这与熊猫的渴望执行形成鲜明对比,尤其是在大型数据集的情况下提供了可观的性能增长。
何时使用Snowpark DataFrames:
to_pandas()
>使用Snowpark DataFrames作为大型数据集,其中将数据传输到本地机器是不切实际的。 对于较小的数据集,熊猫可能就足够了。 该方法允许在Snekpark和Pandas DataFrames之间进行转换。 该方法提供了直接执行SQL查询的替代方法。
Session.sql()
Snowpark DataFrame转换功能:
Snowpark的转换功能(从F
中导入为snowflake.snowpark.functions
)为数据操作提供了强大的接口。 这些函数与.select()
,.filter()
和.with_column()
方法一起使用。
>探索性数据分析(EDA):
可以通过从Snowpark DataFrame,将其转换为Pandas DataFrame,并使用Matplotlib和Seaborn等可视化库来进行EDA进行EDA。 另外,SQL查询可以生成可视化的数据。>
机器学习模型培训:
数据清洁:确保数据类型正确并处理任何预处理需求(例如,重命名列,铸造数据类型,清洁文本功能)。>
>预处理:>将雪花ML的与Pipeline
和OrdinalEncoder
一起使用。 使用StandardScaler
。joblib
保存管道
模型培训:使用预处理数据训练XGBoost模型(XGBRegressor
random_split()
)等指标评估模型。
mean_squared_error
snowflake.ml.modeling.metrics
来优化模型超参数。
RandomizedSearchCV
类。
Registry
结论:
> Snowpark提供了一种强大而有效的方法来执行数据库内的机器学习。 它的懒惰评估,与熟悉的库集成以及模型注册表使其成为处理大型数据集的宝贵工具。 请记住,请咨询Snowpark API和ML开发人员指南以获取更高级的功能。
注意:图像URL从输入中保存。 调整格式以获得更好的可读性和流动性。 保留了技术细节,但是该语言使更广泛的受众更加简洁和访问。
>以上是雪花雪板:全面的介绍的详细内容。更多信息请关注PHP中文网其他相关文章!