hong-kong現場Apache Spark培訓

本課程爲講師指導的培訓，在hong-kong（線上或線下）進行，面向希望使用Google Colab和Apache Spark進行大數據處理和分析的中級數據科學家和工程師。

通過本課程，學員將能夠：

• 使用Google Colab和Spark搭建大數據環境。
• 利用Apache Spark高效處理和分析大型數據集。
• 在協作環境中可視化大數據。
• 將Apache Spark與基於雲的工具集成。

Stratio是一個以數據爲中心的平臺，集成了大數據、人工智能和治理功能，提供一體化解決方案。其Rocket和Intelligence模塊支持在企業環境中快速進行數據探索、轉換和高級分析。

本次由講師指導的培訓（線上或線下）面向中級數據專業人員，旨在幫助他們有效使用Stratio中的Rocket和Intelligence模塊與PySpark，重點涵蓋循環結構、用戶自定義函數和高級數據邏輯。

培訓結束後，參與者將能夠：

• 在Stratio平臺中導航並使用Rocket和Intelligence模塊。
• 在數據攝取、轉換和分析中應用PySpark。
• 使用循環和條件邏輯控制數據工作流和特徵工程任務。
• 創建並管理用戶自定義函數（UDFs），以在PySpark中實現可重用的數據操作。

課程形式

• 互動式講座與討論。
• 大量練習與實踐。
• 在即時實驗室環境中進行動手操作。

課程定製選項

• 如需爲本課程定製培訓，請聯繫我們安排。

這種以講師為主導的hong-kong現場培訓（現場或遠端）針對希望使用和集成Spark，Hadoop和Python以處理，分析和轉換大型複雜數據集的開發人員。

在培訓結束時，參與者將能夠：

• 設置必要的環境以開始使用 Spark、Hadoop 和 Python 處理大數據。
• 瞭解 Spark 和 Hadoop 的功能、核心元件和架構。
• 瞭解如何集成 Spark、Hadoop 和 Python 進行大數據處理。
• 探索 Spark 生態系統中的工具（Spark MlLib、Spark Streaming、Kafka、Sqoop、Kafka 和 Flume）。
• 構建類似於 Netflix、YouTube、Amazon、Spotify 和 Google 的協作過濾推薦系統。
• 使用 Apache Mahout 擴展機器學習演算法。

這種由講師指導的現場培訓hong-kong（遠端或遠端）面向希望部署、維護和優化Spark集群的初級到中級系統管理員。

在培訓結束時，參與者將能夠：

• 在各種環境中安裝和配置 Apache Spark。
• 管理群集資源並監視Spark應用程式。
• 優化Spark集群性能。
• 實施安全措施並確保高可用性。
• 調試和排查常見的Spark問題。

在這個由講師指導的 hong-kong 現場培訓中，參與者將學習如何在動手練習中同時使用 Python 和 Spark 來分析大數據。

在培訓結束時，參與者將能夠：

• 瞭解如何將Spark與 Python 結合使用來分析 Big Data。
• 進行模仿真實世界案例的練習。
• 使用 PySpark 使用不同的工具和技術進行大數據分析。

本培訓提供了一個實用的入門指南，介紹如何使用PySpark構建可擴展的數據處理和機器學習工作流。參與者將學習Apache Spark在現代大數據生態系統中的運作方式，以及如何利用分佈式計算原理高效處理大規模數據集。

這種以講師為主導的hong-kong現場培訓（現場或遠端）針對的是希望建立和部署Apache Spark系統以處理大量數據的工程師。

在培訓結束時，參與者將能夠：

• 安裝和配置 Apache Spark。
• 快速處理和分析非常大的數據集。
• 瞭解Apache Spark和Hadoop MapReduce之間的區別，以及何時使用哪個。
• 將 Apache Spark 與其他機器學習工具整合。

Apache Spark的學習曲線在開始時較爲平緩，但需要付出大量努力才能獲得初步回報。本課程旨在幫助學員跳過最初的學習難關。完成本課程後，學員將掌握Apache Spark的基礎知識，能夠清晰區分RDD與DataFrame，學習Python和Scala API，理解執行器和任務等。此外，課程還將遵循最佳實踐，重點關注雲部署、Databricks和AWS。學員還將瞭解AWS EMR與AWS Glue之間的區別，後者是AWS最新的Spark服務之一。

受衆：

數據工程師、DevOps、數據科學家