云端Apache Spark培訓

本課程爲講師指導的培訓，在香港（線上或線下）進行，面向希望使用Google Colab和Apache Spark進行大數據處理和分析的中級數據科學家和工程師。

通過本課程，學員將能夠：

• 使用Google Colab和Spark搭建大數據環境。
• 利用Apache Spark高效處理和分析大型數據集。
• 在協作環境中可視化大數據。
• 將Apache Spark與基於雲的工具集成。

本次由讲师引导的培训(线上或线下)面向希望使用Databricks和PySpark构建可扩展数据管道并迁移现有SQL工作流的数据工程师、数据分析师和数据专业人员。

本培訓提供了一個實用的入門指南，介紹如何使用PySpark構建可擴展的數據處理和機器學習工作流。參與者將學習Apache Spark在現代大數據生態系統中的運作方式，以及如何利用分佈式計算原理高效處理大規模數據集。

這門三天的實務課程著重於在Kubernetes環境中使用PySpark、Pandas和Polars來建構並優化高效能的資料處理工作負載。

學員將對Spark應用程式如何在Kubernetes上執行，以及應用程式層級的設定決策如何影響效能、擴充性、資源消耗和成本，建立實務性的理解。課程涵蓋關鍵的優化領域，包括執行器大小、記憶體分配、動態分配、分割策略、Shuffle行為、小檔案問題以及高效的Parquet處理。

課程還處理使用Pandas時的常見挑戰，包括記憶體限制和記憶體不足失敗，並介紹Polars作為特定資料處理工作負載的高效能替代方案。透過動手練習，學員將診斷效能和記憶體問題，比較不同的設定策略，並將優化技術應用於現實的ETL和機器學習情境。

課程始終強調實務決策能力：了解如何識別瓶頸、選擇適當的工具、高效設定Spark，並平衡效能與基礎架構資源消耗及成本。

這種以講師為主導的香港現場培訓（現場或遠端）針對的是希望建立和部署Apache Spark系統以處理大量數據的工程師。

在培訓結束時，參與者將能夠：

• 安裝和配置 Apache Spark。
• 快速處理和分析非常大的數據集。
• 瞭解Apache Spark和Hadoop MapReduce之間的區別，以及何時使用哪個。
• 將 Apache Spark 與其他機器學習工具整合。

本課程為講師授課的 香港 培訓（線上或線下），主要針對希望部署、維護並最佳化 Spark 叢集的初級至中級系統管理員。

完成本培訓後，學員將能夠：

• 在各種環境中安裝和配置 Apache Spark。
• 管理叢集資源並監控 Spark 應用程式。
• 最佳化 Spark 叢集的效能。
• 實施安全措施，確保高可用性。
• 除錯並排除常見的 Spark 問題。

在這場於 香港 舉辦的講師帶領培訓中，學員將透過實際操作演練，學習如何結合使用 Python 與 Spark 來分析大量資料。

完成本課程後，學員將能夠：

• 學習如何使用 Spark 搭配 Python 分析大量資料。
• 進行模擬真實場景的演練。
• 運用不同工具與技術，透過 PySpark 執行大量資料分析。

這種以講師為主導的香港現場培訓（現場或遠端）針對希望使用和集成Spark，Hadoop和Python以處理，分析和轉換大型複雜數據集的開發人員。

在培訓結束時，參與者將能夠：

• 設置必要的環境以開始使用 Spark、Hadoop 和 Python 處理大數據。
• 瞭解 Spark 和 Hadoop 的功能、核心元件和架構。
• 瞭解如何集成 Spark、Hadoop 和 Python 進行大數據處理。
• 探索 Spark 生態系統中的工具（Spark MlLib、Spark Streaming、Kafka、Sqoop、Kafka 和 Flume）。
• 構建類似於 Netflix、YouTube、Amazon、Spotify 和 Google 的協作過濾推薦系統。
• 使用 Apache Mahout 擴展機器學習演算法。