Apache Spark SQL培訓

本課程爲講師指導的培訓，在香港（線上或線下）進行，面向希望使用Google Colab和Apache Spark進行大數據處理和分析的中級數據科學家和工程師。

通過本課程，學員將能夠：

• 使用Google Colab和Spark搭建大數據環境。
• 利用Apache Spark高效處理和分析大型數據集。
• 在協作環境中可視化大數據。
• 將Apache Spark與基於雲的工具集成。

大數據分析涉及檢查大量多樣化數據集的過程，以揭示相關性、隱藏模式和其他有用的見解。

健康行業擁有大量複雜的異構醫療和臨牀數據。將大數據分析應用於健康數據，在改善醫療保健服務方面具有巨大潛力。然而，這些數據集的龐大規模對分析和在臨牀環境中的實際應用提出了巨大挑戰。

在這個由講師指導的遠程培訓中，學員將通過一系列實踐操作練習，學習如何在健康領域進行大數據分析。

培訓結束後，學員將能夠：

• 安裝和配置大數據分析工具，如Hadoop MapReduce和Spark
• 理解醫療數據的特徵
• 應用大數據技術處理醫療數據
• 在健康應用的背景下研究大數據系統和算法

受衆

• 開發者
• 數據科學家

課程形式

• 部分講座，部分討論，練習和大量實踐操作。

注意

• 如需爲本課程定製培訓，請聯繫我們安排。

這種由講師指導的香港現場培訓（現場或遠端）針對的是希望學習如何在組織內設置，部署和管理Hadoop集群的系統管理員。

在培訓結束時，參與者將能夠：

• 安裝和配置 Apache Hadoop。
• 瞭解 Hadoop 生態系統中的四個主要元件：HDFS、MapReduce、YARN 和 Hadoop Common。
• 使用 Hadoop 分散式檔案系統 （HDFS） 將集群擴展到數百或數千個節點。  
• 將 HDFS 設定為本地 Spark 部署的記憶體引擎。
• 設置 Spark 以存取替代儲存解決方案，例如 Amazon S3 和 NoSQL 資料庫系統，例如 Redis、Elasticsearch、Couchbase、Aerospike 等。
• 執行管理任務，例如配置、管理、監控和保護 Apache Hadoop 集群。

在這個由講師指導的線下或遠程培訓中，參與者將學習如何設置和集成不同的流處理框架與現有的大數據存儲系統及相關軟件應用和微服務。

通過本培訓，參與者將能夠：

• 安裝和配置不同的流處理框架，如Spark Streaming和Kafka Streaming。
• 理解並選擇最適合的框架。
• 以連續、併發和逐條記錄的方式處理數據。
• 將流處理解決方案與現有數據庫、數據倉庫、數據湖等集成。
• 將最合適的流處理庫與企業應用和微服務集成。

本次講師指導的培訓在 香港（線上或線下）面向希望使用 SMACK 技術棧構建大數據解決方案的數據科學家。

培訓結束後，參與者將能夠：

• 實現用於處理大數據的數據管道架構。
• 使用 Apache Mesos 和 Docker 開發集羣基礎設施。
• 使用 Spark 和 Scala 分析數據。
• 使用 Apache Cassandra 管理非結構化數據。

這種以講師為主導的香港現場培訓（現場或遠端）針對的是希望建立和部署Apache Spark系統以處理大量數據的工程師。

在培訓結束時，參與者將能夠：

• 安裝和配置 Apache Spark。
• 快速處理和分析非常大的數據集。
• 瞭解Apache Spark和Hadoop MapReduce之間的區別，以及何時使用哪個。
• 將 Apache Spark 與其他機器學習工具整合。

這種由講師指導的現場培訓香港（遠端或遠端）面向希望部署、維護和優化Spark集群的初級到中級系統管理員。

在培訓結束時，參與者將能夠：

• 在各種環境中安裝和配置 Apache Spark。
• 管理群集資源並監視Spark應用程式。
• 優化Spark集群性能。
• 實施安全措施並確保高可用性。
• 調試和排查常見的Spark問題。

Apache Spark的學習曲線在開始時較爲平緩，但需要付出大量努力才能獲得初步回報。本課程旨在幫助學員跳過最初的學習難關。完成本課程後，學員將掌握Apache Spark的基礎知識，能夠清晰區分RDD與DataFrame，學習Python和Scala API，理解執行器和任務等。此外，課程還將遵循最佳實踐，重點關注雲部署、Databricks和AWS。學員還將瞭解AWS EMR與AWS Glue之間的區別，後者是AWS最新的Spark服務之一。

受衆：

數據工程師、DevOps、數據科學家

目標：

本課程將介紹Apache Spark。學員將瞭解Spark如何融入大數據生態系統，以及如何使用Spark進行數據分析。課程涵蓋Spark shell的交互式數據分析、Spark內部機制、Spark API、Spark SQL、Spark流處理、機器學習和GraphX。

受衆：

開發者/數據分析師

這種由 講師指導的 香港 現場培訓（在線或現場）面向希望使用 Spark NLP（基於 Apache Spark 構建）來開發、實施和擴展自然語言文本處理模型和管道的數據科學家和開發人員。

在本次培訓結束時，參與者將能夠：

• 設置必要的開發環境以開始使用 Spark NLP 構建 NLP 管道。
• 瞭解使用 Spark NLP 的功能、架構和優勢。
• 使用 Spark NLP 中提供的預訓練模型來實現文本處理。
• 瞭解如何為生產級項目構建、訓練和擴展 Spark NLP 模型。
• 對實際使用案例（臨床數據、客戶行為洞察等）應用分類、推理和情緒分析。

在這個由講師指導的 香港 現場培訓中，參與者將學習如何在動手練習中同時使用 Python 和 Spark 來分析大數據。

在培訓結束時，參與者將能夠：

• 瞭解如何將Spark與 Python 結合使用來分析 Big Data。
• 進行模仿真實世界案例的練習。
• 使用 PySpark 使用不同的工具和技術進行大數據分析。

這種以講師為主導的香港現場培訓（現場或遠端）針對希望使用和集成Spark，Hadoop和Python以處理，分析和轉換大型複雜數據集的開發人員。

在培訓結束時，參與者將能夠：

• 設置必要的環境以開始使用 Spark、Hadoop 和 Python 處理大數據。
• 瞭解 Spark 和 Hadoop 的功能、核心元件和架構。
• 瞭解如何集成 Spark、Hadoop 和 Python 進行大數據處理。
• 探索 Spark 生態系統中的工具（Spark MlLib、Spark Streaming、Kafka、Sqoop、Kafka 和 Flume）。
• 構建類似於 Netflix、YouTube、Amazon、Spotify 和 Google 的協作過濾推薦系統。
• 使用 Apache Mahout 擴展機器學習演算法。

Stratio是一個以數據爲中心的平臺，集成了大數據、人工智能和治理功能，提供一體化解決方案。其Rocket和Intelligence模塊支持在企業環境中快速進行數據探索、轉換和高級分析。

本次由講師指導的培訓（線上或線下）面向中級數據專業人員，旨在幫助他們有效使用Stratio中的Rocket和Intelligence模塊與PySpark，重點涵蓋循環結構、用戶自定義函數和高級數據邏輯。

培訓結束後，參與者將能夠：

• 在Stratio平臺中導航並使用Rocket和Intelligence模塊。
• 在數據攝取、轉換和分析中應用PySpark。
• 使用循環和條件邏輯控制數據工作流和特徵工程任務。
• 創建並管理用戶自定義函數（UDFs），以在PySpark中實現可重用的數據操作。

課程形式

• 互動式講座與討論。
• 大量練習與實踐。
• 在即時實驗室環境中進行動手操作。

課程定製選項

• 如需爲本課程定製培訓，請聯繫我們安排。