課程簡介
該課程分為三天,第三天可選。
Jour 1 - Machine Learning & 深度學習 : 概念 théoriques
1. 簡介 IA、Machine Learning 和深度學習
- 人工智慧的歷史、基本概念和通常應用與該領域所承載的幻想相去甚遠
- 集體智慧:聚合許多虛擬代理共用的知識
- 遺傳演算法:通過選擇進化虛擬代理群體
- Machine Learning usuel : 定義.
- 類型:監督學習、無監督學習、強化學習
- Types d'actions : classification, régression, clustering, estimation de densité, réduction de dimensionalité
- Exemples d'algorithmes Machine Learning : 回歸線性、樸素貝葉斯、隨機樹
- 機器學習 VS 深度學習:機器學習至今仍是最先進的問題 (Random Forests & XGBoosts)
2. 神經網路的基本概念(應用:多層感知器)
- 提醒數學基礎知識。
- 神經網路的定義:經典架構、啟動和加權先前啟動的函數、網路深度
- 神經網路學習的定義:成本函數、反向傳播、隨機梯度下降、最大似然。
- 神經網路建模:根據問題類型(回歸、分類等)對輸入和輸出數據進行建模。維度的詛咒。多特徵數據和信號的區別。根據數據選擇成本函數。
- 通過神經網路逼近函數:演示和示例
- 通過神經網路近似分佈:演示和示例
- 數據增強:如何平衡數據集
- 神經網路結果的泛化。
- 神經網路的初始化和正則化:L1/L2 正則化、批量歸一化等。
- 優化和收斂演算法。
3. 常用 ML/DL 工具
計劃進行簡單的演示,包括優點、缺點、在生態系統中的位置和用途。
- 數據管理工具:Apache Spark、Apache Hadoop
- 常用 Machine Learning 工具:Numpy、Scipy、Sci-kit
- 高級深度學習框架:PyTorch、Keras、Lasagna
- 框架 DL bas niveau : Theano, Torch, Caffe, Tensorflow
第 2 天 - 捲積和循環網路
4. 卷積 Neural Networks (CNN)。
- CNN簡介:基礎知識和應用
- CNN的基本功能:卷積層,內核的使用,填充和跨步,特徵圖的生成,池化層。1D、2D 和 3D 擴展。
- 介紹在圖像分類方面帶來最新技術的不同 CNN 架構:LeNet、VGG Networks、Network in Network、Inception、Resnet。介紹每種架構帶來的創新及其更全域的應用(1x1 卷積或殘差連接)
- 使用注意力模型。
- 應用於常見的分類場景(文字或影像)
- 用於生成的CNN:超解析度、像素到像素分割。介紹增加圖像生成特徵圖的主要策略。
5. 復發性 Neural Networks (RNN)。
- RNN的介紹:基本原理和應用。
- Fonctionnement fondamental du RNN:隱藏啟動,隨時間反向傳播,展開版本。
- 向 GRU(門控循環單元)和 LSTM(長短期記憶)的演變。介紹這些架構帶來的不同狀態和演變
- 收斂問題和梯度消失
- 經典架構的類型:時間序列的預測、分類等。
- RNN 編碼器解碼器架構。使用注意力模型。
- 應用NLP:單詞/字元編碼,翻譯。
- 視頻應用:預測視頻序列的下一幀生成。
第 3 天 - 代際模型和 Reinforcement Learning
6. Modèles générationnels : 變分自編碼器 (VAE) 和生成對抗網路 (GAN).
- 介紹代際模型,與第 2 天看到的 CNN 連結
- 自動編碼:降維和有限生成
- 變分自動編碼器:分代模型和一段數據分佈的近似值。潛在空間的定義和使用。重新參數化技巧。應用和觀察到的局限性
- 產生對抗網路:基礎。雙網路架構(生成器和判別器),具有交替學習和成本函數。
- GAN的收斂和遇到的困難。
- 收斂美洲 : Wasserstein GAN, BeGAN.地球移動距離。
- 圖像或照片生成應用程式,文本生成,超級 解析度。
7.深Reinforcement Learning。
- 強化學習簡介:在由狀態和可能的動作定義的環境中控制智慧體
- 使用神經網路近似狀態函數
- Deep Q Learning : experience replay, et application au contrôle d'un jeu vidéo.
- 優化 de la politique d'apprentissage。政策上和政策外。演員評論家建築。A3C的。
- 應用:控制簡單的視頻遊戲或數字系統。
最低要求
工程師級