CNN（卷積神經網路）的鼻祖LeCun，於1998年提出LeNet-5模型，標誌著神經網路的正式出生。

1998年：

1998年LeCun在《Gradient-based learning applied to document recognition》中提出LeNet-5模型。

由於兩個原因，一是BP訓練時的計算量太大，硬體計算能力差；二是淺層機器學習演算法也開始表現得越來越好，特別是SVM。CNN休眠了。

2006年：

GeoffHinton在《科學》雜誌上發表的文章《Reducing the dimensionality of data with neural networks》

2012年：

2012年Alexnet在ImageNet競賽中得了兩個第一，正確率超出第二近10%。詳細資訊記錄在GeoffHinton的文獻《Imagenet classification with deep convolutional neural networks》中。

Taigman等人發表在2014年的CVPR上的文章《DeepFace: Closing the Gap to Human-Level Performance in Face Verification》。同時DeepFace成為CNN在人臉識別領域中的標誌性研究成果。

2015年：

2015年深度學習領域的三巨頭LeCun、Bengio 、Hinton在Nature上發表一篇名為《Deep Learning》的綜述，系統地總結了深度學習的發展前世今生，是一篇科普性較強的文章。

今天，得益於GPU硬體加速和大資料技術，CNN已從學術界走向工程界，大量應用在影象分類、物體檢測、影象分割、影象標註、影象生成等實際工程領域。