V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
csuyzt
V2EX  ›  机器学习

numpy 实现神经网络系列

  •  
  •   csuyzt · 2018-09-13 21:15:15 +08:00 · 3227 次点击
    这是一个创建于 2269 天前的主题,其中的信息可能已经有所发展或是发生改变。

    numpy 实现神经网络系列

    仅使用 numpy 从头开始实现神经网络,包括反向传播公式推导过程; numpy 构建全连接层、卷积层、池化层、Flatten 层;以及图像分类案例及精调网络案例,欢迎关注和共同参与(持续更新中... ...)

    工程地址: https://github.com/yizt/numpy_neuron_network

    基础知识

    0_1-全连接层、损失函数的反向传播

    0_2_1-卷积层的反向传播-单通道、无 padding、步长 1

    0_2_2-卷积层的反向传播-多通道、无 padding、步长 1

    0_2_3-卷积层的反向传播-多通道、无 padding、步长不为 1

    0_2_4-卷积层的反向传播-多通道、有 padding、步长不为 1

    0_2_5-池化层的反向传播-MaxPooling、AveragePooling、GlobalAveragePooling、GlobalMaxPooling

    0_3-激活函数的反向传播-ReLU、LeakyReLU、PReLU、ELU、SELU

    0_4-优化方法-SGD、AdaGrad、RMSProp、Adadelta、Adam

    DNN 练习

    1_1_1-全连接神经网络做线性回归

    1_1_2-全连接神经网络做 mnist 手写数字识别

    CNN 练习

    2_1-numpy 卷积层实现

    2_2-numpy 池化层实现

    2_3-numpy-cnn-mnist 手写数字识别

    以下部分待完善:

    2_4-对抗神经网络 、csdn 地址

    其它

    模型的保存、部署

    精调网络

    进阶

    5-1-RNN 反向传播

    5-2-LSTM 反向传播

    5-3-GRU 反向传播

    5-4-RNN、LSTM、GRU 实现

    5-5-案例-lstm 连续文字识别

    5 条回复    2018-09-15 15:17:22 +08:00
    zetary
        1
    zetary  
       2018-09-14 00:08:23 +08:00 via iPhone
    厉害…之前只帮人做作业写过一个 cnn
    csuyzt
        2
    csuyzt  
    OP
       2018-09-14 09:04:15 +08:00
    @zetary 过奖,谢谢
    iamshit
        3
    iamshit  
       2018-09-14 11:52:34 +08:00
    之前实习的时候,被迫用 c 实现了一遍神经网络,真是酸爽 /233
    sangleft
        4
    sangleft  
       2018-09-15 15:03:44 +08:00
    有兴趣,想参与。。
    csuyzt
        5
    csuyzt  
    OP
       2018-09-15 15:17:22 +08:00
    @sangleft 欢迎参与!!!
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   987 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 22:45 · PVG 06:45 · LAX 14:45 · JFK 17:45
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.