激活函数小结

简单整理了一下目前深度学习中提出的激活函数,按照激活函数是否可微的性质分为3类:

论文及资料已上传至GitHub: yhlleo/Activations.


简单绘制部分激活函数曲线:

ActivationFunctions


References: