Твердая сигмовидная
В искусственном интеллекте , особенно в компьютерном зрении и искусственных нейронных сетях , жесткая сигмовидная мышца — это негладкая функция , используемая вместо сигмовидной функции . Они сохраняют базовую форму сигмоиды, увеличиваясь от 0 до 1, но используют более простые функции, особенно кусочно-линейные функции или кусочно-постоянные функции . Они предпочтительнее там, где скорость вычислений важнее точности.
Примеры
[ редактировать ]Самыми крайними примерами являются знаковая функция или ступенчатая функция Хевисайда , которые переходят от −1 к 1 или от 0 к 1 (какой вариант использования зависит от нормализации) при 0. [1]
Другие примеры включают библиотеку Theano , которая предоставляет два приближения: ultra_fast_sigmoid, которое представляет собой многочастную кусочную аппроксимацию и hard_sigmoid, которое представляет собой трехчастную кусочно-линейную аппроксимацию (выходной сигнал 0, линия с наклоном 0,2, выходной сигнал 1). [2] [3]
Ссылки
[ редактировать ]- ^ Кривые и поверхности в компьютерном зрении и графике, том 1610, SPIE, 1992, с. 301
- ^ «nnet — Ops для нейронных сетей» . Архивировано из оригинала 14 августа 2018 г. Проверено 3 сентября 2018 г.
- ^ Theano/sigm.py по адресу 38a6331ae23250338290e886a72daadb33441bc4 · Theano/Theano · GitHub