"Информатика (базовый и углублённый уровень)", Гейн А.Г., Сенокосов А.И.
Искусственный нейрон получает входные сигналы, умножает их на веса и складывает. Лимитирующая функция преобразует полученную сумму в выход нейрона и удерживает его в заданных границах. Пороговая функция переключает выход при достижении порога, а сигмоидальная меняет его плавно. От выбора функции зависит, будет ли нейрон выдавать простое решение «да или нет» или промежуточное значение, которое можно трактовать как степень уверенности.
Текст подготовлен нейронной сетью по теме параграфа и не заменяет учебник — важные факты и формулировки сверяйте с ним.
Лимитирующая функция — функция, которая преобразует суммарный сигнал нейрона в выходное значение и ограничивает его диапазон. Суммарный сигнал может принимать очень разные значения, поэтому без такого преобразования выход было бы труднее интерпретировать и использовать. Функцию обозначают, например, f, а выход записывают как y = f(s), где s — сумма сигналов.
Искусственный нейрон — модель, складывающая взвешенные входные сигналы и передающая результат через лимитирующую функцию. Входы обозначают x₁, x₂ и так далее, а соответствующие веса — w₁, w₂ и так далее. Вес показывает, насколько сильно вход влияет на результат, поэтому нейрон может учитывать признаки с разной важностью.
Пороговая функция — лимитирующая функция, выдающая одно значение при достижении порога и другое значение ниже порога. Например, при пороге θ она может возвращать 0, если сумма меньше θ, и 1, если сумма не меньше θ. Такое правило удобно, когда от нейрона требуется однозначное решение о наличии или отсутствии сигнала.
Сигмоидальная функция — плавная лимитирующая функция, постепенно переводящая входной сигнал в ограниченный диапазон. Один из распространённых вариантов записывается так: y = 1/(1 + exp(−s)), где exp — показательная функция. Выход находится между 0 и 1, поэтому его можно использовать не только как переключатель, но и как оценку степени выраженности результата.
Каждый вход нейрона сначала умножается на свой вес, а затем полученные произведения складываются: s = x₁w₁ + x₂w₂ + … . Это необходимо, потому что разные признаки могут по-разному влиять на итоговое решение. Положительный вес усиливает сумму при положительном входе, а отрицательный уменьшает её; нулевой вес фактически исключает этот вход. Поэтому нельзя просто сложить входы без учёта их весов.
После суммирования нейрон применяет лимитирующую функцию, чтобы превратить неограниченную по возможным значениям сумму в удобный выход. В зависимости от задачи этот выход может обозначать выбранный класс, наличие сигнала или степень уверенности. Например, ограничение значений от 0 до 1 позволяет читать выход как оценку, близкую к вероятности, хотя сама по себе сигмоидальная функция ещё не гарантирует правильность такой оценки. Таким образом, функцию выбирают не случайно: она задаёт смысл результата нейрона.
В пороговой функции сравнение с порогом θ определяет момент переключения. Если сумма ниже порога, нейрон может выдавать 0, а если достигает или превышает его — 1. Порог регулирует, насколько большой должна быть совокупность входных влияний, чтобы нейрон подал сигнал. Это похоже на условие срабатывания: отдельный слабый признак может оказаться недостаточным, но несколько признаков вместе способны довести сумму до нужного уровня.
Пороговая функция меняется резко: сколь угодно малое изменение суммы около порога может переключить выход с 0 на 1. Сигмоидальная функция ведёт себя иначе — её выход изменяется постепенно, а при больших по модулю значениях приближается к 0 или 1. Плавность полезна, когда важно сохранить информацию о том, насколько сильно выполнено условие, а не только отметить факт его выполнения. Линейная функция, в свою очередь, изменяет выход пропорционально входу и не создаёт резкого переключения.
Выбор функции меняет поведение нейрона и возможности сети, в которую он входит. Жёсткий порог удобен для простого правила классификации, но он не показывает, насколько объект близок к границе решения. Плавная функция сохраняет промежуточные значения, что позволяет сложнее обрабатывать сигналы и корректировать работу сети. При этом одна функция не является лучшей для всех задач: её выбирают в соответствии с тем, какой результат требуется получить.
Сигмоидальная функция ограничивает выход интервалом между 0 и 1: при отрицательных значениях входа она близка к нулю, при положительных — растёт, а при больших входах приближается к единице. В точке s = 0 её значение равно 0,5, поэтому график проходит через середину диапазона. Границы 0 и 1 являются пределами, к которым график приближается, но не достигает их при конечном s. Это позволяет увидеть, как плавное изменение суммарного сигнала отражается на выходе нейрона.
| Характеристика | Пороговая функция | Линейная функция | Сигмоидальная функция |
|---|---|---|---|
| Вид графика | Ступенька с резким скачком у порога | Прямая линия | Плавная S-образная кривая |
| Диапазон выходных значений | Обычно два значения, например 0 и 1 | Как правило, не ограничен | От 0 до 1, не включая границы |
| Формула или правило вычисления | 0 при s < θ; 1 при s ≥ θ | y = ks + b | y = 1/(1 + exp(−s)) |
| Характер изменения выходного сигнала | Резкое переключение | Пропорциональное изменение | Плавное изменение с замедлением у границ |
| Наличие порога | Есть порог переключения θ | Отдельного порога обычно нет | Резкого порога нет |
| Типичные области применения | Простые решения «да/нет» | Модели с линейной зависимостью | Плавная оценка выхода, простые нейронные модели |
Сначала определите, нужно ли нейрону резко выбирать один из вариантов или сохранять промежуточный результат. Затем сравните диапазоны выходов и вид изменения сигнала: так легче отсеять неподходящие функции. Обратите внимание, что линейная функция в общем случае не ограничивает выход, несмотря на то что пороговую и сигмоидальную рассматривают как ограничивающие варианты.
Задача 1. Суммарный сигнал нейрона равен 3, порог равен 2. Пороговая функция выдаёт 0 ниже порога и 1 при достижении порога. Нужно определить выход, поэтому достаточно сопоставить сумму с условием переключения.
Ответ: выход нейрона равен 1. Сумма не просто положительна, а превышает порог, поэтому нейрон находится в состоянии «есть сигнал». Сам порог 2 не является выходом — он задаёт условие выбора.
Задача 2. Даны входы x₁ = 1, x₂ = 0, x₃ = 1 и веса w₁ = 2, w₂ = −1, w₃ = 3. Найдём суммарный сигнал, а затем определим выход при пороге 4; считаем, что функция выдаёт 1 при достижении или превышении порога. Важно сначала умножить каждый вход на его вес, а не сравнивать с порогом отдельные входы.
Ответ: суммарный сигнал равен 5, выход нейрона равен 1. Второй вход не повлиял на сумму, поскольку он равен нулю, хотя его вес отрицательный. Если забыть знак веса или пропустить умножение, можно получить неверный результат.
Задача 3. Нужно задать классификатор двух признаков, который относит объект к классу 1, если взвешенная сумма не меньше порога 3, и к классу 0 в противном случае. Пусть входы — значения признаков x₁ и x₂, веса равны 2 и 1, а порог θ = 3. Проверим объекты A = (1, 0), B = (1, 1) и C = (0, 2), последовательно вычисляя для каждого общий сигнал.
Ответ: A и C относятся к классу 0, B — к классу 1. Признак x₁ влияет вдвое сильнее, чем x₂, поскольку его вес равен 2, а не 1. Классификация определяется всей взвешенной суммой и её сравнением с порогом.
Первая ошибка — сравнивать с порогом отдельный вход вместо общей взвешенной суммы. Так поступают, когда воспринимают каждый признак как самостоятельное условие, хотя пороговая функция применяется после суммирования. Проверка: перед сравнением выпишите s = x₁w₁ + x₂w₂ + … и убедитесь, что учли все входы.
Вторая ошибка — забывать о знаке отрицательного веса или неверно выполнять сложение. Отрицательный вес не означает, что вход следует отбросить: он создаёт отрицательный вклад, который уменьшает сумму. Для проверки посчитайте каждое произведение отдельно, сохранив знак, и лишь после этого складывайте результаты.
Третья ошибка — считать порог выходом функции. Порог задаёт границу, при которой меняется решение, но функция может возвращать другие значения, например 0 и 1. Чтобы проверить себя, отдельно подпишите сумму, порог и результат сравнения; затем примените именно правило функции.
Четвёртая ошибка — полагать, что любая лимитирующая функция выдаёт только 0 или 1. Такое переключение характерно для пороговой функции, тогда как сигмоидальная может принимать промежуточные значения между 0 и 1. Перед вычислением выясните, какая именно функция задана, и уточните её диапазон выходов.
Для работы с лимитирующими функциями нужны навыки вычислений с числами, понимание функций и их графиков, а также умение находить взвешенную сумму. Эти знания помогают правильно определить сначала сигнал, а затем выход нейрона. Тема объясняет устройство искусственного нейрона и простейшего перцептрона, который использует взвешивание и пороговое решение. Позже те же идеи встречаются при изучении нейронных сетей, классификации объектов и машинного обучения.
Зачем нейрону нужна лимитирующая функция?
Она преобразует взвешенную сумму входных сигналов в выход и ограничивает его значения. Благодаря этому выход можно трактовать как решение, сигнал или степень уверенности.
Чем лимитирующая функция отличается от обычной функции?
Лимитирующая функция применяется к суммарному сигналу нейрона и задаёт его выход, часто ограничивая возможные значения. Само слово «функция» не обозначает отдельный математический вид: пороговая и сигмоидальная функции — разные варианты такого преобразования.
Как определить выход нейрона по заданному порогу?
Сначала найдите взвешенную сумму входов. Затем сравните её с порогом и выберите значение по правилу: например, 0 ниже порога и 1 при достижении или превышении порога.
Почему отрицательный вес может изменить решение нейрона?
Отрицательный вес меняет знак вклада соответствующего входа: при положительном входном значении он уменьшает общую сумму. Из-за этого сумма может оказаться по другую сторону порога, и выход нейрона изменится.
Когда используют пороговую, а когда плавную функцию?
Пороговая подходит, когда нужен резкий выбор между двумя состояниями, например 0 и 1. Плавную функцию, такую как сигмоидальная, используют, когда полезны промежуточные выходные значения.
§ 49. Лимитирующая функция
