Евразийский сервер публикаций

Евразийский патент № 035114

   Библиографические данные
(11)035114    (13) B1
(21)201600637

 A ]   B ]   C ]   D ]   E ]   F ]   G ]   H ] 

Текущий раздел: G     


Документ опубликован 2020.04.29
Текущий бюллетень: 2020-04  
Все публикации: 035114  
Реестр евразийского патента: 035114  

(22)2015.03.06
(51) G06E 1/00(2006.01)
(43)A1 2016.12.30 Бюллетень № 12  тит.лист, описание 
(45)B1 2020.04.29 Бюллетень № 04  тит.лист, описание 
(31)61/949,210; 62/106,389
(32)2014.03.06; 2015.01.22
(33)US; US
(86)US2015/019236
(87)2015/134900 2015.09.11
(71)ПРОГРЕСС, ИНК. (US)
(72)Песчанский Дмитрий Виленович (DE)
(73)ПРОГРЕСС, ИНК. (US)
(74)Киселев А.Е. (RU)
(54)НЕЙРОННАЯ СЕТЬ И СПОСОБ ОБУЧЕНИЯ НЕЙРОННОЙ СЕТИ
   Формула 
(57) 1. Нейронная сеть, включающая
множество входов нейронной сети, каждый вход сконфигурирован для приема входного сигнала, имеющего входное значение;
множество синапсов, в котором каждый синапс соединен с одним из множества входов и включает в себя множество корректировочных весов, где каждый корректировочный вес определяется весовым значением;
набор распределителей, в котором каждый распределитель функционально соединен с одним из множества входов с обеспечением приема соответствующего входного сигнала и сконфигурирован для выбора одного или более корректировочных весов из множества корректировочных весов в соответствии с входным значением сигнала так, что входные значения помещаются в диапазон значений, разделенный на интервалы в соответствии с функцией распределения интервалов таким образом, что каждое входное значение помещается в соответствующий интервал, а каждый корректировочный вес соответствует одному из интервалов;
набор нейронов, в котором каждый нейрон имеет по меньшей мере один выход и соединен по меньшей мере с одним из множества входов через один из множества синапсов и в котором каждый нейрон сконфигурирован так, чтобы суммировать весовые значения выбранных распределителем корректировочных весов синапсов, связанных с данным нейроном, с обеспечением формирования нейронной суммы; а также
вычислитель коррекции веса, выполненный с обеспечением приема желаемого выходного сигнала, имеющего значение, определения отклонения нейронной суммы от желаемого значения выходного сигнала и изменения соответствующих значений корректировочных весов с использованием определенного отклонения, таким образом, что добавление значений измененных корректировочных весов для определения нейронной суммы уменьшает до минимума отклонение нейронной суммы от желаемого значения выходного сигнала при обучении нейронной сети.
2. Нейронная сеть по п.1, в которой
определение отклонения нейронной суммы от желаемого выходного сигнала содержит деление желаемого значения выходного сигнала на нейронную сумму с получением коэффициента отклонения; а
изменение значений соответствующих корректировочных весов содержит умножение каждого корректировочного веса, используемого для получения нейронной суммы, на коэффициент отклонения.
3. Нейронная сеть по п.1, в которой отклонение нейронной суммы от желаемого выходного сигнала представляет собой математическую разность между ними и в которой получение соответствующих измененных корректировочных весов включает пропорциональное распределение математической разности между всеми корректировочными весами, используемыми для получения этой нейронной суммы.
4. Нейронная сеть по п.3, в которой распределение математической разности включает деление определенной разности поровну между всеми корректировочными весами, использованными для получения нейронной суммы.
5. Нейронная сеть по п.3, в которой
каждый распределитель дополнительно сконфигурирован назначающим множество коэффициентов воздействия соответствующему множеству корректировочных весов таким образом, что каждый коэффициент воздействия назначается одному из множества корректировочных весов в заранее определенной пропорции для получения нейронной суммы;
каждый нейрон сконфигурирован с обеспечением суммирования произведения корректировочного веса и назначенного коэффициента воздействия для всех синапсов, связанных с ним; а
вычислитель коррекции веса сконфигурирован так, чтобы назначать часть определенной разности каждому корректировочному весу, используемому для получения нейронной суммы, согласно пропорции, установленной соответствующим коэффициентом воздействия.
6. Нейронная сеть по п.5, в которой
каждое соответствующее множество коэффициентов воздействия определяется функцией распределения воздействия;
каждый распределитель использует соответствующее полученное входное значение для выбора соответствующего интервала и для назначения соответствующего множества коэффициентов воздействия корректировочному весу, соответствующему выбранному интервалу и по меньшей мере одному корректировочному весу, соответствующему интервалу, примыкающему к выбранному соответствующему интервалу.
7. Нейронная сеть по п.6, в которой каждый корректировочный вес дополнительно определяется набором индексов, содержащим
входной индекс, сконфигурированный с обеспечением идентификации корректировочного веса, соответствующего входу;
индекс интервала, сконфигурированный с обеспечением определения выбранного интервала для соответствующего корректировочного веса; а также
нейронный индекс, сконфигурированный с обеспечением определения корректировочного веса, соответствующего нейрону.
8. Нейронная сеть по п.7, в которой каждый корректировочный вес дополнительно определяется с помощью индекса доступа, сконфигурированного с возможностью подсчета количества раз, когда входной сигнал обращается к соответствующему корректировочному весу во время обучения нейронной сети.
9. Способ обучения нейронной сети, включающий
получение через вход в нейронную сеть входного сигнала, имеющего входное значение;
передача входного сигнала распределителю, функционально соединенному со входом;
выбор посредством распределителя в соответствии с входным значением одного или нескольких корректировочных весов из множества корректировочных весов так, что обеспечивается получение входных значений в диапазоне значений, разделенном на интервалы в соответствии с функцией распределения интервалов таким образом, что каждое входное значение помещается в соответствующий интервал, и каждый корректировочный вес соответствует одному из интервалов, где каждый корректировочный вес определяется значением веса, и расположен на синапсе, подключенном к входу;
суммирование значений выбранных корректировочных весов нейроном, соединенным с входом посредством синапса и имеющим по меньшей мере один выход, с формированием нейронной суммы;
получение вычислителем коррекции веса желаемого выходного сигнала, имеющего значение;
определение вычислителем коррекции веса отклонения нейронной суммы от желаемого значения выходного сигнала; а также
изменение вычислителем коррекции веса значений соответствующих корректировочных весов с помощью определенного отклонения так, что суммирование измененных значений корректировочных весов для определения нейронной суммы минимизирует отклонение нейронной суммы от желаемого значения выходного сигнала при обучении нейронной сети.
10. Способ по п.9, в котором
вышеуказанное определение отклонения нейронной суммы от желаемого значения выходного сигнала содержит деление желаемого значения выходного сигнала на нейронную сумму с получением коэффициента отклонения; а
вышеуказанное изменение соответствующих корректировочных весов содержит умножение каждого корректировочного веса, используемого для получения нейронной суммы, на коэффициент отклонения.
11. Способ по п.9, в котором вышеупомянутое определение отклонения нейронной суммы от желаемого значения выходного сигнала содержит определение математической разности между ними и в котором вышеуказанное изменение соответствующих корректировочных весов содержит распределение математической разности между всеми корректировочными весами, используемыми для получения нейронной суммы.
12. Способ по п.11, в котором вышесказанное распределение математической разности содержит деление определенной разности поровну между всеми корректировочными весами, использованными для получения нейронной суммы.
13. Способ по п.9, далее содержащий
назначение посредством распределителя множества коэффициентов воздействия множеству корректировочных весов и содержащий назначение каждого коэффициента воздействия одному из множества корректировочных весов в заранее определенной пропорции с получением нейронной суммы;
суммирование посредством нейрона произведений корректировочного веса и назначенного коэффициента воздействия для каждого синапса, связанного с ним;
а также добавление посредством вычислителя коррекции веса части определенной разности к каждому корректировочному весу, используемому для получения нейронной суммы согласно пропорции, установленной соответствующим коэффициентом воздействия.
14. Способ по п.13, в котором множество коэффициентов воздействия определяется функцией распределения воздействия; способ дополнительно содержит
использование посредством распределителя полученного входного значения для выбора соответствующего интервала и для назначения множества коэффициентов воздействия корректировочным весам, соответствующим выбранному интервалу и по меньшей мере одному корректировочному весу, соответствующему интервалу, примыкающему к выбранному соответствующему интервалу.
15. Способ по п.14, далее содержащий дополнительное определение каждого корректировочного веса набором индексов, в котором набор индексов включает
входной индекс, сконфигурированный, чтобы идентифицировать корректировочный вес, соответствующий входу;
индекс интервала, сконфигурированный, чтобы определять выбранный интервал для соответствующего корректировочного веса; а также
нейронный индекс, сконфигурированный, чтобы определять корректировочный вес, соответствующий нейрону.
16. Способ по п.15, далее содержащий дополнительное определение каждого корректировочного веса с помощью индекса доступа, сконфигурированного с обеспечением подсчета количества раз, когда входной сигнал обращается к соответствующему корректировочному весу во время обучения нейронной сети.
Zoom in