Історія розвитку нейрокомп’ютерів

Главная » Каталог статей » Статьи на украинском » Нейрокомп’ютери » Історія розвитку нейрокомп’ютерів

Історія розвитку обчислювальних систем з масовим паралелізмом налічує вже не один десяток років. Мабуть це одна з невеликого числа галузей науки і техніки, де вітчизняні розробки знаходяться на рівні світових досягнень, а в деяких випадках і перевершують їх. Йшли роки, змінювалася елементна база і підходи до архітектури побудови сучасних суперобчислювачів, з’являлися нові напрями, до яких можна віднести і нейрокомп’ютери.

Що ж слід розуміти під терміном нейрокомп’ютер? Питання досить складне. Нейромережева тематика, як така, є міждисциплінарною, нею займаються як розробники обчислювальних систем і програмісти, так і фахівці в області медицини, фінансово-економічні працівники, хіміки, фізики і тому подібне. Те, що зрозуміло фізику, абсолютно не сприймається медиком і навпаки — все це породило багаточисельні суперечки і цілі термінологічні війни по різних напрямах застосування всього, де є приставка нейро-. Наведемо деякі найбільш сталі означення нейрокомп’ютера, прийняті в конкретних наукових областях [87].

Математична статистика

Нейрокомп’ютер — це обчислювальна система, що автоматично формує опис характеристик випадкових процесів або їх сукупності, що мають складні, часто апріорі невідомі функції розподілу.

Математична логіка

Нейрокомп’ютер — це обчислювальна система, алгоритм роботи якої поданий логічною мережею елементів окремого виду — нейронів, з повною відмовою від булевих елементів типу І, АБО, НЕ.

Порогова логіка

Нейрокомп’ютер — це обчислювальна система, алгоритм вирішення завдань в якій поданий у вигляді мережі порогових елементів з динамічно перебудовуваними коефіцієнтами і алгоритмами налаштування, незалежними від розмірності мережі порогових елементів і їх вхідного простору.

Обчислювальна техніка

Нейрокомп’ютер — це обчислювальна система з MSIMD архітектурою, в якій процесорний елемент однорідної структури спрощений до рівня нейрона, різко ускладнені зв’язки між елементами і програмування перенесено на зміну вагових коефіцієнтів-зв’язків між обчислювальними елементами.

Медицина

Нейрокомп’ютер — це обчислювальна система (нейробіологічний підхід) модель взаємодії клітинного ядра, що є, аксонів і дендридів, пов’язаних синаптичними зв’язками (синапсами) (тобто модель біохімічних процесів, які протікають в нервових тканинах).

Економіка і фінанси

Сталого визначення немає, але найчастіше під нейрообчислювачем розуміють систему, що забезпечує паралельне виконання «бізнес-транзакцій» з елементами «бізнес- логіки».

Отже, основні переваги нейрокомп’ютерів пов’язані з масовим паралелізмом обробки, який обумовлює високу швидкодію, низькими вимогами до стабільності і точність параметрів елементарних вузлів, стійкістю до перешкод і руйнувань при великій просторовій розмірності системи, причому стійкі і надійні нейросистеми можуть створюватися з низьконадійних елементів, що мають великий набір параметрів.

Надалі в даній роботі під нейрокомп’ютером буде розумітись будь-яка обчислювальна система з MSIMD архітектурою. Перш ніж перейти до огляду сучасних нейрообчислювачів і їх елементної бази, зупинимося на класифікації архітектури обчислювальних систем за Б.М. Коганом:

— обчислювальна система з одиничним потоком команд і даних (однопроцесорна ЕОМ — SISD), зображена на рис. 4.1;

— обчислювальна система із множинним потоком команд і одиничним потоком даних (MISD — конвеєрна ЕОМ), зображена на рис.4.2;

— обчислювальна система із спільним потоком команд (SIMD — одиничний потік команд і множинний потік даних), зображена на рис. 4.3;

— обчислювальна система з множинним потоком команд і даних (MIMD), зображена на рис. 4.4;

clip_image002

Рисунок 4.1 –Одиничний потік команд – одиничний потік даних (SISD)

clip_image004

Рисунок 4.2 –Множинний потік команд – одиничний потік даних (MISD)

clip_image006

Рисунок 4.3 – Одиничний потік команд – множинний потік даних (SIMD)

clip_image008

Рисунок 4.4 – Множинний потік команд – множинний потік даних (MIMD)

Елементарним будівельним елементом нейронної мережі (НМ) є нейрон, який здійснює зважене підсумовування сигналів, що поступають на його вхід. Результат такого підсумовування утворює проміжний вихідний сигнал, який перетвориться активаційною функцією у вихідний сигнал нейрона. За аналогією з електронними системами активаційну функцію можна вважати за нелінійну підсилювальну характеристику штучного нейрона, що має великий коефіцієнт посилення для слабких сигналів і з падаючим посиленням для великих збуджень. Коефіцієнт посилення обчислюється як відношення вихідного сигналу нейрона до того, який викликав його невеликий приріст зваженої суми вхідних сигналів. Окрім цього для забезпечення збільшення обчислювальної потужності багатошаровими НМ, в порівнянні з одношаровими, необхідно щоб| активаційна функція між шарами була нелінійною, тобто, враховуючи асоціативність операції множення матриць, будь-яку багатошарову нейромережу без нелінійних активаційних функцій можна звести до еквівалентної одношарової нейромережі, яка вельми обмежена за своїми обчислювальними можливостями. Але разом з цим наявність нейлінійності на виході нейрона не може служити визначальним критерієм, добре відомі і успішно працюють нейромережі і без нелінійних перетворень на виході, що отримали назву нейромереж на лініях затримки [88].

Алгоритмічний базис нейрокомп’ютерів забезпечує теорія нейронних мереж (НМ). Нейронна мережа — це мережа з кінцевим числом шарів з однотипних елементів — аналогів нейронів із різними типами зв’язків між шарами. Серед основних переваг НМ є:

— інваріантність методів синтезу НМ до розмірності простору ознак і розмірів НМ

— адекватність сучасним перспективним технологіям

— відмовостійка в сенсі монотонної, а не катастрофічної зміни якості рішення задачі залежно від числа елементів, що вийшли з ладу.

Вирішення математичних завдань в нейромережевому логічному базисі визначають теоретичні положення нейроматематики. Етапи рішення практично будь-якої задачі в нейромережевому логічному базисі:

— формування вхідного сигналу НМ;

— формування вихідного сигналу НМ;

— формування бажаного вихідного сигналу НМ;

— формування сигналу помилки і функціонала оптимізації;

— формування структури нейронної мережі, адекватної вибраному завданню;

— розробка алгоритму налаштування НМ, еквівалентного процесу рішення задачі в нейромережевому логічному базисі;

— проведення досліджень процесу ухвалення рішення задачі.

Все вищевикладене робить побудову сучасних систем управління з використанням нейромережевого підходу і на основі нейромережевого логічного базису одним з найперспективніших напрямів реалізації багатоканальних і багатозв’язаних систем управління.

Як було відмічено, нейрокомп’ютер — це обчислювальна система з MSIMD архітектурою, тобто із паралельними потоками однакових команд і множинним потоком даних. Давайте розберемося, яким чином відносяться нейрокомп’ютери до паралельних ЕОМ. На сьогодні можна виділити три основні напрями розвитку обчислювальних систем з масовим паралелізмом (ВСМП) (табл. 4.1):

Таблиця 4.1 – Основні напрями розвитку обчислювальних систем з масовим паралелізмом

Найменування напряму Опис
ВСМП на базі каскадного з’єднання універсальних SISD, SIMD, MISD мікропроцесорів Елементна база – універсальні RISC або CISC процесори: Intel, AMD, Sparc, Alpha, Power РС, MIPS
На базі процесорів із розпаралелюванням на апаратному рівні Елементна база — DSP процесори: TMS, ADSP, Motorola
ВСМП на спеціалізованій елементній базі Елементна база від спеціалізованих однобітових процесорів до нейрочипів

Для кожного з напрямів сьогодні існують рішення, що реалізовують ті або інші нейромережеві парадигми. Для більшої ясності надалі вважатимемо, що нейромережеві системи, реалізовані на апаратних платформах першого напряму, відноситимемо до нейроемуляторів, тобто систем, що реалізовують типові нейрооперації (зважене підсумовування і нелінійне перетворення) на програмному рівні. Нейромережеві системи, реалізовані на апаратних платформах другого і третього напряму у вигляді плат розширення стандартних обчислювальних систем (1-го напряму), називатимемо нейроприскорювачами (зважене підсумовування, як правило, реалізується апаратно, наприклад, на основі трансверсальних фільтрів, а нелінійні перетворення — програмно) і системи, реалізовані на апаратній платформі третього напряму у вигляді функціональних закінчених обчислювальних пристроїв, слід відносити до нейрокомп’ютерів (всі операції виконуються в нейромережевому логічному базисі). Підводячи підсумки термінологічної «війни» можна відзначити, що нейрокомп’ютери можна сміливо віднести до обчислювальних систем з високим паралелізмом (MSIMD архітектури), реалізованим на основі спеціалізованої елементної бази, орієнтованої на виконання нейромережевих операцій в нейромережевому логічному базисі [89].

В. П. КОЖЕМ’ЯКО, В. В. ДМИТРУК, Н. В. БЕЛІК

НАУКА І ТЕХНІЧНА ТВОРЧІСТЬ В НАВЧАЛЬНОМУ ПРОЦЕСІ (ВІД АБІТУРІЄНТА ДО АСПІРАНТА)

Оставьте комментарий к статье