Лабораторна робота №3, Розпізнавання друкарських літер

« Назад

Мета: сформувати навчальні приклади і вивчити персептрон розпізнавати друкарські літери.

Хід роботи

1. Ознайомитися та вивчити теоретичний матеріал.

Теоретичний матеріал

Розглянутий у попередній лабораторній роботі алгоритм навчання персептрона можна представити у більш загальній формі. Якщо за d позначити необхідний вихідний сигнал (від слів desire response, що в перекладі з англійської означає – бажаний відгук), то на кожному епосі навчання можна розрахувати різницю між необхідною відповіддю персептрона d і реальним значенням у, що обчислюється на виході:

ε = (d – у), (1)

тоді:

- Випадок ε = 0 відповідає кроку 4а;

- Випадок ε ˃ 0 відповідає кроку 4б;

- Випадок ε ˂ 0 відповідає кроку 4в.

Ідея алгоритму навчання персептрона за допомогою правил Хебба збережеться, якщо ітераційний процес керування ваг вести за формулами:

в яких w_j(t) і w_j(t+1) - старе і нове значення вагових коефіцієнтів персептрона, j - номер вхідного сигналу.

Крім того, можна отримати аналогічну ітераційну формулу для підстроювання нейронного зміщення b, якщо врахувати, що його можна інтерпретувати як вагу  додаткового входу x₀, значення якого завжди дорівнює 1:

В ітераційні формули корисно ввести коефіцієнт швидкості навчання η зазвичай задаються в межах від 0,05 до 1.

Алгоритм навчання персептрона з використанням цих формул відомий під назвою дельта-правила.

Подальший розвиток ідеї персептрона і алгоритмів навчання пов’язано з ускладненням його структури і розвитком функціональних властивостей. На рис. 1 представлена схема персептрона, призначеного для розпізнавання літер алфавіту. На відміну від попередньої схеми, такий персептрон має 33 вихідних нейрона: кожній літері алфавіту відповідає свій вихідний нейрон. Сигнал першого вихідного нейрона у₁ має дорівнювати одиниці, якщо персептрону пред’явлена літера «А», і нулю для всіх інших літер. Вихід другого нейрона у₂ має дорівнювати одиниці, якщо персептрону пред’явлена літра «Б». і нуль у всіх інших випадках. І так далі до літера «Я».

Рис. 1 - Персептрон, що призначений для розпізнавання літер алфавіту

Крок 1. Датчиком випадкових чисел всім ваговим коефіцієнтам w_ij і нейронним зміщенням w_i0 (і = 1, …, 33, j = 1, …, 12) присвоюються деякі малі випадкові значення.

Крок 2. Персептрону пред’являється будь-яка літера алфавіту, системою фотоелементів виробляється вхідний вектор x_j (j = 1, …, 12). Сигнали додаткових нейронних входів присвоюються одиничними: x₀ = 1.

Крок. 3. Кожен нейрон виконує зважене підсумовування вхідних сигналів

і виробляє вихідний сигнал у_і = 1, якщо ; у_і = 0, якщо .

Крок 4. Для кожного нейрона обчислюється його помилка

ε₁ = d₁ – у₁,

де d₁ – вектор правильних (бажаних) відповідей персептрона, наприклад, для літери «А» d₁=1, d₂ = 0, …, d₃₃ = 0 і т.д.

Крок 5. Відбувається коригування вагових коефіцієнтів і нейронних зсувів:

Де t - номер ітерації (епохи).

Зауважимо, що в цьому алгоритмі формули для коригування нейронних зсувів  можна не писати, так як вони виконуватимуться автоматично, якщо цикл за індексом  починати не від одиниці, а від нуля.

Як вже зазначалося раніше, перший діючий персептрон був створений в 1958-1961 рр. Він був призначений для розпізнавання літер латинського алфавіту. Букви, видрукувані  на картках, по черзі накладали а табло фотоелементів і здійснювали процес навчання персептрона згідно з наведеним тут алгоритмом. Після виконання чималої кількості ітерацій персептрон навчився безпомилково розпізнавати всі літери, що брали участь у навчанні. Таким чином, була підтверджена гіпотеза про те, що комп’ютер, побудований за образом і подобою людського мозку, буде здатний вирішувати інтелектуальні задачі, зокрема – вирішувати задачу розпізнавання образів.

Але це було б не все. Крім того, що персептрон навчився розпізнавати знайомі образи, тобто ці образи, які демонструвалися йому в процесі навчання, він успішно справлявся з розпізнаванням образів, які «бачив» вперше. З’ясувалося, що персептрон виявився здатним розпізнавати літери, видрукувані з невеликими спотвореннями і навіть іншим шрифтом, якщо шрифт не надто сильно відрізнявся від персептрона, що використовувався при навчанні.

Властивість мозку впізнавати образи, які йому зустрілися вперше, називається властивістю узагальнення. Ця властивість була успадкована персептроном безпосередньо від його прототипу – мозку. Вона була успадкована завдяки тому, що персептрон є адекватною моделлю мозку, що вдало відбиває як його структурні, так і функціональні якості. Саме властивість узагальнення згодом дозволила застосувати персептрон для вирішення великого кола практичних завдань, недоступних для традиційних методів. Саме завдяки цій властивості нейронні мережі стали ефективним інструментом наукових досліджень та практичних додатків. Саме завдяки цій властивості нейромережеві і нейрокомп’ютерні технології зайняли те провідне положення, яке займають у даний час.

2. Завантажити файл LR3.exe.

3. Читаючи завдання, що з’являються в протоколі виконання в протоколі виконання намалювати на вхідному табто персептрона почергово букви (згідно варіанту, наприклад А, В, С) по три рази, кожен раз вказуючи мишкою на виході персептрона на ту букву, яка намальована. Намальовані букви плавно переміщаються в нижню частину екрану, де формують безліч навчальних прикладів. Після накопичення достатньої кількості прикладів з’являється кнопка «Обучить», при натисканні на яку запускається алгоритм навчання персептрона, що ілюструється графіком збіжності, тобто залежності помилки навчання від кількості епох навчання t.

4. Потім Вам пропонується за допомогою миші вибрати будь-який приклад з навчальної множини. Обрана буква плавно піднімається вгору і поміщається на вхідному полі персептрона, після чого Ви запускаєте процес розпізнавання букви шляхом натискання кнопки «Распознать образ».

5. Намалюйте на вхідному полі ті ж самі букви знову і перевірте, чи буде персептрон розпізнавати знову намальовані букви. Зробіть висновки.

6. Зробити покроковий звіт з обов’язковими скріпами і висновками.

7. Вислати на електронну пошту файл

Варіанти