ШІ та машинне навчання

Що таке нейромережа (нейронна мережа)?

Нейромережа (нейронна мережа, neural network) — це математична модель із шарів пов’язаних між собою «нейронів». Кожен нейрон множить вхідні числа на ваги і передає результат далі. Навчити нейромережу — означає підібрати мільйони таких ваг, щоб відповідь моделі збігалася з правильною.

Окремий нейрон виконує дуже просту операцію. Сила підходу — у глибині: коли шарів багато, перші шари вловлюють прості ознаки (краї, лінії, склади), а наступні складають із них складні поняття (обличчя, зміст фрази). Навчання таких багатошарових мереж називають глибоким навчанням (deep learning).

Сьогодні нейромережі стоять майже за кожним помітним AI-продуктом: розпізнаванням мовлення, генерацією зображень, мовними моделями. Різні архітектури підходять для різних задач — наприклад, трансформери добре працюють із послідовностями, як-от текст.

Де застосовується

Нейромережі використовують там, де правила важко описати словами: розпізнавання облич і номерних знаків, розшифровка мовлення, переклад, медична діагностика за знімками, пошук дефектів на виробництві, генерація тексту і зображень.

На практиці їх рідко створюють з нуля. Частіше беруть готову навчену мережу і донавчають на власних даних — це потребує в сотні разів менше прикладів і обчислень. Працюють зазвичай із PyTorch або TensorFlow, а для навчання орендують відеокарти в хмарі замість купівлі обладнання.

Приклад

Щоб відрізнити кота від собаки на фото, правила прописати неможливо: занадто багато ракурсів, порід і варіантів освітлення. Нейромережа налаштовує мільйони ваг на розмічених прикладах і починає розпізнавати ознаки, які людина навіть не змогла б перелічити.

Часті запитання

Як навчається нейромережа?

Вона отримує приклад, дає відповідь, порівнює її з правильною і обчислює помилку. Потім алгоритм зворотного поширення помилки трохи змінює ваги, щоб цю помилку зменшити. Цикл повторюється мільйони разів, і модель поступово налаштовується.

Що таке глибоке навчання?

Це навчання нейромереж із великою кількістю шарів. Кожен наступний шар працює з усе складнішими ознаками: перші розрізняють лінії та краї, середні — частини об’єктів, останні — об’єкт повністю. Саме глибина дала прорив у розпізнаванні зображень і обробці мови.

Чому нейромережі називають «чорною скринькою»?

Бо рішення закодоване в мільйонах чисел-ваг, а не в зрозумілих правилах. Пояснити, чому модель дала саме таку відповідь, складно. Для регульованих сфер, як-от кредитування, це проблема, тому існують окремі методи пояснення рішень моделі.

Чи потрібна потужна відеокарта для роботи з нейромережами?

Для навчання великих моделей — так, і зазвичай її орендують у хмарі. Але використання готової моделі часто можливе на звичайному процесорі, а для навчання невеликих мереж на навчальних даних вистачає безкоштовних хмарних сервісів на кшталт Google Colab.

Навчання програмуванню в OWU

Опануйте професію в IT на практичних курсах із менторами та реальними проєктами.

Обрати курс