Бернард Відроу (; 24 грудня 1929 — 30 вересня 2025) — американський професор електротехніки в Стенфордському університеті, відомий своєю роботою над штучними нейронними мережами. Він разом зі своїм докторантом Тедом Гоффом винайшов адаптивний алгоритм фільтра найменших квадратів Відроу-Гоффа (LMS-алгоритм). Алгоритм LMS призвів до появи штучних нейронних мереж ADALINE та MADALINE, а також до методу зворотного поширення. Він зробив фундаментальний внесок у розвиток цифрової обробки сигналів у галузі геофізики, адаптивних антен та адаптивної фільтрації.
Відроу був тезкою «Правила дядька Берні»: розмір навчальної вибірки має бути в десять разів більшим за кількість вагових коефіцієнтів у мережі.
Біографія Відроу народився в Норвічі, штат Коннектикут. У молодості він цікавився електронікою. Під час Другої світової війни він знайшов статтю про «Радіоприймачі» у Всесвітній книжковій енциклопедії та побудував самостійно одноламповий радіоприймач.
В 1947 році він вступив до Массачусетського технологічного інституту, де вивчав електротехніку і електроніку та закінчив курс навчання в 1951 році. Після цього він отримав посаду асистента-дослідника в Лабораторії цифрових обчислень Массачусетського технологічного інституту, у групі, яка займалася пам'яттю на магнітному осерді. DCL була підрозділом Лабораторії сервомеханізмів, яка створювала комп'ютер Whirlwind I. Досвід створення пам'яті на магнітному осерді сформував його розуміння комп'ютерів у «погляді очима пам'яті», тобто він «шукав пам'ять і дивився, що можна об'єднатися навколо неї».
Для своєї магістерської дисертації (1953 року, під керівництвом Вільяма Лінвілла) він працював над підвищенням співвідношення сигнал/шум сигналу зчитування пам'яті на магнітному осерді. У той час петлі гістерезису для пам'яті на магнітному осерді були недостатньо квадратичними, що робило сигнал зчитування шумним. Для своєї докторської дисертації (1956, під керівництвом Вільяма Лінвілла) він працював над статистичною теорією шуму квантування,натхненний роботами Вільяма Лінвілла та Девіда Міддлтона.
Під час докторської дисертації він вивчив фільтр Вінера у Лі Юк-Вінга. Щоб розробити фільтр Вінера, необхідно знати статистику безшумного сигналу, який потрібно відновити. Однак, якщо статистика безшумного сигналу невідома, то його неможливо розробити. Таким чином, щоб розв'язати цю проблему, Відроу розробив адаптивний фільтр, який використовував градієнтний спуск для мінімізації середньоквадратичної помилки. Він також відвідував семінари у Дартмуті в 1956 році та натхненно працював над штучним інтелектом.
Робота над ШІ У 1959 році він отримав свого першого аспіранта, Теда Гоффа. Працюючи разом, вони вдосконалили попередній адаптивний фільтр таким чином, що він виконував градієнтний спуск для кожної точки даних, які призвели до появи дельта-правила та ADALINE. Щоб уникнути необхідності ручного налаштування ваг в ADALINE, вони винайшли мемістор, де провідність (ваги ADALINE) створювалася шаром міді на графіті.
Під час зустрічі з Френком Розенблаттом Відроу стверджував, що S-одиниці в перцептроні не повинні бути випадковим чином з'єднані з A-одиницями. Натомість S-одиниці слід видалити, щоб входи фотоелементів безпосередньо вводилися в A-одиниці. Розенблатт заперечив, що «сітківка людини побудована таким чином».
Незважаючи на численні спроби, їм так і не вдалося розробити алгоритм навчання для багатошарової нейронної мережі. Найдалі вони просунулися з правилом Madaline I (1962), яке мало два вагові шари. Перший був навчальним, але другий був фіксованим. Відроу заявив, що їхню проблему вирішив би алгоритм зворотного поширення. «Це було задовго до Пола Вербоса. Зворотне поширення для мене майже диво».
Адаптивна фільтрація Не маючи змоги навчати багатошарові нейронні мережі, Відроу звернувся до адаптивної фільтрації та адаптивної обробки сигналів, використовуючи методи, засновані на фільтрі LMS, для таких застосувань, як адаптивна антена, адаптивне шумозаглушення, та застосування в медицині.
На конференції 1985 року в Сноуберді, штат Юта, він помітив, що дослідження нейронних мереж повертаються, а також дізнався про алгоритм зворотного поширення. Після цього він повернувся до досліджень нейронних мереж.
Публікації 1965 «A critical comparison of two kinds of adaptive classification networks», K. Steinbuch and B. Widrow, IEEE Transactions on Electronic Computers, pp. 737—740. 1985 B. Widrow and S. D. Stearns. Adaptive Signal Processing. New Jersey: Prentice-Hall, Inc., 1985. 1994 B. Widrow and E. Walach. Adaptive Inverse Control. New Jersey: Prentice-Hall, Inc., 1994. 2008 B. Widrow and I. Kollar. Quantization Noise: Roundoff Error in Digital Computation, Signal Processing, Control, and Communications. Cambridge University Press, 2008. 2023 B. Widrow. Cybernetics 2.0. Cham: Springer Nature Switzerland
Нагороди Elected Fellow IEEE, 1976 Elected Fellow AAAS, 1980 IEEE Centennial Medal, 1984 IEEE Alexander Graham Bell Medal, 1986 IEEE Neural Networks Pioneer Medal, 1991 Inducted into the National Academy of Engineering, 1995 IEEE Signal Processing Society Award, 1999 IEEE Millennium Medal, 2000 Benjamin Franklin Medal, 2001 International Neural Network Society (INNIS) Board member 2004 У 2003 році він був одним із членів Ради керуючих Міжнародним товариством нейронних мереж (INNIS).
Примітки