Оптична нейронна мережа
Оптична нейронна мережа (ОНМ, англ. optical neural network, ONN) — фізична реалізація штучної нейронної мережі з використанням оптичних компонентів.
Типи
ред.Об'ємна голограма
ред.Ранні ОНМ використовували для з'єднання масивів вхідних нейронів із масивами вихідних даних із синаптичними вагами пропорційно потужності мультиплексованої голограми фоторефрактивну об'ємну голограму[2]. Об'ємні голограми були додатково мультиплексовані за допомогою випалювання спектральних дірок, щоб додати вимір довжини хвилі до простору для досягнення чотиривимірних взаємозв'язків двовимірних масивів нейронних входів і виходів[3]. Це спонукало до дослідження альтернативних методів використання сили оптичного з'єднання для реалізації нейронних комунікацій[4].
Кремнієва фотоніка
ред.Кремнієва фотоніка пропонує високу швидкість, але їй бракує масивного паралелізму, який може забезпечити оптика вільного простору.
Оптика вільного простору
ред.Оптика вільного простору пропонує істотний паралелізм. В одній із реалізацій класифікатора рукописних цифр використано фазові маски[5]. Світло, що проходить крізь стос 3D-друкованих фазових масок, можна зчитати фотодетекторною матрицею із десяти детекторів, кожен з яких представляє клас цифр (від 0 до 9). Хоча ця мережа може досягати терагерцових швидкостей, їй бракує гнучкості, оскільки фазові маски виготовляються для конкретного завдання і не піддаються навчанню.
В альтернативному методі використовують згортку 4F. Ця система використовує дві лінзи для виконання згорткових перетворень Фур'є, уможливлюючи пасивне перетворення в область Фур'є без енергоспоживання чи затримки. Ядра згортки є фіксованими фазовими масками для конкретного завдання[6].
В іншому методі для доступу до паралельності системи 4F використано мозаїку ядра на основі цифрового мікродзеркального пристрою[en] замість фазової маски. Ядра можна вводити в систему 4F і проводити висновування[7].
Типові нейронні мережі не розроблені для систем 4F, у їхніх картах функцій використовують нижчу роздільну здатність і більше каналів.
Програмований оптичний масив/аналоговий комп'ютер
ред.Програмований оптичний масив/аналоговий комп'ютер (POAC) реалізовано в 2000 році на основі модифікованого спільного корелятора перетворення Фур'є (JTC) і голографічної оптичної пам'яті на основі бактеріородопсину (BR). Система забезпечувала повний паралелізм та великий розмір масиву в оптичній згортковій нейронній мережі. POAC — це комп'ютер із програмованим масивом загального призначення, який має широкий спектр застосувань, зокрема: обробка зображень, розпізнавання образів, відстеження цілей[en], обробка відео в реальному часі, захист документів і оптична комутація[en].
Гібридні технології
ред.Taichi — це гібридна ОНМ, яка поєднує в собі енергоефективність і паралелізм оптичної дифракції та конфігурованість оптичної інтерференції. Taichi пропонує 13,96 млн параметрів. Taichi уникає високої частоти помилок, які впливають на глибокі (багатошарові) мережі, поєднуючи кластери з меншої кількості шарів дифракційних блоків з масивами інтерферометрів для реконфігурації обчислень. Її протокол кодування розділяє великі мережеві моделі на підмоделі, які можна розподіляти паралельно між кількома чиплетами[en][8].
Taichi досяг 91,89 % точності в тестах з базою даних Omniglot. Її також використовували для створення музики в стилі Баха та зображень у стилі ван Гога та Мунка[8].
Розробники заявили про енергоефективність до 160 трлн операцій на секунду на Вт і площеву ефективність 880 трлн операцій множення-накопичення на мм2, що в 103 разів енергоефективніше, ніж NVIDIA H100, і в 102 разів енергоефективніше та в 10 разів ефективніше за площею, ніж у попередніх ОНМ[8].
Інші
ред.До ОНМ належать нейронна мережа Гопфілда[9] та самоорганізаційна карта Кохонена з рідкокристалічними просторовими модуляторами світла[10]. На основі нейроморфної інженерії можна створювати нейроморфні фотонні системи. Як правило, ці системи кодують інформацію в мережах за допомогою спайків, імітуючи на оптичному та фотонному обладнанні функціональні можливості нейронних мереж зі спайками[en].
Інші фотонні пристрої продемонстрували нейроморфні функції, включаючи поверхнево-випромінювальні лазери з вертикальним резонатором[en],[11][12] інтегровані фотонні модулятори,[13] оптоелектронні системи на основі надпровідних джозефсонівських переходів[14] або системи на основі резонансних тунельних діодів[15].
Порівняння з біологією
ред.Біологічні нейронні мережі є електрохімічними, тоді як оптичні нейронні мережі використовують електромагнітні хвилі. Оптичні інтерфейси до біологічних нейронних мереж можна створити за допомогою оптогенетики[en]. Біологічні нейронні мережі використовують кілька механізмів для зміни стану нейронів, серед них короткочасна і довгострокова синаптична пластичність. Синаптична пластичність належить до електрофізіологічних явищ, які використовуються для керування ефективністю синаптичної передачі, довгострокової для навчання та пам'яті та короткочасної для тимчасових змін ефективності синаптичної передачі. Ідеальна реалізація цього вимагає передових фотонних матеріалів.
Бажаною властивістю фотонних матеріалів для оптичних нейронних мереж є здатність змінювати ефективність пропускання світла залежно від інтенсивності вхідного світла.
Див. також
ред.Примітки
ред.- ↑ Qian, Chao; Lin, Xiao; Lin, Xiaobin; Xu, Jian; Sun, Yang; Li, Erping; Zhang, Baile; Chen, Hongsheng (2020). Performing optical logic operations by a diffractive neural network. Light: Science & Applications. 9 (59): 59. Bibcode:2020LSA.....9...59Q. doi:10.1038/s41377-020-0303-2. PMC 7154031. PMID 32337023.
- ↑ Wagner K, Psaltis D (1988). Adaptive optical networks using photorefractive crystals. Appl. Opt. 27 (9): 1752—1759. Bibcode:1988ApOpt..27.1752P. doi:10.1364/AO.27.001752. PMID 20531647.
- ↑ Weverka R, Wagner K, Saffman M (1991). Fully interconnected, two-dimensional neural arrays using wavelength-multiplexed volume holograms. Optics Letters. 16 (11): 826—828. Bibcode:1991OptL...16..826W. doi:10.1364/OL.16.000826. PMID 19776798.
- ↑ Wagner K, Psaltis D (1993). Optical neural networks: an introduction by the feature editors. Appl. Opt. 32 (8): 1261—1263. Bibcode:1993ApOpt..32.1261W. doi:10.1364/AO.32.001261. PMID 20820259.
- ↑ Lin, Xing; Rivenson, Yair; Yardimci, Nezih T.; Veli, Muhammed; Luo, Yi; Jarrahi, Mona; Ozcan, Aydogan (7 вересня 2018). All-optical machine learning using diffractive deep neural networks. Science. 361 (6406): 1004—1008. arXiv:1804.08711. Bibcode:2018Sci...361.1004L. doi:10.1126/science.aat8084. PMID 30049787.
- ↑ Chang, Julie; Sitzmann, Vincent; Dun, Xiong; Heidrich, Wolfgang; Wetzstein, Gordon (17 серпня 2018). Hybrid optical-electronic convolutional neural networks with optimized diffractive optics for image classification. Scientific Reports. 8 (1): 12324. Bibcode:2018NatSR...812324C. doi:10.1038/s41598-018-30619-y. PMC 6098044. PMID 30120316.
- ↑ Li, Shurui; Miscuglio, Mario (2020). Channel Tiling for Improved Performance and Accuracy of Optical Neural Network Accelerators. arXiv:2011.07391 [cs.ET].
- ↑ а б в CHOI, CHARLES Q. (12 квітня 2024). AI Chip Trims Energy Budget Back by 99+ Percent - IEEE Spectrum. spectrum.ieee.org (англ.). Процитовано 17 квітня 2024.
- ↑ Ramachandran R, Gunasekaran N (2000). Optical Implementation of Two Dimensional Bipolar Hopfield Model Neural Network (Scientific Note) (PDF). Proceedings-National Science Council Republic of China Part a Physical Science and Engineering. 24 (1): 73—8. Архів оригіналу (PDF) за 12 жовтня 2004.
- ↑ Duvillier J, Killinger M, Heggarty K, Yao K, de Bougrenet de la Tocnaye JL (January 1994). All-optical implementation of a self-organizing map: a preliminary approach. Applied Optics. 33 (2): 258—66. Bibcode:1994ApOpt..33..258D. doi:10.1364/AO.33.000258. PMID 20862015.
- ↑ Hejda M, Robertson J, Bueno J, Alanis J, Hurtado A (1 червня 2021). Neuromorphic encoding of image pixel data into rate-coded optical spike trains with a photonic VCSEL-neuron. APL Photonics (англ.). 6 (6): 060802. Bibcode:2021APLP....6f0802H. doi:10.1063/5.0048674. ISSN 2378-0967.
- ↑ Robertson J, Hejda M, Bueno J, Hurtado A (April 2020). Ultrafast optical integration and pattern classification for neuromorphic photonics based on spiking VCSEL neurons. Scientific Reports. 10 (1): 6098. Bibcode:2020NatSR..10.6098R. doi:10.1038/s41598-020-62945-5. PMC 7142074. PMID 32269249.
- ↑ George JK, Mehrabian A, Amin R, Meng J, de Lima TF, Tait AN та ін. (February 2019). Neuromorphic photonics with electro-absorption modulators. Optics Express. 27 (4): 5181—5191. arXiv:1809.03545. Bibcode:2019OExpr..27.5181G. doi:10.1364/OE.27.005181. PMID 30876120.
- ↑ Shainline JM (January 2020). Fluxonic Processing of Photonic Synapse Events. IEEE Journal of Selected Topics in Quantum Electronics. 26 (1): 1—15. arXiv:1904.02807. Bibcode:2020IJSTQ..2627473S. doi:10.1109/JSTQE.2019.2927473. ISSN 1077-260X.
- ↑ Romeira B, Javaloyes J, Ironside CN, Figueiredo JM, Balle S, Piro O (September 2013). Excitability and optical pulse generation in semiconductor lasers driven by resonant tunneling diode photo-detectors. Optics Express. 21 (18): 20931—40. Bibcode:2013OExpr..2120931R. doi:10.1364/OE.21.020931. PMID 24103966.
{{cite journal}}:|hdl-access=вимагає|hdl=(довідка)