Komórkowa sieć neuronowa

W informatyce i uczeniu maszynowym komórkowe sieci neuronowe ( CNN ) lub komórkowe sieci nieliniowe ( CNN ) to paradygmat obliczeń równoległych podobny do sieci neuronowych , z tą różnicą , że komunikacja jest dozwolona tylko między sąsiednimi jednostkami. Typowe zastosowania obejmują przetwarzanie obrazu , analizę powierzchni 3D, rozwiązywanie równań różniczkowych cząstkowych , redukowanie problemów niewizualnych do map geometrycznych , modelowanie biologicznego widzenia i innych narządów czuciowo-ruchowych .

CNN nie należy mylić z konwolucyjną siecią neuronową (potocznie nazywaną również CNN).

Architektura CNN

Ze względu na ich liczbę i różnorodność architektur trudno jest podać dokładną definicję procesora CNN. Z punktu widzenia architektury procesory CNN są systemem skończonych, o stałej liczbie, stałej lokalizacji, stałej topologii, lokalnie połączonych, wielowejściowych, jednowyjściowych, nieliniowych jednostek przetwarzających. Jednostki przetwarzania nieliniowego są często nazywane neuronami lub komórkami . Z matematycznego punktu widzenia każdą komórkę można modelować jako rozpraszający , nieliniowy system dynamiczny , w którym informacje są kodowane poprzez jej stan początkowy, dane wejściowe i zmienne używane do definiowania jej zachowania. Dynamika jest zwykle ciągła, jak w przypadku w czasie ciągłym (CT-CNN), ale może być dyskretna, jak w przypadku procesorów CNN w czasie dyskretnym (DT-CNN).

Każda komórka posiada jedno wyjście, za pomocą którego komunikuje swój stan zarówno z innymi komórkami, jak i urządzeniami zewnętrznymi. Dane wyjściowe są zwykle wartościami rzeczywistymi , ale mogą być złożone lub nawet kwaternionów , np. wielowartościowy CNN (MV-CNN). Większość procesorów CNN, jednostki przetwarzające są identyczne, ale istnieją aplikacje, które wymagają nieidentycznych jednostek, które są nazywane procesorami Non-Uniform Processor CNN (NUP-CNN) i składają się z różnych typów komórek.

Chua Yang CNN

W oryginalnym procesorze Chua-Yang CNN (CY-CNN) stan komórki był ważoną sumą danych wejściowych, a wyjście było fragmentaryczną funkcją liniową . Jednak, podobnie jak oryginalne na perceptronie , funkcje, które mógł wykonywać, były ograniczone: w szczególności nie był w stanie modelować funkcji nieliniowych , takich jak XOR . Bardziej złożone funkcje są możliwe do zrealizowania za pomocą nieliniowych procesorów CNN (NL-CNN).

Komórki są definiowane w znormalizowanej przestrzeni z siatką, takiej jak dwuwymiarowa geometria euklidesowa . Jednak komórki nie są ograniczone do przestrzeni dwuwymiarowych; mogą być zdefiniowane w dowolnej liczbie wymiarów i mogą być kwadratowe , trójkątne , sześciokątne lub w dowolnym innym przestrzennie niezmiennym układzie. Topologicznie komórki mogą być rozmieszczone na nieskończonej płaszczyźnie lub na przestrzeni toroidalnej . Połączenie między komórkami jest lokalne, co oznacza, że wszystkie połączenia między komórkami mieszczą się w określonym promieniu (z odległością mierzoną topologicznie ). Połączenia mogą być również opóźnione w czasie, aby umożliwić przetwarzanie w domenie czasowej.

Większość architektur CNN ma komórki z tymi samymi względnymi połączeniami, ale istnieją aplikacje, które wymagają przestrzennie zmiennej topologii, np. procesory CNN o wielu rozmiarach sąsiedztwa (MNS-CNN). Również wielowarstwowe procesory CNN (ML-CNN), w których wszystkie komórki w tej samej warstwie są identyczne, można wykorzystać do rozszerzenia możliwości procesorów CNN.

Definicja systemu to zbiór niezależnych, oddziałujących na siebie bytów tworzących zintegrowaną całość, których zachowanie jest odrębne i jakościowo większe niż jego byty. Chociaż połączenia są lokalne, wymiana informacji może odbywać się globalnie poprzez dyfuzję. W tym sensie procesory CNN są systemami, ponieważ ich dynamika pochodzi z interakcji między jednostkami przetwarzającymi, a nie w jednostkach przetwarzających. W rezultacie wykazują zachowania wyłaniające się i zbiorowe. Z matematycznego punktu widzenia związek między komórką a jej sąsiadami znajdującymi się w obszarze oddziaływania można zdefiniować za pomocą prawa sprzężenia , które przede wszystkim determinuje zachowanie procesora. Kiedy prawa sprzężenia są modelowane przez logikę rozmytą , jest to rozmyta CNN. Kiedy te prawa są modelowane przez obliczeniową logikę czasowników, staje się czasownikiem obliczeniowym CNN. Zarówno rozmyte, jak i czasownikowe CNN są przydatne do modelowania sieci społecznościowych, gdy lokalne powiązania są osiągane za pomocą językowych .

Historia

Pomysł procesorów CNN został przedstawiony przez Leona Chua i Lin Yang w 1988 roku. W tych artykułach Chua i Yang przedstawiają matematykę leżącą u podstaw procesorów CNN. Używają tego modelu matematycznego, aby wykazać, dla konkretnej implementacji CNN, że jeśli dane wejściowe są statyczne, jednostki przetwarzania będą zbieżne i mogą być użyte do wykonania przydatnych obliczeń. Następnie proponują jedno z pierwszych zastosowań procesorów CNN: przetwarzanie obrazu i rozpoznawanie wzorców (które nadal jest największym jak dotąd zastosowaniem). Leon Chua jest nadal aktywny w badaniach CNN i publikuje wiele swoich artykułów w International Journal of Bifurcation and Chaos , którego jest redaktorem. Zarówno IEEE Transactions on Circuits and Systems, jak i International Journal of Bifurcation zawierają również wiele przydatnych artykułów na temat procesorów CNN, których autorami są inni znający się na rzeczy badacze. Ten pierwszy koncentruje się na nowych architekturach CNN, a drugi bardziej na dynamicznych aspektach procesorów CNN.

W 1993 roku Tamas Roska i Leon Chua przedstawili pierwszy na świecie programowalny algorytmicznie analogowy procesor CNN. Wielonarodowe przedsięwzięcie zostało sfinansowane przez Biuro Badań Marynarki Wojennej , Narodową Fundację Nauki i Węgierską Akademię Nauk , a zbadane przez Węgierską Akademię Nauk i Uniwersytet Kalifornijski . Ten artykuł udowodnił, że procesory CNN są możliwe do wyprodukowania i zapewnił naukowcom fizyczną platformę do testowania ich teorii CNN. Po tym artykule firmy zaczęły inwestować w większe, wydajniejsze procesory, oparte na tej samej podstawowej architekturze, co uniwersalny procesor CNN. Tamas Roska to kolejny kluczowy współpracownik CNN. Jego nazwisko jest często kojarzone z platformami i algorytmami przetwarzania informacji inspirowanymi biologią. Opublikował wiele kluczowych artykułów i był zaangażowany w firmy i instytucje badawcze rozwijające technologię CNN.

Literatura

Dwa odniesienia są uważane za nieocenione, ponieważ udaje im się uporządkować ogromną ilość literatury CNN w spójne ramy:

Przegląd Valerio Cimagalli i Marco Balsi. Artykuł zawiera zwięzłe wprowadzenie do definicji, typów CNN, dynamiki, implementacji i aplikacji.
„Cellular Neural Networks and Visual Computing Foundations and Applications”, napisany przez Leona Chua i Tamasa Roskę, który zawiera przykłady i ćwiczenia. Książka omawia wiele różnych aspektów procesorów CNN i może służyć jako podręcznik dla magistra lub doktora. kurs.

Inne zasoby obejmują

Materiały z „Międzynarodowych warsztatów na temat komórkowych sieci neuronowych i ich zastosowań” zawierają wiele literatury CNN.
Materiały są dostępne online za pośrednictwem IEEE Xplore dla konferencji, które odbyły się w latach 1990, 1992, 1994, 1996, 1998, 2000, 2002, 2005 i 2006.
Odbyły się również warsztaty w Santiago de Composetela w Hiszpanii. Tematy obejmowały teorię, projektowanie, aplikacje, algorytmy, implementacje fizyczne oraz metody programowania i szkolenia.
Aby zrozumieć technologię CNN opartą na analogowych półprzewodnikach , AnaLogic Computers ma swoją linię produktów, oprócz opublikowanych artykułów dostępnych na ich stronie głównej i liście publikacji. Posiadają również informacje na temat innych technologii CNN, takich jak obliczenia optyczne. Wiele powszechnie używanych funkcji zostało już zaimplementowanych przy użyciu procesorów CNN. Dobry punkt odniesienia dla niektórych z nich można znaleźć w bibliotekach przetwarzania obrazu dla komputerów wizualnych opartych na CNN, takich jak systemy oparte na CNN firmy Analogic.

Powiązane architektury przetwarzania

Procesory CNN można traktować jako hybrydę pomiędzy ANN i Continuous Automata (CA).

Sztuczne sieci neuronowe

Jednostki przetwarzania CNN i NN są podobne. W obu przypadkach jednostki procesorowe to wielowejściowe, dynamiczne systemy , a zachowanie całego systemu zależy przede wszystkim od ciężaru liniowego połączenia jednostki przetwarzającej.

Jednak w procesorach CNN połączenia są nawiązywane lokalnie, podczas gdy w ANN połączenia są globalne.

Na przykład neurony w jednej warstwie są w pełni połączone z inną warstwą w sieci NN typu feed-forward , a wszystkie neurony są w pełni połączone w sieciach Hopfielda . W SSN wagi wzajemnych połączeń zawierają informacje o poprzednim stanie systemu przetwarzającego lub sprzężeniu zwrotnym.

Ale w procesorach CNN wagi służą do określenia dynamiki systemu.

Ponadto, ze względu na wysoką wzajemną łączność SSN, zwykle nie wykorzystują one lokalności ani w zbiorze danych, ani w przetwarzaniu, w wyniku czego są to zwykle wysoce redundantne systemy, które pozwalają na solidne, odporne na błędy zachowanie bez katastrofalnych błędów .

Skrzyżowanie ANN i procesora CNN to Ratio Memory CNN (RMCNN). W procesorach RMCNN interkonekt komórki jest lokalny i topologicznie niezmienny, ale wagi służą do przechowywania poprzednich stanów, a nie do sterowania dynamiką. Wagi komórek są modyfikowane podczas pewnego stanu uczenia się, tworząc pamięć długoterminową.

Ciągłe automaty

Topologia i dynamika procesorów CNN bardzo przypomina CA. Podobnie jak większość procesorów CNN, CA składa się z ustalonej liczby identycznych procesorów, które są przestrzennie dyskretne i topologicznie jednolite. Różnica polega na tym, że większość procesorów CNN ma wartości ciągłe, podczas gdy CA ma wartości dyskretne. Ponadto zachowanie komórki procesora CNN jest definiowane przez pewną funkcję nieliniową, podczas gdy komórki procesora CA są definiowane przez pewną maszynę stanów.

Jednakże, jest kilka wyjątków. Continuous Valued Cellular Automata to CA z ciągłą rozdzielczością. W zależności od tego, jak określony jest dany automat ciągły, może to być również CNN.

Istnieją również ciągłe automaty przestrzenne , które składają się z nieskończonej liczby ciągłych przestrzennie automatów o wartościach ciągłych. W tej dziedzinie wykonuje się znaczną pracę, ponieważ przestrzenie ciągłe są łatwiejsze do modelowania matematycznego niż przestrzenie dyskretne, co pozwala na podejście bardziej ilościowe, w przeciwieństwie do podejścia empirycznego przyjętego przez niektórych badaczy automatów komórkowych . Procesory ciągłych automatów przestrzennych można fizycznie zrealizować za pomocą niekonwencjonalnej platformy przetwarzania informacji, takiej jak komputer chemiczny . Ponadto można sobie wyobrazić, że duże procesory CNN (pod względem rozdzielczości wejścia i wyjścia) mogą być modelowane jako ciągłe automaty przestrzenne.

Model obliczeń

Dynamiczne zachowanie procesorów CNN można wyrazić za pomocą równań różniczkowych , gdzie każde równanie reprezentuje stan pojedynczej jednostki przetwarzającej. Zachowanie całego procesora CNN jest definiowane przez jego warunki początkowe, dane wejściowe, wzajemne połączenia komórek (topologię i wagi) oraz same komórki. Jednym z możliwych zastosowań procesorów CNN jest generowanie i odpowiadanie na sygnały o określonych właściwościach dynamicznych. Na przykład procesory CNN były używane do generowania chaosu multiscroll (jak atraktor Chen), synchronizacji z chaotycznymi systemami i wykazywania wielopoziomowej histerezy . Procesory CNN są zaprojektowane specjalnie do rozwiązywania lokalnych, niskopoziomowych problemów intensywnie korzystających z procesora, wyrażonych jako funkcja przestrzeni i czasu. Na przykład procesory CNN można wykorzystać do implementacji filtrów górnoprzepustowych i dolnoprzepustowych oraz operatorów morfologicznych . Można ich również używać do aproksymacji szerokiego zakresu równań różniczkowych cząstkowych (PDE), takich jak rozpraszanie ciepła i propagacja fal.

Reakcja-dyfuzja

Procesory CNN mogą być używane jako procesory reakcji-dyfuzji (RD). Procesory RD to niezmienne przestrzennie, niezmienne topologicznie, analogowe, równoległe procesory charakteryzujące się reakcjami, w których dwóch agentów może łączyć się, tworząc trzeciego agenta, oraz dyfuzją , czyli rozprzestrzenianiem się agentów. Procesory RD są zwykle implementowane za pomocą chemikaliów w szalce Petriego (procesor), świetle (wejście) i kamerze (wyjście), jednak procesory RD można również zaimplementować za pomocą wielowarstwowego procesora CNN. Procesory D mogą być używane do tworzenia diagramów Voronoi i przeprowadzania szkieletyzacji . Główna różnica między implementacją chemiczną a implementacją CNN polega na tym, że implementacje CNN są znacznie szybsze niż ich chemiczne odpowiedniki, a procesory chemiczne są przestrzennie ciągłe, podczas gdy procesory CNN są przestrzennie dyskretne. Najbardziej przebadany procesor RD, procesory Biełousowa-Żabotyńskiego (BZ), został już zasymulowany przy użyciu czterowarstwowych procesorów CNN i został zaimplementowany w półprzewodniku.

Funkcje logiczne

Podobnie jak CA, obliczenia można wykonywać poprzez generowanie i propagację sygnałów, które rosną lub zmieniają się w czasie. Obliczenia mogą odbywać się w obrębie sygnału lub mogą zachodzić poprzez interakcję między sygnałami. Jednym z rodzajów przetwarzania, który wykorzystuje sygnały i nabiera rozpędu, jest przetwarzanie falowe , które obejmuje generowanie, rozszerzanie się i ostateczne zderzenie fal. Przetwarzanie falowe może służyć do mierzenia odległości i znajdowania optymalnych ścieżek. Obliczenia mogą również odbywać się za pomocą cząstek, szybowców, roztworów i zlokalizowanych struktur, które zachowują swój kształt i prędkość. Biorąc pod uwagę, w jaki sposób te struktury oddziałują/zderzają się ze sobą oraz z sygnałami statycznymi, można ich używać do przechowywania informacji jako stanów i implementowania różnych funkcji boolowskich . Obliczenia mogą również zachodzić między złożonymi, potencjalnie rosnącymi lub ewoluującymi zlokalizowanymi zachowaniami za pośrednictwem robaków, drabin i węży pikselowych. Oprócz przechowywania stanów i wykonywania funkcji boolowskich struktury te mogą wchodzić w interakcje, tworzyć i niszczyć struktury statyczne.

Zastosowania CNN do funkcji boolowskich omówiono w artykule Fangyue Chen, Guolong He, Xiubin Xu i Guanrong Chen , „Implementation of Arbitrary Boolean Functions via CNN”.

Automaty i maszyny Turinga

Chociaż procesory CNN są przeznaczone głównie do obliczeń analogowych, niektóre typy procesorów CNN mogą implementować dowolną funkcję boolowską, umożliwiając symulację CA. Ponieważ niektóre CA to uniwersalne maszyny Turinga (UTM), zdolne do symulacji dowolnego algorytmu mogą być wykonywane na procesorach opartych na architekturze von Neumanna , co czyni ten typ procesorów CNN uniwersalnym CNN, UTM. Jedna architektura CNN składa się z dodatkowej warstwy. Procesory CNN zaowocowały najprostszą realizacją Gry w Życie Conwaya i Reguły 110 Wolframa , najprostszej znanej uniwersalnej Maszyny Turinga . Ta unikalna, dynamiczna reprezentacja starych systemów pozwala naukowcom zastosować techniki i sprzęt opracowane dla CNN, aby lepiej zrozumieć ważny CA. Co więcej, ciągła przestrzeń stanów procesorów CNN, z niewielkimi modyfikacjami, które nie mają odpowiednika w automatach komórkowych , tworzy wyłaniające się zachowania, których nigdy wcześniej nie widziano.

Każda platforma przetwarzania informacji, która pozwala na konstruowanie dowolnych funkcji boolowskich nazywana jest uniwersalną, w związku z czym procesory tej klasy CNN są powszechnie określane jako uniwersalne procesory CNN. Oryginalne procesory CNN mogą wykonywać tylko liniowo separowalne funkcje boolowskie. Dzięki translacji funkcji z logiki cyfrowej lub domen tablic przeglądowych na domenę CNN niektóre funkcje można znacznie uprościć. Na przykład dziewięciobitowa logika generowania parzystości nieparzystej, która jest zwykle realizowana przez osiem zagnieżdżonych wyłącznych bramek, może być również reprezentowana przez funkcję sumy i cztery zagnieżdżone funkcje wartości bezwzględnych. Nie tylko zmniejsza się złożoność funkcji, ale parametry implementacji CNN mogą być reprezentowane w ciągłej domenie liczb rzeczywistych.

Istnieją dwie metody wyboru procesora CNN wraz z szablonem lub wagami. Pierwszy polega na syntezie, która polega na określeniu współczynników w trybie offline. Można tego dokonać, wykorzystując wcześniejsze prace, tj. biblioteki, artykuły i artykuły, lub wywodząc matematycznie co, które najlepiej pasuje do problemu. Drugi polega na szkoleniu procesora. Naukowcy wykorzystali propagację wsteczną i algorytmy genetyczne do uczenia się i wykonywania funkcji. Algorytmy propagacji wstecznej są zwykle szybsze, ale algorytmy genetyczne są przydatne, ponieważ zapewniają mechanizm znajdowania rozwiązania w nieciągłej, hałaśliwej przestrzeni wyszukiwania.

Implementacje fizyczne

Istnieją modele zabawek symulujące procesory CNN za pomocą kul bilardowych , ale są one wykorzystywane do badań teoretycznych. W praktyce CNN są fizycznie realizowane na sprzęcie i obecnych technologiach, takich jak półprzewodniki . Istnieją plany migracji procesorów CNN do nowych technologii w przyszłości.

Półprzewodniki

Procesory CNN oparte na półprzewodnikach można podzielić na analogowe procesory CNN, cyfrowe procesory CNN i procesory CNN emulowane za pomocą procesorów cyfrowych. Jako pierwsze opracowano analogowe procesory CNN. Komputery analogowe były dość powszechne w latach pięćdziesiątych i sześćdziesiątych, ale w latach siedemdziesiątych stopniowo zostały zastąpione komputerami cyfrowymi. Procesory analogowe były znacznie szybsze w niektórych zastosowaniach, takich jak optymalizacja równań różniczkowych i modelowanie nieliniowości, ale powodem, dla którego obliczenia analogowe straciły popularność, był brak precyzji i trudność w skonfigurowaniu komputera analogowego do rozwiązywania złożonych równań.

Analogowe procesory CNN mają te same zalety, co ich poprzednicy, w szczególności szybkość. Pierwsze analogowe procesory CNN były w stanie wykonywać przetwarzanie w czasie rzeczywistym z bardzo dużą szybkością klatek (> 10 000 klatek na sekundę), nieosiągalną dla procesorów cyfrowych. Analogowa implementacja procesorów CNN wymaga mniejszej powierzchni i zużywa mniej energii niż ich cyfrowe odpowiedniki. Chociaż dokładność analogowych procesorów CNN nie dorównuje ich cyfrowym odpowiednikom, w wielu zastosowaniach szumy i odchylenia procesowe są na tyle małe, że percepcyjnie nie wpływają na jakość obrazu.

Pierwszy programowalny algorytmicznie , analogowy procesor CNN powstał w 1993 roku. Został nazwany uniwersalnym procesorem CNN, ponieważ jego wewnętrzny kontroler umożliwiał wykonywanie wielu szablonów na tym samym zbiorze danych, symulując w ten sposób wiele warstw i umożliwiając uniwersalne obliczenia. Projekt obejmował pojedynczą warstwę 8x8 CCN, interfejsy, pamięć analogową, logikę przełączania i oprogramowanie. Procesor został opracowany w celu określenia wydajności i użyteczności procesora CNN. Koncepcja CNN okazała się obiecująca i do 2000 roku istniało co najmniej sześć organizacji projektujących programowalne algorytmicznie, analogowe procesory CNN.

AnaFocus, AnaLogic

W 2000 roku AnaFocus, firma zajmująca się półprzewodnikami sygnałów mieszanych z Uniwersytetu w Sewilli , wprowadziła swoją prototypową linię procesorów CNN ACE. Ich pierwszy procesor ACE zawierał 20x20 czarno-białych jednostek procesorowych; a kolejne procesory zapewniały jednostki procesorowe w skali szarości 48x48 i 128x128, poprawiając szybkość i elementy przetwarzania. AnaFocus miał również wielowarstwową linię prototypowych procesorów CNN CASE. Ich procesory umożliwiły interakcję w czasie rzeczywistym między wykrywaniem a przetwarzaniem. W 2014 roku AnaFocus został sprzedany technologii e2v.

Inna firma, AnaLogic Computers, została założona w 2000 roku przez wielu tych samych badaczy, którzy stworzyli pierwszy programowalny algorytmicznie uniwersalny procesor CNN. W 2003 roku firma AnaLogic Computers opracowała kartę procesora graficznego PCI-X zawierającą procesor ACE 4K z modułem Texas Instrument DIP i szybkim przechwytywaniem klatek. Umożliwiło to łatwe włączenie przetwarzania CNN do komputera stacjonarnego. W 2006 roku firma AnaLogic Computers opracowała linię produktów Bi-I Ultra High Speed Smart Camera, która obejmuje procesor ACE 4K w swoich zaawansowanych modelach.

W 2006 roku Roska i in. opublikował artykuł na temat projektowania Bionic Eyeglass dla AnaLogic. Bionic Eyeglass to platforma do noszenia z dwoma kamerami, oparta na inteligentnej kamerze Bi-I Ultra High Speed, zaprojektowana w celu zapewnienia pomocy osobom niewidomym. Niektóre z jego funkcji obejmują rozpoznawanie numerów tras i przetwarzanie kolorów.

Analogowe procesory CNN

Niektórzy badacze opracowali własne niestandardowe analogowe procesory CNN. Na przykład:

Zespół badawczy z University degli Studi di Catania wykonał taki w celu wygenerowania chodu dla robota sześcionożnego.
Chung-Yu Wu i Chiu-Hung Cheng z National Chiao Tung University zaprojektowali procesor RM-CNN, aby dowiedzieć się więcej o uczeniu się i rozpoznawaniu wzorców.
Naukowcy z National Lien-Ho Institute of Technology (W. Yen, R. Chen i J. Lai) opracowali procesor Min-Max CNN (MMCNN), aby dowiedzieć się więcej o dynamice CNN.

Pomimo ich szybkości i niskiego zużycia energii analogowe procesory CNN mają pewne istotne wady. Po pierwsze, analogowe procesory CNN mogą potencjalnie generować błędne wyniki ze względu na zmienność środowiska i procesu. W większości aplikacji błędy te nie są zauważalne, ale zdarzają się sytuacje, w których niewielkie odchylenia mogą skutkować katastrofalnymi awariami systemu. Na przykład w komunikacji chaotycznej zmienność procesu zmieni trajektorię danego systemu w przestrzeni fazowej, powodując utratę synchronizacji/stabilności. Ze względu na powagę problemu prowadzone są znaczne badania mające na celu złagodzenie problemu. Niektórzy badacze optymalizują szablony, aby uwzględnić większą różnorodność. Inni badacze ulepszają proces półprzewodnikowy, aby lepiej odpowiadał teoretycznej wydajności CNN. Inni badacze badają różne, potencjalnie bardziej niezawodne architektury CNN. Wreszcie, badacze opracowują metody dostrajania szablonów, aby były ukierunkowane na konkretny chip i warunki pracy. Innymi słowy, szablony są optymalizowane pod kątem platformy przetwarzania informacji. Zmienność procesu nie tylko ogranicza to, co można zrobić z obecnymi analogowymi procesorami CNN, ale także stanowi barierę dla tworzenia bardziej złożonych jednostek przetwarzających. Dopóki ta zmienność procesu nie zostanie rozwiązana, pomysły takie jak zagnieżdżone jednostki przetwarzające, nieliniowe wejścia itp. Nie będą mogły zostać zaimplementowane w analogowym procesorze CNN czasu rzeczywistego. Również półprzewodnikowe „nieruchomości” dla jednostek przetwarzających ograniczają rozmiar procesorów CNN.

Obecnie największy procesor wizyjny oparty na AnaVision CNN składa się z detektora 4K, czyli znacznie mniej niż detektory megapikselowe w przystępnych cenowo kamerach konsumenckich. Niestety, zmniejszenie rozmiaru obiektów, zgodnie z przewidywaniami prawa Moore'a , spowoduje jedynie niewielką poprawę. Z tego powodu badane są alternatywne technologie, takie jak rezonansowe diody tunelowe i tranzystory neuronowo-bipolarne. Również architektura procesora CNN jest poddawana ponownej ocenie. Na przykład zaproponowano procesory Star-CNN, w których jeden mnożnik analogowy jest dzielony w czasie między wiele jednostek procesora i oczekuje się, że spowodują zmniejszenie rozmiaru jednostki procesora o 80%.

Cyfrowe procesory CNN, FPGA

Chociaż nie są tak szybkie i energooszczędne, cyfrowe procesory CNN nie mają takich samych problemów związanych ze zmiennością procesu i rozmiarem funkcji, co ich analogowe odpowiedniki. Pozwala to cyfrowym procesorom CNN na uwzględnienie zagnieżdżonych jednostek procesora, nieliniowości itp. Ponadto cyfrowe CNN są bardziej elastyczne, tańsze i łatwiejsze do zintegrowania. Najpowszechniejsza implementacja cyfrowych procesorów CNN wykorzystuje układ FPGA . Firma Eutecus, założona w 2002 roku i działająca w Berkeley, zapewnia własność intelektualną, którą można zsyntetyzować w układzie FPGA Altera. Ich cyfrowe procesory CNN 320x280, oparte na FPGA, działają z szybkością 30 klatek na sekundę i istnieją plany stworzenia szybkiego cyfrowego ASIC. Eustecus jest strategicznym partnerem komputerów AnaLogic, a ich projekty FPGA można znaleźć w kilku produktach AnaLogic. Eutecus opracowuje również biblioteki oprogramowania do wykonywania zadań, w tym między innymi analizy wideo dla rynku zabezpieczeń wideo, klasyfikacji funkcji, śledzenia wielu celów, przetwarzania sygnału i obrazu oraz przetwarzania przepływu. Wiele z tych procedur pochodzi z przetwarzania podobnego do CNN. Dla tych, którzy chcą przeprowadzać symulacje CNN do prototypowania, aplikacji o niskiej prędkości lub badań, istnieje kilka opcji. Po pierwsze, istnieją pakiety oprogramowania do precyzyjnej emulacji CNN, takie jak SCNN 2000. Jeśli prędkość jest zaporowa, istnieją techniki matematyczne, takie jak metoda iteracyjna Jacobiego lub rekurencje w przód i w tył, których można użyć do uzyskania rozwiązania stanu ustalonego procesora CNN. Wreszcie, cyfrowe procesory CNN można emulować na wysoce równoległych procesorach specyficznych dla aplikacji, takich jak procesory graficzne. Implementacja sieci neuronowych z wykorzystaniem procesorów graficznych jest obszarem dalszych badań.

Holografia, nanotechnologia

Naukowcy badają również alternatywne technologie dla procesorów CNN. Chociaż obecne procesory CNN omijają niektóre problemy związane z ich cyfrowymi odpowiednikami, mają one niektóre z tych samych długoterminowych problemów, które są wspólne dla wszystkich procesorów opartych na półprzewodnikach. Obejmują one między innymi szybkość, niezawodność, zużycie energii itp. Firma AnaLogic Computers opracowuje optyczne procesory CNN, które łączą optykę, lasery oraz pamięć biologiczną i holograficzną . To, co początkowo było eksploracją technologii, zaowocowało procesorem CNN 500x500 zdolnym do wykonywania 300 gigaoperacji na sekundę.

Kolejną obiecującą technologią dla procesorów CNN jest nanotechnologia. Jedna z nanotechnologii polega na wykorzystaniu jednoelektronowych połączeń tunelowych, które można przekształcić w jednoelektronowe lub wysokoprądowe tranzystory, w celu stworzenia jednostek przetwarzających CNN McCullocha-Pittsa. Podsumowując, procesory CNN zostały wdrożone i zapewniają wartość dla ich użytkowników. Udało im się skutecznie wykorzystać zalety i zaradzić niektórym wadom związanym z ich podstawową technologią, tj. półprzewodnikami. Naukowcy przekształcają również procesory CNN w nowe technologie. Dlatego też, jeśli architektura CNN jest dostosowana do określonego systemu przetwarzania informacji, dostępne są procesory do kupienia (tak jak w dającej się przewidzieć przyszłości).

Aplikacje

Badacze CNN mają różnorodne zainteresowania, począwszy od zastosowań fizycznych, inżynierskich, teoretycznych, matematycznych, obliczeniowych i filozoficznych.

Przetwarzanie obrazu

Procesory CNN zostały zaprojektowane do przetwarzania obrazu; w szczególności przetwarzanie w czasie rzeczywistym z bardzo dużą szybkością klatek (>10 000 klatek na sekundę) do zastosowań takich jak wykrywanie cząstek w płynach silników odrzutowych i wykrywanie świec zapłonowych. Obecnie procesory CNN mogą osiągać do 50 000 klatek na sekundę, a w niektórych zastosowaniach, takich jak śledzenie pocisków, wykrywanie błysków i diagnostyka świec zapłonowych, mikroprocesory te przewyższają konwencjonalny superkomputer . Procesory CNN nadają się do lokalnych, niskopoziomowych operacji intensywnie wykorzystujących procesor i były używane do ekstrakcji cech, regulacji poziomu i wzmocnienia, wykrywania stałości kolorów, wzmacniania kontrastu, dekonwolucji, kompresji obrazu, szacowania ruchu, kodowania obrazu , dekodowania obrazu , segmentacji obrazu , mapy preferencji orientacji, uczenie się/rozpoznawanie wzorców, śledzenie wielu celów, stabilizacja obrazu , poprawa rozdzielczości, deformacje i mapowanie obrazu, malowanie obrazu, przepływ optyczny, konturowanie, wykrywanie poruszających się obiektów , wykrywanie osi symetrii i fuzja obrazu .

Ze względu na ich możliwości przetwarzania i elastyczność, procesory CNN zostały wykorzystane i prototypowane do nowatorskich zastosowań terenowych, takich jak analiza płomienia do monitorowania spalania w spalarni odpadów , wykrywanie min za pomocą obrazów w podczerwieni , szczyt klastra kalorymetru dla fizyki wysokich energii , wykrywanie anomalii w potencjale mapy terenowe do geofizyki, wykrywanie kropek laserowych, inspekcja metali w celu wykrywania wad produkcyjnych oraz zbieranie horyzontów sejsmicznych . Były również wykorzystywane do wykonywania funkcji biometrycznych , takich jak rozpoznawanie odcisków palców , ekstrakcja cech żył, śledzenie twarzy i generowanie bodźców wizualnych za pomocą pojawiających się wzorców w celu oceny rezonansów percepcyjnych .

Biologia i medycyna

Procesory CNN były wykorzystywane do badań medycznych i biologicznych w wykonywaniu zautomatyzowanego liczenia komórek jądrzastych w celu wykrywania hiperplazji , segmentowania obrazów na obszary o znaczeniu anatomicznym i patologicznym , mierzenia i określania ilościowego funkcji serca, pomiaru synchronizacji neuronów i wykrywania nieprawidłowości w mózgu, które mogłyby prowadzić do napadów padaczkowych .

Jednym z potencjalnych przyszłych zastosowań mikroprocesorów CNN jest połączenie ich z mikromacierzami DNA w celu umożliwienia analizy DNA setek tysięcy różnych sekwencji DNA w czasie zbliżonym do rzeczywistego. Obecnie głównym wąskim gardłem analizy mikromacierzy DNA jest ilość czasu potrzebna do przetworzenia danych w postaci obrazów, a za pomocą mikroprocesora CNN naukowcy skrócili czas potrzebny do wykonania tych obliczeń do 7 ms.

Rozpoznawanie tekstury

Procesory CNN zostały również wykorzystane do generowania i analizowania wzorów i tekstur. Jedną z motywacji było wykorzystanie procesorów CNN do zrozumienia generowania wzorców w systemach naturalnych. Zostały one wykorzystane do wygenerowania wzorców Turinga , aby zrozumieć sytuacje, w których się tworzą, różne rodzaje wzorców, które mogą się pojawić, oraz obecność defektów lub asymetrii. Procesory CNN zostały również wykorzystane do przybliżenia systemów generowania wzorców, które tworzą stacjonarne fronty, wzorce czasoprzestrzenne oscylujące w czasie, histerezę , pamięć i heterogeniczność. Ponadto generowanie wzorców zostało wykorzystane do wspomagania wysokowydajnego generowania i kompresji obrazów poprzez generowanie w czasie rzeczywistym stochastycznych i gruboziarnistych wzorców biologicznych, wykrywanie granic tekstury oraz rozpoznawanie i klasyfikację wzorców i tekstur .

Systemy sterowania i siłowników

Trwają wysiłki mające na celu włączenie procesorów CNN do maszyn sensoryczno-komputerowo-uruchamiających w ramach powstającej dziedziny maszyn komórkowych. Podstawowym założeniem jest stworzenie zintegrowanego systemu wykorzystującego procesory CNN do przetwarzania sygnałów sensorycznych oraz potencjalnie do podejmowania decyzji i sterowania. Powodem jest to, że procesory CNN mogą zapewnić niski pobór mocy, mały rozmiar i ostatecznie tani system obliczeniowy i uruchamiający odpowiedni dla maszyn komórkowych. Te maszyny komórkowe ostatecznie utworzą sieć czujników-aktuatorów (SAN), rodzaj mobilnych sieci ad hoc (MANET), które mogą być wykorzystywane do gromadzenia wywiadu wojskowego, obserwacji niegościnnych środowisk, konserwacji dużych obszarów, eksploracji planet itp.

Procesory CNN okazały się wystarczająco wszechstronne dla niektórych funkcji kontrolnych. Zostały one wykorzystane do optymalizacji funkcji za pomocą algorytmu genetycznego, do pomiaru odległości, znalezienia optymalnej ścieżki w złożonym, dynamicznym środowisku i teoretycznie mogą być używane do uczenia się i kojarzenia złożonych bodźców. Zostały również wykorzystane do stworzenia anonimowych chodów i silników niskiego poziomu dla robotycznych nicieni , pająków i chodów minogów za pomocą centralnego generatora wzorców (CPG). Byli w stanie funkcjonować, wykorzystując jedynie informacje zwrotne z otoczenia, co pozwoliło na stworzenie solidnego, elastycznego, inspirowanego biologią systemu silnika robota. Systemy oparte na CNN były w stanie działać w różnych środowiskach i nadal działać, jeśli niektóre jednostki przetwarzające są wyłączone.

Systemy komunikacji

Różnorodność dynamicznych zachowań obserwowana w procesorach CNN czyni je intrygującymi dla systemów komunikacyjnych. Badana jest komunikacja chaotyczna z wykorzystaniem procesorów CNN ze względu na ich potencjalne niskie zużycie energii, solidność i cechy rozproszonego widma. Założeniem komunikacji chaotycznej jest użycie chaotycznego sygnału dla fali nośnej i wykorzystanie chaotycznej synchronizacji fazowej do odtworzenia oryginalnej wiadomości. Procesory CNN mogą być używane zarówno po stronie nadajnika, jak i odbiornika do kodowania i dekodowania danej wiadomości. Mogą być również wykorzystywane do szyfrowania i deszyfrowania danych, uwierzytelniania źródła poprzez znak wodny, wykrywania złożonych wzorców na obrazach spektrogramów ( przetwarzanie dźwięku ) oraz wykrywania przejściowych sygnałów spektralnych.

Procesory CNN są procesorami neuromorficznymi , co oznacza, że emulują pewne aspekty biologicznych sieci neuronowych . Oryginalne procesory CNN były oparte na siatkówkach ssaków, które składają się z warstwy fotodetektorów połączonych z kilkoma warstwami lokalnie sprzężonych neuronów. To sprawia, że procesory CNN są częścią interdyscyplinarnego obszaru badawczego, którego celem jest projektowanie systemów, które wykorzystują wiedzę i pomysły z neuronauki i wnoszą wkład poprzez walidację teorii w świecie rzeczywistym. Procesory CNN wdrożyły system czasu rzeczywistego, który replikuje siatkówki ssaków, potwierdzając, że wybrana oryginalna architektura CNN modelowała prawidłowe aspekty biologicznych sieci neuronowych wykorzystywanych do wykonywania zadania w życiu ssaków. Jednak procesory CNN nie ograniczają się do weryfikacji biologicznych sieci neuronowych związanych z przetwarzaniem obrazu; zostały wykorzystane do symulacji dynamicznej aktywności obserwowanej w sieciach neuronowych ssaków znajdujących się w opuszce węchowej i płatku anteny szarańczy , odpowiedzialnych za wstępne przetwarzanie informacji sensorycznych w celu wykrycia różnic w powtarzających się wzorach.

Procesory CNN są wykorzystywane do zrozumienia systemów, które można modelować za pomocą prostych, sprzężonych jednostek, takich jak żywe komórki, sieci biologiczne, systemy fizjologiczne i ekosystemy. Architektura CNN oddaje część dynamiki często obserwowanej w przyrodzie i jest wystarczająco prosta, aby analizować i przeprowadzać eksperymenty. Są one również wykorzystywane w stochastycznych technikach symulacyjnych, które pozwalają naukowcom badać problemy spinowe, dynamikę populacji, modele gazowe oparte na sieciach, perkolację i inne zjawiska. Inne zastosowania symulacyjne obejmują przenoszenie ciepła, mechaniczne systemy wibracyjne, produkcję białek, z połączeniami Josephsona , propagację fal sejsmicznych i struktury geotermalne. Instancje 3D CNN zostały wykorzystane do udowodnienia pewnych pojawiających się zjawisk w złożonych systemach, ustanawiając powiązanie między sztuką, systemami dynamicznymi i technologią VLSI .

Procesory CNN były wykorzystywane do badania różnych koncepcji matematycznych, takich jak systemy nierównowagowe , konstruowanie systemów nieliniowych o dowolnej złożoności, wyłaniająca się dynamika chaotyczna i odkrywanie nowych dynamicznych zachowań. Są często wykorzystywane w badaniach systematycznych , transdyscyplinarnej dziedzinie naukowej badającej systemy naturalne. Celem badaczy systemów jest opracowanie ram koncepcyjnych i matematycznych niezbędnych do analizy, modelowania i zrozumienia systemów, w tym między innymi systemów atomowych, mechanicznych, molekularnych, chemicznych, biologicznych, ekologicznych, społecznych i ekonomicznych. Badane tematy to pojawienie się, zachowanie zbiorowe, aktywność lokalna i jej wpływ na zachowanie globalne oraz ilościowe określenie złożoności w przybliżeniu przestrzennego i niezmiennego topologicznie systemu. Z inną definicją złożoności (profesor MIT Seth Lloyd zidentyfikował 32 różne definicje złożoności), może to być potencjalnie korzystne matematycznie podczas analizy systemów, takich jak systemy gospodarcze i społeczne.

Notatki

Wykłady Chua: 12-częściowa seria z Hewlett Packard Labs [1]
D. Balya, G, Tímar, G. Cserey i T. Roska, „Nowy model obliczeniowy dla CNN-UM i jego złożoność obliczeniowa”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2004.
L. Chua i L. Yang, „Komórkowe sieci neuronowe: teoria”, IEEE Trans. o obwodach i systemach, 35(10):1257-1272, 1988. [2]
L. Chua i L. Yang, „Komórkowe sieci neuronowe: aplikacje” IEEE Trans. w sprawie obwodów i systemów, 35(10):1273:1290, 1988.
L. Chua, T. Roska, Komórkowe sieci neuronowe i przetwarzanie wizualne: podstawy i zastosowania, 2005.
V. Cimagalli, M. Balsi, „Komórkowe sieci neuronowe: przegląd”, sieci neuronowe WIRN Vietri, 1993.
S. Majorana i L. Chua, „A Unified Framework for Multilayer High Order CNN”, Int'l Journal of Circuit Theory and Applications, 26:567-592, 1998.
T. Roska, L. Chua, „CNN Universal Machine: Analogic Array Computer”, IEEE Trans. on Circuits and Systems-II, 40(3): 163-172, 1993.
T. Roska i L. Chua, „Komórkowe sieci neuronowe z elementami szablonów nieliniowych i opóźnionych oraz niejednorodnymi siatkami”, Int'l Journal of Circuit Theory and Applications, 20:469-481, 1992.
K. Yokosawa, Y. Tanji i M. Tanaka, „CNN with Multi-Level Histeresis Quantization Output” Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
T. Nakaguchi, K. Omiya i M. Tanaka, „Hysteresis Cellular Neural Networks for Solving Combinatorial Optimization Problems”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
K. Crounse, C. Wee i L. Chua, „Projekt liniowego filtra przestrzennego do wdrożenia na uniwersalnej maszynie CNN”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2000.
J. Poikonen1 i A. Paasio, „Mismatch-Tolerant Asynchronous Grayscale Morphological Reconstruction”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2005.
M. Gilli, T. Roska, L. Chua i P. Civalleri, „CNN Dynamics reprezentuje klasę o szerszym zakresie niż PDE”, Int'l Journal of Bifurcations and Chaos, 12 (10): 2051-2068, 2002.
Fangyue Chen, Guolong He, Xiubin Xu i Guanrong Chen , „Implementacja dowolnych funkcji boolowskich przez CNN”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
R. Doguru i L. Chua , „Geny CNN dla jednowymiarowych automatów komórkowych: wielozagnieżdżone, fragmentaryczne podejście liniowe”, Int'l Journal of Bifurcation and Chaos, 8 (10): 1987-2001, 1998.
R. Dogaru i L. Chua, "Universal CNN Cells", Int'l Journal of Bifurcations and Chaos, 9(1):1-48, 1999.
R. Dogaru i LO Chua, „Pojawienie się organizmów jednokomórkowych z prostych uogólnionych automatów komórkowych”, Int'l Journal of Bifurcations and Chaos, 9(6):1219-1236, 1999.
T. Yang, L. Chua, „Wdrażanie algorytmu uczenia się wstecznej propagacji w czasie przy użyciu komórkowych sieci neuronowych”, Int'l Journal of Bifurcations and Chaos, 9 (6): 1041-1074, 1999.
J. Nossek, G. Seiler, T. Roska i L. Chua, „Komórkowe sieci neuronowe: teoria i projektowanie obwodów”, Int'l Journal of Circuit Theory and Applications, 20: 533-553, 1998.
A. Zarandry, S. Espejo, P. Foldesy, L. Kek, G. Linan, C. Rekeczky, A. Rodriguez-Vazquez, T. Roska, I. Szatmari, T. Sziranyi i P. Szolgay, „Technologia CNN w Akcja”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2000.
L. Chua, L. Yang i KR Krieg, „Przetwarzanie sygnału za pomocą komórkowych sieci neuronowych”, Journal of VLSI Signal Processing, 3:25-51, 1991.
T. Roska, L. Chua, „CNN Universal Machine: Analogic Array Computer”, IEEE Trans. on Circuits and Systems-II, 40(3): 163-172, 1993.
T. Roska i A. Rodriguez-Vazquez, „Review of CMOS Implementations of the CNN Universal Machine-Type Visual Microprocessors”, International Symposium on Circuits and Systems, 2000
T. Roska, „Komputery fal komórkowych i technologia CNN - architektura SoC z procesorami xK i macierzami czujników”, Int'l Conference on Computer Aided Design Accepted Paper, 2005.
K. Karahaliloglu, P. Gans, N. Schemm i S. Balkir, „CNN zintegrowany z czujnikiem optycznym do zastosowań obliczeniowych w czasie rzeczywistym”, IEEE Int'l Symposium on Circuits and Systems, s. 21–24, 2006.
C. Wu i C. Cheng, „Projekt komórkowej sieci neuronowej z pamięcią proporcji do uczenia się i rozpoznawania wzorców”, Międzynarodowe warsztaty dotyczące komórkowych sieci neuronowych i ich zastosowań, 2000.
W. Yen, R. Chen i J. Lai, „Design of Min/Max Cellular Neural Networks in CMOS Technology”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2002.
Z. Gallias i M. Ogorzałek, "Influence in System Nonuniformity on Dynamic Phenomenon in Arrays of Coupled Nonlinear Networks", Int'l Workshop on Cellular Neural Networks and Their Applications, 2002
A. Paasio i J. Poikonen, „Programmable Digital Nested CNN”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
M. Hanggi, R. Dogaru i L. Chua, „Physical Modeling of RTD-Based CNN Cells”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2000.
Z. Voroshazi, Z. Nagy, A. Kiss i P. Szolgay, „An Embedded CNN-UM Global Analogic Programming Unit Implementation on FPGA”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
A. Loncar, R. Kunz i R. Tetzaff, „SCNN 2000 - Part I: Basic Structures and Features of the Simulation System for Cellular Neural Networks”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2000.
V. Tavsanoglu, „Iteracyjna metoda Jacobiego do rozwiązywania równań liniowych i symulacji liniowego CNN”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
B. Shi, „Estimating the Steady State using Forward and Backward Recursions”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
S. Tokes, L. Orzo i A. Ayoub, „Programmable OASLM as a Novel Sensing Cellular Computer”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
J. Flak, M. Laiho1 i K Halonen, „Programowalna komórka CNN oparta na tranzystorach SET”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
A. Zarandry, S. Espejo, P. Foldesy, L. Kek, G. Linan, C. Rekeczky, A. Rodriguez-Vazquez, T. Roska, I. Szatmari, T. Sziranyi i P. Szolgay, „Technologia CNN w Akcja”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2000.
L. Chua, S. Yoon i R. Dogaru, „Nieliniowa perspektywa dynamiki nowego rodzaju nauki Wolframa. Część I: Próg złożoności”, Int'l Journal of Bifurcation and Chaos, 12 (12): 2655-2766, 2002.
P. Ecimovic i J. Wu, „Delay Driven Contrast Enhancement using a Cellular Neural Network with State Dependent Delay”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2002.
H. Aomori, T. Otaket, N. Takahashi i M. Tanaka, „Modulator przestrzenny Sigma Delta wykorzystujący sieci neuronowe komórkowe w czasie dyskretnym”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
H. Kim, H. Syn. J. Lee, I. Kim i I. Kim, „Analogowy dekoder Viterbiego dla PRML przy użyciu analogowych obwodów przetwarzania równoległego CNN”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
S. Chen, M. Kuo i J. Wang, „Segmentacja obrazu oparta na głosowaniu konsensusu”, Międzynarodowe warsztaty dotyczące komórkowych sieci neuronowych i ich zastosowań, 2005.
Y. Cheng, J. Chung, C. Lin i S. Hsu, „Local Motion Estimation Based on Cellular Neural Network Technology for Image Stabilization Processing”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2005.
P. Korbel i K. Slot, „Modelowanie elastycznych wiązań międzywęzłowych w komórkowej sieci neuronowej opartej na implementacji odkształcalnego paradygmatu siatki”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
C. Amenta, P. Arena, S. Baglio, L. Fortuna, D. Richiura, M.Xibilia i L. Vu, „SC-CNN for Sensors Data Fusion and Control in Space Distributed Structures”, Int'l Workshop on Cellular Sieci neuronowe i ich zastosowania, 2000.
T. Su, Y. Du, Y. Cheng i Y. Su, „System rozpoznawania linii papilarnych za pomocą komórkowych sieci neuronowych”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
M. Bucolo, L. Fortuna, M. Frasca, M. La Rosa, D. Shannahoff-Khalsa, „A CNN Based System to Blind Sources Separation of MEG Signals”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2002 .
F. Dohler, A. Chernihovskyi, F. Mormann, C. Elger i K. Lehnertz, „Detecting Structural Alterations in the Brain using a Cellular Neural Network based Classification of Magnetic Resonance Images”, Int'l Workshop on Cellular Neural Networks and Ich zastosowania, 2006.
L. Fortuna, P. Arena, D. Balya i A. Zarandy, „Komórkowe sieci neuronowe: paradygmat nieliniowego przetwarzania przestrzenno-czasowego”, IEEE Circuits and Systems Magazine, 1 (4): 6-21, 2001.
L. Goras, L. Chua i D. Leenearts, „Wzorce Turinga w CNN - część I: raz za lekko”, IEEE Trans. w sprawie obwodów i systemów – I, 42(10):602-611, 1995.
L. Goras, L. Chua i D. Leenearts, „Wzorce Turinga w CNN - część II: równania i zachowanie”, IEEE Trans. w sprawie obwodów i systemów – I, 42(10):612-626, 1995.
L. Goras, L. Chua i D. Leenearts, „Wzorce Turinga w CNN - część III: wyniki symulacji komputerowych”, IEEE Trans. o obwodach i systemach – I, 42(10):627-637, 1995.
L. Kornatowski, K. Slot, P. Dȩbiec i H. Kim, „Generowanie wzorców z predefiniowanymi właściwościami statystycznymi za pomocą komórkowych sieci neuronowych”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
C. Lin i S. Chen, „Biologiczne przetwarzanie wizualne w celu wykrywania granic tekstur hybrydowych za pomocą CNN-UM”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
G. Costantini, D. Casali i M. Carota, „A Pattern Classification Method Based on a Space-Variant CNN Template”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
T. Roska i LO Chua, „Uniwersalna maszyna CNN: 10 lat później, Journal of Circuits, Systems, and Computers”, Int'l Journal of Bifurcation and Chaos, 12 (4): 377-388, 2003.
R. Bise, N. Takahashi i T. Nishi, „O metodzie projektowania komórkowych sieci neuronowych dla pamięci stowarzyszonych w oparciu o uogólniony problem wartości własnej”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2002.
I. Szatmhri, „The Implementation of a Nonlinear Wave Metric for Image Analysis and Classification on the 64x64 I/O CNN-UM Chip”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2000.
P. Arena, L. Fortuna, M. Frasca i L. Patane, „CNN Based Central Pattern Generators with Sensory Feedback”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2005.
R. Caponetto, L. Fortuna, L. Occhipiniti i MG Xibilia, „SC-CNN Chaotic Signals Generation”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2002.
R. Chen i J. Lai, „Szyfrowanie danych za pomocą niejednolitych 2-D automatów komórkowych Von Neumanna”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2005.
A. Chernihovskyi, C. Elger i K. Lehnertz, „Effect of Inhibitory Diffusive Coupling on Frequency-Selective of Excitable Media Simulated with Cellular Neural Networks”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
P. Arena, M. Bedia, L. Fortuna, D. Lombardo, L. Patane i M. Velardet, „Wzorce czasoprzestrzenne w CNN do klasyfikacji: zasada konkurencji bez zwycięzcy”, Int'l Workshop on Cellular Neural Networks and Ich zastosowania, 2006.
V. Perez-Munuzuri, AP Munuzuri, M. Gomez-Gesteria, V. Perez-Villar, L. Pivka i L. Chua, „Fale nieliniowe, wzorce i chaos czasoprzestrzenny w komórkowych sieciach neuronowych”, Phil. Trans. R. Soc. Londyn. A, (353): 101-113, 1995.
M. Ercsey-Ravasz, T. Roska i Z. Neda, „Generator liczb losowych i symulacje typu Monte Carlo na CMM-UM”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2006.
P. Szolgay, T. Hidvegi, Z. Szolgay i P. Kozma, „A Comparison of the Different CNN Implementations in Solving the Problem of Spatiotemporal Dynamics in Mechanical Systems”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2000.
R. Brown i L. Chua, "Chaos lub turbulencja", Int'l Journal of Bifurcation and Chaos, 2(4):1005-1009, 1992.
M. Gilli, F. Corinto i P. Checco, „Oscylacje okresowe i bifurkacje w nieliniowych sieciach komórkowych”, IEEE Trans. w sprawie obwodów i systemów – I, 51(5):948-962, 2004.
KA Richardson, „Teoria systemów i złożoność: część 1”, Pojawienie się: złożoność i organizacja , 6 (3): 75-79.
KA Richardson, „Teoria systemów i złożoność: część 2”, Pojawienie się: złożoność i organizacja , 6 (4): 77-82.
KA Richardson, „Teoria systemów i złożoność: część 3”, Pojawienie się: złożoność i organizacja , 7 (2): 104-114.
P. Anderson, „Emergence”, Proceedings of the Second Int'l Conference on Complex Systems, 2004.
K. Mainzer, „CNN and the Evolution of Complex Information Systems in Nature and Technology”, Int'l Workshop on Cellular Neural Networks and Their Applications, 2002.
L. Chua, „Lokalna aktywność jest źródłem złożoności”, Int'l Journal of Bifurcation and Chaos, 15(11):3435-2456, 2005.
P. Arena, M. Bucolo, S. Fazzino, L. Fortuna, M. Frasca, „The CNN Paradigm: Shapes and Complexity”, International Journal of Bifurcations and Chaos (2005), tom. 15, nr 7, s. 2063–2090 – World Scientific.

Linki zewnętrzne

Strona główna Eutecus