Neurale netwerken

Kunstmatige modellen van neurale netwerken zijn jarenlang bestudeerd in de hoop ooit prestaties op het vlak van intelligentie te bereiken gelijk aan het menselijke verstand. Hierbij moet men denken aan patroon-herkenning, zoals het herkennen van spraak, plaatjes, of gezichten. Deze modellen bestaan uit talrijke parallel opererende rekeneenheden, die georganiseerd zijn zoals neuronen in onze hersenen.

Neuronen

De rekeneenheid, een kunstmatig neuron, is een gesimplificeerde copie van een neuron zoals die gevonden wordt in het menselijk zenuwstelsel. Een biologisch neuron heeft een aantal dendrieten die informatie ontvangen van andere neuronen, en een axon dat fungeert als output en als cell-lichaam. Een axon vertakt zich in het algemeen in meerdere armen, waarop via synapsen connecties gemaakt wordt naar dendrieten van andere neuronen. Deze verbindingen zijn zeer talrijk. Een zenuwcel wordt geactiveerd of gepolariseerd als de som van inputs een bepaalde treshold-waarde (drempel) overstijgt. Een synaps geeft de informatie tussen de neuronen door, waarbij geldt dat -door de structuur van de synaps- er sprake is van eenrichtingverkeer. Een neuron kan zowel stimulerende als remmende boodschappen krijgen; de som van deze boodschappen bepaalt of een neuron polariseert (of geactiveerd wordt). Een geactiveerd neuron zal op zijn beurt via de vele verbindingen soortgelijke reacties oproepen in andere neuronen. Biologische neurale netwerken bestaan uit neuronen die duizenden verbindingen kunnen hebben met andere neuronen zowel in de hersenen als in het zenuwstelsel. Op deze manier kan een zeer complexe signaaloverdracht plaatsvinden. De neurowetenschap bestudeert het gedrag van dergelijke netwerken.

Kunstmatig neuron

Een kunstmatig neuron is een model van zijn biologische broertje. Dit betekent dat het gedrag in een aantal vereenvoudigde wiskundige functies kan worden beschreven. Zo kan het worden voorgesteld als een knoopunt dat een reeks gewogen inputs sommeert, vergelijkt met de drempelwaarde, en vervolgens in een niet-lineaire functie stopt. Elke synaps heeft een gewicht dat vermenigvuldigd wordt met de waarde van de input. We krijgen dus:

Y = f ( Σ w• xi - Θ )

met

• w = gewicht van een synaps
• xi = input
• Θ = treshold (drempelwaarde)
• f(x) = niet-lineaire functie

Wat betekent precies de niet-lineaire functie? Deze functie beschrijt hoe het neuron gepolariseerd wordt als gevolg van de som van de gewogen inputs. Er zijn verschillende types denkbaar: hard-limiters, treshold logic, en sigmoïd functies. We gaan er verder niet op in; belangrijk om te weten is dat het neuron aangezet kan worden tot 'vuren' onder bepaalde condities van de inputs.

Neurale netwerken

Door neuronen op verschillende manieren te verbinden met andere neuronen (topologie) vormt men een neuraal netwerk. Er zijn meerdere topologieën in gebruik. Een neuraal netwerk wordt gekarakteriseerd door zijn topologie, de eigenschappen van de knooppunten, en de training- of leer-regels. Een neuraal netwerk kan een bepaald gedrag aangeleerd worden, en de leer-regels geven aan hoe de gewichten moeten worden aangepast tijdens een leer-proces. Het belangrijkste onderzoelspunt naar neurale netwerken is juist dit leeproces en de bijbehorende aanpassing van de gewichten. Het vermogen om zich aan te passen -of te leren- is essentieel in gebieden zoals spraakherkenning, omdat hier continu nieuwe patronen zich aandienen.
Op de afbeelding is een zeer eenvoudige topologie te zien.
De grote voordelen van neurale netwerken liggen in de zeer hoge rekencapaciteit die bereikt wordt door grote hoeveelheden neuronen parallel te laten opereren. Naast de hoge rekenvaardigheden, levert dit ook een robuustheid op. Schade aan een bepaald neuron leidt niet onmiddelijk tot verlies van functionaliteit. De relatief eenvoudige functies zijn gemakkelijk te implementeren in digitale chips die ook de mogelijkheid bieden voor groot parallelisme. Zie ook chips, en digitale signaalbewerking.

Lees verder

• Binair en hexadecimaal rekenen