Forscher der USC Viterbi School of Engineering und der School of Advanced Computing haben künstliche Neuronen entwickelt, die das komplexe elektrochemische Verhalten biologischer Gehirnzellen nachbilden. Die Entwicklung ist ein Sprung nach vorn in der neuromorphen Computertechnologie. Sie ermöglicht eine Verringerung der Chipgröße um mehrere Größenordnungen, senkt den Energieverbrauch um mehrere Größenordnungen und könnte die Künstliche Allgemeine Intelligenz voranbringen.
Im Gegensatz zu herkömmlichen digitalen Prozessoren oder bestehenden neuromorphen Chips auf Siliziumtechnologie, die lediglich neuronale Aktivitäten simulieren, verkörpern oder emulieren diese künstlichen Neuronen physikalisch die analoge Dynamik ihrer biologischen Vorbilder. So wie Neurochemikalien die Gehirnaktivität auslösen, können Chemikalien verwendet werden, um Berechnungen in neuromorphen, vom Gehirn inspirierten Hardwaregeräten auszulösen. Da sie eine physikalische Nachbildung des biologischen Prozesses sind, unterscheiden sie sich von früheren Iterationen künstlicher Neuronen, die ausschließlich auf mathematischen Gleichungen basierten.
Die Arbeit unter der Leitung von Joshua Yang, Professor für Informatik und Elektrotechnik an der USC, der vor über einem Jahrzehnt auch die Arbeit an einer bahnbrechenden Veröffentlichung über künstliche Synapsen leitete, stellt einen neuen Typ künstlicher Neuronen vor, der auf dem sogenannten „diffusiven Memristor” basiert. Es wird untersucht, wie solche künstlichen Neuronen eine neue Klasse von Chips ermöglichen können, die die heutigen siliziumbasierten Technologien ergänzen und erweitern, die fast alle modernen Elektronikgeräte antreiben und für die Berechnung auf die Bewegung von Elektronen angewiesen sind. Das von Yang und seinen Kollegen zur Konstruktion der Neuronen vorgestellte diffusive Gerät würde stattdessen auf der Bewegung von Atomen basieren. Solche Neuronen könnten neuere Chips ermöglichen, die ähnlich wie unser Gehirn funktionieren, energieeffizienter sind und dazu beitragen könnten, die sogenannte Künstliche Allgemeine Intelligenz (AGI) einzuführen.
So funktioniert es
Im biologischen Prozess nutzt das Gehirn sowohl elektrische als auch chemische Signale, um Aktionen im Körper anzustoßen. Neuronen oder Nervenzellen senden zunächst elektrische Signale aus, die, wenn sie den Raum oder die Lücke am Ende des Neurons, die sogenannte Synapse, erreichen, in chemische Signale umgewandelt werden, um die Informationen weiterzugeben und zu verarbeiten. Sobald die Informationen zum nächsten Neuron gelangt sind, werden einige dieser Signale durch den Körper des Neurons wieder in elektrische Signale umgewandelt. Dies ist der physikalische Prozess, den Yang und seine Kollegen in mehreren entscheidenden Aspekten mit hoher Genauigkeit nachbilden konnten. Der große Vorteil: Ihr diffusionsbasiertes künstliches Neuron auf Memristor-Basis benötigt nur den Platz eines einzigen Transistors und nicht wie herkömmliche Designs mehrere Dutzend bis Hunderte.
Insbesondere im biologischen Modell helfen Ionen oder geladene Teilchen dabei, die elektrischen Signale zu erzeugen, die eine Reaktion innerhalb des Neurons auslösen. Im menschlichen Gehirn beruhen solche Prozesse auf Chemikalien (zum Beispiel Ionen) wie Kalium, Natrium oder Kalzium, um diese Reaktion zu erzwingen.
In der aktuellen Veröffentlichung nutzt Yang, Direktor des Center of Excellence on Neuromorphic Computing an der USC, Silberionen in Oxid, um elektrische Impulse zu erzeugen und die Prozesse zu emulieren, die für Aktivitäten wie Bewegung, Lernen und Planung erforderlich sind. „Auch wenn es sich nicht um genau dieselben Ionen wie in unseren künstlichen Synapsen und Neuronen handelt, sind die physikalischen Gesetze, die die Ionenbewegung und die Dynamik bestimmen, sehr ähnlich“, sagt Yang.
Diffusiver Memristor als Schlüssel zur gehirnähnlichen Dynamik
Yang erklärt: „Silber ist leicht zu diffundieren und gibt uns die Dynamik, die wir benötigen, um das Biosystem zu emulieren, sodass wir mit einer sehr einfachen Struktur die Funktion der Neuronen erreichen können.“ Das neue Gerät, das einen gehirnähnlichen Chip ermöglicht, wird aufgrund der Ionenbewegung und der dynamischen Diffusion, die bei der Verwendung von Silber auftritt, als „diffusiver Memristor“ bezeichnet.
Er fügt hinzu, dass sich das Team für die Nutzung der Ionendynamik zum Aufbau künstlicher intelligenter Systeme entschieden habe, „weil dies aus gutem Grund auch im menschlichen Gehirn geschieht und weil das menschliche Gehirn der ‚Gewinner der Evolution – der effizienteste intelligente Motor‘ ist. Es ist effizienter.“
Dies ist entscheidend, erklärt Yang: „Es ist nicht so, dass unsere Chips oder Computer nicht leistungsfähig genug für ihre Aufgaben sind. Sie sind einfach nicht effizient genug. Sie verbrauchen zu viel Energie.“ Dies ist besonders relevant angesichts des Energiebedarfs, der für den Betrieb großer Softwaremodelle mit riesigen Datenmengen wie Maschinelles Lernen für Künstliche Intelligenz erforderlich ist.
Yang erklärt weiter, dass im Gegensatz zum Gehirn „unsere bestehenden Computersysteme nie dafür ausgelegt waren, riesige Datenmengen zu verarbeiten oder aus nur wenigen Beispielen selbstständig zu lernen. Eine Möglichkeit, sowohl die Energie- als auch die Lerneffizienz zu steigern, besteht darin, künstliche Systeme zu entwickeln, die nach den im Gehirn beobachteten Prinzipien funktionieren.“ Wenn es Ihnen nur um reine Geschwindigkeit geht, wären Elektronen, die moderne Computer antreiben, die beste Wahl für schnelle Operationen. Er erklärt jedoch: „Ionen sind ein besseres Medium als Elektronen, um die Prinzipien des Gehirns zu verkörpern. Da Elektronen leicht und flüchtig sind, ermöglicht das Rechnen mit ihnen eher softwarebasiertes Lernen als hardwarebasiertes Lernen, was sich grundlegend von der Funktionsweise des Gehirns unterscheidet.“
Im Gegensatz dazu sagt er: „Das Gehirn lernt, indem es Ionen über Membranen transportiert und so energieeffizientes und adaptives Lernen direkt in der Hardware erreicht, oder genauer gesagt, in dem, was man als ‚Wetware‘ bezeichnen könnte. “Beispielsweise kann ein kleines Kind lernen, handgeschriebene Ziffern zu erkennen, nachdem es nur wenige Beispiele davon gesehen hat, während ein Computer in der Regel Tausende davon benötigt, um die gleiche Aufgabe zu bewältigen. Das menschliche Gehirn vollbringt dieses bemerkenswerte Lernen jedoch mit einem Energieverbrauch von nur etwa 20 W, verglichen mit den Megawatt, die heutige Supercomputer benötigen.
Mögliche Auswirkungen
Diese neue Methode ist ein weiterer Schritt in Richtung der Nachahmung natürlicher Intelligenz. Yang merkte an, dass das in dem Experiment verwendete Silber nicht ohne Weiteres mit der herkömmlichen Halbleiterfertigung kompatibel ist und dass alternative Ionenarten auf ähnliche Funktionen hin untersucht werden müssen. Die Effizienz dieser diffusiven Memristoren umfasst nicht nur die Energie, sondern auch die Größe. Normalerweise verfügt ein Smartphone über etwa 10 Chips, aber Milliarden von Transistoren oder Schaltern, die das Ein- und Ausschalten oder die Nullen und Einsen steuern, die der Berechnung zugrunde liegen.
„Stattdessen verwenden wir mit dieser Innovation nur die Grundfläche eines Transistors für jedes Neuron. Wir entwickeln Bausteine, mit denen wir letztendlich die Chipgröße um ein Vielfaches reduzieren und den Energieverbrauch um ein Vielfaches senken können, sodass KI in Zukunft nachhaltig eingesetzt werden kann, mit einem ähnlichen Intelligenzniveau, ohne Energie zu verbrauchen, die wir nicht nachhaltig bereitstellen können“, sagt Yang.
Nachdem wir nun leistungsfähige und kompakte Bausteine, künstliche Synapsen und Neuronen demonstriert haben, besteht der nächste Schritt darin, eine große Anzahl davon zu integrieren und zu testen, wie genau wir die Effizienz und Fähigkeiten des Gehirns nachbilden können. „Noch spannender“, so Yang, „ist die Aussicht, dass solche gehirnähnlichen Systeme uns helfen könnten, neue Erkenntnisse über die Funktionsweise des Gehirns selbst zu gewinnen.“
