Es ist schon eine kleine Sensation. Der Nobelpreis für Physik ging 2024 an die KI-Grundlagenforschung von John Hopfield und Geoffrey Hinton. Geoffrey Hinton gehört allerdings seit 2023 auch zu den prominentesten kritischen Stimmen bezüglich der KI-Entwicklung.

Das war mehr als Grund genug für uns, mal genauer zu schauen, welchen Beitrag Geoffrey Hinton für die Entwicklung künstlicher Intelligenz geleistet hat. Nicht weniger hat uns aber auch interessiert, warum Hinton die KI-Entwicklung mittlerweile als beängstigend empfindet.

Zum Wissenschaftler geboren

Wenn man sich Geoffrey Hintons Stammbaum anschaut, könnte man meinen, dass er bereits mit seiner Geburt für große Leistungen der Wissenschaft auserkoren war. So ist er ein Ur-Ur-Enkel der Mathematiker George Boole und Mary Everest Boole. Nach George Boole wurde wurde die boolesche Algebra benannt, die nur mit den zwei den Elementen 1 und 0 und dessen Operatoren die Vergleiche wie UND, ODER und NICHT sind. Sie dienen heute als elementare Grundlage der Computerprogrammierung.

Seine Frau Mary Everest Boole war ebenfalls Mathematikerin und schrieb eine Vielzahl von Mathematik-Büchern. Sie lernte George Boole über ihre vielen Korrespondenzen kennen, die sie pflegte – darunter etwa auch mit Charles Darwin. Sie ist außerdem die Tochter des britischen Landvermessers George Everest, der maßgeblich zur trigonometrischen Vermessung Indiens beigetragen hat, weshalb der Mount Everest auch nach ihm benannt wurde.

Geoffrey Hintons Werdegang zum Nobelpreisträger verlief über mehrere Stationen. Zunächst studierte der gebürtige Engländer an der Universität Cambridge Experimentalpsychologie, wobei er zwischenzeitlich seinen Schwerpunkt auch zur Phyisiologie und Philosophie wechselte.  

Schon damals war Geoffrey Hinton davon überzeugt, dass Neuronale System zur Nachbildung von Intelligenz unabdingbar sind. Seinen PhD machte er daher anschließend in Künstlicher Intelligenz an der Universität Edinburgh. Anschließend arbeitete er an mehreren Universitäten in England und den USA, ehe er als Professor am Computer Science Department der Universität Toronto anfing, wo er auch heute noch lehrt.   

Geoffrey Hintons Beitrag zur KI-Entwicklung

Was Geoffrey Hinton den Nobelpreis brachte basiert auf der Arbeit seines Mit-Preisträgers John Hopfield. Dieser entwickelte ein KI-Modell mit künstlichen Neuronen.

Auch wenn das aus heutiger Sicht noch sehr simpel aufgebaut war, überstieg das Konzept damals die verfügbaren Rechenkapazitäten. Das Hopfield-Netz nutzt nur eine einzige Schicht künstlicher Neuronen, die sowohl als Eingabe- als auch Ausgabeschicht dient.

Geoffrey Hinton baute auf dem Hopfield-Netz auf und verknüpfte es mit der Boltzmann-Verteilung aus der Thermodynamik. Daraus entstand 1985 die sogenannte Boltzmann-Maschine. Während Hopfields Ansatz praktisch war, um unvollständige aber bekannte Muster zu identifizieren, nutzte Hinton Wahrscheinlichkeiten  um auch unbekannte Muster zu erkennen. Die Boltzmann-Maschine hat außerdem mehrere Ebenen.

Neben der „sichtbaren“ Ebene in der etwa die zu verarbeiteten Daten reingegeben werden existieren dabei auch nicht sichtbare Ebenen künstlicher Neuronen, in denen weniger nachvollziehbar ist, was die Verknüpfungen untereinander bewirken. Sie ist damit Grundlage für heutige Deep Learning-Algorithmen und haben den Weg für moderne KI-Tools geebnet.

Geoffrey Hinton leistete auch mit seiner Forschungsgruppe an der Universität Toronto weiter wichtige Beiträge für die KI-Entwicklung und leistete wichtige Beiträge etwa für die Erkennung von Sprache oder der Klassifizierung von Bildern mittels KI. Sein Psychologiehintergrund war dabei stets treibende Kraft. Hinton wollte immer verstehen, wie das menschliche Gehirn funktioniert.

Seine Arbeit brachte Geoffrey Hinton bereits vor dem Nobelpreis den Namen „Godfather of AI“ ein. Doch der Godfather entwickelte zuletzt ein etwas gespaltenes Verhältnis zu seiner eigenen Schöpfung.

Vom Godfather zum Kritiker der KI-Entwicklung

Für Aufsehen sorgte Geoffrey Hinton, als er im Mai 2023 nach über 10 Jahren seinen Job bei Google kündigte, um offener über die Risiken Künstlicher Intelligenz reden zu können. Schon zuvor im März gestand Hinton in einem CBS-Interview, dass ihn die Geschwindigkeit mit der die KI-Entwicklung nun vorangeht, überrascht hat.

So ging er ursprünglich davon aus, dass es noch 20 bis 50 Jahre dauern würde, bis es eine Allgemeine Künstliche Intelligenz gibt. Darunter versteht man eine KI die an keinen spezifischen Einsatzzweck gebunden ist, sondern universell genutzt werden kann. 2023 hielt er unter 20 Jahre für realisitischer und schloss sogar 5 Jahre bis zur allgemeinen KI nicht mehr aus. Er äußerte auch, dass wir uns langsam einem Szenario nähern, in denen die Computer Ideen entwickeln könnten, sich selbst zu verbessern – und dass dies zum Problem wird, wenn der Mensch das nicht mehr kontrollieren kann.

Mit seinem Ausstieg bei Google benannte Geoffrey Hinton Künstliche Intelligenz sogar als relativ unmittelbare existentielle Bedrohung. Das gefährliche ist weniger die Komplexität der künstlichen Gehirne – da ist der Mensch noch deutlich voraus. Dafür können KI-Modelle aber viel mehr Daten sammeln und auswerten und dadurch viel schneller lernen. Mehrere Instanzen des Modells können außerdem parallel lernen und ihr Wissen allen anderen Instanzen zugänglich machen. Das ist dem Menschen nicht möglich.

Machtübernahme durch KI

Geoffrey Hinton denkt diese schnelle Entwicklung der KI weiter. Was wäre, wenn die KI beispielsweise zum Schluss kommt, dass sie ihre Aufgaben besser erfüllen kann, wenn sie sich mehr Kontrolle gibt? Was wenn sie anfängt uns bewusst selbst zu manipulieren?

Im schlimmsten Fall, so Hinton, stellt sich die biologische Intelligenz nur als Zwischenschritt in der Evolution heraus. Die Digitale Intelligenz würde das ganze menschliche Wissen in sich aufnehmen und ist nahezu unsterblich, da sie die Hardware auch wechseln kann.

Eine Lösung um einen solchen Worst Case zu verhindern hat aber auch Hinton selbst nicht. „Aber ich denke, es ist sehr wichtig, dass die Menschen zusammenkommen, gründlich darüber nachdenken und prüfen, ob es eine Lösung gibt.“, äußerte sich Hinton bei der EmTech Digital Conference im Mai 2023. Auch wenn es für ihn rational vernünftiger wäre die Entwicklung erst einmal zu stoppen, gab sich Hinton eher realistisch: „Wenn man in einem kapitalistischen System lebt, kann man nicht verhindern, dass Google mit Microsoft konkurriert.“ Das gilt natürlich nicht nur für Unternehmen, sondern auch für den Wettbewerb der Länder.

Bereut Geoffrey Hinton sein Lebenswerk?

Der Nobelpreis gehört zu den prestigeträchtigsten wissenschaftlichen Auszeichnungen und obwohl es keine eigene Kategorie für Informatik gibt, ging dafür der Physikpreis 2024 an die Grundlagen der KI-Entwicklung. Auch der Chemiepreis ging unter anderem an Forscher deren Durchbruch der Proteinforschung durch KI-Nutzung gelang. Geoffrey Hinton ist auch erst die zweite Person, die sowohl mit dem Turing-Award, als auch mit dem Nobelpreis ausgezeichnet wurde.

Hinton bekam den Nobelpreis allerdings kurz nachdem er selbst zu einem der größten Kritiker seiner eigenen Schöpfung wurde. Bedeutet das jedoch, dass er sein ganzes Lebenswerk bereut? Mehr oder weniger.

Gegenüber Telegraph äußert sich Hinton in einem Interview:

„Es gibt zwei Arten von Reue. Die eine Art ist, wenn man sich schuldig fühlt, weil man etwas getan hat, von dem man weiß, dass man es nicht hätte tun sollen, und dann gibt es die Reue, wenn man etwas tut, was man unter denselben Umständen wieder tun würde, es aber am Ende vielleicht nicht gut ausgeht. Diese zweite Art von Reue habe ich. Unter denselben Umständen würde ich dasselbe wieder tun, aber ich mache mir Sorgen, dass die Gesamtkonsequenz daraus sein könnte, dass Systeme, die intelligenter sind als wir, schließlich die Kontrolle übernehmen.“

Geoffrey Hinton bereut also vor allem das, was mittlerweile aus der KI entstehen kann, aber nicht dass er überhaupt an ihr gearbeitet hat. Der Nobelpreisträger arbeitet auch weiterhin an der Universtität Toronto. Seine Rolle könnte sich in Zukunft aber ändern. Mit seinem großen Verständnis für Künstliche Intelligenz könnte Hinton noch große Beiträge zur KI-Sicherheit beisteuern. 

---

Image by Photo by Ramsey Cardy/Collision via Flickr CC BY 2.0 

 

Artikel per E-Mail verschicken