KI-Systeme sollen durch Gedankenlesen Fehler vermeiden lernen

Ob Haushaltsroboter, Androiden als Gastro-Bedienung, autonome Fahrzeuge oder einfach nur die üblichen Sprachmodelle: Nicht immer klappt die Verständigung mit der KI, weil der Algorithmus die eigentlichen Ziele eines Menschen falsch interpretiert. Vor allem, wenn eines Tages KI-Roboter körperlich eingeschränkten Menschen helfen sollen, braucht es aber eine klare Kommunikation, deshalb haben sich Forscher nun mit der Zielkorrektur durch Gedankenkraft befasst. Denn nur, wenn das System weiß, was ein Mensch wirklich will, kann es durchgehend sinnvoll reagieren.

KI-Systeme sollen demnächst Gedanken lesen können

Hirnschnittstelle durch Elektroden, zum Beispiel an einer Kappe

Der Gedanke, dass ein Computer in unsere Köpfe schauen kann, ist mindestens befremdlich. Funktionieren würde das durch Elektroden, die auf der Kopfhaut liegen und Gehirnwellen erfassen. Eventuell trägt der Nutzer einen entsprechend ausgerüsteten Helm oder eine Kappe. Allerdings kommt es dabei heute noch zu gewissen Rauscherscheinungen, die sich aber wahrscheinlich beheben lassen. In manchen Situationen, vor allem zum Beispiel bei Querschnittsgelähmten, kann eine solche Art der Kommunikation mit der KI sinnvoll sein.

Das Forscherteam amKorea Advanced Institute of Science and Technology (KAIST) hat nun in Zusammenarbeit mit Microsoft Research Asia eine Gehirn-Computer-Schnittstelle namens Neural Value Alignment (NVA) entwickelt. Das System misst unbewusste Hirnreaktionen mittels Elektroenzephalografie (EEG) und lässt die künstliche Intelligenz so erkennen, ob es ein Ziel falsch interpretiert oder eine unerwartete Handlung ausführt – für eine schnelle Korrektur.

Zwei verschiedene Arten von Verständigungsfehlern

Menschliche Sprache, Handlung und Gesten können mehrdeutig sein – und jede Handlung kann verschiedenen Zielen dienen. Verständigungsfehler passieren daraufhin aus zwei Gründen: Einmal kann das Ziel oder Ergebnis falsch sein (Reward Prediction Error, RPE), dann bringt der Roboter beispielsweise Tee statt Wasser. Oder das Ziel stimmt, aber der Weg dorthin oder die Zwischenhandlung ist falsch (State Prediction Error, SPE), dann bringt der technische Helfer zum Beispiel Leitungswasser statt eine Flasche Wasser.

In der Untersuchung fanden die Forscher heraus, dass diese Fehler klare EEG-Muster erzeugen. Deep-Learning-Systeme können diese Muster erkennen und herauslesen, ob ihr Ziel oder die Methode falsch ist – es folgt eine Echtzeitkorrektur. Die Studienergebnisse sind im Fachjournal IEEE Transactions on Cybernetics nachzulesen.