NexaRob News/Bericht und Forschung

Wie können Roboter ihren eigenen Steuercode während des Betriebs selbstständig verbessern?

Die neue VLCP-Methode ermöglicht es Robotern, ihren Steuercode während der Ausführung einer Aufgabe selbstständig zu verbessern - ohne Modellabstimmung, ohne Beispiele und ohne dass das Ziel geändert werden muss. In Tests mit 57 Aufgaben wurde eine deutlich höhere Effektivität als beim traditionellen Open-Loop-Ansatz erreicht. Der Schlüssel liegt darin, die Steuerschleife nicht auf der Entscheidungsebene zu schließen

Auf dieser Seite

Geschlossene Schleife auf Code-Ebene - eine neue Philosophie der Robotik

Viele moderne Robotersysteme basieren auf sprach- und bildbasierten Modellen (VLM), die Steuerentscheidungen generieren. Traditionell müssen diese Modelle angepasst werden, um in der Praxis zu funktionieren - ein Prozess, der als Fine-Tuning bekannt ist. Dies erfordert große Datensätze und Zeit. VLCP geht einen anderen Weg: Anstatt das Modell zu modifizieren, lässt es dieses unverändert (eingefroren) und verwendet es zur Generierung einer Steuerfunktion in Python. Wichtig ist, dass keine Beispiele oder Trainingsstörungen erforderlich sind.

Die wichtigste Innovation besteht darin, die Steuerschleife auf der Ebene des Codes selbst und nicht auf der Entscheidungsebene oder der Teilaufgabenebene zu schließen. Wenn ein Roboter einen Fehler macht - z. B. wenn er ein Objekt nicht greift -, wählt das System keine neue Aufgabe aus oder wiederholt dieselbe Funktion nicht. Stattdessen analysiert das Modell alle paar Schritte die Szene erneut aus verschiedenen Perspektiven und schreibt den Steuercode neu, der gerade fehlgeschlagen ist. Dies ermöglicht es, den Fehler während eines einzigen Durchlaufs zu beheben, bevor er irreversibel wird.

Effektivität: Zehnmal mehr Erfolge als beim traditionellen Ansatz

In Studien, die mit einem Satz von Aufgaben in MuJoCo/RoboVerse durchgeführt wurden und 57 verschiedene Manipulationsaufgaben umfassen, wurde ein drastischer Anstieg der Effektivität festgestellt. Das VLCP-System erzielte deutlich bessere Ergebnisse als ein identisches System, das im Open-Loop-Modus (mit einer einzigen Abfrage pro Durchlauf) arbeitet. Dieser Unterschied ist nicht zufällig - die Konfidenzintervalle überlappen sich nicht einmal für einzelne Szenenfamilien.

Die Hauptverbesserung ergibt sich aus der Verbesserung von Fehlern innerhalb eines Durchlaufs. Die Studie zeigte, dass das System einen Teil der fehlgeschlagenen Griffe wiederherstellen kann - d. h. die Situationen, die traditionelle Open-Loop-Systeme als Ende des Durchlaufs betrachten. Wenn ein Roboter ein Objekt nicht greift, reagiert VLCP nicht auf Entscheidungsebene, sondern schreibt den Steuercode neu, der in der neuen Situation möglicherweise bereits korrekt funktioniert.

Recheneffizienz: Geringe Kosten und hohe Leistung

Trotz der fortschrittlichen Replanning-Funktion stellt VLCP keine Rechenbelastung dar. Die Studie zeigt, dass ein großer Teil der Eingabe-Token im Cache gespeichert wird, was die Antwortzeit erheblich reduziert. Für einen Durchlauf sind etwa 10 kurze Abfragen ausreichend - nicht mehr als für eine vollständige Verarbeitung.

Darüber hinaus werden die während der Neuplanung generierten Kontrollfunktionen in einer Fähigkeitsbibliothek gespeichert, die in nachfolgenden Episoden verwendet wird. Das bedeutet, dass sich das System nicht nur im Laufe des Betriebs verbessert, sondern auch aus seinen eigenen Erfahrungen lernt - was zu einer langfristigen Kompetenzentwicklung ohne erneutes Training führen kann.

Grenzen und Bedeutung für die Zukunft der Robotik

Die Ergebnisse von VLCP sind vielversprechend, aber es ist wichtig zu beachten, dass sie in einer Simulation - auf der Plattform MuJoCo/RoboVerse - erzielt wurden. Das bedeutet, dass die Funktionsweise in der realen Welt mit physischen Robotern und sensorischem Rauschen noch nicht bestätigt wurde. Es ist auch hervorzuheben, dass das System nur bei Aufgaben funktioniert, die als kurze Python-Funktionen beschrieben werden können - was seine Anwendung auf bestimmte Arten von Manipulationen beschränkt.

Die Bedeutung dieser Arbeit ist jedoch enorm. Sie zeigt, dass Roboter nicht nur Aufgaben ausführen, sondern auch ihren eigenen Code in Echtzeit analysieren und verbessern können. Das ist ein Schritt hin zu autonomen Systemen, die nicht auf vordefinierte Aktionen beschränkt sind, sondern sich auf der Ebene der Steuerung selbst anpassen können.

Redaktionelle Transparenz

Quellen und Referenzmaterialien

Der Artikel wurde von NexaRob auf der Grundlage einer Analyse verfügbarer Quellen erstellt. Die folgenden Materialien wurden verwendet, um die Informationen zu überprüfen und den Kontext zu erweitern.

1Quelle des Materials
1primär
1öffentlich präsentiert
  1. Primäre QuelleForschungÜberprüfung von Informationen

    VLCP: Vision Language Control Policy Closed-Loop Code Replanning for Robot Manipulation

    arXiv )arxiv.org

Wie liest man diesen Abschnitt? Die Quellen sind Materialien, die während der Recherche und zur Überprüfung verwendet wurden. Der Artikel ist eine von NexaRob erstellte Arbeit und keine Neuauflage der angegebenen Publikationen.

Material teilen
Zu den Quellen gehen
DeutschDE