Agentic AI in der Produktion: Die Fragen, die B2B-Käufer stellen sollten, bevor sie unterschreiben

„Powered by AI agents“ steht mittlerweile auf fast jeder B2B-SaaS-Homepage, so wie „blockchain-enabled“ im Jahr 2018 und „AI-powered“ im Jahr 2023. Ein Teil davon ist echte Produktionsinfrastruktur, die Kunden signifikante Zeit und Geld spart. Vieles davon ist lediglich ein Chat-Fenster vor einem einzelnen API-Aufruf, vermarktet als Autonomie. Als Team, das sowohl die agentischen Funktionen als auch die Systeme baut, in die sie eingebettet sind, ist hier die Checkliste, die wir tatsächlich verwenden würden, wenn wir die Käufer wären.

1. Was passiert, wenn der Agent einen Fehler macht?

Fragen Sie nach einem spezifischen, aktuellen Beispiel für ein Versagen des Agenten in der Produktion – nicht nach einem hypothetischen. Wenn der Anbieter keines nennen kann, hat das Produkt entweder noch keinen echten Produktionsverkehr gesehen, oder sie verfolgen Fehler nicht eng genug, um es zu wissen. Fragen Sie dann, wie groß der „Blast Radius“ war: Hat ein Mensch den Fehler bemerkt, bevor es ein Kunde tat? Gab es einen Rollback-Pfad oder musste jemand den Schaden manuell rückgängig machen?

2. Gibt es eine Human-in-the-Loop-Option, und wird diese tatsächlich erzwungen?

Viele Anbieter werden sagen: „Ja, Sie können alles überprüfen, bevor es ausgeführt wird“ – aber prüfen Sie, ob dieser Überprüfungsschritt der Standard ist oder eine in den Einstellungen versteckte Opt-in-Option, und ob er für die spezifischen Aktionen gilt, die für Ihr Geschäft wichtig sind (Geld senden, kundenorientierte E-Mails versenden, Datensätze mit rechtlicher/Compliance-Relevanz ändern). Ein Kontrollkästchen zur Überprüfung, das standardmäßig deaktiviert ist, ist kein Sicherheitsmerkmal; es ist ein rechtlicher Haftungsausschluss.

3. Wo liegt die tatsächliche Datengrenze?

Welche Ihrer Daten sendet der Agent an einen Drittanbieter von Modellen, und ist dies in der DPA (Auftragsverarbeitungsrichtlinie) dokumentiert und nicht nur in einem Blogpost? Für EU-Käufer ist dies nicht optional – fragen Sie nach der Liste der Unterauftragsverarbeiter, fragen Sie, wo die Inferenz stattfindet (die Region ist für die DSGVO entscheidend), und fragen Sie, ob Ihre Daten standardmäßig für eine Art Modellverbesserung/Training verwendet werden oder ob dies ein Opt-in ist.

4. Wie verhält sich die Kostenstruktur unter Last oder bei Missbrauch?

Agenten-Schleifen, die versuchen, Aufgaben erneut auszuführen, neu planen oder mehrere Modellaufrufe pro Benutzeraktion verketten, können im Vergleich zu einem traditionellen API-Aufruf sehr variable Kosten pro Anfrage haben. Fragen Sie nach echten Kosten pro erfolgreichem Ergebnis, nicht nach Kosten pro API-Aufruf – und fragen Sie, was passiert (Rate Limiting? Hard Cap? Stiller Kostenüberschreitung?), wenn ein Benutzer oder ein Bug eine Endlosschleife auslöst.

5. Was ist das tatsächliche Autonomielevel, in einfacher Sprache?

„Autonom“ wird für alles verwendet, von „vollständig unüberwachtem, mehrstufigem Agenten mit Werkzeugnutzung“ bis hin zu „wir rufen einmal pro Formularübermittlung ein LLM auf“. Lassen Sie sich vom Anbieter Schritt für Schritt beschreiben, was zwischen einer Benutzeraktion und einer abgeschlossenen Aufgabe passiert, und zählen Sie, wie viele dieser Schritte deterministischer Code versus modellgenerierter Entscheidungen sind. Diese Zahl sagt Ihnen mehr als jede Marketingaussage.

6. Was bricht zuerst, wenn sich das zugrunde liegende Modell ändert?

Modellanbieter stellen Modellversionen nach ihrem eigenen Zeitplan ein oder ändern diese, nicht nach Ihrem. Fragen Sie, wie der Anbieter mit einer Einstellung einer Modellversion oder einem verhaltensändernden Update umgeht – fixieren sie Versionen, führen sie Evaluierungs-Suites vor einem Rollout aus, und können sie einen Rollback durchführen, wenn eine neue Modellversion bei Ihrem spezifischen Anwendungsfall schlechter abschneidet?

Warum wir uns dieselben Fragen stellen

Wir bauen agentische Funktionen in Kundenprodukte ein und halten unsere eigene Arbeit an dieser Checkliste fest, bevor sie ausgeliefert wird. Wenn ein Kunde uns fragt: „Was passiert, wenn es schiefgeht?“, wollen wir eine echte Antwort mit einem echten Beispiel – keine Beruhigung. Das ist der Maßstab, den B2B-Käufer im Jahr 2026 an jeden Anbieter legen sollten, einschließlich uns.