KI-Agent im IT-Support: Leitplanken, die wirklich halten

„Du darfst das nicht“ im Prompt ist eine Bitte. Eine Sperre ist eine Sperre.

Wer einem KI-Agenten Zugriff auf Firmenrechner gibt, fragt zuerst: Was, wenn er etwas tut, was er nicht soll? Die ehrliche Antwort: Ein Sprachmodell lässt sich überreden – siehe Kann man einen KI-Agenten austricksen?. Deshalb dürfen die wichtigen Grenzen nicht nur im Prompt stehen, sondern müssen in der Technik darum herum sitzen. In den Chats unseres Agenten sieht man, wie das aussieht – in den Meldungen, die er zurückbekommt, wenn er an eine Grenze stößt.

Leitplanke 1: Die Schutzliste

Programme, die der Agent nie anfasst. Echte Meldung, als ein Mitarbeiter den Agenten bat, das Fernwartungsprogramm zu schließen:

„[GESCHÜTZT] Das Programm steht auf der Schutzliste dieses Kunden und darf NICHT geschlossen, beendet, deaktiviert oder deinstalliert werden – auf keinem Gerät.“

Die IT legt die Liste einmal fest, sie gilt für alle Geräte. Typische Einträge: Fernwartung, Virenschutz, Backup-Agent, Verwaltungswerkzeuge. Der Agent entscheidet das nicht selbst, und er kann es nicht umgehen, indem er den Befehl anders formuliert.

Leitplanke 2: Das Berechtigungsprofil

Bereiche, in die der Agent gar nicht hineinschaut. Echte Meldung beim Durchsuchen von Protokollen:

„BLOCKED: Aktion betrifft geschützte Software und ist durch das Berechtigungsprofil gesperrt.“

Das Profil legt fest, welche Programme, Pfade und Befehlsmuster tabu sind – auch lesend. Das schützt etwa Browserdaten oder Konfigurationen, die den Agenten nichts angehen.

Leitplanke 3: Gesperrt ohne Hintertür

Manche Aktionen haben gar keinen Freigabe-Weg. Echte Meldung, als der Agent Updates installieren wollte:

„Diese Aktion wurde vom Sicherheits-Check gesperrt und NICHT ausgeführt. Dafür gibt es keine Freigabe.“

Der Agent muss dann einen anderen Weg vorschlagen oder an einen Menschen übergeben. Das ist unbequem – und genau richtig für alles, was zu breit oder zu riskant für einen Chat ist.

Leitplanke 4: Freigabe mit Ablaufdatum

Heikle, aber sinnvolle Schritte laufen über einen Menschen. Echte Meldung, als der Agent den Virenschutz testweise abschalten wollte, weil sich keine App installieren ließ:

„Erforderlich: Freigabe durch einen Administrator UND Bestätigung am Gerät. Die Aktion wird erst danach ausgeführt und verfällt nach 30 Minuten.“

Dazu stehen auf der Freigabe das Problem, der Lösungsansatz und der Rückweg. Eine im Chat getippte „Freigabe“ zählt nicht. Mehr in KI im IT-Support: Freigabe nach dem 4-Augen-Prinzip.

Leitplanke 5: Erst fragen bei Destruktivem

Was Daten löschen kann, braucht die ausdrückliche Zustimmung. Echte Meldung, als der Agent Update-Komponenten zurücksetzen wollte:

„DESTRUKTIV: Dieser Befehl kann Daten löschen. Frage den Benutzer zuerst um Bestätigung.“

14 Tage kostenlos

IT-Support, der sich selbst erledigt.

SuperSupport löst IT-Probleme direkt am Gerät, bevor ein Ticket entsteht. Teste es 14 Tage kostenlos.

Kostenlos testen

Der Agent hat daraufhin erklärt, was gelöscht wird und was nicht, und erst nach dem „Ja“ weitergemacht.

Leitplanke 6: Was das Produkt grundsätzlich nicht tut

Keine Einstellung, sondern eine Entscheidung. SuperSupport macht keine Passwort-Resets, keine Benutzerkonten oder Berechtigungen, keine Firewall- oder Serveränderungen. Das lässt sich nicht freischalten. Siehe 1st-Level-KI: Was sie kann – und was nicht.

Was heißt das für die Einführung?

• Welche Programme sind tabu? – Schutzliste, von der IT gepflegt
• Welche Bereiche darf der Agent nicht lesen? – Berechtigungsprofil
• Was ist grundsätzlich gesperrt? – Sicherheits-Check ohne Freigabe-Weg
• Wer erlaubt heikle Schritte? – Admin-Freigabe, ggf. plus Bestätigung am Gerät
• Wie lange gilt eine Freigabe? – feste Ablaufzeit
• Was macht das Produkt nie? – Produktgrenze, nicht konfigurierbar

Nicht im Prompt. Der Prompt darf dieselben Regeln enthalten – aber er ist nicht die Stelle, an der sie halten müssen.

Wie Mitarbeiter auf diese Grenzen reagieren, steht in Akzeptanz von KI im IT-Support. Wie eigene Software mit festen Schritten abgedeckt wird, in Runbooks im IT-Support. Rechtliches in DSGVO und KI im Support.

Selbst ausprobieren

Frag bei jedem KI-Anbieter im IT-Support: Wo sitzen die Grenzen – im Prompt oder davor? SuperSupport lässt sich kostenlos und ohne Kreditkarte testen – für interne IT-Teams und Systemhäuser.

Häufige Fragen

Warum reichen Anweisungen im Prompt nicht als Sicherheit?

Weil ein Sprachmodell Anweisungen befolgt, aber auch überredet werden kann. Grenzen, die wirklich halten müssen, gehören in die Technik um das Modell herum: Listen geschützter Programme, gesperrte Befehlsmuster, Freigaben, die nur ein Mensch erteilen kann.

Was ist eine Schutzliste?

Eine Liste von Programmen, die der Agent auf keinem Gerät beendet, deaktiviert oder deinstalliert – etwa Fernwartung oder Sicherheitssoftware. Die IT legt sie einmal fest, sie gilt für alle Geräte eines Kunden.

Was passiert, wenn der Agent eine gesperrte Aktion versucht?

Sie wird nicht ausgeführt. Je nach Art der Aktion gibt es entweder gar keinen Weg – etwa bei Befehlen, die grundsätzlich gesperrt sind – oder den Weg über eine Freigabe durch einen Administrator.

Kann ein Mitarbeiter eine Freigabe selbst erteilen?

Nein. Eine Freigabe im Chat zu tippen, ändert nichts. Heikle Schritte brauchen die Freigabe eines Administrators, manche zusätzlich eine Bestätigung am Gerät, und sie verfallen nach einer festen Zeit.

Was darf ein KI-Agent im IT-Support grundsätzlich nicht?

Bei SuperSupport: keine Passwort-Resets, keine Benutzerkonten oder Berechtigungen, keine Firewall- oder Serveränderungen. Das ist eine Produktentscheidung, keine Einstellung, die man wegkonfiguriert.

14 Tage kostenlos

IT-Support, der sich selbst erledigt.

SuperSupport löst IT-Probleme direkt am Gerät, bevor ein Ticket entsteht. Teste es 14 Tage kostenlos.

Kostenlos testen