Ihr neuer KI-Agent hat Zugriff auf alles. Gut so? Was KMU jetzt klären sollten

KI-Agenten schreiben Code, bauen Automatisierungen und erstellen sogar Werbematerial, und das immer öfter direkt auf dem Firmenrechner. Praktisch, keine Frage. Aber ein Agent ist im Grunde ein neuer Kollege, der mit Ihren Rechten arbeitet, ohne dass er je ein Onboarding hatte. Hier steht, was Sie dazu ohne eigene Sicherheitsabteilung klären können, in welcher Reihenfolge und mit welchem Aufwand. Mit Checklisten für Kundenfragebögen, Verträge und Datenschutz.

1. Warum das gerade jetzt auf den Tisch gehört

Im KI-Bereich ändert sich gerade fast wöchentlich etwas: neue Modelle, neue Agenten-Werkzeuge, neue Wege, ganze Abläufe zu automatisieren. Gleichzeitig häufen sich Berichte über Tools, die mehr dürfen, als ihre Nutzer ahnen, über Erweiterungen, die den Agenten eher ausbremsen als besser machen, und über Anbieter, deren Finanzen öffentlich ziemlich kontrovers diskutiert werden.

Das ist keine Spielerei für Technikfans mehr. Wer Agenten einsetzt, entscheidet nebenbei über Zugriffsrechte, Datenflüsse und Abhängigkeiten. Die gute Nachricht: Die wichtigsten Schutzmaßnahmen sind unspektakulär, günstig und in wenigen Wochen machbar. Sie brauchen nur jemanden, der sie verbindlich übernimmt.

2. Agenten sehen mehr, als man denkt

Ein Beispiel, das gerade die Runde macht: Ein verbreitetes Agenten-Werkzeug versucht in der Standardeinstellung, die Konfigurationsdatei „.env“ eines Projekts zu lesen. In so einer Datei stehen üblicherweise Passwörter, Datenbankzugänge und API-Schlüssel, also genau das, was man ungern herumliegen lässt. Lehnt man die Rückfrage ab, ist Schluss. Klickt man aus Gewohnheit auf „OK“, liegt der Inhalt im Kontext des Agenten und geht, je nach Einrichtung, an das Modell dahinter.

Dahinter steckt ein allgemeines Muster: Ein Agent arbeitet mit den Rechten des Benutzers, der ihn gestartet hat. Was Sie lesen dürfen, darf er in der Regel auch lesen, also Projektordner, Downloads, gespeicherte Schlüssel. Und alles, was er zur Kenntnis nimmt, kann Teil dessen werden, was an einen Anbieter übertragen wird. Datenschutzrechtlich ist das heikel, wenn Personendaten von Kunden oder Beschäftigten dabei sind. Sicherheitstechnisch ist es heikel, weil ein offengelegter Schlüssel erst wieder sicher ist, wenn man ihn ausgetauscht hat. Wie beim Haustürschlüssel: Wenn er einmal im Briefkasten lag, hilft es nicht, den Briefkasten danach zuzuschließen.

3. Mehr Erweiterungen heißt nicht mehr Sicherheit, und auch nicht mehr Leistung

Agenten lassen sich mit „Skills“, Plugins und Anbindungen aufmotzen. Ein Praxisbericht erzählt von einem Nutzer, der über Monate hunderte solcher Erweiterungen angesammelt hat. Das Ergebnis: Der Agent wurde schlechter, nicht besser. Die allermeisten Erweiterungen blieben ungenutzt und flogen wieder raus. Ein anderer Bericht zeigt, dass schon ein simples „Hi“ Zehntausende Token kosten kann, weil beim Start alle Erweiterungsbeschreibungen mitgeladen werden. Und ein Gedächtnis-Plugin soll laut Bericht rund drei Prozent mehr Token verbrauchen, was bei viel Nutzung trotzdem dreistellige Dollarbeträge im Monat bedeutet.

Unsere Einschätzung: Jede Erweiterung ist Software aus fremder Hand, die im Kontext des Agenten läuft und dessen Rechte nutzt. Das ist Lieferkettenrisiko im Kleinformat. Dazu kommt: Gedächtnis-Funktionen speichern Inhalte aus Arbeitssitzungen dauerhaft. Sobald dort Personenbezug auftauchen kann, brauchen Sie ein Löschkonzept und eine Antwort auf die Frage, wo diese Daten eigentlich liegen.

4. Was ausgeliefert wird, kann untersucht werden

Ein weiterer Strang der aktuellen Berichte: Werkzeuge, die Software automatisiert analysieren und nachbauen. Gezeigt wird zum Beispiel, wie eine fertige Webseite per KI-Nachbau auf einen Bruchteil von Anfragen und Datenmenge schrumpft. Außerdem kursieren Behauptungen, Fernseher oder Smartphones sendeten überraschend viel Daten nach Hause. Wie belastbar die einzelnen Behauptungen sind, wissen wir nicht. Das Grundprinzip ist aber seit Jahren bekannt und durch KI nur billiger und schneller geworden.

Für KMU folgt daraus zweierlei. Erstens: Geheimnisse gehören nie in Code, der an Browser oder Kunden ausgeliefert wird, weder Schlüssel noch interne Preislogik. Zweitens: Wer Portale oder Apps betreibt, sollte damit rechnen, dass andere sie leichter untersuchen oder nachbauen können. Und wer selbst fremde Software nachbaut, landet schnell bei Urheberrecht und Lizenzen. Das sollte man vorher klären und nicht hinterher.

Ein praktischer Punkt, der oft vergessen wird: Smart-TVs, Konferenzgeräte und andere vernetzte Geräte im Betrieb gehören in eine Inventarliste und, wo möglich, in ein eigenes Netz. Der Fernseher im Besprechungsraum muss nicht im selben Netz hängen wie die Buchhaltung.

5. Lokale KI: Datenschutzvorteil, aber kein Selbstläufer

Lokale KI wird gerade sehr lebhaft getestet. Berichtet wird zum Beispiel, dass ein mittelgroßes, frei verfügbares Modell auf einer handelsüblichen Grafikkarte mit 16 GB in einer Programmieraufgabe sehr gut abschneidet, während kleinere Modelle weit zurückfallen. Gezeigt wird auch, wie man durch Einstellungen wie niedrigere „Denkstufen“ oder schnellere Textvorhersage die Rechenzeit drastisch drückt und was Quantisierung (also das Verkleinern der Modelldatei) mit der Qualität macht.

Die Grenzen werden genauso sichtbar: Dieselbe Aufgabe dauert je nach Modell mal elf Minuten, mal fast zwei Stunden. Ein Modell hat in einem Agententest hunderte Dateien gelesen und keine einzige geschrieben. Fleißig, aber nicht ganz das, was man bestellt hatte.

Unsere Einschätzung: Für sensible Daten wie Personalunterlagen, Verträge, Quellcode und Kundendaten sind lokale Modelle wirklich interessant, weil die Daten das Haus nicht verlassen. Datenschutzrechtlich entfallen damit viele Fragen zur Auftragsverarbeitung (Art. 28 DSGVO) und zur Übermittlung in Drittländer (Kapitel V DSGVO). Die Pflichten sind damit aber nicht weg: Zugriffskontrolle, Protokollierung, Updates, Backup und Löschfristen bleiben bei Ihnen, als technische und organisatorische Maßnahmen nach Art. 32 DSGVO. Und lokal heißt nicht automatisch gut. Qualität, Tempo und Agententauglichkeit schwanken stark. Ein kleiner Pilot mit eigenen, realen Aufgaben gehört dazu, bevor man investiert.

6. Cloud-Anbieter, Verträge und die Sache mit der Abhängigkeit

Wer Cloud-Modelle nutzt, braucht einen Vertrag zur Auftragsverarbeitung, Klarheit über Serverstandorte und Unterauftragnehmer und eine Aussage dazu, ob Eingaben zum Training verwendet werden. Bei Anbietern außerhalb der EU sind zusätzlich die Voraussetzungen für Drittlandübermittlungen zu prüfen. Die jeweils aktuelle Rechtslage, etwa zum EU-US-Datenschutzrahmen, sollten Sie vor Vertragsabschluss mit Ihrer Datenschutzbeauftragten oder einer Beratung abgleichen, denn sie hat sich in der Vergangenheit mehrfach geändert.

Gleichzeitig wird die wirtschaftliche Lage großer KI-Anbieter breit diskutiert. Auswertungen von Börsenunterlagen nennen sehr hohe langfristige Zahlungsverpflichtungen für Rechenkapazität bei zugleich hohen Verlusten, andere Beiträge sprechen von Unruhe an den Märkten und einer möglichen „KI-Blase“. Wir bewerten diese Einschätzungen nicht. Die Konsequenz halten wir aber für richtig, und sie kostet nichts: Machen Sie sich nicht von einem einzigen Anbieter abhängig. Halten Sie Prompts, Abläufe und Daten so, dass sie sich zu einem anderen Anbieter oder auf ein lokales Modell mitnehmen lassen, und schauen Sie in Verträgen auf Kündigungsfristen, Preisänderungsklauseln und Datenrückgabe.

7. Selbst betreiben: Freiheit mit Hausaufgaben

Immer mehr Beiträge zeigen, wie man Abos durch selbst gehostete Open-Source-Tools auf einem eigenen Server ersetzt oder KI-Agenten auf einem gemieteten virtuellen Server laufen lässt. Das kann Kosten senken und die Datenhoheit stärken. Es verschiebt aber auch die Verantwortung zu Ihnen. Ein Server im Internet bekommt innerhalb weniger Minuten Besuch von automatischen Scannern, auch wenn dort noch gar nichts Interessantes liegt.

Auch Speicherdienste mit „Zero-Knowledge“-Verschlüsselung werden gerne empfohlen. Das Prinzip ist sinnvoll: Der Anbieter kann Ihre Inhalte nicht lesen. Es ersetzt aber keine Klärung von Vertrag, Standort und Zugriffsrechten.

8. Was das für KMU bedeutet: Nutzen, Aufwand, Fahrplan

Nutzen: Mit Agenten lassen sich Routinearbeiten, Auswertungen, Texte, Werbematerial und Automatisierungen deutlich beschleunigen. Den Vorsprung haben am Ende die, die es sicher tun.

Aufwand: Die Schritte unten sind überwiegend organisatorisch und kosten nach unserer Einschätzung Stunden bis wenige Tage, keine fünfstelligen Beträge. Ausnahme: eigene Hardware für lokale Modelle.

Der Fahrplan in sieben Schritten:

Kundenfragebögen und Verträge: Kunden fragen immer häufiger nach KI-Einsatz, Datenabfluss, Unterauftragnehmern, Zugriffsrechten und Löschfristen. Wer die Schritte 1 bis 5 umgesetzt und aufgeschrieben hat, kann das belegbar beantworten. Das ist im Vertrieb ein echtes Argument und nicht nur lästige Pflicht. Legen Sie sich eine Standardantwort zurecht: Welche Tools, welche Daten, welche Schutzmaßnahmen, welche Anbieter.

Regulatorik, bitte prüfen statt annehmen: Ob Ihr Unternehmen unter NIS-2 fällt (Sektor, Größe, mittelbare Pflichten über die Lieferkette von Kunden), sollten Sie klären. Wir behaupten es nicht. Falls ja, gehören Risikomanagement, Lieferkettensicherheit und Meldewege ohnehin zu Ihren Pflichten. Schauen Sie außerdem, wie Sie die Anforderung der EU-KI-Verordnung zur KI-Kompetenz der Beschäftigten abdecken, und ziehen Sie bei Personendaten Ihre Datenschutzbeauftragte hinzu. Bei neuen Verarbeitungen kann eine Datenschutz-Folgenabschätzung nötig sein.

9. Checklisten für Ihre nächste Besprechung

Fazit: Was Sie diese Woche tun können

Agenten werden mächtiger, günstiger und sind bald überall. Damit wird der Umgang mit Rechten, Geheimnissen, Erweiterungen und Datenflüssen zum Wettbewerbsfaktor, und zwar ohne Raketenwissenschaft.

Starten Sie diese Woche mit den Schritten 1 und 2. Beschließen Sie im nächsten Monat Freigabeliste und Datenklassen. Entscheiden Sie bis zum Quartalsende, ob für sensible Aufgaben ein Pilot mit lokaler KI sinnvoll ist.

Und schreiben Sie alles auf ein paar Seiten auf. Bei der nächsten Kundenanfrage werden Sie sich dafür selbst danken.