Sicherheit & Datenschutz
Ehrlich darüber, was ein Mandat schützt – und was nicht.
Was ein Mandat schützt – und was nicht
Ein Mandat macht einen KI-Agenten nicht klüger oder ehrlicher. Es begrenzt, was der Agent tun kann – egal, was er gelesen hat oder was man ihm erzählt. Deshalb hilft es gegen Prompt-Injection, und deshalb hilft es nicht, wo jemand am Wächter selbst vorbeikommt.
Was geschützt ist
- Ein manipulierter Agent kann nur tun, was das Mandat erlaubt.
- Kritische Aktionen brauchen eine ausdrückliche Regel oder einen Menschen.
- Jede Entscheidung wird protokolliert. Eine Änderung mitten im Protokoll fällt auf; mit signierten Prüfpunkten jede Änderung.
- Mandate sind lesbare Dateien, die du prüfen kannst.
Was nicht
- Ein gehackter Wächter oder Hub.
- Fehler in deinen eigenen Regeln – erlaubt ist erlaubt.
- Geräte, die sich am Wächter vorbei steuern lassen.
- Was der Anbieter des Agenten mit deinen Gesprächen macht.
Wo entschieden wird
Der Wächter, der Anfragen prüft, gehört nicht zum Agenten. So gedacht werden Mandate und Protokolle auf einem Gerät bei dir zu Hause gespeichert und ausgewertet, und nur Rückfragen gehen aufs Handy. Nichts wird an uns geschickt. Diese Website selbst nutzt keine Cookies und kein Tracking. Wie der Wächter entscheidet
Sicherheitslücke melden
Bitte melde sie vertraulich über GitHub. Wir bestätigen jede Meldung innerhalb von 72 Stunden.
So meldest du(öffnet eine andere Website in einem neuen Tab)