Dienstleistung · AI Security & Governance

KI-Agenten sicher betreiben

AI Agents buchen, schreiben, entscheiden und greifen auf eure Systeme zu. Damit werden sie produktiv – und zum Risiko. MSIP prüft und gestaltet eure agentischen KI-Lösungen so, dass sie kontrollierbar, nachvollziehbar und sicher bleiben. Aus Frauenfeld für Unternehmen in der Ostschweiz, im Raum Zürich und im ganzen DACH-Raum.

Kostenloses Erstgespräch →
  1. ArchitekturWer darf was
  2. BedrohungenWas kann schiefgehen
  3. FreigabenHuman Approval
  4. MonitoringWas tut der Agent
  5. Kill SwitchSofort stoppen

Warum KI-Agenten eine eigene Sicherheitsstrategie brauchen

Klassische IT-Sicherheit schützt Systeme vor Menschen. Bei KI-Agenten handelt ein System selbstständig, mit echten Berechtigungen. Typische Risiken sind Prompt Injection über E-Mails oder Dokumente, zu weit gefasste Tool-Zugriffe, unbemerkter Datenabfluss und Entscheidungen ohne menschliche Freigabe.

Dazu kommen regulatorische Anforderungen wie der EU AI Act und das revidierte Schweizer Datenschutzgesetz (revDSG). Wer Agenten einführt, braucht deshalb Architektur, Kontrolle und Governance aus einem Guss.

Unsere Leistungen für sichere AI Agents

Leistung 1

AI Agent Discovery

Bevor man KI-Agenten absichern kann, muss man wissen, welche laufen. Wir machen Discovery über eure Plattformen und Fachbereiche – inklusive Shadow AI –, erfassen jeden Agenten mit Zweck, Datenzugriffen und Berechtigungen, benennen einen verantwortlichen Owner und ordnen eine Risikokategorie zu. Ihr erhaltet ein vollständiges Agenten-Inventar mit priorisierten technischen und organisatorischen Empfehlungen.

  • Discovery
  • Owner
  • Risikokategorie
  • Empfehlungen
Leistung 2

Architektur-Review

Wir analysieren eure Agenten-Architektur: welche Modelle, Tools, Schnittstellen und Daten im Spiel sind und wer was darf. Ihr erhaltet eine Bewertung der Schwachstellen und einen priorisierten Massnahmenplan nach dem Prinzip der minimalen Berechtigung.

  • Berechtigungen
  • Datenflüsse
  • Massnahmenplan
Leistung 3

Threat Modeling für KI-Systeme

Gemeinsam mit eurem Team modellieren wir, wie ein Angreifer oder ein fehlgeleiteter Agent Schaden anrichten könnte. Wir decken Angriffswege wie Prompt Injection, Datenexfiltration und Missbrauch von Tools auf und leiten konkrete Gegenmassnahmen ab.

  • Prompt Injection
  • Datenabfluss
  • Workshop
Leistung 4

Governance Pack

Das Governance Pack macht Sicherheit im Betrieb dauerhaft: klare Rollen und Verantwortlichkeiten, Freigabeprozesse mit Human Approval, Monitoring und Protokollierung, ein definierter Kill Switch sowie Nachweise für Audit und Compliance.

  • Human Approval
  • Monitoring
  • Kill Switch

So arbeiten wir

  1. ErstgesprächWir klären Use Case, Reifegrad und Ziele – kostenlos und unverbindlich.
  2. AnalyseBestandesaufnahme aller laufenden Agenten, dann Architektur-Review und Threat Modeling.
  3. KonzeptMassnahmenplan und Governance Pack, abgestimmt auf eure Organisation.
  4. UmsetzungWir begleiten die Umsetzung und bilden euer Team bei Bedarf in unserer Academy aus.

Für wen ist das?

Für Unternehmen, die KI-Agenten einführen oder bereits betreiben – etwa CIOs, CISOs, Verantwortliche für Datenschutz und Compliance sowie Produkt- und Entwicklungsteams. Besonders relevant ist das in regulierten Branchen wie Finanzen, Versicherungen, Gesundheit und öffentlicher Verwaltung.

Unser Sitz ist in Frauenfeld. Für Unternehmen im Thurgau, in St. Gallen, Winterthur und im Raum Zürich sind wir schnell vor Ort, etwa für Threat-Modeling-Workshops. Kunden in der übrigen Schweiz, in Deutschland und Österreich begleiten wir remote oder kombiniert.

Lieber selbst können?

AI Security & Governance Architect Learning Academy

Wenn ihr das Wissen intern aufbauen wollt: In 12 Wochen zum AI Security & Governance Architect – mit Governance, Risk Management, Identity, Monitoring, Human Approval und Kill Switch.

Zur Ausbildung →

Häufige Fragen zur Sicherheit von KI-Agenten

Was ist ein KI-Agent und warum ist er ein Sicherheitsrisiko?

Ein KI-Agent ist ein KI-System, das selbstständig Aufgaben ausführt und dafür Tools, Daten und Schnittstellen nutzt. Weil er mit echten Berechtigungen handelt, können Fehler oder Manipulationen direkte Folgen haben – etwa Datenabfluss oder ungewollte Aktionen.

Was bringt eine Bestandesaufnahme der KI-Agenten?

In vielen Unternehmen entstehen KI-Agenten dezentral in Fachbereichen, oft ohne Wissen der IT. Die Bestandesaufnahme zeigt, welche Agenten laufen, wer dafür verantwortlich ist und wie riskant sie sind. Sie ist die Grundlage für jede weitere Sicherheits- und Governance-Massnahme.

Was ist Prompt Injection?

Bei Prompt Injection schleust ein Angreifer Anweisungen über Inhalte ein, die der Agent verarbeitet, zum Beispiel eine E-Mail oder eine Webseite. Der Agent führt diese dann aus, als kämen sie vom Nutzer. Threat Modeling und eine saubere Architektur begrenzen den möglichen Schaden.

Was ist ein Kill Switch für KI-Agenten?

Ein Kill Switch ist ein definierter Mechanismus, mit dem ein Agent sofort gestoppt oder seine Berechtigungen entzogen werden können. Wichtig sind klare Auslöser, Zuständigkeiten und ein getesteter Ablauf.

Betrifft uns der EU AI Act als Schweizer Unternehmen?

Ja, wenn ihr KI-Systeme in der EU anbietet oder deren Ergebnisse dort genutzt werden. Unabhängig davon gilt in der Schweiz das revidierte Datenschutzgesetz. Ein Governance-Konzept hilft, beide Anforderungen nachweisbar zu erfüllen.

Arbeitet ihr auch vor Ort?

Ja. Unser Sitz ist in Frauenfeld. Workshops wie das Threat Modeling führen wir gerne bei euch vor Ort durch – im Thurgau, in der ganzen Ostschweiz und im Raum Zürich. Für Kunden in der übrigen Schweiz, in Deutschland und Österreich arbeiten wir remote oder kombiniert.

Jetzt KI-Agenten sicher machen

Erzählt uns, was eure Agenten tun sollen. Wir zeigen euch, wo die Risiken liegen und wie ihr sie in den Griff bekommt.

Erstgespräch vereinbaren →