Was ist ein KI-Agent und warum ist er ein Sicherheitsrisiko?
Ein KI-Agent ist ein KI-System, das selbstständig Aufgaben ausführt und dafür Tools, Daten und Schnittstellen nutzt. Weil er mit echten Berechtigungen handelt, können Fehler oder Manipulationen direkte Folgen haben – etwa Datenabfluss oder ungewollte Aktionen.
Was bringt eine Bestandesaufnahme der KI-Agenten?
In vielen Unternehmen entstehen KI-Agenten dezentral in Fachbereichen, oft ohne Wissen der IT. Die Bestandesaufnahme zeigt, welche Agenten laufen, wer dafür verantwortlich ist und wie riskant sie sind. Sie ist die Grundlage für jede weitere Sicherheits- und Governance-Massnahme.
Was ist Prompt Injection?
Bei Prompt Injection schleust ein Angreifer Anweisungen über Inhalte ein, die der Agent verarbeitet, zum Beispiel eine E-Mail oder eine Webseite. Der Agent führt diese dann aus, als kämen sie vom Nutzer. Threat Modeling und eine saubere Architektur begrenzen den möglichen Schaden.
Was ist ein Kill Switch für KI-Agenten?
Ein Kill Switch ist ein definierter Mechanismus, mit dem ein Agent sofort gestoppt oder seine Berechtigungen entzogen werden können. Wichtig sind klare Auslöser, Zuständigkeiten und ein getesteter Ablauf.
Betrifft uns der EU AI Act als Schweizer Unternehmen?
Ja, wenn ihr KI-Systeme in der EU anbietet oder deren Ergebnisse dort genutzt werden. Unabhängig davon gilt in der Schweiz das revidierte Datenschutzgesetz. Ein Governance-Konzept hilft, beide Anforderungen nachweisbar zu erfüllen.
Arbeitet ihr auch vor Ort?
Ja. Unser Sitz ist in Frauenfeld. Workshops wie das Threat Modeling führen wir gerne bei euch vor Ort durch – im Thurgau, in der ganzen Ostschweiz und im Raum Zürich. Für Kunden in der übrigen Schweiz, in Deutschland und Österreich arbeiten wir remote oder kombiniert.