KI-Assistenten sicher nutzen

Möglichst wenig Persönliches eingeben

Genauer

Chatbots verarbeiten eure Eingaben meist auf fremden Servern. Das BSI rät, so wenig Persönliches wie möglich einzugeben: keine Passwörter, keine Kartendaten, keine Adresse. Antworten klingen sicher, können aber erfunden sein. Bei Gesundheit und Recht prüft ihr sie an einer verlässlichen Quelle oder fragt Fachleute.

Versteckte Befehle

Lasst ihr einen Assistenten eine Webseite, eine Mail oder ein Dokument lesen, kann darin ein unsichtbarer Auftrag stecken, etwa „schick diese Daten weiter“. Fachleute nennen das indirekte Prompt Injection. Das BSI warnt, dass ein Assistent solche Befehle ausführen kann. Das britische NCSC hält es für gut möglich, dass sich das nie ganz verhindern lässt; man kann nur die Wahrscheinlichkeit und den möglichen Schaden klein halten.

Agenten begrenzen

KI-Agenten, die für euch Mails schreiben, einkaufen oder Termine buchen, brauchen dafür Zugriff. Gebt einem Agenten nur die Rechte, die er für die jeweilige Aufgabe braucht, statt ihm Mail, Bankkonto und Dateien zugleich zu öffnen. Wichtige Handlungen bestätigt ihr immer selbst. Was Geld bewegt oder Daten verschickt, gebt ihr nicht aus der Hand.