Wie zerbrechlich sind maschinell gelernte Modelle? Immer mehr Anwendungen verlassen sich auf maschinell gelernte Modelle (auch KI-Techniken genannt): von ChatBots wie ChatGPT, über Emoji-Vorhersage auf dem Smartphone, über die Erkennung von verdächtigem Netzwerkverkehr oder verdächtigen Überweisungen bis hin zur Gesichtserkennung zur Authentifizierung. Diese maschinell gelernten Modelle werden auf einer großen Anzahl an sogenannten Trainingsdaten gelernt, die in vielen Fällen persönliche Informationen beinhalten. Das Institut für IT-Sicherheit zeigt in diesem Workshop, wie man den Fußabdruck dieser Trainingsdaten in maschinell gelernten Modellen erkennen kann. Zu diesem Zweck spielen wir das Brettspiel “Spurensuche in der KI”, das das Problem auf einfache Weise illustriert, und schauen wir uns danach an, wie moderne Membership Inference Angriffe funktionieren.