Maßnahmen zur Absicherung einer Künstlichen Intelligenz

Der Vortrag "Maßnahmen zur Absicherung einer Künstlichen Intelligenz" beleuchtet die wesentlichen Aspekte der Sicherheit von KI-Systemen, insbesondere von Large Language Modellen. Der Vortrag fokussiert sich auf drei Hauptthemen: AI Governance, Data Security Posture Management und Cyber Security Maßnahmen für KI-Systeme.
KI-Governance ist ein zentraler Aspekt der Sicherheit von KI-Systemen. Es umfasst die Definition von Richtlinien und Standards, die sicherstellen, dass die Künstliche Intelligenz verantwortungsvoll entwickelt und genutzt wird. Dies beinhaltet die Umsetzung regulatorischer Anforderungen wie dem EU AI Act und der Datenschutzgrundverordnung (DSGVO). Ein wichtiger Bestandteil der KI-Governance ist die Überwachung der Einhaltung von Qualitätskriterien, um Risiken, die von KI-Systemen ausgehen könnten, zu minimieren. Dies schließt das Monitoring der KI zur Erkennung einer Drift ein.
Data Security Posture Management (DSPM) ist entscheidend für die Integration bestehender Datensätze in KI-Systeme. Es ermöglicht die effiziente Aufbereitung großer Datensätze und gewährleistet Zugriffsrechte. DSPM minimiert das Risiko von Datenmissbrauch und -verlust und trägt zur Einhaltung von Datenschutz- und Compliance-Anforderungen bei. Dies umfasst die Analyse und Anpassung des bestehenden ISMS zur Integration von Data Governance, die Entwicklung von Grundsätzen und Verfahren des Data Scope zur Bewertung von High Value / High Risk Daten sowie die Verwaltung der Zugriffsrechte
Cyber Security Maßnahmen für KI-Systeme sind unerlässlich, um KI-Systeme vor Cyberangriffen zu schützen. Diese Maßnahmen umfassen die Implementierung von Mechanismen zur Angriffserkennung wie z.B. Prompt Injection, die Anwendung von Best Practices zur Absicherung der Plattform sowie die regelmäßige Überprüfung der Sicherheit von KI-Modellen. Bekannte Herausforderungen sind beispielsweise die Schwachstellen, die in den OWASP Top Ten for KI beschrieben werden
Insgesamt zielt der Vortrag darauf ab, ein umfassendes Verständnis für die verschiedenen Aspekte der Sicherheit von KI-Systemen zu vermitteln und praktische Maßnahmen zur Absicherung dieser Systeme vorzustellen.

Cyber Security Maßnahmen