Arbeitskreis "Sichere KI"

Dr. Henning Kerstan, TÜV Informationstechnik

Der TeleTrusT-Arbeitskreis "Sichere KI" wurde 2024 als Untergremium der TeleTrusT-AG "IT-Sicherheitsrecht" eingerichtet. Der AK befasst sich mit folgenden Zielsetzungen:

- Begriffsdefinitionen im Kontext der KI-Sicherheit
- Bewertung des KI-Angriffspotentials
- Bewertung von Schwachstellen von KI
- Ausarbeitung von konkreten Anforderungen im Hinblick auf die KI-Verordnung und andere Regularien
- Veröffentlichung von Handlungsempfehlungen, Handreichungen oder Fachartikeln.

Hintergrund:

Der EU AI Act wurde am 12.07.2024 veröffentlicht. Allerdings fehlen derzeit konkrete Anforderungen und klare Definitionen, die für eine effektive Umsetzung der neuen Vorschriften und den sicheren Einsatz von KI erforderlich sind. Es ist daher notwendig, zeitnah fundierte Handlungsempfehlungen und Definitionen zu entwickeln und zu veröffentlichen, um den Einsatz von KI-Systemen sicher und regelkonform zu gestalten. Zudem gibt es auch noch weitere Fragestellungen, wie z.B. zum Umgang mit Deep Fakes, die regulatorisch noch nicht vollständig abgedeckt sind.