KI-Modelle und auf ihnen basierende Anwendungen stehen inzwischen in breiter Masse verschiedenen Nutzergruppen zur Verfügung. Ihre Verbreitung erfordert neben der Betrachtung klassischer IT-sicherheitlicher Risiken auch die Berücksichtigung spezieller Aspekte des Themenbereichs „KI-Sicherheit“. Dazu zählen die drei Unterbereiche:

• Sicherheit durch KI: Wie können KI-Modelle zur Verbesserung der IT-Sicherheit beitragen?
• Gefährdung durch KI: Welche Maßnahmen können zum Schutz vor KI-unterstützten Angriffen ergriffen werden?
• Sicherheit für KI: Welche speziellen Maßnahmen können ergriffen werden, um KI-Modelle sicherer zu machen?

Der Expertenkreis „KI-Sicherheit“ hat das Ziel einen praxisorientierten Erfahrungsaustausch zu diesen Themen zwischen verschiedenen Stakeholdern aus Industrie, Forschung und Behörden zu ermöglichen und gemeinsam praktisch orientierte Best Practices bzw. Handlungsleitfäden für verschiedene Aspekte rund um das Thema „KI-Sicherheit“ zu erarbeiten. Daneben können Schulungen und Wissensvorträge im Rahmen des Expertenkreises durchgeführt werden.

Die Involvierung diverser Stakeholder in dem Kreis hat insbesondere auch das Ziel, die Bedarfe der einzelnen Zielgruppen hinsichtlich Publikationen oder Angeboten zu diskutieren, zu erfassen und durch gemeinsam erarbeitete Angebote zu bedienen.

Die Ausgestaltung des Expertenkreises „KI-Sicherheit“ sowie die Grundlagen für eine Mitarbeit sind im Code of Conduct festgelegt.

Entwicklungen von KI und Desinformation – Erhöhte Vorsicht auf sozialen Medien!

Der Expertenkreis KI-Sicherheit möchte mit Blick auf die anstehende Bundestagswahl Bürgerinnen und Bürger dafür sensibilisieren, dass KI genutzt werden kann, um Desinformationen zu erstellen und über soziale Medien zu verbreiten. KI kann z. B. verwendet werden, um Texte, Bilder, Audios oder Videos zu manipulieren. Teilweise sind solche Manipulationen auf den ersten Blick kaum zu erkennen. Es empfiehlt sich daher beim Konsum von Nachrichten und Informationen über soziale Medien ein gesundes Misstrauen an den Tag zu legen.

Download: Entwicklungen von KI und Desinformation – Erhöhte Vorsicht auf sozialen Medien!

Weitere Informationen erhalten registrierte Teilnehmerinnen und Teilnehmer im internen Bereich unserer Webseite.

Hier können Sie sich für die Teilnahme bei der Allianz für Cyber-Sicherheit registrieren.

Bei weiteren Fragen zum Expertenkreis „KI-Sicherheit“, schreiben Sie gerne an: xprt-ki-sicherheit@bsi.bund.de