Sprache:
Frau sitzend auf Couch am Tablet

Vertrauenswürdige KI

Sicherheit für die digitale Verwaltung

Künstliche Intelligenz (KI) birgt enormes Potenzial für den öffentlichen Sektor. Damit sie jedoch ohne Bedenken eingesetzt werden kann, ist die Vertrauenswürdigkeit von KI-Systemen essenziell. Die Bundesdruckerei hat dafür klare Prinzipien definiert.

KI in der Verwaltung: Große Chancen, große Sorgen 

Für die öffentliche Verwaltung verspricht der Einsatz Künstlicher Intelligenz große Erleichterungen: KI-Systeme können Prozesse automatisieren, Entscheidungen datengestützt verbessern und Workflows effizienter gestalten kann – zum Beispiel bei der Bearbeitung von Anträgen. Gleichzeitig sind die Bedenken erheblich: Fragen des Datenschutzes und der Transparenz von KI-Antworten stehen im Raum. Vertrauenswürdige KI ist daher der Schlüssel, um die Lücke zwischen technischer Machbarkeit und gesellschaftlicher Akzeptanz zu schließen. Die Bundesdruckerei-Gruppe beschäftigt sich intensiv mit der Definition und Bedeutung vertrauenswürdiger KI und erforscht in verschiedenen Projekten deren praktische Umsetzung.

Vier Prinzipien vertrauenswürdiger KI

Die Bundesdruckerei-Gruppe definiert Vertrauenswürdigkeit von KI anhand von vier Kernprinzipien: Korrektheit, Nachvollziehbarkeit, Datensicherheit und Souveränität. Bei unserer Arbeit im Bereich KI sind diese Prinzipien wichtige Leitplanken.

Ansicht des Covers vom Buch Künstliche Intelligenz und Wir
Künstliche Intelligenz und Wir

Das Buch bietet einen fundierten Überblick über den aktuellen Stand der technologischen Entwicklung sowie über die zukünftigen Perspektiven der Künstlichen Intelligenz (KI). Carmen Dencker und Kim Nguyen (Innovations, Bundesdruckerei GmbH, Berlin) widmen sich in dem Zusammenhang dem Thema vertrauenswürdige KI und der souveränen Nutzung.

kostenlos herunterladen

Korrektheit

Vertrauenswürdige KI-Systeme erfinden oder interpretieren nicht, sondern halten sich ausschließlich an Fakten. Sie schließen Halluzinationen sowie Falschaussagen aus und zeigen Widersprüche in Quellen auf. So können Entscheidungen in der Verwaltung rechtskonform, fair und sachlich korrekt getroffen werden – etwa bei Anträgen oder Genehmigungen.

Nachvollziehbarkeit 

Vertrauenswürdige KI-Lösungen machen sichtbar, woher Informationen stammen und wie Entscheidungen zustande kommen. So ist nachvollziehbar, warum welche Quellen ausgewählt wurden und auf welcher rechtlichen Grundlage – beispielsweise einem Gesetzestext – eine Antwort basiert. Das ermöglicht Verwaltungsmitarbeitenden sowie Bürgern und Bürgerinnen, automatisierte Prozesse zu verstehen – und zu prüfen, ob die Ergebnisse vertrauenswürdig sind.

Datensicherheit 

Sämtliche Daten – von Quelldaten über Prompts bis zu Feedback-Loops – sind über den gesamten Datenzyklus geschützt. Zugriffsrechte und Sicherheitseinstufungen müssen über alle Verarbeitungsschritte eingehalten werden. Das Ergebnis: höchste Sicherheitsstandards und Kontrolle über alle Daten sowie die dazugehörige Infrastruktur in den Händen der Verwaltung.

Souveränität 

Vertrauenswürdige KI sollte Lock-in-Effekte verhindern und den Aufbau von internen KI-Kompetenzen fördern. Mit flexiblen Lösungen lässt sich so die langfristige Handlungsfähigkeit und Unabhängigkeit der Anwendenden sichern.

Vertrauenswürdige KI: Produkte und Projekte

Anwendung finden diese Prinzipien für vertrauenswürdige KI beispielsweise im KI-Kompetenz-Center (KI-KC), in dem die Bundesdruckerei GmbH den Einsatz von KI in der Bundesverwaltung erprobt und fördert. Dazu identifiziert das KI-KC geeignete Anwendungsfälle, testet Modelle und entwickelt Prototypen. Wie so eine Lösung konkret aussehen kann, zeigt  Assistent iQ. Der verwaltungsspezifische Text-Assistent kann in Dokumenten recherchieren, sie zusammenfassen und bei der Texterstellung unterstützen.

Mann und Frau am Schreibtisch mit kleinem Roboter
Das KI-Kompetenz-Center

Das KI-Kompetenz-Center fördert den Einsatz von Künstlicher Intelligenz (KI) in der Bundesverwaltung. Es entwickelt gemeinsam mit Behörden KI-Anwendungsfälle und -Prototypen, um die digitale Transformation voranzutreiben.

Hier geht es zur Projektseite von PLAIN.
PLAIN: eine Daten- und KI-Plattform für die Bundesverwaltung

Die öffentliche Verwaltung arbeitet mit großen Datenmengen und hat mit der Nutzung von Künstlicher Intelligenz (KI) begonnen. Um diese Daten sicher verarbeiten zu können, benötigt die Bundesverwaltung robuste und effiziente Instrumente. 

Aktuelles zum Thema vertrauensürdige KI

Event Remote Bundesdruckerei Gruppe
Vertrauenswürdige KI für die Verwaltung

In dieser Veranstaltung zeigen wir, wie KI in der Verwaltung praktisch eingesetzt werden kann – nachvollziehbar, sicher und bürgernah. Keine Schlagworte, sondern Lösungen, die Vertrauen schaffen und die Zusammenarbeit zwischen Verwaltung und Bürgern stärken.

10:00 - 11:00 Uhr

Event Lokal D-trust GmbH
Content Credentials-Round-Table

Im Fokus stehen nationale Strategien und internationale Perspektiven zu Content Credentials. Präsentiert von Vordenkern, Experten und Expertinnen aus Forschung, Wirtschaft und Politik.

Kommandantenstraße 18, 10969 Berlin