Vertrauenswürdige KI (Responsible AI)

Sicherheit für die digitale Verwaltung

Künstliche Intelligenz (KI) birgt enormes Potenzial für den öffentlichen Sektor. Damit sie jedoch ohne Bedenken eingesetzt werden kann, ist die Vertrauenswürdigkeit von KI-Systemen essenziell. Die Bundesdruckerei-Gruppe hat dafür klare Prinzipien definiert.

Frau sitzend auf Couch am Tablet

Was ist Responsible AI bzw. Vertrauenswürdige KI?

Responsible AI ist zuverlässig, erklärbar, rechtskonform. Im Kern geht es um nachvollziehbare Entscheidungen, faire Ergebnisse und wirksame Schutzmechanismen – von Datenqualität über Risiko- und Bias-Management bis zu klarer Governance und Human-in-the-Loop. So wird KI für kritische Anwendungsfälle tauglich und stärkt digitale Souveränität sowie Rechtssicherheit. Die Bundesdruckerei setzt Responsible AI konsequent um: mit Systemen, die auf Korrektheit, Nachvollziehbarkeit, Datensicherheit und Souveränität ausgelegt sind. Dazu gehören auditierbare Modelle, dokumentierte Datenflüsse, robuste Sicherheitskonzepte und europäische Standards – entwickelt für den Einsatz in Verwaltung und Wirtschaft, praxistauglich, prüfbar und skalierbar.

KI in der Verwaltung: Große Chancen, große Sorgen 

Für die öffentliche Verwaltung verspricht der Einsatz Künstlicher Intelligenz große Erleichterungen: KI-Systeme können Prozesse automatisieren, Entscheidungen datengestützt verbessern und Workflows effizienter gestalten – zum Beispiel bei der Bearbeitung von Anträgen. Gleichzeitig sind die Bedenken erheblich: Fragen des Datenschutzes und der Transparenz von KI-Antworten stehen im Raum. Vertrauenswürdige KI ist daher der Schlüssel, um die Lücke zwischen technischer Machbarkeit und gesellschaftlicher Akzeptanz zu schließen. Die Bundesdruckerei-Gruppe beschäftigt sich intensiv mit der Definition und Bedeutung vertrauenswürdiger KI und erforscht in verschiedenen Projekten deren praktische Umsetzung.

„Vertrauenswürdigkeit von Technologie und damit auch von KI ist ein vielschichtiges Konstrukt, das auf Fähigkeit, Integrität und Wohlwollen basiert. Neben technischen Aspekten rücken auch ethische Werte in den Fokus, insbesondere im Bereich des Wohlwollens. Hier bietet sich uns die Chance, ein europäisches Vertrauensökosystem zu etablieren – ein zentraler Baustein digitaler Souveränität."

Dr. Kim Nguyen, Innovations, Bundesdruckerei GmbH
Podcast: Vertrauenswürdige KI und deren souveräne Nutzung

 

Können wir KI wirklich vertrauen? In diesem aufschlussreichen Gespräch behandeln Kim Nguyen und Carmen Dencker die brennendste Frage unserer digitalen Zeit.

zum Podcast vertrauenswürdige KI
Ansicht des Covers vom Buch Künstliche Intelligenz und Wir
Künstliche Intelligenz und Wir

Das Buch bietet einen fundierten Überblick über den aktuellen Stand der technologischen Entwicklung sowie über die zukünftigen Perspektiven der Künstlichen Intelligenz (KI). Carmen Dencker und Kim Nguyen (Innovations, Bundesdruckerei GmbH, Berlin) widmen sich in dem Zusammenhang dem Thema vertrauenswürdige KI und der souveränen Nutzung.

KI und Wir kostenlos herunterladen

Vier Prinzipien vertrauenswürdiger KI

Die Bundesdruckerei-Gruppe definiert Vertrauenswürdigkeit von KI anhand von vier Kernprinzipien: Korrektheit, Nachvollziehbarkeit, Datensicherheit und Souveränität. Bei unserer Arbeit im Bereich KI sind diese Prinzipien wichtige Leitplanken.

Korrektheit

Vertrauenswürdige KI-Systeme erfinden oder interpretieren nicht, sondern halten sich ausschließlich an Fakten. Sie schließen Halluzinationen sowie Falschaussagen aus und zeigen Widersprüche in Quellen auf. So können Entscheidungen in der Verwaltung rechtskonform, fair und sachlich korrekt getroffen werden – etwa bei Anträgen oder Genehmigungen.

Nachvollziehbarkeit 

Vertrauenswürdige KI-Lösungen machen sichtbar, woher Informationen stammen und wie Entscheidungen zustande kommen. So ist nachvollziehbar, warum welche Quellen ausgewählt wurden und auf welcher rechtlichen Grundlage – beispielsweise einem Gesetzestext – eine Antwort basiert. Das ermöglicht Verwaltungsmitarbeitenden sowie Bürgern und Bürgerinnen, automatisierte Prozesse zu verstehen – und zu prüfen, ob die Ergebnisse vertrauenswürdig sind.

Datensicherheit 

Sämtliche Daten – von Quelldaten über Prompts bis zu Feedback-Loops – sind über den gesamten Datenzyklus geschützt. Zugriffsrechte und Sicherheitseinstufungen müssen über alle Verarbeitungsschritte eingehalten werden. Das Ergebnis: höchste Sicherheitsstandards und Kontrolle über alle Daten sowie die dazugehörige Infrastruktur in den Händen der Verwaltung.

Souveränität 

Vertrauenswürdige KI sollte Lock-in-Effekte verhindern und den Aufbau von internen KI-Kompetenzen fördern. Mit flexiblen Lösungen lässt sich so die langfristige Handlungsfähigkeit und Unabhängigkeit der Anwendenden sichern.

Forschung & Innovation: Grundlagen für Responsible AI

Die Bundesdruckerei erforscht, wie Künstliche Intelligenz prüfbar, erklärbar und regelkonform in den produktiven Einsatz gebracht werden kann. Dabei stehen drei Ziele im Mittelpunkt: Vertrauen schaffen, Risiken beherrschbar machen und Standards etablieren. 

Im Fokus stehen 

  • kontextbewusste Modelle, die Entscheidungen nachvollziehbar begründen,
  • Datenqualität und Standards, die die gesamte Datenlinie absichern,
  • Test- und Auditverfahren, die Korrektheit, Fairness und Sicherheit messbar machen, sowie
  • Governance-Strukturen, die klare Verantwortlichkeiten und menschliche Kontrolle sicherstellen

Aus diesen Forschungsfeldern entstehen Leitlinien, Referenzprozesse und Tools, mit denen KI-Lösungen schneller und sicherer in die Praxis überführt werden können – zertifizierbar, konform und souverän.

 

Forschungsschwerpunkte Responsible AI

  • Erklärbarkeit (Explainability): Modelle mit nachvollziehbaren Begründungen
  •  Datenqualität: messbare Standards und dokumentierte Herkunft
  • Robustheit & Bias: systematische Tests für Sicherheit und Fairness
  • Human-in-the-Loop: menschliche Aufsicht in sensiblen Prozesse
  • Monitoring & Zertifizierung: Prüfbarkeit über den gesamten Lebenszyklus
     

Was bedeuten Trustworthy, Responsible und Explainable AI?

  • Trustworthy AI: zuverlässig, sicher, regelkonform
  • Responsible AI: verantwortungsvoll und wertebasiert mit Fairness, Datenschutz und menschlicher Kontroll
  • Explainable AI: nachvollziehbar und transparent, Entscheidungen sind verständlich und prüfbar
     

Vertrauenswürdige KI: Produkte und Projekte

Anwendung finden diese Prinzipien für vertrauenswürdige KI beispielsweise im KI-Kompetenz-Center (KI-KC), in dem die Bundesdruckerei GmbH den Einsatz von KI in der Bundesverwaltung erprobt und fördert. Dazu identifiziert das KI-KC geeignete Anwendungsfälle, testet Modelle und entwickelt Prototypen. Wie so eine Lösung konkret aussehen kann, zeigt  Assistent iQ. Der verwaltungsspezifische Text-Assistent kann in Dokumenten recherchieren, sie zusammenfassen und bei der Texterstellung unterstützen.

Mann und Frau am Schreibtisch mit kleinem Roboter
Das KI-Kompetenz-Center

Das KI-Kompetenz-Center fördert den Einsatz von Künstlicher Intelligenz (KI) in der Bundesverwaltung. Es entwickelt gemeinsam mit Behörden KI-Anwendungsfälle und -Prototypen, um die digitale Transformation voranzutreiben.

Hier geht es zur Projektseite von PLAIN.
PLAIN: eine Daten- und KI-Plattform für die Bundesverwaltung

Die öffentliche Verwaltung arbeitet mit großen Datenmengen und hat mit der Nutzung von Künstlicher Intelligenz (KI) begonnen. Um diese Daten sicher verarbeiten zu können, benötigt die Bundesverwaltung robuste und effiziente Instrumente. 

Aktuelles zum Thema vertrauensürdige KI

Event Remote Bundesdruckerei Gruppe
Vertrauenswürdige KI für die Verwaltung

In dieser Veranstaltung zeigen wir, wie KI in der Verwaltung praktisch eingesetzt werden kann – nachvollziehbar, sicher und bürgernah. Keine Schlagworte, sondern Lösungen, die Vertrauen schaffen und die Zusammenarbeit zwischen Verwaltung und Bürgern stärken.

10:00 - 11:00 Uhr

Ansicht einer Grafik für Events D-Trust GmbH
Content Credentials-Round-Table

Im Fokus stehen nationale Strategien und internationale Perspektiven zu Content Credentials. Präsentiert von Vordenkern, Experten und Expertinnen aus Forschung, Wirtschaft und Politik.

Kommandantenstraße 18, 10969 Berlin