Detailaufnahme eines Laptop-Bildschirms, auf dem ein Chatbot abgebildet es. Man sieht, wie männliche Hände etwas tippen und mit dem Chatbot interagieren.

Die neue Kollegin KI

Veröffentlicht am 05.09.2023

Der Einsatz von Künstlicher Intelligenz (KI) nimmt in vielen Berufen an Fahrt auf. Repetitive Aufgaben, die rasch abgearbeitet werden können, übernimmt in der Bundesagentur für Arbeit heute schon in vielen Fällen die KI. Auch die Bundesdruckerei GmbH beschäftigt sich intensiv mit dem Einsatz von Künstlicher Intelligenz in der Verwaltung. Und Chatbots therapieren online ganz selbsttätig erste Patienten und Patientinnen.

Experteninterview
Abbildung von den drei Interviewpartnern Martina Hofmann, Prof. Dr. Dr. Thomas Fuchs und Josef Menter
Martina Hofmann, Thomas Fuchs, Josef Menter

Im Gespräch erläutern Martina Hofmann, Geschäftsbereichsleiterin „Business Intelligence/Data Warehouse“ im IT-Systemhaus der Bundesagentur für Arbeit, Prof. Dr. Dr. Thomas Fuchs, Philosoph, Psychiater und Karl-Jaspers-Professor für philosophische Grundlagen der Psychiatrie und Psychotherapie sowie Josef Menter, Data Scientist bei der Bundesdruckerei GmbH, die Potentialen und Grenzen der Künstlichen Intelligenz. Gemeinsam geben sie einen Ausblick, worin künftig die Chancen der KI liegen.

Portraitfoto von Martina Hofmann, Geschäftsbereichsleiterin „Business Intelligence / Data Warehouse“ im IT-Systemhaus der Bundesagentur für Arbeit

© Martina Hofmann

Martina Hofmann

Geschäftsbereichsleiterin „Business Intelligence / Data Warehouse“ im IT-Systemhaus der Bundesagentur für Arbeit.

Portraitfoto von Prof. Dr. Dr. Thomas Fuchs, Philosoph und Psychiater

© Thomas Fuchs

Prof. Dr. Dr. Thomas Fuchs

Philosoph, Psychiater und Karl-Jaspers-Professor für philosophische Grundlagen der Psychiatrie und Psychotherapie in Heidelberg.

Portraitfoto von Josef Menter, Bundesdruckerei GmbH

© Josef Menter

Josef Menter

Studierter Computational Engineer Science und Data Scientist in der Abteilung „Innovations“ bei der Bundesdruckerei GmbH

Frau Hofmann, Sie beschäftigen sich als Geschäftsbereichsleiterin im IT-Systemhaus der Bundesagentur für Arbeit schon eine ganze Weile mit den Einsatzmöglichkeiten von Künstlicher Intelligenz in der Verwaltung. Wann hat das begonnen? 

Martina Hofmann: Wir haben 2018 damit begonnen, das Thema Künstliche Intelligenz aufzugreifen. Damals haben wir in der IT ein Kompetenzzentrum für KI und Machine-Learning aufgebaut. Wir sind dabei sehr iterativ vor gegangen. Das heißt, dass wir unser Vorgehen von Anwendungsfall zu Anwendungsfall immer wieder geprüft und getestet haben. Aus dem Maschinenraum der IT heraus war das damals eine total spannende Sache … und ist es bis heute geblieben.

Wo kann die KI denn schon sehr gut unterstützen? 

Hofmann: Ich sehe hier aktuell zwei große Bereiche. Zum einen kann sie bei der Automatisierung der Verwaltung unterstützen. Dort gibt es unglaublich viele Texte und manuelle Formulare, die an vielen Stellen auch schon digital ausgefüllt werden. Hier kann die KI gut unterstützen. Und zum anderen liegen uns im Data Warehouse natürlich Daten vor, die in der Vergangenheit gesammelt wurden. Wir wollen nun schauen, was wir mithilfe der KI aus diesen Daten herauslesen können in Bezug auf den Arbeits- und Sozialmarkt.

„Wir müssen uns trauen, alte Prozesse dann auch wegzuwerfen, wenn wir über die Künstliche Intelligenz neue einführen.“ 

Portraitfoto von Martina, Hofmann, Geschäftsbereichsleiterin „Business Intelligence / Data Warehouse“ im IT-Systemhaus der Bundesagentur für Arbeit
Martina Hofmann

Herr Menter, Sie arbeiten als Data Scientist bei der Bundesdruckerei GmbH. Wie setzen Sie und Ihre Kollegen und Kolleginnen aus der Abteilung „Innovations“ Künstliche Intelligenz ein? 

Josef Menter: Das Hauptaugenmerk liegt in unserem Bereich auf der Erforschung und Implementierung dieser Technologie. Der Fokus ist hier vor allem das Thema Sicherheit. Unser Ziel ist es, bei dem Aufbau einer souveränen und selbstbestimmten digitalen Verwaltung mitzuwirken. Wir sehen uns in der gesellschaftlichen Verantwortung, dieses Thema voranzubringen. Wir wollen die Bundesverwaltung dabei unterstützen, KI-Technologien einzuführen. Das wird die Verwaltung effizienter machen, sowohl für den Bund als auch für die Bürgerinnen und Bürger. Wir wollen die Datenqualität steigern und die Datenverarbeitung verbessern und legen dabei Wert auf die Anonymität und Pseudonymisierung der Daten. Besonders spannend ist es, dass wir nicht nur zum „State of the Art“ und zu konkreten Anwendungen im Bereich der generativen KI forschen …

… sondern auch dazu, was KI morgen kann?

Menter: Genau. Wir planen parallel schon mittel- und langfristige Projekte, bei denen wir auch gesellschaftliche Fragestellungen mit betrachten, zum Beispiel zum Quantum Machine Learning. Diese Technologie könnte noch sehr viel komplexere Probleme lösen als derzeitige Algorithmen.

Einmalig 23: Prozesse

Herr Fuchs, Sie sind Philosoph und Psychiater. In Ihrer 2020 erschienenen Anthropologie „Verteidigung des Menschen“ schreiben Sie sinngemäß, dass unser Menschsein und unsere Lebendigkeit die Grundlage einer selbstbestimmten Existenz seien. Wir sollten die neuen Technologien nur als Mittel gebrauchen, statt uns ihnen zu unterwerfen. Das klingt erst mal kompliziert, ist es aber wahrscheinlich nicht, oder? 

Thomas Fuchs: (lacht) Wir haben es doch auch mit einer neuen, komplexen Technik zu tun! Also, damit meine ich, dass ich den Eindruck habe, die Fortschritte der Künstlichen Intelligenz, der Digitalisierung und auch der Hirnforschung vermitteln uns immer mehr den Eindruck, der Mensch sei selbst ein Produkt aus Daten und Algorithmen. Das heißt, wir begreifen uns selbst nach dem Bild unserer Maschinen, unser Geist wird als Computermodell wahrgenommen. Und umgekehrt betrachten wir unsere Maschinen immer mehr als eine Art Gegenüber. Und da machen wir natürlich einen fundamentalen Fehler. 

Inwiefern?

Fuchs: Maschinen sind nicht leiblich, sie sind auch nicht lebendig. Auch wenn Maschinen den Eindruck erwecken, verständliche Texte produzieren zu können, oder vorgeben, uns zu verstehen, auch wenn sie Gefühle und Selbsterleben simulieren, dann bleibt es am Ende genau das: eine Simulation. Und die Gefahr besteht nun darin, dass wir den Systemen, weil sie so unerhört klug scheinen, immer mehr Entscheidungen über-lassen, die nur noch für wenige durchschaubar sind und sich damit auch einer demokratischen Kontrolle entziehen. 

„Wir Menschen sind leibliche, lebendige und fühlende Wesen, die sich fundamental von Maschinen unterscheiden und auch nur aus diesem Grund Verantwortung übernehmen können.“ 

Portraitfoto von Prof. Dr. Dr. Thomas Fuchs, Philosoph, Psychiater und Karl-Jaspers-Professor für philosophische Grundlagen der Psychiatrie und Psychotherapie
Thomas Fuchs

Der Mensch wird also schon noch gebraucht, um Entscheidungen zu prüfen, die die KI trifft?

Fuchs: So ist es. Wir Menschen sind eben nicht Algorithmen. Wir sind leibliche, lebendige und fühlende Wesen, die sich fundamental von Maschinen unterscheiden und auch nur aus diesem Grund Verantwortung übernehmen können. Und es ist entscheidend für unsere Zukunft in der digitalen Welt, zu der natürlich auch der Einsatz von Künstlicher Intelligenz gehört, dass wir diesen Unterschied nicht preisgeben, sondern an ihm festhalten.

Frau Hofmann, in Ihrem Team haben Sie unter anderem ein KI-Verfahren entwickelt, das auf die Auswertung von Studienbescheinigungen spezialisiert ist. Können Sie erklären, wie Sie dabei vorgegangen sind? 

Hofmann: Das war unser erstes KI-Projekt. Wir haben in der Familienkasse für die Kindergeldbeantragung eine Prozessautomatisierung geprüft. Das bot sich an, weil hinter dieser speziellen Aufgabe ein relativ überschaubarer Prozess steckte. Sobald ein Schüler oder eine Schülerin die Schule abgeschlossen hat und an die Uni wechselt, muss zweimal im Jahr eine Studienbescheinigung eingereicht werden, damit weiterhin Kindergeld bezogen werden kann. Das ist ein sogenanntes Massengeschäft. Es treffen also zweimal im Jahr mehrere Hunderttausend Studienbescheinigungen bei uns ein, jeweils im Frühjahr und im Herbst. Die Mitarbeiter und Mitarbeiterinnen haben diese Bescheinigungen früher alle einzeln durchgesehen und auf ihre Gültigkeit geprüft. Diese Tätigkeit wollten wir nun von einem KI-Programm übernehmen lassen.

Die neue „Kollegin KI“ übernimmt hier also einen echten Abarbeitungsjob?

Hofmann: Richtig. Die Antragsteller und -stellerinnen können inzwischen eine digitale Studienbescheinigung hochladen und ein KI-gestütztes Programm erkennt dann, ob es sich bei dem hochgeladenen Dokument auch wirklich um eine gültige Studienbescheinigung einer staatlich anerkannten Universität handelt oder nur um ein Katzenfoto. Die KI prüft alle weiteren Eckdaten und macht dann einen Vorschlag, sie meldet dem Menschen: „Als KI bin ich zu dem Ergebnis gekommen, dass dieser Antrag vollständig ist und bewilligt werden könnte.“ Die Sachbearbeiter und Sachbearbeiterinnen prüfen dies abschließend selbst und dann steht einer Weiterzahlung des Gelds nichts mehr im Wege.

Grafische Abbildung einer Person, die an einem Schreibtisch sitzt und an einem Computer arbeitet. Am gegenüberliegenden Schreibtisch sitzt ein Roboter arbeitend am Computer. Die Grafik soll die Zusammenarbeit von Mensch und Künstlicher Intelligenz (KI) visualisieren

Durch solche Verfahren gewinnen wir an dieser Stelle unglaublich viel Zeit, finden Sie nicht, Herr Menter?

Menter: So sehe ich es auch. Wenn ein Bürger oder eine Bürgerin einen Antrag stellt, der teilweise automatisiert über eine KI ausgewertet werden kann, hat das zur Folge, dass diese Person auch eine schnellere Rückmeldung erhält. Und genau da setzen wir auch bei uns im Unternehmen an. Eine höhere Effizienz führt zu einer schnelleren Verwaltung, dies kommt natürlich auch den Mitarbeitenden zugute.

„Eine höhere Effizienz führt zu einer schnelleren Verwaltung, dies kommt natürlich auch den Mitarbeitenden zugute.“ 

Portraitfoto von Josef Menter, Data Scientist bei der Bundesdruckerei GmbH
Josef Menter

Herr Fuchs, wie sehen Sie es? 

Fuchs: Gut finde ich vor allem, dass wir über die Künstliche Intelligenz vorhandenes Wissen tatsächlich auch ganz neu kombinieren können. So werden wir dazu angeregt, Wissensbestände in einer ganz anderen Weise wahrzunehmen. Das ist sehr wertvoll. Trotzdem muss man natürlich immer im Blick behalten, dass der Einsatz der KI auch zu einer Beschleunigung von Prozessen beiträgt, die sonst mehr Zeit gekostet hätten. Und leider ist es in der Vergangenheit nicht immer so gewesen, dass wir dann tatsächlich mehr Zeit für kreative Tätigkeiten hatten. 

Einmalig 23: Effizienz

Hatten wir nicht?

Fuchs: Wenn ich mir ansehe, wie viel Zeit wir für das Füttern unserer Dokumentationssysteme im Klinikalltag benötigen, in der Psychiatrie etwa oder in der allgemeinen Klinik, und wie diese Systeme dann ständig Daten produzieren, die im Anschluss wieder analysiert werden müssen … Also, durch diese Technologien haben wir in der Klinik leider nicht unbedingt mehr Zeit gewonnen, die den Patientinnen und Patienten zugutekäme.

Sie stehen den KI-gestützten Technologien also in einigen Fällen eher skeptisch gegenüber? Viele sind ja uneingeschränkt begeistert …

Fuchs: Hier würde ich ein wenig Wasser in den Wein gießen. Zunächst sieht das alles nach einer Erleichterung aus, auch nach einer Beschleunigung … Aber diese Beschleunigung könnte am Ende wieder zu einer Arbeitsverdichtung führen, die eben leider nicht unbedingt mehr Raum für Kreativität und zwischenmenschliche Zeit schafft, obwohl gerade das ja wirklich wünschenswert wäre.

„Zunächst sieht das alles nach einer Erleichterung aus, auch nach einer Beschleunigung … Aber sie könnte am Ende wieder zu einer Arbeitsverdichtung führen.“ 

Portraitfoto von Prof. Dr. Dr. Thomas Fuchs, Philosoph, Psychiater und Karl-Jaspers-Professor für philosophische Grundlagen der Psychiatrie und Psychotherapie
Thomas Fuchs

Hofmann: Das überbordende Controlling, das Sie erwähnen, Herr Fuchs, das ist doch eigentlich etwas, was Anfang der 2000er aufkam. 

Fuchs: Ja, richtig.

Hofmann: Das könnten wir doch jetzt wunderbar abschaffen, weil wir die Zahlen jetzt eben nicht mehr manuell nebeneinanderstellen müssen, sondern KIs haben, die das vereinfachen. Wir müssen uns nur trauen, alte Prozesse dann auch wegzuwerfen, wenn wir neue einführen.

Menter: Da stimme ich Ihnen zu. Ich denke, dass die KI in Zukunft eine deutliche Steigerung der Arbeitsqualität mit sich bringen könnte. Das heißt, dass wir insbesondere repetitive Aufgaben wirklich schon gut an die KI übergeben können. Dadurch entstünde im besten Fall mehr Zeit für kreative Entfaltung im Job. 

Und gleichzeitig geht es einigen Fachleuten mit den Fortschritten, die über die KI möglich sind, ja teilweise auch schon zu schnell …

Menter: Grundsätzlich finde ich es aber erst mal gut, dass in diesem Bereich derzeit viel geforscht und vorangebracht wird. Aber es stimmt. Es gibt tatsächlich auch Experten und Expertinnen, die kürzlich in einem offenen Brief forderten, dass es erst mal einen Forschungsstopp zur KI geben soll. Ihre Begründung: Die Forschungsgeschwindigkeit würde uns nun wegrennen, weil inzwischen jeder Mensch ohne besonderes Vorwissen schon eigenständig KI-Modelle generieren könne. Und darin sehe ich tatsächlich auch eine Gefahr. Aber ich bin absolut optimistisch, dass die KI-Methoden sich über das Prinzip der Nachfrage schon von selbst regulieren werden.

Hofmann: Diese Diskussion habe ich auch verfolgt – die Forderung nach einem Entwicklungsstopp. Genau das finde ich nicht! Ganz im Gegenteil, man müsste noch viel mehr investieren, damit wir der Technologie gut folgen und auch mithalten können. 

Menter: Aufgrund der Geschwindigkeit, in der sich alles weiterentwickelt, sind die Möglichkeiten, sie zu regulieren, nicht einfach. Die EU versucht es mit dem sogenannten „AI-Act“. Der „Act“ soll den Einsatz von Künstlichen Intelligenzen regulieren. Das ist grundsätzlich gut. Hier ist aber vieles noch nicht abschließend geklärt.

Fuchs: Es wäre sinnlos, ein Moratorium zu fordern, da gebe ich Ihnen recht. Ein weltweiter Entwicklungsstopp ist eine Illusion. Wir müssen uns nur darüber im Klaren sein, dass die Entwicklung uns im Moment vorauseilt. Ich merke das schon daran, dass die Universitätsverwaltungen sich jetzt mit viel Mühe überlegen, wie sie das ChatGPT-System in ihre Prüfungsordnungen einbeziehen. Man weiß noch nicht, wie man schriftliche Prüfungen künftig überhaupt noch bewerten soll und ob es nicht sinnvoller wäre, in Zukunft nur noch mündliche Prüfungen durchzuführen. Beim schriftlichen Teil der Prüfungen kann heute nicht mehr sichergestellt werden, dass die Texte nicht doch irgendwie mithilfe von ChatGPT zusammengestellt wurden. Diese Diskussion ist während der vorigen Semesterferien geführt worden und sowohl die Universitätsverwaltung als auch das Kultusministerium war nicht in der Lage, auf die Einführung von ChatGPT so rasch zu reagieren. Daran sieht man schon, dass die Beschleunigung wirklich ungeheuer ist und wir alle Konsequenzen dieser neuen Entwicklungen noch gar nicht absehen können.

Grafische Abbildung eines Smartphones, auf dem KI-Anwendungen abgebildet sind

Herr Fuchs, Sie haben in einem Vortrag über einen Chatbot berichtet, der Patienten und Patientinnen therapiert, die unter anderem an Depressionen erkrankt sind.

Fuchs: Das ist eine Entwicklung, die auf dem Online-Therapiemarkt weithin zu beobachten ist. Hier wird die menschliche Therapie durch ein Chatbot-System ersetzt. Es gibt schon etliche solcher Systeme, die relativ verblüffend auf die Äußerungen der Betroffenen antworten. Sie geben Antworten wie „Das machst du gut, Jessica“ oder „Ich bin wirklich stolz auf dich“ oder auch „Es ist gut, dass du hier über deine Trauer sprechen kannst. Du wirst dich bald wieder besser fühlen“.

Und die Patienten und Patientinnen wussten, dass es sich um ein Computerprogramm handelt, das sie therapierte?

Fuchs: Das wussten sie schon, ja. Als Psychotherapeut sehe ich das natürlich problematisch. Mit einem Chatbot erleben wir den Widerstand nicht mehr, der zu jeder realen Begegnung mit einem anderen Menschen ja doch auch gehört. Widerstand heißt, dass mir etwas in die Quere kommt, dass etwas manchmal nicht genau meinen Erwartungen entspricht. Erst hier zeigen sich die Möglichkeiten, die eine Therapie mit einer menschlichen Therapeutin und einem Therapeuten bietet: Ich kann wirklich etwas Neues über mich erfahren.

Wollen wir einen Ausblick wagen? Worin liegen künftig die Chancen der KI für Sie? 

Menter: Ich freue mich auf die neuen Arbeitsfelder, die durch die KI künftig entstehen könnten. Als Bürger hoffe ich, dass die KI-Technologien, die wir mit der Bundesdruckerei entwickeln, rasch dabei helfen werden, eine souveräne, selbstbestimmte und KI-fähige Verwaltung zu schaffen.

Fuchs: Ich sehe große Potentiale in der Wissensgenerierung und im Wissensmanagement durch die KI. Aber wir brauchen eine entsprechende Einschätzung zu den Folgen dieser Technik und auch eine Ethik zum Umgang mit diesen Technologien, die mit der Entwicklung Schritt hält.

Hofmann: Mein Wunsch wäre es, dass wir viel mehr investieren, aber eben auch gemeinsam investieren, um KI gut zugänglich zu machen. KI muss erklärbar und verständlicher werden, damit sie zu einer zugänglichen Infrastruktur entwickelt werden kann. Weg von Monopolen und Geldmacherei, hin zu einer breiten Nutzbarkeit …

Menter: … und so könnte die KI im Hinblick auf die gesamtgesellschaftlichen Herausforderungen auch zu mehr Chancengleichheit führen.

Grafische Abbildung eines Roboters, der die Chancen der Künstlichen Intelligenz verbildlichen soll

„KI könnte in Zukunft eine deutliche Steigerung der Arbeitsqualität mit sich bringen.“ 

Portraitfoto von Josef Menter, Data Scientist bei der Bundesdruckerei GmbH
Josef Menter

„Künstliche Intelligenz muss noch erklärbarer und verständlicher werden, damit sie zu einer zugänglichen Infrastruktur entwickelt werden kann.“ 

Portraitfoto von Martina, Hofmann, Geschäftsbereichsleiterin „Business Intelligence / Data Warehouse“ im IT-Systemhaus der Bundesagentur für Arbeit
Martina Hofmann

Das wäre ein wünschenswertes Ziel … Frau Hofmann, Herr Menter, Herr Fuchs, herzlich Dank für das sehr informative Gespräch.

Mehr zum Thema Künstliche Intelligenz

Artikel
Podcast
Artikel
News
Podcast
Artikel