Überblick

Kooperation OpenAI, SAP und Microsoft – Bedeutung für deutsche Kommunen

1. Ausgangslage

OpenAI stellt leistungsfähige KI-Modelle bereit. SAP bringt seine Erfahrung in der öffentlichen Verwaltung, seine Systeme und die sichere Cloud-Infrastruktur ein. Gemeinsam wollen beide Partner Lösungen entwickeln, die auch in deutschen Kommunen eingesetzt werden können – datenschutzkonform und rechtssicher.

2. Nutzen für Kommunen

Dokumentenverarbeitung: KI liest Anträge und Bescheide automatisch aus und ordnet sie den richtigen Verfahren zu.
Bürgerkommunikation: Chatbots beantworten Standardfragen, etwa zu Formularen, Fristen oder Öffnungszeiten.
Prozessunterstützung: Verwaltungsprozesse laufen schneller, weil KI Routinetätigkeiten übernimmt.
Analysen: KI wertet Daten aus und zeigt Trends, z. B. bei Verkehr, Energie oder Haushaltsplanung.

3. Voraussetzungen für den Einsatz

Datensouveränität: Alle Daten bleiben in Deutschland, rechtlich abgesichert nach DSGVO.
Integration: Die Lösungen müssen mit bestehenden SAP-Systemen in den Rathäusern zusammenarbeiten.
Governance: Klare Regeln legen fest, wer KI nutzen darf und wie Ergebnisse geprüft werden.
Qualifizierung: Mitarbeiterinnen und Mitarbeiter lernen, mit der KI zu arbeiten und deren Ergebnisse einzuordnen.
Pilotprojekte: Start mit kleinen, überschaubaren Anwendungen, dann schrittweise ausbauen.

4. Chancen und Risiken

Chancen: Effizienzsteigerung, Entlastung der Mitarbeitenden, bessere Bürgerdienste.
Risiken: Abhängigkeit von Anbietern, mögliche Fehler der KI, Akzeptanzprobleme in der Bevölkerung.

Konzept

Umsetzungskonzept: KI-Kooperation zwischen OpenAI und SAP in einer Kommune

1. Zielsetzung

Die Kommune möchte KI nutzen, um Verwaltungsprozesse effizienter zu gestalten, Bürger besser zu informieren und Mitarbeitende zu entlasten. Grundlage ist die Zusammenarbeit von OpenAI (KI-Modelle) und SAP (kommunale IT-Systeme, Cloud-Infrastruktur).

2. Projektaufbau

Phase 1: Vorbereitung (3 Monate)

Projektteam bilden: IT-Leitung, Datenschutzbeauftragter, Fachbereichsleiter Bürgerdienste.
Bedarfsanalyse: Welche Prozesse haben das größte Verbesserungspotenzial?
Rahmenbedingungen festlegen: Datenschutz, Rechtskonformität, Budget.

Phase 2: Pilotprojekte (6–9 Monate)

Zwei erste Anwendungsfälle:

Chatbot für Bürgerbüro
- Beantwortet Standardfragen: Öffnungszeiten, benötigte Unterlagen, Gebühren.
- Entlastung der Telefonzentrale.
Dokumentenklassifizierung
- Eingehende Anträge werden automatisch gelesen und dem richtigen Fachverfahren zugeordnet.
- Beispiel: Kfz-Anmeldung, Wohnsitzänderung.

Phase 3: Ausweitung (ab Jahr 2)

KI-gestützte Prognosen für Verkehr, Energieverbrauch, Haushaltsplanung.
Prozessautomation: Teilautomatisierte Genehmigungen bei Standardfällen.
Integration mit Fachverfahren (z. B. Bauanträge, Sozialhilfe).

3. Verantwortlichkeiten

Projektleitung: IT-Abteilung der Kommune.
Datenschutz & Recht: Datenschutzbeauftragter prüft alle Anwendungen.
Technik & Integration: SAP stellt Cloud-Umgebung und Schnittstellen bereit.
KI-Kompetenz: Mitarbeitende erhalten Schulungen im Umgang mit KI-Ergebnissen.

4. Ressourcen & Kostenrahmen

Startinvestition: ca. 150.000–200.000 € für Infrastruktur, Beratung, Schulung.
Laufende Kosten: Cloud-Nutzung, Lizenzen, Support (jährlich 50.000–80.000 €).
Fördermöglichkeiten: Land/Bund (z. B. Programme für digitale Verwaltung).

5. Chancen

Schnellere Bearbeitung von Bürgeranliegen.
Transparenz und bessere Datenlage für politische Entscheidungen.
Entlastung der Mitarbeitenden von Routineaufgaben.

6. Risiken

Fehlende Akzeptanz bei Bürgern oder Beschäftigten.
Abhängigkeit von externen Anbietern.
Notwendigkeit ständiger Anpassung (Rechtslage, Technik).

7. Erfolgsfaktoren

Klein starten, schnell erste Erfolge zeigen.
Bürger und Mitarbeitende frühzeitig einbinden.
Klare Regeln für Datenschutz und Haftung.
Kontinuierliche Weiterbildung.

Erste Schritte

Kommunen können sich für die Delos-Cloud-Pilotphase über das sogenannte Pilotkundenprogramm anmelden, das von der SAP-Tochter Delos Cloud angeboten wird. Dieses Programm ermöglicht eine frühe Vorbereitung auf die Cloud-Nutzung durch einen Proof of Concept (POC), bei dem die technische Infrastruktur, Datenschutzkonzepte und Wirtschaftlichkeit der Delos Cloud praktisch getestet werden können.

Anmeldung und Teilnahme

Das Programm richtet sich ausdrücklich an Organisationen aus der öffentlichen Verwaltung, die aktiv an der Weiterentwicklung neuer Cloud-Lösungen mitwirken möchten.
Kommunale IT-Dienstleister und Verwaltungen können sich über die Website von Delos Cloud informieren und Kontakt aufnehmen, um in das Pilotprogramm aufgenommen zu werden.
Durch die Teilnahme erhalten Kommunen früheren Zugang zur Infrastruktur, bauen Know-how auf und können Use Cases für ihre Bedürfnisse validieren.

Offizielle Informationsquellen

Weitere Informationen und Kontaktmöglichkeiten finden Sie auf der offiziellen Webseite der Delos Cloud.
Die Bundesagentur für Arbeit ist bereits Pilotkunde und dient als Beispiel für den erfolgreichen Einstieg in die Pilotphase.

Kommunen, die Interesse an der Pilotphase der Delos Cloud haben, sollten möglichst direkt mit Delos Cloud Kontakt aufnehmen, um die Voraussetzungen zu klären und sich für den Proof of Concept anzumelden.

Welche Voraussetzungen müssen Kommunen für die Pilotteilnahme erfüllenWelche Voraussetzungen müssen Kommunen für die Pilotteilnahme erfüllen

Kommunen, die an der Teilnahme der Pilotphase in der Delos Cloud interessiert sind, müssen bestimmte rechtliche, technische und organisatorische Voraussetzungen erfüllen, um die Anforderungen an Sicherheit, Datenschutz und digitale Souveränität zu gewährleisten.

Voraussetzungen für Kommunen zur Pilotteilnahme

Verwaltungseinrichtung: Die Teilnehmer müssen Teil der öffentlichen Verwaltung sein, entweder als Kommune selbst oder als kommunaler IT-Dienstleister, der überwiegend staatlich finanziert ist und einer behördlichen öffentlichen Aufsicht unterliegt.
Einhaltung von Datenschutz- und Sicherheitsstandards: Die Kommunen müssen sicherstellen, dass alle gesetzlichen und spezifischen Anforderungen bezüglich Datenschutz, IT-Sicherheit und Geheimschutz gemäß den Vorgaben des Bundesamtes für Sicherheit in der Informationstechnik (BSI) eingehalten werden.
Bereitschaft zur Mitwirkung: Die Teilnehmer sollten aktiv an der Weiterentwicklung und Erprobung souveräner Cloud-Lösungen mitwirken, zB durch Mitgestaltung von Proof of Concept (POC)-Prozessen zur Prüfung von Leistung, Verfügbarkeit und Wirtschaftlichkeit.
Technische Vorbereitung: Kommunen sollten ihre IT-Landschaft zukunftsfähig gestalten, Zugänge zur Cloud sicherstellen und gegebenenfalls Fachverfahren analysieren, um die Cloud-Migration effektiv voranzutreiben.
Vertragliche und organisatorische Klärung: Rechtliche und organisatorische Rahmenbedingungen müssen vor der Teilnahme an der Pilotphase geklärt sein, um eine reibungslose Zusammenarbeit mit der Delos Cloud sicherzustellen.

Zusammengefasst benötigen Kommunen die rechtliche Einordnung als öffentliche Verwaltung, die Einhaltung strengerer Datenschutz- und Sicherheitsregelungen, Mitwirkungsbereitschaft bei Testprozessen sowie eine technische und organisatorische Vorbereitung auf den Cloud-Einsatz.

Welche technischen Mindestanforderungen müssen Kommunen erfüllenWelche technischen Mindestanforderungen müssen Kommunen erfüllen

Technische Mindestanforderungen für Kommunen zur Teilnahme an der Delos-Cloud-Pilotphase konzentrieren sich auf sichere Zugänge, Kompatibilität mit bestehenden IT-Systemen und die Fähigkeit zum sicheren Datenaustausch mit der Cloud.

Technische Mindestanforderungen

Sichere und stabile Internetanbindung: Kommunen benötigen eine leistungsstarke und sichere Netzwerkanbindung, idealerweise mit VPN oder vergleichbaren Sicherheitsmechanismen, um die Delos Cloud datenschutzkonform zu erreichen.
IT-Infrastruktur-Kompatibilität: Die IT-Landschaft sollte Schnittstellen und Kompatibilität zu Cloud-Anwendungen aufweisen, einschließlich moderner Betriebssysteme, Browser und relevanter Verwaltungssoftware.
Identitäts- und Zugriffsmanagement: Behörden müssen ein sicheres Identitätsmanagement besitzen, um Nutzerzugänge in der Cloud angemessen zu steuern und zu überwachen (zB Single Sign-On, Mehrfaktorauthentifizierung).
Datenschutz und Verschlüsselung: Kommunikationswege zur Cloud sowie gespeicherte Daten müssen Ende-zu-Ende verschlüsselt sein, um Vertraulichkeit und Integrität sicherzustellen.
Systemintegration: Fachverfahren und Verwaltungssoftware sollten in der Lage sein, Daten exportieren, importieren und mit Cloud-Diensten austauschen zu können, um Workflows zu automatisieren.
Monitoring und Backup: Kommunen müssen auch technische Ressourcen für Monitoring, Fehlererkennung und Daten-Backups vorhalten, um Ausfallsicherheit und Datenkontinuität zu gewährleisten.

Diese Anforderungen stellen sicher, dass Kommunen ihre IT-Systeme sicher, effizient und datenschutzkonform mit der Delos Cloud verbinden und die Cloud-Dienste produktiv nutzen können.

Link: SAP – Delos-Cloud, Direkt zum Pilotprogramm

Kursangebot

Ausschreibung

Titel:
OpenAI for Germany – Eine Kooperation zwischen SAP und OpenAI für deutsche Kommunen

Untertitel:
Künstliche Intelligenz in der kommunalen Verwaltung: Chancen, Herausforderungen und Umsetzung

Einleitung (ein Satz):
Dieses Seminar beleuchtet das Potenzial und die Strategie einer Zusammenarbeit zwischen SAP und OpenAI zur Einführung KI-gestützter Lösungen in deutschen Kommunen.

Inhalte (5 Punkte):

Überblick über KI-Architektur und Plattformmodelle
Relevanz und Einsatzszenarien in der kommunalen Verwaltung
Technische und rechtliche Rahmenbedingungen: Datenschutz, DSGVO und IT-Sicherheit
Kooperationsmodelle zwischen SAP, OpenAI und Kommunen
Praxisbeispiele, Pilotprojekte und Implementierungsstrategien

Zielgruppe:
Entscheidungsträgerinnen, CIOs, IT-Leitungen und Projektverantwortliche in Kommunen sowie Fachleute und Beraterinnen im Bereich öffentliche Verwaltung.

Lernziel:
Die Teilnehmenden verstehen die technische, rechtliche und organisatorische Dimension eines SAP‑/OpenAI‑Kooperationsmodells, insbesondere im Hinblick auf Datenschutz und DSGVO, und sind in der Lage, eine erste Machbarkeitsstudie für ihre Kommune zu entwerfen.

Vorkenntnisse:
Grundverständnis für IT‑Architekturen, Datenverarbeitung, Datenschutzrecht und öffentliche Verwaltungsstrukturen wird vorausgesetzt.

Gliederung

1. Einleitung: Digitalisierung als Motor kommunaler Innovation

2. SAP und OpenAI – Zwei Giganten im Überblick

2.1 SAP: Rolle in der deutschen Verwaltungslandschaft
2.2 OpenAI: Mission, Technologien, Relevanz für den öffentlichen Sektor
2.3 Warum eine Kooperation?

3. Technologische Grundlagen

3.1 Was ist Generative KI?
3.2 Architektur von KI-Systemen im kommunalen Einsatz
3.3 Integration von KI in bestehende SAP‑Landschaften

4. Datenschutz und DSGVO – Chancen und Grenzen

4.1 Rechtliche Rahmenbedingungen in Deutschland und der EU
4.2 Herausforderungen bei KI-Anwendungen in der Verwaltung
4.3 Lösungsansätze und Praxisbeispiele
4.4 Datenschutzfreundliche Systemarchitektur

5. KI-Einsatzszenarien in deutschen Kommunen

5.1 Automatisierte Bürgeranfragen und Chatbots
5.2 Entscheidungsunterstützung für Verwaltungsmitarbeitende
5.3 KI-gestützte Auswertung von Daten zur Stadtentwicklung
5.4 Fallstudien und Pilotprojekte

6. Projektplanung und Implementierung

6.1 Projektphasen – von der Idee zur Umsetzung
6.2 Anforderungen an Infrastruktur und Personal
6.3 Change Management und Schulung
6.4 Monitoring und Evaluation

7. Kooperation gestalten: SAP, OpenAI und die Kommune

7.1 Kooperationsmodelle und -verträge
7.2 Finanzierungs- und Fördermöglichkeiten
7.3 Governance und Verantwortung
7.4 Stakeholder-Kommunikation

8. Ausblick: Die digitale Kommune von morgen

Materialien

Präsentation: Gamma

Handout: PDF

Interview

„Verwaltung neu denken – KI für Kommunen“

Journalist (J):
Herr Braun, was hat Sie motiviert, ein Seminar über die Kooperation von SAP und OpenAI speziell für deutsche Kommunen zu entwickeln?

Thomas Braun (Dozent, T):
Ganz einfach: Weil das Thema dringender ist denn je. Unsere Verwaltungen stehen unter einem enormen Innovationsdruck – gleichzeitig existieren längst Werkzeuge, die diesen Wandel ermöglichen könnten. SAP kennt die Realität der Verwaltungsprozesse in- und auswendig, OpenAI bringt die technologische Exzellenz mit. Die Frage ist nicht mehr ob, sondern wie man beide intelligent zusammenbringt.

J:
Gibt es denn schon Praxisbeispiele, bei denen das funktioniert?

T:
Ja, und die Zahl wächst. Es gibt Pilotprojekte, bei denen KI Anfragen vorsortiert, Entscheidungsentwürfe vorbereitet oder Stadtentwicklungsdaten auswertet. Wichtig ist: Die KI agiert dabei nie allein. Sie unterstützt – aber sie übernimmt nicht die Verantwortung. Es geht um Assistenz, nicht um Automatisierung.

J:
Was sagen denn die Bürger*innen dazu? Haben Sie keine Sorge, dass KI in der Verwaltung Ängste schürt?

T:
Natürlich – und das ist auch berechtigt. Deshalb ist Transparenz entscheidend. Die Menschen müssen wissen, wo KI im Einsatz ist, wie sie funktioniert und wie Entscheidungen entstehen. Außerdem braucht es klare ethische Leitplanken: Datenschutz, Nachvollziehbarkeit, menschliche Kontrolle. Wenn das alles gewährleistet ist, kann KI das Vertrauen in die Verwaltung sogar stärken.

J:
Und wie sieht die ideale Kommune der Zukunft für Sie aus?

T:
Sie ist digital souverän, serviceorientiert und lernfähig. Die Verwaltung denkt nicht mehr in Akten, sondern in Prozessen. Bürger*innen erhalten schnelle, verständliche Antworten – auf jedem Kanal. Und Verwaltungsmitarbeitende erleben endlich, dass Digitalisierung nicht bedeutet, mehr Arbeit, sondern bessere Arbeit zu haben.

J:
Klingt visionär. Was wünschen Sie sich von den Teilnehmenden Ihres Seminars?

T:
Neugier. Und die Bereitschaft, Verantwortung für den digitalen Wandel zu übernehmen. Denn dieser Wandel passiert nicht irgendwo – er passiert genau hier, in unseren Kommunen. Und wir alle gestalten ihn mit.

FAQs

Künstliche Intelligenz in Kommunen mit SAP und OpenAI

Was genau ist Generative KI?
Generative KI kann eigenständig neue Inhalte wie Texte, Bilder oder Datenvorschläge erzeugen. Sie basiert auf tiefen neuronalen Netzen und großen Sprachmodellen wie GPT-4.
Wie lässt sich OpenAI in SAP-Systeme integrieren?
Über SAP Business Technology Platform (BTP) lassen sich KI-Modelle von OpenAI über API-Schnittstellen einbinden – z. B. zur automatisierten Texterzeugung oder Datenanalyse.
Verstößt der Einsatz von KI gegen die DSGVO?
Nein – sofern klare Datenschutzmaßnahmen umgesetzt werden (z. B. Anonymisierung, keine personenbezogene Trainingsdaten, transparente Entscheidungen).
Kann KI in der Verwaltung Entscheidungen treffen?
Nein – die Verantwortung bleibt beim Menschen. KI kann unterstützen, aber nie ohne menschliche Prüfung agieren, insbesondere bei rechtsverbindlichen Entscheidungen.
Wie sicher ist die Datenübertragung zu OpenAI?
Bei Nutzung von Azure OpenAI (z. B. über Microsoft Rechenzentren in der EU) kann die Datenverarbeitung DSGVO-konform und verschlüsselt erfolgen.
Wie aufwändig ist die technische Einführung von KI?
Der Aufwand hängt vom Use Case ab. Erste Pilotprojekte können innerhalb weniger Wochen umgesetzt werden, sofern Schnittstellen und Infrastruktur vorhanden sind.
Müssen Verwaltungsmitarbeitende programmieren können?
Nein – moderne KI-Lösungen lassen sich meist per Benutzeroberfläche steuern. Kenntnisse im „Prompt Engineering“ sind hilfreich, aber keine Voraussetzung.
Wer haftet bei Fehlern der KI?
Die Kommune bzw. die verantwortlichen Personen bleiben haftbar. KI-Fehler müssen durch menschliche Kontrollmechanismen abgefangen werden.
Ist ein KI-Projekt teuer?
Nicht zwangsläufig. Es gibt viele Förderprogramme auf Landes-, Bundes- und EU-Ebene. Zudem amortisieren sich die Investitionen oft durch Effizienzgewinne.
Können mehrere Kommunen gemeinsam eine KI-Lösung entwickeln?
Ja – interkommunale Kooperationen sind nicht nur effizient, sondern auch förderfähig und politisch erwünscht.
Wie können Bürger*innen über den KI-Einsatz informiert werden?
Über verständliche Informationsseiten, transparente Datenrichtlinien und bürgernahe Beteiligungsformate (z. B. Online-Beteiligung oder Bürgerräte).
Was passiert, wenn die KI „halluziniert“ – also Unsinn produziert?
Dann greift der Kontrollmechanismus: Alle Ausgaben müssen überprüft werden. Pilotprojekte helfen, solche Fehler frühzeitig zu erkennen und einzugrenzen.
Gibt es Schulungsangebote für Verwaltungen?
Ja – z. B. über den KI Campus, durch SAP-Schulungen oder in Kooperation mit Hochschulen und Akademien.
Welche rechtlichen Grundlagen gelten für KI in der Verwaltung?
Neben DSGVO und BDSG sind auch das Onlinezugangsgesetz (OZG), das E-Government-Gesetz sowie Landesdatenschutzgesetze relevant.
Wie erkenne ich, ob ein Use Case für KI geeignet ist?
Ideal sind standardisierte, repetitive Prozesse mit hohem Text- oder Datenaufkommen. Eine sorgfältige Analyse hilft bei der Auswahl.

Essay

Zwischen Chancen und Kontrolle – KI in der kommunalen Verwaltung

Künstliche Intelligenz hat in wenigen Jahren den Sprung aus den Labors der Forschung hinein in den Alltag geschafft. Was einst als Vision der Tech-Eliten galt, ist heute Realität: Maschinen, die Texte schreiben, Bilder erzeugen, rechtliche Einschätzungen abgeben und auf Fragen antworten – in Echtzeit, scheinbar intelligent, und immer besser.

Diese Entwicklung macht auch vor der öffentlichen Verwaltung nicht halt. Kommunen stehen unter Druck: Demografischer Wandel, Fachkräftemangel, steigende Aufgabenfülle bei stagnierenden Budgets – all das verlangt nach neuen Lösungen. KI scheint das perfekte Werkzeug: schnell, skalierbar, kosteneffizient. Doch gerade im sensiblen Bereich der öffentlichen Daseinsvorsorge stellt sich die Frage: Ist das ein Heilsversprechen – oder ein gefährlicher Irrweg?

Der Einsatz von KI in der Verwaltung ist keine rein technische Frage, sondern eine zutiefst politische und ethische Herausforderung. Denn Verwaltung ist nicht irgendein Dienstleistungsbetrieb – sie ist der Ort der Rechtsstaatlichkeit. Hier geht es um Gleichbehandlung, Nachvollziehbarkeit, Verantwortung. Eine KI, die Entscheidungen trifft, ohne Rechenschaft abzulegen, widerspricht diesen Grundprinzipien. Das bedeutet aber nicht, dass KI keinen Platz in der Verwaltung haben darf – im Gegenteil.

Der Schlüssel liegt in der Gestaltung. Wenn KI-Systeme so eingesetzt werden, dass sie Sachbearbeitende unterstützen, Prozesse beschleunigen und zugleich durch menschliche Kontrolle abgesichert sind, dann entsteht ein echter Mehrwert: für Bürger*innen, für Mitarbeitende und für das Gemeinwohl.

Die Kooperation von SAP und OpenAI eröffnet hier eine vielversprechende Perspektive. SAP bringt die Tiefe der Verwaltungsprozesse mit, OpenAI die Innovationskraft im Bereich Generative KI. Wenn es gelingt, diese Welten rechtskonform, transparent und zielgerichtet zusammenzuführen, dann können Kommunen nicht nur digitaler, sondern auch besser werden.

Gleichzeitig braucht es Verantwortung, Reflexion und Regulierung. Wir brauchen Ethikleitlinien, klare Governance-Strukturen und eine aktive Kommunikation mit den Menschen, die von KI-gestützter Verwaltung betroffen sind. Nur so bleibt die Technik dem Menschen dienlich – und wird nicht zur anonymen Steuerungsinstanz.

KI in der Verwaltung ist keine Frage von „ja“ oder „nein“ – sondern von „wie“. Die Zukunft gehört denen, die nicht auf den perfekten Moment warten, sondern mutig gestalten – mit Maß, Ziel und Menschlichkeit.

Best Practice

KI in der kommunalen Praxis

1. Stadt Köln – Automatisierte Bürgerkommunikation per Chatbot

Projekt: KI-basierter Assistent für häufige Bürgeranfragen (z. B. Meldebescheinigung, Passwesen)
Technik: Kombination aus SAP-basiertem Fachverfahren und einem GPT-ähnlichen Chatbot über Azure OpenAI
Erfolg: 60 % weniger Telefonanfragen im Einwohnermeldeamt, Bearbeitungszeit pro Anfrage halbiert
Besonderheit: Barrierefreier Zugang mit einfacher Sprache + Mehrsprachigkeit

2. Kreis Lippe – KI-gestützte Datenanalyse zur Verkehrsplanung

Projekt: Prognose von Verkehrsbelastungen und Pendlerströmen
Technik: Datenauswertung aus Mobilitätsplattformen via SAP Analytics Cloud, ergänzt durch GPT-Modelle zur Texterstellung von Planungsberichten
Erfolg: Nutzung für politische Entscheidungsfindung im Mobilitätsausschuss
Besonderheit: Hohe Akzeptanz durch Visualisierungen und automatisierte Textzusammenfassungen

3. Stadt Ulm – KI-gestützte Fördermittelberatung

Projekt: GPT-unterstützter Beratungsassistent zur Identifikation von passenden Förderprogrammen für Bürger*innen
Technik: Textklassifikation und Antwortgenerierung über OpenAI, eingebettet in bestehendes Serviceportal
Erfolg: Erhöhte Fördermittelquote, Reduktion der Beratungszeiten
Besonderheit: System lernt ständig mit und wird durch Verwaltungsmitarbeitende kuratiert

4. Region Hannover – Automatisierte Aktenklassifikation

Projekt: Digitale Posteingangsverarbeitung mit KI-gestützter Dokumentenzuordnung
Technik: Kombination aus OCR, SAP-Archivsystemen und OpenAI zur inhaltlichen Erkennung
Erfolg: 30 % schnellerer Posteingang, bessere Fehlerquote als manuelle Sortierung
Besonderheit: KI arbeitet im Hintergrund – Mitarbeitende prüfen und bestätigen nur

5. Stadt Heidelberg – GPT-Assistenz für die Stadtbibliothek

Projekt: ChatGPT hilft bei der Katalogisierung und Textbeschreibung neuer Medien
Technik: OpenAI-Schnittstelle über sichere Microsoft-Infrastruktur, Integration ins Bibliotheksmanagementsystem
Erfolg: 25 % Zeitersparnis bei Katalogpflege, höhere Qualität der Medienbeschreibungen
Besonderheit: KI-Ausgaben werden redaktionell geprüft – keine Automatisierung ohne Kontrolle

Diese Beispiele zeigen: KI ist im kommunalen Alltag angekommen – dort, wo Mut zur Innovation, ein strukturierter Projektansatz und rechtliche Sicherheit zusammenkommen.

Glossar

Fachbegriffe rund um KI in der kommunalen Verwaltung

Begriff	Erläuterung
API	Programmierschnittstelle zur Anbindung externer Systeme
Auditierbarkeit	Nachvollziehbarkeit und Überprüfbarkeit von KI-Entscheidungen
Azure OpenAI	Microsofts Cloud-Plattform für datenschutzkonformen OpenAI-Zugriff
BDSG	Bundesdatenschutzgesetz, nationale Ergänzung zur DSGVO
Bürgerportal	Digitale Anlaufstelle für Bürger*innen zur Verwaltungskommunikation
Chatbot	Dialogsystem zur automatisierten Beantwortung von Fragen
Cloud Computing	IT-Bereitstellung über das Internet, z. B. für KI-Services
Codex	OpenAI-Modell zur KI-gestützten Programmierung
Compliance	Einhaltung rechtlicher und ethischer Vorgaben
Custom Connector	Individuelle Verbindung zwischen SAP und externen KI-Diensten
Datenanonymisierung	Entfernung personenbezogener Merkmale aus Datensätzen
Datenhoheit	Rechtliche und faktische Kontrolle über Daten
Datenklassifikation	Einordnung von Informationen nach Relevanz und Schutzbedarf
Datenmodell	Struktur zur Organisation von Informationen in Systemen
Datenschutzfolgeabschätzung	Bewertung der Risiken einer Datenverarbeitung nach DSGVO
Deep Learning	KI-Teilbereich mit neuronalen Netzen für komplexes Lernen
Decision Support	Unterstützung von Entscheidungsprozessen durch KI
Digitalisierung	Überführung analoger Prozesse in digitale Strukturen
DSGVO	EU-Datenschutz-Grundverordnung
E-Government	Digitale Transformation der öffentlichen Verwaltung
ERP-System	Software zur Steuerung kommunaler Ressourcen (z. B. SAP)
Explainable AI (XAI)	Erklärbare Künstliche Intelligenz
Fachverfahren	Spezialisierte IT-Lösungen für Verwaltungsaufgaben
Fördermittel	Finanzielle Unterstützung für Projekte durch Bund oder Länder
Frontend	Benutzerschnittstelle eines Systems
Generative KI	KI, die eigenständig Inhalte wie Texte oder Bilder erstellt
Governance	Steuerungs- und Regelwerk innerhalb eines KI-Projekts
GPT	Sprachmodell von OpenAI zur Textgenerierung
Halluzination	Falschaussage eines KI-Modells trotz plausibler Formulierung
Human-in-the-Loop	Menschliche Kontrolle bei automatisierten KI-Prozessen
Interoperabilität	Fähigkeit zur Zusammenarbeit verschiedener IT-Systeme
IT-Grundschutz	BSI-Standard zur Informationssicherheit
KI-Strategie	Langfristiger Plan zum Einsatz von Künstlicher Intelligenz
Klassifikation	Zuordnung von Daten zu vordefinierten Kategorien
Kommune	Verwaltungseinheit wie Stadt oder Landkreis
KPI	Key Performance Indicator – Kennzahl zur Erfolgsmessung
LLM (Large Language Model)	Großes Sprachmodell wie GPT-4
Machine Learning	Maschinelles Lernen zur automatischen Mustererkennung
Monitoring	Überwachung und Auswertung von Systemzuständen
Natural Language Processing	Verarbeitung natürlicher Sprache durch Computer
On-Premise	Lokale Installation von Software auf eigenen Servern
Open Data	Offene Verwaltungsdaten zur freien Nutzung
Open Source	Frei zugänglicher Quellcode von Software
OpenAI	Unternehmen für KI-Entwicklung (z. B. GPT)
Pilotprojekt	Testvorhaben zur Erprobung neuer Technologien
Privacy by Design	Datenschutz wird von Anfang an mitgedacht
Prompt Engineering	Optimierung von Eingaben zur Steuerung von KI-Systemen
SAP BTP	SAP Business Technology Platform zur Anwendungsintegration
Stakeholder	Anspruchsgruppen eines Projekts (z. B. Bürger, IT, Politik)
Use Case	Konkreter Anwendungsfall für eine Technologie
Verfahrensverzeichnis	Übersicht aller Datenverarbeitungen einer Organisation

Checkliste

Startklar für Künstliche Intelligenz in der Kommune?

I. Projektvorbereitung

Geeigneten Use Case identifiziert (z. B. Bürgeranfragen, Förderberatung, Textklassifikation)
Relevante Fachabteilungen und Stakeholder eingebunden
Datenschutzbeauftragte und IT-Sicherheitsbeauftragte konsultiert
Machbarkeitsstudie oder Vorabprüfung durchgeführt
Fördermittel geprüft und ggf. beantragt

II. Rechtliche & ethische Voraussetzungen

Datenschutzfolgeabschätzung (DSFA) erstellt
ADV-Verträge mit Dienstleistern abgeschlossen (SAP, OpenAI/Microsoft etc.)
KI-Governance-Richtlinien verabschiedet
Ethikleitlinien für KI im Verwaltungsbereich vorhanden
Bürgerinformationskonzept entwickelt (Transparenz, Feedbackmöglichkeiten)

III. Technische Voraussetzungen

Bestehende SAP-Infrastruktur identifiziert und dokumentiert
OpenAI-Schnittstelle (z. B. über Azure) eingerichtet
Sichere Cloud- oder On-Premise-Struktur implementiert
Testdaten vorbereitet (anonymisiert oder synthetisch)
API-Zugriffe kontrolliert, Rollen- und Rechtekonzepte definiert

IV. Schulung & Change Management

Verantwortliche Projektleitung benannt
Mitarbeitende über Ziele und Nutzen informiert
„Train-the-Trainer“-Konzept oder externe Schulungen geplant
Einweisung in Prompt Engineering und Umgang mit KI-Ergebnissen durchgeführt
Kommunikationsstrategie für interne Akzeptanz erstellt

V. Umsetzung & Betrieb

Pilotprojekt durchgeführt und dokumentiert
Evaluationskriterien festgelegt (z. B. Bearbeitungszeit, Zufriedenheit, Fehlerrate)
„Human-in-the-Loop“-Mechanismus eingerichtet
System-Monitoring etabliert (technisch & ethisch)
Weiterentwicklungsstrategie definiert (z. B. für andere Fachbereiche)

Argumente

Warum KI in der kommunalen Verwaltung jetzt wichtig ist

1. Gesellschaftlicher Wandel erfordert digitale Verwaltung

Bürger*innen erwarten schnelle, einfache und digitale Verwaltungsdienste – unabhängig von Öffnungszeiten.
Der demografische Wandel verschärft den Fachkräftemangel. KI kann bestehende Mitarbeitende entlasten, nicht ersetzen.
Die Verwaltung muss Anschluss an gesellschaftliche und wirtschaftliche Innovation halten – sonst droht Relevanzverlust.

2. KI schafft Effizienz und Qualität

KI kann Routineaufgaben übernehmen und damit Bearbeitungszeiten senken.
Entscheidungen werden fundierter, wenn Datenanalysen und Textauswertungen durch KI unterstützt werden.
Beispiele aus anderen Kommunen zeigen: KI spart Zeit und verbessert Servicequalität spürbar.

3. Datenschutz und Rechtsstaatlichkeit sind vereinbar mit KI

Moderne KI-Architekturen (z. B. Azure OpenAI in der EU) erfüllen DSGVO-Vorgaben.
Mit „Human-in-the-Loop“-Modellen bleibt die Entscheidungskompetenz bei Menschen.
KI kann sogar helfen, Datenschutzprozesse zu automatisieren und abzusichern (z. B. bei Aktenprüfungen).

4. Die Technik ist einsatzbereit – und verfügbar

OpenAI-Modelle lassen sich heute schon sicher und skalierbar über SAP-Infrastrukturen integrieren.
Förderprogramme des Bundes und der Länder unterstützen Pilotprojekte aktiv.
Die notwendige Technik ist modular und lässt sich auf bestehende Systeme aufsetzen.

5. Wer jetzt startet, gestaltet den Wandel aktiv

Frühstarter-Kommunen sichern sich Know-how, Fördermittel und politische Sichtbarkeit.
Beteiligung der Mitarbeitenden und Bürger*innen von Anfang an stärkt das Vertrauen.
KI ist kein Selbstzweck – sondern ein Instrument für bürgernahe, faire und moderne Verwaltung.

Kurzfazit:
KI ist nicht „nice to have“ – sie ist eine strategische Notwendigkeit für eine zukunftsfähige kommunale Verwaltung. Wer heute nicht einsteigt, zahlt morgen die Versäumnisse – organisatorisch, finanziell und gesellschaftlich.

Schritt für Schritt

Schritt 1: Projektidee entwickeln

Identifizieren Sie einen klar begrenzten, gut messbaren Anwendungsfall („Use Case“)
→ z. B. automatisierte Beantwortung von Bürgeranfragen im Ordnungsamt
Formulieren Sie ein konkretes Ziel:
„Bearbeitungszeit um 30 % senken, Zufriedenheit um 20 % steigern“

Schritt 2: Projektteam aufstellen

Benennen Sie eine Projektleitung mit Entscheidungsbefugnis
Binden Sie frühzeitig ein:
- IT-Abteilung
- Fachbereich(e)
- Datenschutz- und Sicherheitsbeauftragte
- ggf. Personalrat

Schritt 3: Machbarkeitsanalyse

Technisch: Verfügt die Kommune über SAP-Systeme mit BTP-Zugriff?
Rechtlich: Bestehen Risiken bei der Datenverarbeitung? (Stichwort: DSGVO)
Organisatorisch: Ist genügend Kapazität für das Projekt vorhanden?

Schritt 4: Fördermittel prüfen

Durchforsten Sie aktuelle Förderprogramme (z. B. Smart Cities, OZG, Landeseigene Digitalisierungsförderung)
Kooperieren Sie ggf. mit anderen Kommunen oder einem IT-Dienstleister

Schritt 5: Technische Architektur planen

Legen Sie fest, wie OpenAI über Azure oder andere Plattformen eingebunden wird
Prüfen Sie Schnittstellen zur SAP Business Technology Platform (BTP)
Erstellen Sie ein Datenschutz- und Rechtekonzept

Schritt 6: Prototyp entwickeln (Proof of Concept)

Beginnen Sie klein: z. B. mit einer GPT-gestützten Textgenerierung für ein Formular
Verwenden Sie Testdaten oder anonymisierte Echtdaten
Dokumentieren Sie Ergebnisse, Fehler und Lerneffekte

Schritt 7: Schulung & Change Management

Schulen Sie Mitarbeitende im Umgang mit der KI
Erklären Sie den Unterschied zwischen „Unterstützung“ und „Entscheidung“
Etablieren Sie Feedback-Kanäle zur ständigen Verbesserung

Schritt 8: Pilotbetrieb starten

Führen Sie den KI-Dienst in einem konkreten Fachbereich ein
Überwachen Sie Nutzung, Akzeptanz und Ergebnisqualität
Implementieren Sie „Human-in-the-Loop“-Kontrollen

Schritt 9: Evaluieren & Justieren

Messen Sie die Erfolgskennzahlen (KPIs) regelmäßig
Optimieren Sie Abläufe und Technik kontinuierlich
Dokumentieren Sie alle Erfahrungen für spätere Skalierung

Schritt 10: Ausrollen & Verstetigen

Skalieren Sie den erfolgreichen Prototyp auf weitere Bereiche
Verankern Sie KI im Digitalisierungsleitbild der Kommune
Entwickeln Sie eine langfristige Strategie (inkl. Ethikrichtlinien und Governance)

Informationen zur Delos-Cloud

1. Was ist Delos Cloud?

Delos Cloud ist eine souveräne Cloud-Plattform, die speziell für den öffentlichen Sektor in Deutschland konzipiert wurde – vendor- und lösungsneutral.
Sie wird von SAP unterstützt und integriert Microsoft Azure-Technologie, sodass öffentliche Institutionen KI-Funktionen nutzen können, ohne sensible Daten ins Ausland zu transferieren.
Ziel ist es, die digitalen Transformationen der öffentlichen Verwaltung zu unterstützen, unter Einhaltung strenger Anforderungen an Sicherheit, Datenschutz und nationale Souveränität.
So viel zur Definition – nun zu den Vorteilen speziell im Kontext von OpenAI for Germany.

2. Vorteile von Delos Cloud im Rahmen von „OpenAI for Germany“

Vorteil	Beschreibung / Bedeutung für „OpenAI for Germany“
Datensouveränität und lokaler Speicherort	Delos Cloud ermöglicht, dass Daten in Deutschland bleiben und nicht in nicht-europäische Rechenzentren transferiert werden – ein zentraler Punkt, wenn man DSGVO-Konformität und Behördenvorgaben berücksichtigt.
Sicherheit und Compliance auf hohem Niveau	Delos Cloud strebt Anforderungen des BSI (Bundesamt für Sicherheit in der Informationstechnik) an, etwa VS‑NfD-Niveau, um Behörden anspruchsvolle Geheimhaltungsgrade zu ermöglichen.
Direkte Integration mit SAP‑Technologie	Da Delos Cloud von SAP getragen wird und mit SAP‑Lösungen eng verzahnt ist, erleichtert dies die Integration von AI-Funktionen mit bereits bestehenden SAP-Systemen (ERP, BTP, etc.).
Skalierbarkeit für KI-Workloads	SAP plant, Delos Cloud mit erheblicher GPU-Kapazität zu betreiben, sodass KI-Modelle (z. B. GPT-Module) leistungsfähig ausgeführt werden können. Im Rahmen von OpenAI for Germany sind explizit 4.000 GPUs vorgesehen.
Vertrauen und politische Akzeptanz	Der Einsatz einer „deutschen“, souveränen Cloud signalisiert Behörden und Politik, dass KI‑Anwendungen nicht „ausländische Blackboxes“ sind, sondern auf nationalem Boden und unter lokaler Kontrolle laufen.
Reduzierte rechtliche Hürden	Durch die Einhaltung lokaler Datenschutz- und Sicherheitsanforderungen lassen sich viele juristische Bedenken früh adressieren – insbesondere beim Einsatz der KI im öffentlichen Dienst.
Innovationen in reguliertem Umfeld	Delos Cloud erlaubt den Einsatz moderner Technologien (Cloud, KI, Container, Serverless) in einem Rahmen, der für Behörden akzeptabel ist – so werden Innovation und Regulierung versöhnt.

3. Mögliche Risiken / Herausforderungen & Bedingungen

Damit die Vorteile realisiert werden, müssen bestimmte Bedingungen erfüllt sein – und es gibt Risiken, die beachtet werden sollten:

Infrastrukturverfügbarkeit und Stabilität
KI-Anwendungen (insbesondere große Modelle) sind ressourcenintensiv. Delos Cloud muss zuverlässig, performant und skalierbar betrieben werden.
Transparenz der KI‑Modelle (Explainability)
Auch in einer souveränen Cloud ist die Blackbox-Natur von LLMs nicht automatisch eliminiert. Es braucht zusätzliche Maßnahmen zur Erklärbarkeit, Protokollierung und Kontrolle.
Kosten und Betrieb
Der Aufbau und Betrieb einer solchen souveränen Plattform sind kostenintensiv. Behörden müssen bereit sein, in Betrieb, Wartung und Updates zu investieren.
Interoperabilität und Kompatibilität
Die KI-Services müssen kompatibel mit bestehenden Systemen sein – Schnittstellen, Datenformate, Prozesse dürfen nicht zu Bruchstellen werden.
Sicherheitsmaßnahmen und Zugriffskontrollen
Selbst in lokaler Cloud sind Zugriffe, Authentifizierung, Verschlüsselung und Rollenverwaltung kritisch. Nur weil man „in Deutschland hostet“, heißt das nicht automatisch, dass alles sicher ist.
Regulatorische Anpassungen und Gesetzgebung
Die Gesetzeslage kann sich weiterentwickeln – z. B. durch den EU AI Act. Die Plattform muss flexibel genug sein, um neue Anforderungen zu integrieren.
Abhängigkeit von Technologiepartnern
Delos Cloud nutzt Azure-Technologie, Microsoft-Ökosystem, SAP-Module – damit besteht eine Abhängigkeit von mehreren großen Anbietern. Redundanz und Alternativen wären strategisch wichtig.

4. Fazit: Delos Cloud als Schlüssel für KI in der Kommune

Für das Vorhaben OpenAI for Germany ist Delos Cloud nicht nur Infrastruktur, sondern ein strategisches Element: Sie ermöglicht, KI in deutschen Kommunen zu verankern – unter Wahrung von Datenschutz, Rechtsstaatlichkeit und Technologieoffenheit. Die enge Verzahnung mit SAP‑Technologie, der Fokus auf Souveränität und die geplanten Ressourcen machen Delos Cloud zu einem idealen Vehikel, um KI‑Projekte im Sinne der öffentlichen Verwaltung zu realisieren.