Die Verwendung von KI-Systemen ist nur dann erlaubt, wenn sie den Anwendungsfreigabeprozess durchlaufen haben und festgelegt wurde, wie das jeweilige KI-System eingesetzt werden darf. Auch frei zugängliche KI-Systeme wie z.B. ChatGPT dürfen nicht ohne Freigabe genutzt werden. Es ist die Aufgabe der Mitarbeitenden, diese Technologien sachkundig und mit Verantwortungsbewusstsein anzuwenden. Dies setzt eine enge Zusammenarbeit im Team und mit den Führungskräften voraus, um geeignete Einsatzmöglichkeiten durch kreativen und innovativen Austausch zu identifizieren. Dabei müssen die Grundsätze der Legalität (z. B. Datenschutz und Urheberrecht), Sparsamkeit und Wirtschaftlichkeit (Kosten-Nutzen-Abwägung) sowie Zweckmäßigkeit (Verbesserung der Arbeitsleistung und Förderung von Innovation) ebenso berücksichtigt werden, wie die rechtlichen und ethischen Standards. Rechtliche Standards umfassen insbesondere die Einhaltung aller einschlägigen Gesetze, Verordnungen und internen Richtlinien, wie etwa Datenschutzvorschriften, Urheberrecht, Informationssicherheit und weitere für den öffentlichen Dienst relevante Regelungen. Ethische Standards bedeuten im Kontext dieser Dienstanweisung, dass bei der Nutzung von KI-Systemen die Achtung der Menschenwürde, die Wahrung der Persönlichkeitsrechte, der Schutz vor Diskriminierung sowie die Förderung von Transparenz, Fairness und Integrität stets gewährleistet sein müssen. So kann der Einsatz von KI-Systemen sinnvoll zur effektiven Unterstützung in den jeweiligen Aufgabenbereichen beitragen.
Die Einführung von KI-Systemen wird im Rahmen der Anwendungsfreigabe eng begleitet. Für Fragen stehen die Digitalisierungskoordinatoren und Digitalisierungskoordinatorinnen des Fachdienstes 03 Digitalisierung für die jeweiligen Fachbereiche zur Verfügung.
Der Einsatz von Systemen der Künstlichen Intelligenz (KI) oder von KI-gestützten Anwendungen unterliegt grundsätzlich denselben Beteiligungsrechten und Schutzvorschriften wie der Einsatz jeglicher Informations- und Kommunikationstechnik im Sinne der Rahmendienstvereinbarung „IuK-Technik“ in der jeweils geltenden Fassung.
2. Zweck
Diese Dienstanweisung gibt den Mitarbeitenden des Landkreises Richtlinien und Verfahren an die Hand, die den sicheren, transparenten und verantwortungsvollen Umgang mit KI-Systemen gewährleisten sollen. Ziel ist es, die Vorteile dieser Technologien nutzbar zu machen, während Risiken kontrolliert und datenschutzrechtliche sowie ethische Standards eingehalten und beachtet werden.
Da KI-Systeme in ihrer Funktionalität von der Qualität der Daten und Algorithmen abhängen und Fehler möglich sind, ist der verantwortungsvolle Einsatz von KI mit klaren Vorgaben verbunden. So kann die Nutzung dieser Technologie bestmöglich zur Unterstützung und Optimierung der Verwaltungsaufgaben beitragen.
3. Geltungsbereich
Als KI-Systeme gelten alle Computerprogramme, Anwendungen oder Geräte, die mindestens eines der folgenden Merkmale haben:
Unvorhersehbarkeit: Es werden Ergebnisse oder Antworten erzeugt, die im Einzelfall nicht vollständig vorhersehbar sind.
Lernfähigkeit: Sie können aus Erfahrungen oder Daten selbstständig lernen, ihr Verhalten anpassen und sich weiterentwickeln, zum Beispiel durch maschinelles Lernen oder Analyse großer Datenmengen.
Zielorientiertes Handeln: Sie erarbeiten auf Basis vorliegender Daten eigenständig Entscheidungen, Vorschläge oder Empfehlungen.
Sobald mindestens eines dieser Merkmale erfüllt ist, handelt es sich um ein KI-System im Sinne dieser Dienstanweisung.
4. Verantwortlichkeiten
5. Beschaffung und Einrichtung von KI-Anwendungen
Vor der Einführung und Nutzung eines KI-Systems ist zu prüfen, welcher Risikoklasse das System nach dem EU AI Act zuzuordnen ist (unannehmbares, hohes, begrenztes oder minimales Risiko). Die Einordnung der jeweiligen KI-Anwendung ist durch die auslösende Organisationseinheit in Zusammenarbeit mit den Digitalisierungskoordinatoren und den Digitalisierungskoordinatorinnen des Fachdienstes 03 Digitalisierung vorzunehmen. Die Bewertung ist zu dokumentieren und den Unterlagen zur Anwendungsfreigabe beizulegen.
Bereits mit Beginn der Planung zur Einführung, wesentlichen Änderung oder Anwendung von KI-Systemen, die geeignet ist, das Verhalten oder die Leistung von Beschäftigten zu überwachen, ist der Personalrat gemäß § 67 Abs. 1 Nr. 2 NPersVG frühzeitig und umfassend zu beteiligen.
6. Anwendungsgebiete
Texterstellung:
KI-gestützte Textverarbeitungsprogramme sogenannte Large Language Models, LLMs können zur Erstellung allgemeiner Texte, Pressetexte, Konzepte etc. genutzt werden. Ein Beispiel für eine Eingabe (Prompt) könnte sein: „Erstelle ein Antwortschreiben an eine Bürgeranfrage bezüglich der geplanten Baumaßnahme „Neubau des Kreisverwaltungsgebäudes“. Bitte berücksichtige dabei die folgenden Punkte: Projektstatus, erwartete Fertigstellungstermine, Auswirkungen auf den Verkehr und mögliche Erschließungsmöglichkeiten für zu Fuß Gehende oder Radfahrende. Formuliere die Antwort in einem freundlichen und verständlichen Ton.“
Textzusammenfassung:
KI-Systeme können genutzt werden, um Informationen schnell zusammenzufassen und so eine effizientere Bearbeitung zu ermöglichen.
Wissensdatenbank für alltägliche Arbeit:
KI-Systeme können bei alltäglichen Fragen und Herausforderungen helfen, z. B.: „Wie erstelle ich in PowerPoint eine neue Folie mit einer bestimmten Vorlage?“ mit möglichen Rückfragen wie „Kannst du mir hierfür eine Schritt-für-Schritt Anleitung erstellen?“ oder „Wie kann ich in Excel ein Diagramm erstellen, das sich dynamisch an die Daten anpasst?“ oder „Wie kann ich einen Vertreter in meinem Notes Postfach hinterlegen?“
Datenanalyse und -verarbeitung:
KI-Systeme können große Datenmengen z. B. aus Excel-Tabellen analysieren und auswerten.
Entscheidungsunterstützung:
KI-Systeme können als Sparringspartner zur Entscheidungsfindung genutzt werden, indem sie neue Impulse geben und bei der Vorbereitung von Entscheidungen unterstützen.
Automatisierung von Verwaltungsprozessen:
KI-Systeme können Prozesse im Verwaltungsablauf unterstützen, vereinfachen und teilweise automatisieren.
Übersetzungen:
KI-gestützte Anwendungen können zur schnellen Übersetzung von Texten genutzt werden, insbesondere zur Erschließung von fremdsprachigen Inhalten.
Foto- und Videogenerierung:
KI-Systeme können zur Erstellung und Bearbeitung von Bildern und Videos genutzt werden, insbesondere für Präsentationen, Öffentlichkeitsarbeit oder Schulungsmaterialien.
Bei der Einführung neuer KI-Systeme muss der Anwendungsfreigabeprozess zwingend durchlaufen werden.
7. Verwendungsausschluss
Manipulation menschlichen Verhaltens: KI darf nicht zur Beeinflussung oder Manipulation des Verhaltens von Personen genutzt werden.
„Manipulation“ meint hier ausschließlich den Versuch, gezielt und nicht offen erkennbar Einstellungen, Überzeugungen oder Handlungen von Personen im Sinne einer bestimmten Intention zu beeinflussen – und nicht die lediglich unterstützende, nachvollziehbare Hilfestellung bei der Aufgabenerledigung.
KI darf nicht eingesetzt werden, um beispielsweise Texte zu verfassen, die Mitarbeitende oder Kundinnen und Kunden unterbewusst beeinflussen. Dies gilt insbesondere, wenn dies durch gezielte Auswahl von Formulierungen, emotionalisierende Sprache oder das Auslassen wichtiger Informationen geschieht.
Social Scoring: Eine Bewertung des Sozialverhaltens oder die Erstellung von Persönlichkeitsprofilen durch KI ist unzulässig.
Beispiel: Eine KI-Anwendung darf nicht verwendet werden, um das Verhalten von Mitarbeitenden oder Bürgerinnen und Bürgern anhand von Kommunikationsdaten, Online-Aktivitäten oder anderen personenbezogenen Informationen zu analysieren oder einen „Score“ für Zuverlässigkeit, Teamfähigkeit oder gesellschaftliches Engagement zu vergeben. Diskriminierung: KI darf nicht zur Diskriminierung, z.B. aufgrund von Geschlecht, einer rassistischen Zuschreibung, Religion, Behinderung, sexueller Orientierung oder anderen Merkmalen, verwendet werden. Beispiel: KI darf nicht eingesetzt werden, Bewerberinnen und Bewerber bei Auswahlverfahren aufgrund von Merkmalen wie Geschlecht, ethnischer Herkunft, Religion, Behinderung oder sexueller Orientierung zu bevorzugen oder zu benachteiligen. Eine automatisierte Auswahl, die solche Merkmale in die Bewertung einbezieht oder entsprechende Bewerbungen systematisch aussortiert, ist unzulässig. Biometrische Erkennung: KI darf nicht zur biometrischen Erkennung genutzt werden. Biometrische Daten sind persönliche Merkmale wie Gesichtsbilder oder Fingerabdrücke, mit denen eine natürliche Person eindeutig erkannt werden kann. Beispiel: KI darf nicht eingesetzt werden, um aus vorhandenen Datensätzen (z.B. digitalen Personalakten, Antragsunterlagen mit Lichtbildern, Datenbanken mit Fingerabdrücken) biometrische Merkmale zu extrahieren und diese anschließend zur automatisierten Verknüpfung von Personen über verschiedene interne Systeme hinweg zu nutzen.
Einordnung von KI-Anwendungen in Risikoklassen
Quelle: EU AI Act (https://artificialintelligenceact.eu)
Auf Basis dieser Klassifizierung ist die Beschaffung und Einrichtung von KI-Anwendungen entweder zulässig, untersagt oder an zusätzliche Risikoanalysen und Verpflichtungen geknüpft.
Ab Klasse 3 ist durch den verantwortlichen Fachdienst in Zusammenarbeit mit dem zuständigen Digitalisierungskoordinator oder der zuständigen Digitalisierungskoordinatorin zwingend eine Datenschutzfolgeabschätzung gem. Art. 35 DS-GVO vorzuweisen.
Transparenzverpflichtungen können durch Erstellung eines Informationsblatts (für die bestimmte Anwendung und den Zweck gem. Art. 13 DS-GVO) mit dem Hinweis auf die KI dargelegt werden. Gemäß Artikel 50, Absatz 4 EU Artificial Intelligent Act besteht eine Kennzeichnungspflicht (z.B. "Dieser Text wurde unter Verwendung eines KI-gestützten Tools erstellt."). Diese Verpflichtung gilt nicht, wenn die KI-generierten Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt. Die Prüfung von KI genierten Inhalten ist für die Mitarbeitenden verpflichtend, wodurch die Kennzeichnungspflicht in diesem Anwendungsbeispiel entfällt. Bei KI generierten Bildern oder Videos muss eine entsprechende Kennzeichnung erfolgen.
Die Mitarbeitenden haben die datenschutzrechtlichen Bestimmungen wie beispielsweise Datenminimierung, Zweckbindung oder Datensicherheit dabei eigenverantwortlich umzusetzen. Die weiteren Datenschutzaspekte werden im Rahmen der Anwendungsfreigabe festgelegt, der jeweils im Rahmen der Anwendungsfreigabe beteiligten Fachdienstleitung, oder ggf. von dieser abweichend benannten Person, bekanntgegeben und sind verbindlich zu befolgen.
8. Grundsatz der Entscheidungsverantwortung
Im Umgang mit Informationen aus externen Quellen, wie etwa Social Media oder dem Internet, gelten weiterhin die bestehenden Grundprinzipien. Diese basieren auf den allgemeinen Verwaltungsvorschriften, darunter insbesondere das Bundes- bzw. Landesdatenschutzgesetz (BDSG, LDSG) sowie die Landkreis Lüneburg Leitlinie zur Informationssicherheit und Datenschutz.
Von KI erzeugte Inhalte – zum Beispiel Texte, Zusammenfassungen oder Rechercheergebnisse – dürfen nicht ohne vorherige Überprüfung in dienstliche Vorgänge übernommen werden. Diese Überprüfung umfasst die Bewertung auf Richtigkeit, Vollständigkeit und Plausibilität, ebenso wie dies auch bei anderen externen Informationsquellen erforderlich ist. Hierzu kann beispielsweise ein Abgleich mit weiteren verlässlichen Quellen erfolgen.
Gerade angesichts der steigenden Verbreitung von KI-basierten Täuschungsversuchen, wie sogenannten „Deepfakes“ (also durch Künstliche Intelligenz erzeugte, täuschend echt wirkende Fälschungen von Bildern, Audio- oder Videomaterial), gewinnt ein besonders wachsamer und verantwortungsvoller Umgang mit generierten Inhalten an Bedeutung. Diese Desinformationen können gezielt zur Irreführung oder Manipulation eingesetzt werden und somit die Glaubwürdigkeit der Verwaltung gefährden.
Bei der Anwendung von KI-Systemen ist darauf zu achten, dass die Mitarbeitenden stets als letzte Entscheidungsinstanz festgelegt sind. KI-Systeme dürfen lediglich als vorbereitende Hilfsmittel fungieren und nicht die endgültige Entscheidung treffen.
Bevor die von der KI-Anwendung ausgegebenen Informationen und Ergebnisse weiterverwendet werden dürfen, sind sie durch die Beschäftigten zwingend auf inhaltliche Richtigkeit und Vollständigkeit zu prüfen. Die Antworten basieren lediglich auf Wahrscheinlichkeiten in vergleichbaren Frage-Konstellationen. Der oder die Beschäftigte ist trotz Unterstützung durch die KI-Anwendung für das von ihm oder ihr abgelieferte Arbeitsergebnis verantwortlich. Darauf ist nicht zuletzt vor dem Hintergrund möglicher Schadensersatz-Ansprüche nach Art. 82 DSGVO hinzuweisen, da Verstöße gegen die DSGVO von sämtlichen Beschäftigten eine Haftung der verantwortlichen Person verursachen können.
9. Datenschutz und sensible Daten
10. Datenqualität
Alle Mitarbeitenden sind verpflichtet, die Herkunft und den Inhalt von Eingaben – insbesondere bei der Nutzung von externen Dokumenten oder Daten – kritisch zu prüfen, bevor diese in KI-Systeme übernommen werden. Dies ist entscheidend für Transparenz und Informationssicherheit. Besondere Vorsicht ist bei Anzeichen für mögliche versteckte Anweisungen geboten. Solche Anweisungen, die zum Beispiel in Texten oder Bildern eingebettet sein können, könnten von KI-Systemen ausgelesen und zur Generierung ungewollter Ausgaben genutzt werden. Die Mitarbeitenden müssen auf ungewöhnliche Formatierungen, wie etwa Text in extrem kleiner oder weißer Schrift, der kaum sichtbar ist, oder auf unplausible oder widersprüchliche Inhalte, die im Kontext eines Dokuments oder Bildes unerklärlich wirken achten.
Das Erkennen von technisch komplexen, unsichtbaren Zeichen oder subtilen Bildmanipulationen ist für Mitarbeitende im Arbeitsalltag oft nicht möglich. Besteht jedoch ein begründeter Verdacht auf solche verdeckten Anweisungen oder Manipulationen in Eingabedaten, ist dies umgehend Fachdienst 03 Digitalisierung zu melden, damit eine weitergehende Prüfung erfolgen kann.
Die ausgegebenen Resultate müssen immer auf Schlüssigkeit und Korrektheit überprüft werden. Ohne eine eigene, fundierte Einschätzung der Faktenlage dürfen KI-generierte Inhalte nicht weiterverwendet werden. Eine persönliche Bewertung und Validierung der durch KI- Systeme gelieferten Informationen ist unerlässlich, um die Richtigkeit der Ergebnisse sicherzustellen.
11. Urheberrecht
Dies kann den Interessen der Mitarbeitenden oder der Verwaltung widersprechen, insbesondere wenn KI-generierte Inhalte im Rahmen von Auftragsarbeiten für Dritte (z. B. Bürgerinnen und Bürger) verwendet werden. KI-generierte Inhalte können urheberrechtlich geschütztes Material Dritter enthalten. Solche Inhalte dürfen nur verwendet werden, wenn sichergestellt ist, dass keine Rechte verletzt werden. KI-Systeme generieren Inhalte basierend auf öffentlich zugänglichen Daten und Eingaben von Dritten, die durch maschinelles Lernen verarbeitet werden. KI-generierte Inhalte sollten daher ausschließlich als Unterstützung oder Entwurf betrachtet werden und niemals ungeprüft verwendet werden. Dies könnte ansonsten zu rechtlichen Forderungen der eigentlichen Rechteinhaber/-innen oder sogar zu Regressansprüchen von Dritten führen.
12. Transparenz
Darüber hinaus ist es wichtig, dass folgende Aspekte bei der Arbeit berücksichtigt werden:
Datenschutz und Datensicherheit: Bei der Arbeit mit KI-Systemen müssen die Mitarbeitenden sicherstellen, dass sie personenbezogene Daten wie Name, Adresse, Geburtsdatum, Sozialversicherungsnummer, Gesundheitsdaten, Bankverbindungen oder andere sensible Informationen schützen. Dazu gehören die Einhaltung von Datenschutzbestimmungen des Landkreises Lüneburg und die Verwendung von Sicherheitsmaßnahmen wie Zugriffsbeschränkungen und Verschlüsselung. Die Einhaltung der Leitlinie zur Informationssicherheit und den Datenschutz des Landkreis Lüneburg ist dabei zwingend erforderlich.
Kritische Prüfung und Validierung: Die Ergebnisse von KI-Systemen sind von den Nutzenden sorgfältig zu prüfen, um sicherzustellen, dass sie korrekt und zuverlässig sind. Dazu gehört insbesondere die Überprüfung der Datenquellen sowie die Prüfung auf mögliche Fehler und KI-Halluzinationen.
Das Erkennen von Bias ist im Einzelfall für die Mitarbeitenden häufig nicht möglich. Besteht jedoch ein begründeter Verdacht auf Bias oder fällt auf, dass wiederholt fehlerhafte, diskriminierende oder verzerrte Ergebnisse auftreten, sollte dies umgehend an den Fachdienst 03 Digitalisierung gemeldet werden, damit eine weitergehende Prüfung erfolgen kann.
13. Ethik, Integrität, Verantwortung
Es ist wichtig, dass die KI in einer Weise verwendet wird, die die Menschenwürde, die Menschenrechte und die demokratischen Werte respektiert und fördert.
Alle Mitarbeitenden sind verpflichtet, sicherzustellen, dass die von KI-Systemen generierten Daten und Inhalte nicht diskriminierend sind und keine unzulässigen Eigenschaften aufweisen. Hierzu zählt insbesondere die sorgfältige Prüfung auf mögliche Diskriminierung sowie auf die Einhaltung rechtlicher und ethischer Grundsätze vor der weiteren Verwendung der Inhalte.
Bei der Nutzung von KI-Systemen ist zudem zu beachten, dass mögliche Auswirkungen auf Gesellschaft, Privatsphäre und Sicherheit angemessen berücksichtigt werden. Die Prüfung der von KI-Systemen bereitgestellten Inhalte soll im Rahmen der fachlichen Möglichkeiten und der jeweiligen Aufgabenstellung erfolgen, um sicherzustellen, dass keine rechtlichen oder ethischen Verstöße entstehen.
14. Kompetenzaufbau
Für jede einzelne KI-Anwendung wird im Rahmen der Anwendungsfreigabe definiert, ob und welche Maßnahmen zum Kompetenzaufbau (Schulung, Informationsveranstaltung, o.ä.) durchgeführt werden müssen, um die Anwendung nutzen zu können. Die festgelegten Maßnahmen sind durch die betroffenen Mitarbeitenden verpflichtend vor Nutzung der jeweiligen KI-Anwendung zu absolvieren.
15. Schlussbestimmungen
Zuwiderhandlungen gegen diese Dienstanweisung können arbeitsrechtliche Konsequenzen nach sich ziehen und in schwerwiegenden Fällen zu Abmahnungen, Kündigungen und/oder weiteren (dienst-) rechtlichen Schritten führen. Bei Verstößen gegen datenschutzrechtliche Bestimmungen können zusätzlich Bußgelder verhängt werden.
Die Haftung liegt gemäß § 839 BGB sowie Art. 34 Grundgesetz grundsätzlich bei der Dienststelle, sofern kein vorsätzliches oder grob fahrlässiges Fehlverhalten der Mitarbeitenden vorliegt.
16. Inkrafttreten
Lüneburg, 16. Februar 2026 gez. Jens Böther Landrat Dienstanweisung zur Nutzung von KI.pdf