Verwendung von Sprachmodellen in der Verwaltung

Berlin: (hib/LBR) Die Bundesregierung sieht großes Potential in der Verwendung von Sprachmodellen in der digitalen Verwaltung. So habe etwa das Bundesamt für Sicherheit in der Informationstechnik bereits mit dem Fokus auf IT-Sicherheit Tests mit dem ChatBot „ChatGPT“ durchgeführt. Das geht aus einer Antwort der Bundesregierung (20/6044) auf eine Kleine Anfrage der AfD-Fraktion (20/5465) hervor. ChatGPT ist ein Prototyp eines textbasierten Dialogsystems, der auf maschinellem Lernen beruht. Hinsichtlich einer Verwendung müssten grundrechtliche Fragestellungen, urheber- und datenschutzrechtliche Aspekte und Fragen zur Vermeidung von Diskriminierung sowie zur Zuverlässigkeit, Erklärbarkeit und Nachvollziehbarkeit der Ergebnisse betrachtet werden. Auch wirtschaftliche Fragestellungen im Hinblick auf den Ressourcenaufwand und die mit einer Abfrage verbundene erhebliche Rechenleistung spielten dabei eine Rolle, schreibt die Bundesregierung.

Eine abschließende Abschätzung der Chancen und Risiken der Technologie lasse die aktuelle wissenschaftliche Informationslage zu ChatGPT bisher nicht zu. Auch ob und in welchem Umfang der Einsatz eines Produktes wie ChatGPT zum Dialog mit Bürgerinnen und Bürgern auf den Webseiten der Bundesministerien und nachgeordneten Behörden denkbar ist, könne momentan nicht abschließend beurteilt werden. Automatisierte Textgeneratoren, die keine vordefinierten Antworten verwenden, seien bislang nicht im Einsatz, schreibt die Bundesregierung.