Bilder generieren, Texte schreiben, Konzepte entwerfen: Das Potenzial von künstlicher Intelligenz (KI) ist anscheinend riesig. Sprachmodelle wie ChatGPT könnten den Kantonsangestellten die Arbeit erleichtern. Im Interview erklärt Rechtsanwalt Thomas Fischer, warum Vorsicht geboten ist.
Er wird gerade als mediale Revolution gehandelt: der Sprachbot ChatGPT von der Firma OpenAI. ChatGPT beantwortet Fragen, kann einen Programmiercode erstellen, Texte übersetzen, zusammenfassen oder vereinfachen. Das Tool funktioniert mit künstlicher Intelligenz (KI). Doch was versteht man eigentlich unter künstlicher Intelligenz? Eine feste Begriffsdefinition gibt es nicht. Inis Ehrlich, Expertin für Digitalisierung und KI, definiert sie jedoch wie folgt: «KI ist der Versuch, menschliches Lernen und Denken auf den Computer zu übertragen und ihm damit Intelligenz zu verleihen.» Das bedeutet, dass KI-Programme eigenständig Antworten finden und selbstständig Probleme lösen – ohne für jeden Zweck programmiert worden zu sein.
Müssen die Kantonsangestellten also in Zukunft ihre E-Mails nicht mehr selbst tippen, und können komplexe Dossiers einfach von einer künstlichen Intelligenz zusammengefasst werden? «BEinfo» hat bei Thomas Fischer nachgefragt. Er ist Sicherheitsbeauftragter beim Amt für Informatik und Organisation (KAIO) und weiss, ob künstliche Intelligenz (KI) nun auch in der Kantonsverwaltung Einzug hält.
Thomas Fischer, ChatGPT ist seit ein paar Monaten öffentlich zugänglich. Dürfen die Mitarbeiterinnen und Mitarbeiter des Kantons ChatGPT oder ähnliche Systeme für ihre Arbeit nutzen?
Noch nicht ohne weiteres, aber wir arbeiten daran. Vorerst gilt: In öffentliche KI-Systeme dürfen keine Informationen eingegeben werden, die nicht öffentlich sind.
Welche Daten sind mit «nicht öffentlichen Informationen» gemeint?
Personendaten wie Namen und E-Mail-Adressen oder klassifizierte Informationen (intern, vertraulich oder geheim). Ebenso Informationen, die dem Amts- oder Berufsgeheimnis unterstehen. Wenn wir Informationen in ChatGPT oder eine andere KI-Website eingegeben, teilen wir diese Daten mit den Personen, die hinter dieser Website stehen. Die kantonale Gesetzgebung verbietet jedoch die Weitergabe nicht öffentlicher Informationen des Kantons an unbestimmte Dritte.
Plant das KAIO eine Sperre von ChatGPT und anderen KI-Programmen?
Nein, eine Sperre ist nicht geplant. Den Online-Zugang zu allen KI-Seiten zu unterbinden wäre gar nicht möglich, da laufend neue Modelle entwickelt werden.
Mal abgesehen vom fehlenden Datenschutz, welche Risiken gibt es sonst noch im Umgang mit ChatGPT?
Sprachmodelle wie ChatGPT generieren manchmal Texte, die zwar plausibel klingen, aber falsch sind. Die künstliche Intelligenz hat sie schlicht erfunden, oder «halluziniert», wie man in der KI-Branche sagt. Als Kantonsangestellte tragen wir die Verantwortung für die Richtigkeit unserer Texte. Diese können wir nicht garantieren, wenn ein Computer uns die Denkarbeit abnimmt. Wir müssen die KI-Ergebnisse daher selbst überprüfen.
Bleibt die Kantonsverwaltung also eine KI-freie Zone?
Nein, wir wollen das Potenzial von künstlicher Intelligenz nutzen, um unsere Arbeit effizienter und rascher zu erledigen. Aber damit wir sie gefahrlos einsetzen können, müssen wir sie beherrschen.
Was bedeutet das konkret?
Das heisst, dass die Behörden, die KI einsetzen wollen, diese zuerst gemäss den kantonalen Sicherheits- und Datenschutzvorschriften überprüfen müssen. Erst, wenn die Prüfung erfolgt ist und eine KI-Lösung offiziell freigegeben ist, darf sie in der Kantonsverwaltung genutzt werden. Dies aber nur im Rahmen der Nutzungsbestimmungen, welche die verantwortliche Behörde erlässt. Die Staatskanzlei etwa hat dies für die KI-Übersetzungsplattform DeepL getan, die in der Kantonsverwaltung bereits im Einsatz steht. Für die Nutzung weiterer Systeme wie ChatGPT beginnen nun die Planungsarbeiten.
Ab wann genau ChatGPT in der Kantonsverwaltung verwendet werden könne, ist laut Donatella Pulitano, der Leiterin der Zentralen Sprachdienste, noch unklar. Die Überprüfung nehme noch einige Zeit in Anspruch. Ausserdem müssten noch verschiedene Weisungen erarbeitet oder angepasst werden, was die Verwaltung demnächst angehen wird.
Interview und Bild: Salome Heiniger
Veröffentlicht am 29.6.2023