Wien (OTS) – Ab morgen kommen die Transparenzpflichten des
europäischen AI Act für
bestimmte KI-Systeme zur Anwendung. Anbieter und Betreiber müssen
klar darüber informieren, wenn Menschen mit Künstlicher Intelligenz
interagieren. Für bestimmte KI-generierte oder mit KI manipulierte
Bild-, Audio-, Video- und Textinhalte gelten zusätzliche technische
Kennzeichnungs- und Offenlegungspflichten. Das Bundeskanzleramt
bringt dazu im Rahmen der Public AI Initiative ein einheitliches KI-
Kennzeichnungsmodell für die Bundesverwaltung zum Einsatz. Erstmals
wird es beim neuen Chatbot „ida“ angewendet.
„Wer mit KI spricht, soll das auch wissen. Künstliche Intelligenz
soll den Menschen unterstützen, aber sie darf nicht im Verborgenen
arbeiten. Mit der KI-Kennzeichnung schaffen wir Vertrauen, indem wir
sie sichtbar machen. So ist im Sinne des AI-Act auf den ersten Blick
klar, wo KI eingesetzt wird und welche Rolle sie übernimmt. Damit
bringen wir die europäischen Transparenzvorgaben verständlich in die
praktische Anwendung“, so Digitalisierungsstaatssekretär Alexander
Pröll.
Vier zentrale Transparenzpflichten
Artikel 50 des AI Act umfasst vier zentrale Anwendungsfälle:
1. Bei Chatbots und anderen Systemen, die direkt mit Menschen
kommunizieren, muss die KI-Interaktion klar offengelegt werden.
2. Anbieter generativer KI-Systeme müssen künstlich erzeugte oder
manipulierte Audio-, Bild-, Video- und Textinhalte technisch und
maschinenlesbar markieren – etwa durch Metadaten oder technische
Wasserzeichen.
3. Beim Einsatz von Emotionserkennung oder biometrischer
Kategorisierung sind betroffene Personen zu informieren.
4. Deepfakes sowie bestimmte KI-generierte oder manipulierte Texte zu
Themen von öffentlichem Interesse müssen ebenfalls als solche
offengelegt werden.
Die Vorgaben bedeuten keine pauschale Kennzeichnung jeder KI-
Unterstützung. Entscheidend sind die konkrete Funktion des Systems,
die Art der erzeugten Inhalte und die Frage, ob Menschen unmittelbar
mit der KI oder ihren Ergebnissen konfrontiert sind.
Europäische Leitlinien unterstützen die Umsetzung
Die Europäische Kommission hat zur Umsetzungsunterstützung im
Juli Leitlinien veröffentlicht, die den Anwendungsbereich und die
praktische Umsetzung der Transparenzpflichten konkretisieren.
Ergänzend steht ein freiwilliger europäischer Praxisleitfaden für die
technische Markierung und Offenlegung KI-generierter Inhalte zur
Verfügung. Damit erhalten Anbieter und Betreiber eine gemeinsame
Orientierung für eine einheitliche und verhältnismäßige Umsetzung.
Über die KI-Servicestelle der RTR-GmbH können außerdem Informationen
und Grafiken zu den Transparenzpflichten auf Deutsch genutzt werden.
Kennzeichnung zeigt Rolle und Wirkung der KI und schafft
Vertrauen
Das Bundeskanzleramt hat im Rahmen der Public AI Initiative ein
eigenes Kennzeichnungsmodell für KI-Services der Bundesverwaltung
entwickelt. Es soll Bürgerinnen und Bürgern auf einen Blick zeigen,
wann KI in einem digitalen Verwaltungsservice eingesetzt wird und
damit rasch Orientierung geben.
Das Modell geht über den bloßen Hinweis „Hier kommt KI zum
Einsatz“ hinaus. Ein Info-Button zeigt die Kennzeichnung und eine von
vier Kategorien. Diese ergibt sich aus zwei Fragen: Wie eigenständig
handelt das System und welche Auswirkungen können dessen Ergebnisse
für betroffene Menschen haben? Die Kennzeichnung ist kein Güte- oder
Qualitätssiegel, sondern ein Transparenzinstrument.
Einheitliche Kennzeichnung durch zentrale Beratung
In einer weiteren Ausbaustufe soll eine unabhängige, schlank
aufgestellte Clearing- und Beratungsstelle die Bundesministerien und
nachgeordneten Dienststellen bei der einheitlichen Anwendung der KI-
Kennzeichnung und Bewertung von KI-Systemen unterstützen. Damit
erhalten die Verfahrensverantwortlichen zusätzliche Unterstützung, um
den Einsatz aller eingesetzten KI-Systeme gegenüber den Bürgerinnen
und Bürgern transparent zu gestalten. Dadurch können Bürgerinnen und
Bürger sowie Unternehmen darauf vertrauen, dass alle KI-Systeme der
öffentlichen Verwaltung gleich gekennzeichnet werden.
Erste Anwendung beim Chatbot „ida“
Erstmals kommt das Kennzeichnungsmodell beim neuen Chatbot „ida“
zur Anwendung. Die intelligente digitale Assistenz steht dann in der
ID Austria App sowie auf oesterreich.gv.at und id-austria.gv.at zur
Verfügung. Der Chatbot beantwortet in natürlicher Sprache Fragen zur
ID Austria, zu digitalen Verwaltungsservices und zu
Wohnsitzangelegenheiten. Nutzerinnen und Nutzer erkennen von Beginn
an, dass sie mit einem KI-System kommunizieren.
Gemeinsamer Standard für weitere Anwendungen
Das Kennzeichnungsmodell wird künftig auch für weitere KI-
Anwendungen der Bundesverwaltung eingesetzt. Ziel ist ein
gemeinsamer, verständlicher und wiedererkennbarer Transparenzstandard
statt unterschiedlicher Einzellösungen bei jedem neuen Service. Bei
wesentlichen Änderungen eines Systems oder seiner Funktionen wird
auch die Kennzeichnung neu geprüft.
„Transparenz darf kein Kleingedrucktes sein. Unsere Kennzeichnung
zeigt nicht nur, dass KI eingesetzt wird, sondern erklärt auch, wie
selbstständig ein System arbeitet und welche Bedeutung seine
Ergebnisse haben können. Damit schaffen wir Orientierung und stärken
das Vertrauen in digitale Verwaltungsservices“, so Pröll
abschließend.
Weitere Information zur KI-Kennzeichnung unter:
KI-Kennzeichnung in der Verwaltung – Digital Austria