KI-Transparenz

Der EU AI Act unterscheidet zwischen dem Anbieter eines KI-Systems, der es entwickelt und in Verkehr bringt, und dem Betreiber, der es unter eigener Verantwortung einsetzt.

Bauen wir für einen Kunden ein KI-System, das dieser ausschließlich intern oder gegenüber seinen eigenen Kunden nutzt, ist der Kunde der Betreiber. Wir handeln als technischer Dienstleister und, soweit wir das System zusammenstellen und unter dem Namen des Kunden bereitstellen, als Anbieter im Sinne der Verordnung. Wer welche Rolle übernimmt, halten wir je Projekt schriftlich fest — denn daran hängen die Pflichten zur Kennzeichnung, zur Dokumentation und zur menschlichen Aufsicht.

Die zugrunde liegenden Sprachmodelle stammen von Dritten (unter anderem Anthropic, OpenAI, Microsoft). Diese sind Anbieter von Modellen mit allgemeinem Verwendungszweck und tragen die dafür geltenden Pflichten selbst.

Systeme, die wir bauen und die unmittelbar mit Menschen interagieren, weisen zu Beginn der Interaktion darauf hin, dass es sich um ein KI-System handelt — bei Telefonagenten hörbar in der Begrüßung, bei Chat-Assistenten sichtbar im Fenster. Diese Hinweise sind fester Bestandteil der Auslieferung. Unsere Allgemeinen Geschäftsbedingungen verpflichten unsere Kunden in § 10 ausdrücklich, sie nicht zu deaktivieren oder zu verschleiern.

Künstlich erzeugte oder manipulierte Bild-, Ton- und Videoinhalte kennzeichnen wir als solche und versehen sie, soweit technisch verfügbar, mit maschinenlesbaren Herkunftsangaben.

Wir setzen keine Praktiken um, die Art. 5 EU AI Act verbietet — insbesondere keine Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen, keine biometrische Kategorisierung nach sensiblen Merkmalen, keine soziale Bewertung von Personen und keine Systeme, die menschliches Verhalten durch unterschwellige Techniken manipulieren.

Fällt ein Anwendungsfall in den Hochrisiko-Bereich nach Anhang III — etwa Systeme für Bewerberauswahl, Kreditwürdigkeitsprüfung oder die Bewertung von Beschäftigten — weisen wir vor Projektbeginn auf die damit verbundenen Pflichten hin (Risikomanagement, Datenqualität, technische Dokumentation, Protokollierung, menschliche Aufsicht, Konformitätsbewertung). Ohne belastbaren Plan zur Erfüllung dieser Pflichten setzen wir solche Projekte nicht um.

Generative KI erzeugt Ergebnisse wahrscheinlichkeitsbasiert und kann sachlich falsch liegen. Wir richten Systeme deshalb so ein, dass Ausgaben mit rechtlicher oder finanzieller Tragweite dem Menschen zur Freigabe vorgelegt werden, dass die Übergabe an einen Menschen jederzeit möglich bleibt und dass Systemverhalten protokolliert wird.

Kompetenzaufbau nach Art. 4 EU AI Act ist Bestandteil jeder Einführung: Wir schulen die Personen, die mit dem System arbeiten, in dessen Fähigkeiten, Grenzen und typischen Fehlerbildern.

Texte dieser Website sind teilweise mit KI-Unterstützung entstanden und durchgängig redaktionell geprüft und verantwortet. Eine Kennzeichnungspflicht besteht dafür nicht — wir nennen es, weil wir es von unseren Kunden ebenfalls erwarten.

Fragen zu einem konkreten System oder zu Ihren Pflichten als Betreiber beantworten wir unter kontakt@promptwerker.de. Diese Seite ersetzt keine Rechtsberatung.