AI Act · Transparenz
Welche KI-Modelle HillcrownAI einsetzt, woher die Trainings- und Content-Daten stammen, wie wir moderieren und welche Eltern- und Schutzmechanismen Kinder vor Risiken bewahren — offen dokumentiert nach EU AI Act und JuSchG.
Stand: April 2026
KinderGPT und Sesame Studio nutzen ausschließlich Open-Source-Foundation-Modelle, die auf europäischer Infrastruktur in Deutschland selbst betrieben werden. Es werden keine Anfragen an OpenAI, Anthropic, Google oder andere proprietäre US-Anbieter weitergeleitet.
Open-Source-Foundation-Modell, feinabgestimmt für deutschsprachige Kinder-Konversationen, Lehrplan-Bezug und altersgerechtes Antwortverhalten. Hosting in HillcrownAI-eigenen Rechenzentren in Deutschland. Die spezifische Modell-Auswahl wird mit jedem Release-Zyklus überprüft und kann sich entlang des Open-Source-Ökosystems weiterentwickeln; sie wird Beschaffungsstellen und Auditoren auf Anfrage offengelegt.
Open-Source-Diffusionsmodell, ergänzt um eigene LoRA-Feintunings für DSGVO-konforme Marken- und Charakterbild-Generierung ohne Rechte-Risiko. Spezifische Modell-Auswahl wie beim Sprachmodell auf Anfrage offengelegt.
Eigene Multiguard-Pipeline mit klassifizierender Pre- und Post-Filterung, JuSchG-konformer Kategorisierung und einer pädagogisch geschulten Eskalations-Stufe für sensible Themen. Moderationsmodelle werden nicht auf Konversationsdaten von Kindern trainiert.
HillcrownAI trennt strikt zwischen Foundation-Modell-Vortraining (Open-Source, dokumentiert beim jeweiligen Anbieter), eigenem Feintuning (kuratierte und lizenzierte Daten) und Inference-Daten (Konversationen mit Kindern — werden nicht zum Training verwendet).
Open-Source-Datenbasen der jeweiligen Foundation-Modelle. Anbieter-Modellkarten und Trainings-Disclosures sind in unserer technischen Dokumentation verlinkt und werden mit jedem Modell-Update aktualisiert.
Lizenzierte Inhalte unserer Verlags-, Bildungs- und Forschungspartner sowie eigens erstellte Lehrplan-Bezüge. Jede Trainings-Charge wird auf Quellen-Provenienz, Altersgerechtheit und JuSchG-Konformität geprüft, bevor sie in das Modell-Update eingeht.
Konversationen, die Kinder mit KinderGPT führen, werden nicht zum Modell-Training verwendet. In der anonymen Nutzung werden keine Konversationsdaten dauerhaft gespeichert; sie verbleiben nur innerhalb der laufenden Session. Wenn Eltern im Basis- oder Premium-Tarif einen Eltern-Account aktivieren, werden Konversationen zur Aufsichtspflicht in der Eltern-Konsole angezeigt und nach den im Datenschutz dokumentierten Fristen gelöscht.
Sorgeberechtigte sind die rechtliche und faktische Schicht über jeder KinderGPT-Nutzung. Die App wird über das App-Store-Konto der Eltern installiert — die Einwilligung ist damit strukturell vor jeder Nutzung sichergestellt. Im Default ist KinderGPT anonym nutzbar; ein Eltern-Account mit Konsole, Themen-Filtern und Verlaufs-Export ist optional ab dem Basis- oder Premium-Tarif.
KinderGPT ist in den App-Stores mit der Altersfreigabe 4+ gelistet. Die Installation erfolgt über das Apple- oder Google-Konto eines Sorgeberechtigten — Kinder können die App nur nach aktiver Genehmigung der Eltern installieren. Damit ist die Einwilligung der Sorgeberechtigten strukturell vor jeder Nutzung sichergestellt.
KinderGPT ist nach der Installation ohne Account nutzbar. Es werden keine Namen, E-Mail-Adressen oder Wohnorte abgefragt. Sessions sind isoliert, es findet kein Profiling statt, und es wird keine Identifikation über Nutzungen hinweg aufgebaut.
Eltern, die im Basis- oder Premium-Tarif Funktionen wie Eltern-Konsole, Themen-Filter oder Verlaufs-Export nutzen möchten, können einen Account anlegen. Der Account erfordert ausschließlich eine E-Mail-Adresse zur Authentifizierung — keine Namen, keine Adressdaten, keine demografischen Profile. Datenminimal nach DSGVO Art. 5 c.
Eltern sehen jederzeit Konversationsverläufe, Themen-Cluster, Eskalationen und Moderations-Eingriffe und können einzelne Themen, Zeiten oder Funktionen deaktivieren.
Bei sensiblen Themen (Selbstgefährdung, Mobbing, sexualisierte Inhalte) reagiert KinderGPT pädagogisch deeskalierend und verweist altersgerecht auf etablierte Beratungsangebote.
HillcrownAI ist auf das ab 02. August 2026 EU-weit greifende Pflichtenregime des AI Acts (insbesondere die GPAI- und Hochrisiko-Pflichten für Kinder-Anwendungen) ausgelegt.
KinderGPT wird als für Kinder bestimmtes KI-System mit erhöhtem Risiko klassifiziert; sämtliche Anforderungen aus den Kapiteln zu Hochrisiko-Systemen sowie GPAI-Transparenz werden vollständig umgesetzt.
HillcrownAI führt eine vollständige Modell- und Daten-Dokumentation, eine Risikomanagement-Akte sowie ein Änderungs-Log über alle produktiven Modelle und Moderations-Regeln.
Eskalationen, Moderations-Treffer und unklare Fälle werden durch ein pädagogisch geschultes Operations-Team mit klaren Reaktionsfristen begleitet — kein Vollautomatismus bei kritischen Themen.
Beschaffungsstellen, Aufsichtsbehörden, Schul- und Datenschutz-Beauftragte, Forschungspartner sowie Eltern-Beiräte erhalten auf Anfrage unsere vollständigen Modell-, Daten- und Moderations-Unterlagen — inklusive AI-Act-Mapping, JuSchG-Risiko-Bewertung und Eltern-Flow-Dokumentation. Schreiben Sie an partner@hillcrownai.com.
partner@hillcrownai.com