AI Act · Transparenz
Welche KI-Modelle HillcrownAI einsetzt, woher die Trainings- und Content-Daten stammen, wie wir moderieren und welche Eltern- und Schutzmechanismen Kinder vor Risiken bewahren - offen dokumentiert nach EU AI Act und JuSchG.
Stand: Mai 2026
Die HillcrownAI-Plattform nutzt ausschließlich Open-Source-Foundation-Modelle, die auf europäischer Infrastruktur in Deutschland selbst betrieben werden. Es werden keine Anfragen an proprietäre Hosted-Modell-Anbieter weitergeleitet.
Open-Source-Foundation-Modell, feinabgestimmt für deutschsprachige Kinder-Konversationen, Lehrplan-Bezug und altersgerechtes Antwortverhalten. Hosting in HillcrownAI-eigenen Rechenzentren in Deutschland. Die spezifische Modell-Auswahl wird mit jedem Release-Zyklus überprüft und kann sich entlang der Open-Source-Landschaft weiterentwickeln; sie wird Beschaffungsstellen und Auditoren auf Anfrage offengelegt.
Eigene Klassifikations-Modelle für Pre- und Post-Filterung, abgestimmt auf JuSchG-Kategorien und altersgestaffelte Risiko-Cluster. Nicht generativ. Spezifische Architektur und Trainings-Daten werden Beschaffungsstellen und Auditoren auf Anfrage offengelegt.
Eigene Multiguard-Pipeline mit klassifizierender Pre- und Post-Filterung, JuSchG-konformer Kategorisierung und einer pädagogisch geschulten Eskalations-Stufe für sensible Themen. Moderationsmodelle werden nicht auf Konversationsdaten von Kindern trainiert.
Open-Source-Diffusionsmodell, ergänzt um eigene LoRA-Feintunings für DSGVO-konforme Marken- und Charakterbild-Generierung ohne Rechte-Risiko. Spezifische Modell-Auswahl wie beim Sprachmodell auf Anfrage offengelegt.
HillcrownAI trennt strikt zwischen Foundation-Modell-Vortraining (Open-Source, dokumentiert beim jeweiligen Anbieter), eigenem Feintuning (kuratierte und lizenzierte Daten) und Inference-Daten (Konversationen mit Kindern - werden nicht zum Training verwendet).
Open-Source-Datenbasen der jeweiligen Foundation-Modelle. Anbieter-Modellkarten und Trainings-Disclosures sind in unserer technischen Dokumentation verlinkt und werden mit jedem Modell-Update aktualisiert.
Lizenzierte Inhalte unserer Medienhaus-, Bildungs- und Forschungspartner sowie eigens erstellte Lehrplan-Bezüge. Jede Trainings-Charge wird auf Quellen-Provenienz, Altersgerechtheit und JuSchG-Konformität geprüft, bevor sie in das Modell-Update eingeht.
Konversationen, die Kinder mit KinderGPT führen, werden nicht zum Modell-Training verwendet. In der anonymen Nutzung werden keine Konversationsdaten dauerhaft gespeichert; sie verbleiben nur innerhalb der laufenden Session. Wenn Eltern im Basis- oder Premium-Tarif einen Eltern-Account aktivieren, werden Konversationen zur Aufsichtspflicht in der Eltern-Konsole angezeigt und nach den im Datenschutz dokumentierten Fristen gelöscht.
Sorgeberechtigte sind die rechtliche und faktische Schicht über jeder KinderGPT-Nutzung. Die App wird über das App-Store-Konto der Eltern installiert - die Einwilligung ist damit strukturell vor jeder Nutzung sichergestellt. Im Default ist KinderGPT anonym nutzbar; ein Eltern-Account mit Konsole, Themen-Filtern und Verlaufs-Export ist optional ab dem Basis- oder Premium-Tarif.
KinderGPT ist in den App-Stores mit der Altersfreigabe 4+ gelistet. Die Installation erfolgt über das Apple- oder Google-Konto eines Sorgeberechtigten - Kinder können die App nur nach aktiver Genehmigung der Eltern installieren. Damit ist die Einwilligung der Sorgeberechtigten strukturell vor jeder Nutzung sichergestellt.
KinderGPT ist nach der Installation ohne Account nutzbar. Es werden keine Namen, E-Mail-Adressen oder Wohnorte abgefragt. Sessions sind isoliert, es findet kein Profiling statt, und es wird keine Identifikation über Nutzungen hinweg aufgebaut.
Eltern, die im Basis- oder Premium-Tarif Funktionen wie Eltern-Konsole, Themen-Filter oder Verlaufs-Export nutzen möchten, können einen Account anlegen. Der Account erfordert ausschließlich eine E-Mail-Adresse zur Authentifizierung - keine Namen, keine Adressdaten, keine demografischen Profile. Datenminimal nach DSGVO Art. 5 c.
Eltern sehen jederzeit Konversationsverläufe und Themen-Cluster und können einzelne Themen, Zeiten oder Funktionen deaktivieren.
Bei sensiblen Themen (Selbstgefährdung, Mobbing, sexualisierte Inhalte) soll KinderGPT pädagogisch deeskalierend reagieren und altersgerecht auf etablierte Beratungsangebote verweisen. Diese Eskalations- und Hilfe-Kette ist aktuell in Umsetzung.
HillcrownAI ist auf das Pflichtenregime des EU AI Acts ausgelegt: GPAI- und Governance-Pflichten ab 02. August 2026, die Hochrisiko-Pflichten für Bildungs- und Kinder-Anwendungen ab 02. Dezember 2027.
KinderGPT wird als für Kinder bestimmtes KI-System mit erhöhtem Risiko klassifiziert; an den Anforderungen aus den Kapiteln zu Hochrisiko-Systemen sowie zur GPAI-Transparenz richten wir Architektur und Prozesse vollständig aus.
HillcrownAI führt eine vollständige Modell- und Daten-Dokumentation, eine Risikomanagement-Akte sowie ein Änderungs-Log über alle produktiven Modelle und Moderations-Regeln.
Eskalationen, Moderations-Treffer und unklare Fälle werden durch ein pädagogisch geschultes Operations-Team mit klaren Reaktionsfristen begleitet - kein Vollautomatismus bei kritischen Themen.
Quellen
HillcrownAI orientiert die Safety-Routinen von KinderGPT an öffentlich verfügbaren Empfehlungen anerkannter Stellen des deutschen und europäischen Kinder- und Jugendmedienschutzes. Konkret zitierfähig ist:
2. Auflage, März 2026, herausgegeben von klicksafe (Medienanstalt Rheinland-Pfalz) in Kooperation mit der Bundeszentrale für Kinder- und Jugendmedienschutz und Nummer gegen Kummer e. V. Die Broschüre benennt zehn Risiken im Umgang von Kindern mit KI-Chatbots. HillcrownAI hat diese Risiken intern als Prüfraster übernommen. Anders als KI-Begleiter, die direkt auf proprietären Modell-APIs aufsetzen, läuft KinderGPT vollständig auf selbst-gehosteten Open-Source-Modellen in DACH-Rechenzentren.
Beispiele für Designmaßnahmen, die in KinderGPT umgesetzt sind:
Beispiele für Designmaßnahmen, die aktuell in Umsetzung sind:
Weitere öffentliche Bezugspunkte:
klicksafe und die BzKJ vergeben keinen Partner- oder Zertifizierungs-Status an HillcrownAI. Die Nennung kennzeichnet ausschließlich die öffentlich zugänglichen Quellen, an denen wir unsere internen Prüfroutinen ausrichten.
Beschaffungsstellen, Aufsichtsbehörden, Schul- und Datenschutz-Beauftragte, Forschungspartner sowie Eltern-Beiräte erhalten auf Anfrage unsere vollständigen Modell-, Daten- und Moderations-Unterlagen - inklusive AI-Act-Mapping, JuSchG-Risiko-Bewertung und Eltern-Flow-Dokumentation. Schreiben Sie an partner@hillcrownai.com.
partner@hillcrownai.com