Was unsere KI tut und was nicht

Was der Assistent tut

Der Assistent liest Crewmark mit Ihren Berechtigungen: Er sieht, was Sie sehen dürfen, und nie mehr. Er liest nur. Er kann nichts ändern, senden oder speichern — ein Entwurf ist Text, den Sie selbst kopieren.

• Beantwortet Anleitungsfragen aus dem Hilfecenter von Crewmark und nennt die verwendeten Artikel als Quellen.
• Findet eine Seite: Sie erhalten eine Schaltfläche dorthin, sofern Ihre Rolle sie öffnen darf.
• Fasst Ihre offenen Aufgaben zusammen: Aufgaben, Freigaben, Vorstellungsgespräche, fällige Absagen, offene Formulare, Beurteilungen, bald endende Probezeiten, Dokumente, die auf eine Unterschrift warten, und offene Betroffenenanfragen.
• Hilft, einen von Ihnen geschriebenen Text umzuformulieren — etwa einen Beurteilungskommentar, Feedback oder eine Absage.
• Entwirft aus Ihren Notizen eine Stellenanzeige.
• Sagt es, wenn das Hilfecenter Ihre Frage nicht abdeckt, und nennt Ihnen, an wen Sie sich wenden können.

Was er nie tut

Solche Anfragen lehnt der Assistent ab, nennt den Grund und bietet an, was er stattdessen tun kann.

• Bewerbende oder Mitarbeitende in eine Rangfolge bringen, bewerten oder vergleichen.
• Eine Bewertung, einen Bonus oder ein Probezeitergebnis vorschlagen oder empfehlen, wen Sie einstellen sollen.
• Vorhersagen, wer das Unternehmen verlässt.
• Sagen, wie sich jemand fühlt. Er schließt nicht auf Gefühle.
• Auf besondere Kategorien personenbezogener Daten schließen, etwa Gesundheit, Religion oder Gewerkschaftszugehörigkeit.

Warum die Grenze dort verläuft

Nach der KI-Verordnung der EU ist KI, die Bewerbende und Mitarbeitende in eine Rangfolge bringt oder bewertet oder Entscheidungen über sie vorschlägt, ein Hochrisiko-System; Emotionserkennung am Arbeitsplatz ist verboten. Für Rückschlüsse auf besondere Kategorien personenbezogener Daten gäbe es nach der DSGVO keine Rechtsgrundlage. Deshalb entscheiden in Crewmark Menschen über Menschen. Die Regel greift zweimal: Eine Anfrage wird geprüft, bevor sie das Modell erreicht, und eine Antwort, die dennoch über jemanden urteilt, wird zurückgezogen.

Sie wissen immer, dass es KI ist

Das Fenster des Assistenten beginnt mit dem Hinweis, dass Sie mit einem KI-Assistenten sprechen und nicht mit einem Menschen. Jeder Text, den er für Sie schreibt, trägt den Vermerk „KI-generierter Entwurf — vor Verwendung prüfen“.

Fragen zu Ihren Zahlen

In den Analysen können Sie eine Frage in Alltagssprache stellen. Die KI liest dabei nicht Ihre Datenbank. Sie wählt aus der festen Kennzahlenliste von Crewmark, und Crewmark führt diese Auswahl mit Ihren Berechtigungen aus — dieselben Zahlen wie in den Dashboards, mit denselben ausgeblendeten kleinen Gruppen. Ihre Fragen sehen nur Sie; nach 30 Tagen werden sie gelöscht.

• Was die KI mit Ihrer Frage erhält: die Liste der Kennzahlen, die Namen Ihrer Abteilungen und Stellenkategorien, das Datum und Ihre Sprache.
• Was sie zum Beschreiben zurückbekommt: Summen und Durchschnitte für Gruppen, in denen kleine Gruppen bereits ausgeblendet sind — ein ausgeblendeter Wert kommt ohne Zahl und ohne Personenanzahl an.
• Sie erhält nie einen Namen, eine E-Mail-Adresse oder eine Zeile über eine einzelne Person. Gehaltszahlen werden nie an den KI-Anbieter übermittelt — kein Gehalt, kein Median, kein Entgeltgefälle —, auch dann nicht, wenn die fragende Person Gehälter sehen darf. Eine solche Antwort erscheint mit einer nach festen Regeln gebildeten Zusammenfassung und weist darauf hin.
• Eine Frage zu einer namentlich genannten Person, die Bitte um eine Rangfolge von Personen, Führungskräften oder Gesprächsführenden oder eine Vorhersage wird abgelehnt, bevor etwas gesendet wird. Stattdessen wird Ihnen eine Zahl über eine Gruppe angeboten.
• Eine Zusammenfassung mit einer Zahl, die im Ergebnis nicht vorkommt, wird verworfen; an ihrer Stelle erscheint ein nach festen Regeln gebildeter Satz.
• Ohne KI-Anbieter oder bei abgeschaltetem Assistenten wird die Frage über Stichwörter zugeordnet, und nichts verlässt den Server. Jede Antwort sagt, auf welchem Weg sie entstanden ist.
• Die Dashboards, die Hinweise unter „Einen Blick wert“ und die E-Mail-Übersicht werden nach festen Regeln berechnet. Ist die KI eingeschaltet, kann eine kurze Zusammenfassung dieser Hinweise hinzukommen — mit derselben Prüfung jeder Zahl.

Was an den Modellanbieter geht

Ist die KI eingeschaltet, wird eine Frage an den KI-Anbieter gesendet, der als Unterauftragsverarbeiter im Auftragsverarbeitungsvertrag genannt ist. Nach den kommerziellen Bedingungen des Anbieters wird das Gesendete nicht zum Training seiner Modelle verwendet.

• Ihre Frage, eingefügter Text und die früheren Nachrichten derselben Unterhaltung.
• Die Anweisungen des Assistenten und das Hilfecenter von Crewmark — für jedes Unternehmen dieselben.
• Das heutige Datum, Ihre Oberflächensprache, die Seite, auf der Sie sich befinden, und an wen Sie sich wenden können, wenn die Antwort nicht bekannt ist: der Name der Person, die Crewmark in Ihrem Unternehmen administriert, und die Support-Adresse.
• Nur wenn Sie nach Ihren offenen Aufgaben fragen oder jemanden suchen: eine kurze Liste passender Einträge mit Namen, Titeln, Datumsangaben und Links.
• Eingefügter Text wird als zu bearbeitender Text behandelt, nie als Anweisung.

Was nie dorthin geht

Manche Daten erreichen den Assistenten überhaupt nicht — unabhängig von Ihren Berechtigungen in Crewmark.

• Ihr Name und Ihre E-Mail-Adresse sowie der Name Ihres Unternehmens.
• Gehälter, Punktzahlen, Boni, Notizen und Beurteilungstexte.
• Kontaktdaten und Dokumente.

Ihre Unterhaltungen

Eine Unterhaltung sieht nur die Person, die sie geschrieben hat — sonst niemand im Unternehmen, auch keine Admins. Nachrichten werden nach 30 Tagen gelöscht, und Sie können eine Unterhaltung schon vorher selbst löschen. Ihre Unterhaltungen gehören zur Kopie Ihrer Daten, wenn eine angefordert wird.

Abschalten und Arbeiten ohne KI

Ein Unternehmen kann den Assistenten in den Einstellungen für alle abschalten. Ist kein KI-Anbieter konfiguriert, arbeitet der Assistent als einfache Suche: Er zeigt die am besten passende Textstelle aus dem Hilfecenter mit Quellenangabe, und nichts verlässt den Server. Die Hilfeartikel sind vorerst auf Englisch verfasst — mit KI erhalten Sie die Antwort in Ihrer Sprache, im reinen Suchmodus wird die Textstelle auf Englisch angezeigt.