Konfigurationsmanager – Channels

Über das Menü „Channels“ lassen sich Einstellungen für die Anzeige von Channelinhalten und die KI-gestützte Moderation von Kommentaren festlegen.

Neue Flagge

Diese Einstellung legt die Dauer fest, für die das „Neu“-Flag bei Inhalten sichtbar bleibt. Das Flag wird vorzeitig entfernt, wenn ein Nutzer mit dem Inhalt interagiert, bevor die festgelegte Zeit abgelaufen ist. Wird der Inhalt innerhalb des festgelegten Zeitraums nicht aufgerufen, verschwindet das Flag automatisch, sobald die Zeit abgelaufen ist. Die Zeit kann auch so konfiguriert werden, dass das Flag auf unbestimmte Zeit sichtbar bleibt, sofern der Nutzer keine Aktion ausführt.

Veröffentlichungsdatum auf den Channel-Inhaltskarten anzeigen

Wenn diese Einstellung aktiviert ist, wird das Datum der Veröffentlichung eines Inhaltselements auf dessen Karte innerhalb des Channels angezeigt.

Wurde der Inhalt nach seiner ursprünglichen Veröffentlichung im jeweiligen Channel aktualisiert, wird stattdessen das Datum der letzten Aktualisierung angezeigt. Dadurch lässt sich sofort erkennen, ob es sich um neue oder kürzlich überarbeitete Inhalte handelt.

KI-Moderation aktivieren

In diese Einstellung aktiviert ist, wird jeder in einem Channel gepostete Kommentar automatisch von einem KI-Modell überprüft, bevor er für Moderatoren sichtbar wird. Die KI prüft, ob der Kommentar gegen die Netiquette-Regeln verstößt – beispielsweise, ob er Schimpfwörter, Beleidigungen, Belästigungen oder diskriminierende Äußerungen enthält.

Von der KI markierte Kommentare werden im Review Manager hervorgehoben, wo Administratoren den Kommentar entweder ausblenden oder ihn mit der Aktion Kommentar beibehalten als zulässig bestätigen können. Kommentare, die die Prüfung bestehen, werden nicht markiert.

Die KI blockiert oder löscht Kommentare nicht automatisch. Sie unterstützt Administratoren lediglich dabei, potenziell problematische Inhalte effizienter zu identifizieren.

Voraussetzung: Diese Funktion erfordert eine bestimmte Deployment-Konfiguration. Wenn diese für Ihre Umgebung noch nicht eingerichtet wurde, führt das Aktivieren dieser Einstellung und das Speichern zu folgender Fehlermeldung:

Eingabefehler! AI-Review-Moderation aktivieren: Die AI-Review-Moderation ist in dieser Umgebung nicht verfügbar. Die Option «AI-Review-Moderation aktivieren» muss vor dem Speichern deaktiviert werden. Um das erforderliche Deployment anzufordern, wenden Sie sich bitte über den Service Desk an Scheer IMC.

Datenschutz: Die Kommentare werden durch ein selbstgehostetes KI-Modell verarbeitet, das innerhalb der eigenen Infrastruktur läuft. Es werden keine Kommentar-Inhalte an externe Dienste oder Dritte übermittelt.Channel AI Enabling

Eingabeaufforderung

Eingabeaufforderung definiert die Anweisungen, die jedes Mal an die KI gesendet werden, wenn ein Kommentar zur Moderation eingereicht wird. Dadurch wird festgelegt, wie die KI Kommentare bewertet und was als Verstoß angesehen wird.

Es wird erwartet, dass die KI ausschließlich wahr (Kommentar ist akzeptiert) oder false (Kommentar verstößt gegen die Netiquette) zurückgibt und keine Erklärungen oder zusätzlichen Texte ausgibt.

Eine Standard-Eingabeaufforderung ist bereits vorkonfiguriert und funktioniert für die meisten Anwendungsfälle sofort. Damit wird die KI angewiesen, Inhalte zu kennzeichnen, die Schimpfwörter, Beleidigungen, Spott, Belästigung, Hassrede oder Drohungen enthalten, unabhängig davon, in welcher Sprache der Kommentar verfasst ist.

Die Eingabeaufforderung enthält den Platzhalter {{ADDITIONAL_GUARDRAILS}}, der zur Laufzeit automatisch durch den Inhalt des Feldes Guardrails ersetzt wird. Auf diese Weise lassen sich die Moderationsregeln erweitern, ohne die Basisaufforderung zu ändern.

Die Eingabeaufforderung unterstützt bis zu 4.000 Zeichen.

Warnung: Die Eingabeaufforderung muss die KI anweisen, nur Folgendes zurückzugeben: wahr oder false als Antwort. Wird die Eingabeaufforderung so geändert, dass die KI ein anderes Format oder zusätzlichen Text zurückgibt, funktioniert die Moderationsfunktion nicht mehr. Der Platzhalter {{ADDITIONAL_GUARDRAILS}} darf in keiner Weise verändert werden – jede Änderung der genauen Schreibweise oder Syntax führt dazu, dass die „Guardrails“-Inhalte nicht angewendet werden können. Für Anpassungen sollte das Feld Guardrails verwendet werden, anstatt die Basis-Eingabeaufforderung direkt zu ändern.

Guardrails

Feld «Guardrails» werden kontextbezogene Regeln definiert, die die KI bei der Bewertung von Kommentaren berücksichtigen soll – zusätzlich zu den bereits im Prompt definierten Anweisungen.

Im Gegensatz zu den Blockierten Wörtern, die Kommentare automatisch anhand exakter Wortübereinstimmungen kennzeichnen, werden Guardrails von der KI unter Berücksichtigung des Kontexts ausgewertet. Dadurch eignen sie sich für Fälle, in denen eine einfache Wortübereinstimmung nicht ausreicht – zum Beispiel, wenn ein Begriff zwar generell akzeptabel, in bestimmten Kontexten jedoch problematisch ist, oder wenn plattformspezifische Richtlinien gelten, die eine Interpretation erfordern und nicht nur eine binäre Prüfung.

Typische Anwendungsfälle sind beispielsweise folgende Regeln:

• Namen von Mitbewerbern oder Produktverweise sollten in Kommentaren nicht vorkommen

• Kommentare sollten keine Werbung oder externe Links enthalten

• Bestimmte Themen sind auf dieser Plattform von der Diskussion ausgeschlossen

Es können mehrere Einträge als durch Kommas getrennte Liste angegeben werden. Begriffe in verschiedenen Sprachen werden unterstützt.

Der Inhalt dieses Feldes wird automatisch an der Position des Platzhalters {{ADDITIONAL_GUARDRAILS}} in den Prompt eingefügt.

Das Feld unterstützt bis zu 4'000 Zeichen. Es kann leer gelassen werden, wenn keine zusätzlichen Regeln erforderlich sind.

Liste der blockierten Wörter

Im Feld «Blockierte Wörter» können Wörter oder Ausdrücke definiert werden, die automatisch markiert werden, sobald sie in einem Kommentar vorkommen – ohne dass der Kommentar zur Bewertung an die KI weitergeleitet wird. Ein Kommentar, der einen der aufgeführten Begriffe enthält, wird unabhängig vom Kontext sofort markiert, und die KI-Bewertung wird für diesen Kommentar vollständig übersprungen. Wird keine Übereinstimmung gefunden, wird der Kommentar wie gewohnt zur KI-Bewertung weitergeleitet.

Damit eignet sich das Feld «Blockierte Wörter» besonders für Begriffe, die grundsätzlich inakzeptabel sind, wie beispielsweise Schimpfwörter, Beleidigungen oder andere explizite Ausdrücke. Da die Überprüfung vor der KI-Verarbeitung erfolgt, dient sie als schnelles und zuverlässiges Sicherheitsnetz für eindeutige Fälle.

Die Einträge werden als durch Kommas getrennte Liste angegeben, zum Beispiel: Wort1, Wort2, Wort3. Begriffe in verschiedenen Sprachen werden unterstützt.

Liste der blockierten Wörter vs. Leitplanken