home Übersicht & Anleitung

NetiChecker Controller klassifiziert Kommentare auf Hassrede. Wie, legt eine Konfiguration fest: Prompt, Vorprüfungen, Urteilsfindung und die Bausteine ihrer Pipeline, von denen jeder sein eigenes Modell und seine eigenen Sampling-Werte trägt. Sie wird hier zusammengestellt, auf Datensätzen gemessen und lässt sich, sobald sie gespeichert ist, über die Schnittstelle mit einem Kommentar aufrufen. Die Modelle kommen standardmäßig von Standard-Provider; externe Provider und eigene Modelle auf Alex sind optional.

tune Aktuelle Einstellungen

Was dieser Controller gerade verwendet, nur gelesen: dafür geht keine Anfrage per SSH an Alex, und von einem Schlüssel zeigt die Seite nur, ob er gesetzt ist. Geändert wird jede Zeile dort, wohin ihr Link führt.

Standard-Provider
wird abgefragt… Infrastruktur
Externe Provider
wird abgefragt… Infrastruktur
NHR@FAU (Alex)
wird abgefragt… Alex-Bereich
Konfigurationen
wird abgefragt… Konfiguration Schnittstelle
Controller
wird abgefragt… Schnittstelle

inventory_2 Modelle dieser Installation

Standard-Provider

Der Controller wird nach den Modellen gefragt…

Externe Provider

Der Controller wird nach den Providern gefragt…

NHR@FAU (Alex) über SSH optional, eigene Modelle, per SSH abgefragt beim Aufklappen

Alex wird per SSH abgefragt: Offline-Cache und laufender Dienst…

Modell-Cache, Serve-Profile und SLURM-Jobs: Bereich NHR@FAU (Alex) über SSH auf der Seite Infrastruktur.

Welches Modell gefragt wird, steht am einzelnen Baustein der Konfiguration und ist mit ihr gespeichert. Ein Lauf der Test-Suite und ein Aufruf der Schnittstelle fragen den ausführenden Baustein, also den ersten mit Modell, der das Moderationsergebnis speist; im Playground wird das Modell pro Anfrage gewählt. Eine Modell-Id der Form org/name führt zu ihrer Seite auf Hugging Face.

flag So greift alles ineinander

Zwei getrennte Teile: diese Web-UI und die Controller-API. Der Controller hält die Schlüssel und ruft die Modelle selbst auf; der Browser erfährt nur, ob ein Schlüssel gesetzt ist. Jede Anfrage geht standardmäßig an Standard-Provider, eingestellt auf der Seite Infrastruktur.

Browser (ui/)
  → Controller-API (api/)
      → HTTPS → Standard-Provider (Standard)
      → HTTPS → externe Provider (optional)
      → SSH   → Alex → SLURM-Job → vLLM (optional)
  1. Infrastruktur prüfen: Standard-Provider erreichbar und Schlüssel gesetzt, bei Bedarf externe Provider anlegen.
  2. Im Playground ausprobieren: einzelne Prompts oder Batches senden, JSON-Schemas erzwingen, Texte einbetten.
  3. Die Konfiguration bauen und speichern: Prompt Bausteine, Vorprüfungen, strukturierte Ausgabe, Urteilsfindung und die Pipeline auf dem Board, jeder Baustein mit eigenem Modell und eigenem Sampling.
  4. In der Test-Suite messen: ein Lauf je gespeicherter Konfiguration, oder Variationen gegen sie im Grid, mit Laufprotokoll, Bericht und CSV. Verlangt eine Konfiguration ein Gesprächsfenster, gehen die früheren Beiträge des Threads wirklich mit.
  5. Über die Schnittstelle aufrufen: jede gespeicherte Konfiguration nimmt per API einen Kommentar an und antwortet mit dem Urteil. Gefragt wird das Modell ihres ausführenden Bausteins, der Aufruf nennt keines.

Optional, für eigene Modelle: im Bereich NHR@FAU (Alex) über SSH einen Job starten, warten, bis der Dienst ready meldet, und Alex als Backend wählen. Den Job danach abbrechen, denn er belegt GPUs und das Fair-Share-Budget.

map Die Seiten im Überblick

home Übersicht Diese Seite: aktuelle Einstellungen, Ablauf und die Modelle dieser Installation. forum Playground Modelle direkt ansprechen: Prompts, Batches, strukturierte Ausgabe, Embeddings und Suche. construction Konfiguration Der Baukasten: Prompt Bausteine, Vorprüfungen, Urteilsfindung und die Pipeline als Board, Modell und Sampling je Baustein. science Test-Suite Gespeicherte Konfigurationen auf Datensätzen messen, je eine als Lauf oder als Variationen im Grid, mit Protokoll und Bericht. api Schnittstelle Jede gespeicherte Konfiguration per API mit einem Kommentar aufrufen, dazu die Swagger UI des Controllers. dns Infrastruktur Standard-Provider, Controller und externe Provider, eingeklappt Alex mit SLURM-Jobs und Clusterstatus.

travel_explore Modellverzeichnisse & Benchmarks

Wo Modelle zu finden sind und wie sie abschneiden:

leaderboard Artificial Analysis Intelligence Index, Geschwindigkeit und Preis der gängigen Modelle im Vergleich. hub Langdock-Modelle Modellübersicht der Langdock-Plattform mit EU-Preisen und regionaler Verfügbarkeit. storefront Hugging Face Hub Quelle der Open-Weight-Modelle für eigene Jobs auf Alex: die Repo-Id in „Modell in den Cache aufnehmen“ im Alex-Bereich der Infrastruktur einfügen. description OpenAI-Modelle Offizielle Modelldokumentation mit Fähigkeiten und Preisen. description Anthropic-Modelle Übersicht der Claude-Modelle mit API-Ids, Kontextfenstern und Preisen.

NetiChecker Controller · HM Forschungsprojekt · Klassifikation mit Standard-Provider, optional mit eigenen Modellen auf Alex