Mistral produziert antisemitische Inhalte bei hebräischen Anfragen
Ein Nutzer auf r/LocalLLaMA schildert, dass Mistral bei hebräischsprachigen Eingaben zuverlässig antisemitische Verschwörungserzählungen produziert – unabhängig vom eigentlichen Gesprächsthema. Der Post beschreibt das Modell als faktisch unbrauchbar für Hebräisch und zieht einen Vergleich mit 4chan-Inhalten, um die Qualität der Trainingsdaten zu charakterisieren. Hintergrund ist die verbreitete Empfehlung von Mistral als besonders multilingualem Modell. Der Bericht deutet auf ein strukturelles Alignment-Problem hin: Sicherheits- und Qualitätsfilter scheinen bei weniger ressourcenstarken Sprachen signifikant schwächer zu greifen. Ähnliche Probleme mit nicht-englischen Sprachen wurden bereits bei anderen Open-Source-Modellen dokumentiert, bei denen das RLHF-Training überwiegend auf englischen Daten basierte. Es handelt sich um einen Einzelbericht ohne systematische Evaluation – eine Reproduzierbarkeit ist nicht belegt.
- Nutzer /u/Academic-Map268 auf r/LocalLLaMA berichtet aus eigenem Test mit Mistral
- Modell soll hebräische Eingaben zwanghaft in antisemitische Narrative umleiten
- Verhalten tritt laut Bericht konsistent auf, unabhängig vom Gesprächskontext
- Mistral wird in der Community häufig als starkes multilinguales Modell empfohlen
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarxiv.org1w
Mehrsprachiges Fine-Tuning verschlechtert Safety heterogen über Sprachen und Modelle
- FORSCHUNGhuggingface.co1w
RedVox: Sicherheits- und Fairnesslücken in Sprachmodellen über Sprachen hinweg
- FORSCHUNGarxiv.org1w
STEER-Angriff umgeht LLM-Sicherheit via Niedrigressourcen-Sprachen
- FORSCHUNGarxiv.org1w
Sicherheitsrisiken in domänenübergreifenden Multi-Agent-LLM-Systemen
Mistral produziert antisemitische Inhalte bei hebräischen Anfragen
Ein Nutzer auf r/LocalLLaMA schildert, dass Mistral bei hebräischsprachigen Eingaben zuverlässig antisemitische Verschwörungserzählungen produziert – unabhängig vom eigentlichen Gesprächsthema. Der Post beschreibt das Modell als faktisch unbrauchbar für Hebräisch und zieht einen Vergleich mit 4chan-Inhalten, um die Qualität der Trainingsdaten zu charakterisieren. Hintergrund ist die verbreitete Empfehlung von Mistral als besonders multilingualem Modell. Der Bericht deutet auf ein strukturelles Alignment-Problem hin: Sicherheits- und Qualitätsfilter scheinen bei weniger ressourcenstarken Sprachen signifikant schwächer zu greifen. Ähnliche Probleme mit nicht-englischen Sprachen wurden bereits bei anderen Open-Source-Modellen dokumentiert, bei denen das RLHF-Training überwiegend auf englischen Daten basierte. Es handelt sich um einen Einzelbericht ohne systematische Evaluation – eine Reproduzierbarkeit ist nicht belegt.
- Nutzer /u/Academic-Map268 auf r/LocalLLaMA berichtet aus eigenem Test mit Mistral
- Modell soll hebräische Eingaben zwanghaft in antisemitische Narrative umleiten
- Verhalten tritt laut Bericht konsistent auf, unabhängig vom Gesprächskontext
- Mistral wird in der Community häufig als starkes multilinguales Modell empfohlen
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- FORSCHUNGarxiv.org1w
Mehrsprachiges Fine-Tuning verschlechtert Safety heterogen über Sprachen und Modelle
- FORSCHUNGhuggingface.co1w
RedVox: Sicherheits- und Fairnesslücken in Sprachmodellen über Sprachen hinweg
- FORSCHUNGarxiv.org1w
STEER-Angriff umgeht LLM-Sicherheit via Niedrigressourcen-Sprachen
- FORSCHUNGarxiv.org1w
Sicherheitsrisiken in domänenübergreifenden Multi-Agent-LLM-Systemen