Sara A. Metwalli argumentiert auf Towards Data Science, dass die eigentliche Herausforderung bei KI-Systemen nicht in der technischen Machbarkeit liegt, sondern in der statistischen Verlässlichkeit. Ausgangspunkt ist die astronomische Größe des Stichprobenraums: Ein Sprachmodell, das Sequenzen von 512 Tokens aus einem Vokabular von 50.000 Einträgen generiert, operiert in einem Raum von 50000^512 möglichen Ausgaben – der Anteil nützlicher, kohärenter und faktisch korrekter Antworten darin ist verschwindend klein. Halluzinationen sind in diesem Rahmen kein Software-Fehler, sondern das Ergebnis des Samplings aus Regionen mit geringer, aber nicht-null Wahrscheinlichkeit. Metwalli unterscheidet zudem zwischen frequentistischer Modellbewertung (z. B. 85% Genauigkeit auf 1000 Benchmark-Tasks) und Bayesianischer Perspektive, die Abhängigkeiten zwischen Prompts und Kontextbedingungen berücksichtigt. Besonders kritisch bewertet sie die verbreitete Fehlinterpretation von Softmax-Outputs als echte Konfidenzwerte: Wegen der Exponentialfunktion können kleine Logit-Unterschiede zu scheinbar hoher Sicherheit führen – das sogenannte „Confident Fool"-Problem. Abschließend warnt sie davor, dass das Gesetz der großen Zahlen nur gilt, wenn die zugrundeliegende Verteilung stabil ist – was bei menschlichem Wissen und Sprache nicht der Fall ist.