Nur jede zweite Studie ist wirklich aussagekräftig – oder so ähnlich…

 

Journalisten lieben Umfragen. Sie geben vor, verlässlich die Stimmung unter denen abzubilden, für die die Befragten repräsentativ sind – wenn sie es denn sind. Denn nicht immer schreiben Journalisten das auch dazu. Obwohl sie es laut Pressekodex müssten.

Ein Beispiel von heute: Spiegel online berichtet über eine Umfrage aus den USA. Darin heißt es:

(Screenshot: spiegel.de)
(Screenshot: spiegel.de)

Ob die Umfrage repräsentativ ist oder nicht, schreibt Spiegel online nicht. Obwohl es für die Zuverlässigkeit der Daten wichtig ist. Wird es nicht erwähnt, sollte man davon ausgehen, dass die Umfrage nicht repräsentativ ist. Der Text ist aber in sich widersprüchlich. Dort heißt es zwar:

Demnach sagte nur etwa ein Viertel der Befragten, sie vertrauen allem oder fast allem, was sie aus der Kommunikationsabteilung des Weißen Hauses hören.

Das heißt, es wird nur auf die Befragten abgestellt, nicht auf die Amerikaner insgesamt. An anderer Stelle aber wird verallgemeinert:

US-Präsident Donald Trumps Regierung hat offenbar ein Glaubwürdigkeitsproblem beim amerikanischen Volk.

Das klingt doch nach Repräsentativität.

Medien, die sich dem Pressekodex verpflichtet haben, müssen eigentlich darüber aufklären, wie die Umfrage erhoben wurde – ganz gleich, ob sie von ihnen selbst in Auftrag gegeben wurde oder nicht. In Richtlinie 2.1 heißt es:

Bei der Veröffentlichung von Umfrageergebnissen teilt die Presse die Zahl der Befragten, den Zeitpunkt der Befragung, den Auftraggeber sowie die Fragestellung mit. Zugleich muss mitgeteilt werden, ob die Ergebnisse repräsentativ sind.

Sofern es keinen Auftraggeber gibt, soll vermerkt werden, dass die Umfragedaten auf die eigene Initiative des Meinungsbefragungsinstituts zurückgehen.

Spiegel online erwähnt lediglich CNN als Auftraggeber, verlinkt aber immerhin auf den CNN-Bericht. Wer kein Englisch versteht oder nicht auf den Link klickt, bleibt aber im Unklaren.

Dort steht jedenfalls, dass die Umfrage von SRSS durchgeführt wurde, und zwar zwischen dem 3. und 6. August 2017 unter 1018 Teilnehmern. Die Fehlerabweichung liegt demnach bei 3,6 Prozent. Einen Hinweis auf die Repräsentativität findet man dort nicht. Wie verlässlich die Umfragedaten also sind, ist offen.

Davon abgesehen, dass Spiegel online damit gegen den Pressekodex verstößt, ist fraglich, ob die Umfrage überhaupt eine Berichterstattung rechtfertigt. Wenn die Daten nicht zuverlässig sind, sagen sie nicht mal tendenziell etwas aus, sondern gar nichts.

Das ist leider kein Einzelfall. Gerade Online-Medien fliegen auf Umfragen. Sie sind leicht generierter Inhalt, der vermutlich auch auf viel Interesse stößt.

Leider produzieren auch eigentlich als seriös geltende Absender solche Umfragen. So heißt es in einer Pressemitteilung der Katholischen Universität Eichstädt-Ingolstadt von gestern:

KU-Studie: Großes Interesse von Erstwählern an der Bundestagswahl 2017

Fast jeder zweite Erstwähler interessiert sich sehr für Politik, 80 Prozent wollen wählen gehen, und Eltern haben einen deutlich größeren Einfluss auf das Wahlverhalten von Erstwählern als die Schule. Diese Erkenntnisse gehen aus einer nicht repräsentativen Befragung von Erstwählern durch ein Master-Seminar des Lehrstuhls für Vergleichende Politikwissenschaft der KU im Sommersemester hervor.

Dass eine nicht repräsentative Befragung durch Überschrift und Teaser so verallgemeinert wird, entspricht eigentlich nicht mehr dem Ergebnis der Studie. Das ist allerdings die Arbeit der Pressestelle und nicht die der Wissenschaftler selbst. Die Pressestelle antwortete mir darauf:

…aus unserer Sicht handelt es sich nicht um eine Verallgemeinerung, wenn wir unmittelbar nach dem von Ihnen zitierten Satz offen darauf hinweisen, dass es sich um eine nicht-repräsentative Studie handelt, die in einem Masterseminar entstand. Der erste Satz fasst lediglich kompakt die Ergebnisse dieser Erhebung zusammen. Im weiteren Verlauf des Textes wird zudem stets formuliert „befragte Erstwähler“ und nicht „die Erstwähler“. Vor diesem Hintergrund halten wir auch die Überschrift für legitim, welche zwangsläufig nicht so ausführlich geraten kann, dass man den kompletten Rahmen der Studie wiedergibt.

Meines Erachtens wäre die Pressemitteilung auch ohne die Verallgemeinerung ausgekommen, hätte man sie so formuliert:

Fast jeder zweite in einer Studie befragte Erstwähler interessiert sich sehr für Politik, 80 Prozent von ihnen wollen wählen gehen, und ihre Eltern haben einen deutlich größeren Einfluss auf das Wahlverhalten der Befragten als die Schule. Diese Erkenntnisse gehen aus einer nicht repräsentativen Befragung von Erstwählern durch ein Master-Seminar des Lehrstuhls für Vergleichende Politikwissenschaft der KU im Sommersemester hervor.

Natürlich klingt das weniger sexy, dafür stimmt es in jedem einzelnen Satz. Möglicherweise wäre es sonst aber auch keine Meldung geworden.

 

Nachtrag, 9. August: Der Autor des Spiegel-Artikels hat diesen nach der Kritik um die notwendigen Daten ergänzt. Dort heißt es jetzt im letzten Absatz:

Für die Umfrage befragte das Institut SSRS telefonisch 1018 US-Amerikaner. Die Meinungsforscher gewichteten das Ergebnis anhand des Zensus, damit ist die Umfrage repräsentativ für die erwachsene Bevölkerung der USA. Der statistische Fehler lag im Gesamtergebnis bei 3,6 Prozentpunkten.

Danke dafür. Das ermöglicht es den Lesern, die Umfrage besser einzuschätzen. Freilich bin ich mir bewusst, dass vielen dennoch die Aussagekraft solcher Umfragen nicht hundertprozentig bewusst ist. Es ist Aufgabe von Journalisten, darauf immer wieder hinzuweisen.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.