Nur jede zweite Studie ist wirklich aussagekräftig – oder so ähnlich…

 

Journalisten lieben Umfragen. Sie geben vor, verlässlich die Stimmung unter denen abzubilden, für die die Befragten repräsentativ sind – wenn sie es denn sind. Denn nicht immer schreiben Journalisten das auch dazu. Obwohl sie es laut Pressekodex müssten.

Ein Beispiel von heute: Spiegel online berichtet über eine Umfrage aus den USA. Darin heißt es:

(Screenshot: spiegel.de)
(Screenshot: spiegel.de)

Ob die Umfrage repräsentativ ist oder nicht, schreibt Spiegel online nicht. Obwohl es für die Zuverlässigkeit der Daten wichtig ist. Wird es nicht erwähnt, sollte man davon ausgehen, dass die Umfrage nicht repräsentativ ist. Der Text ist aber in sich widersprüchlich. Dort heißt es zwar:

Demnach sagte nur etwa ein Viertel der Befragten, sie vertrauen allem oder fast allem, was sie aus der Kommunikationsabteilung des Weißen Hauses hören.

Das heißt, es wird nur auf die Befragten abgestellt, nicht auf die Amerikaner insgesamt. An anderer Stelle aber wird verallgemeinert:

US-Präsident Donald Trumps Regierung hat offenbar ein Glaubwürdigkeitsproblem beim amerikanischen Volk.

Das klingt doch nach Repräsentativität.

Medien, die sich dem Pressekodex verpflichtet haben, müssen eigentlich darüber aufklären, wie die Umfrage erhoben wurde – ganz gleich, ob sie von ihnen selbst in Auftrag gegeben wurde oder nicht. In Richtlinie 2.1 heißt es:

Bei der Veröffentlichung von Umfrageergebnissen teilt die Presse die Zahl der Befragten, den Zeitpunkt der Befragung, den Auftraggeber sowie die Fragestellung mit. Zugleich muss mitgeteilt werden, ob die Ergebnisse repräsentativ sind.

Sofern es keinen Auftraggeber gibt, soll vermerkt werden, dass die Umfragedaten auf die eigene Initiative des Meinungsbefragungsinstituts zurückgehen.

Spiegel online erwähnt lediglich CNN als Auftraggeber, verlinkt aber immerhin auf den CNN-Bericht. Wer kein Englisch versteht oder nicht auf den Link klickt, bleibt aber im Unklaren.

Dort steht jedenfalls, dass die Umfrage von SRSS durchgeführt wurde, und zwar zwischen dem 3. und 6. August 2017 unter 1018 Teilnehmern. Die Fehlerabweichung liegt demnach bei 3,6 Prozent. Einen Hinweis auf die Repräsentativität findet man dort nicht. Wie verlässlich die Umfragedaten also sind, ist offen.

Davon abgesehen, dass Spiegel online damit gegen den Pressekodex verstößt, ist fraglich, ob die Umfrage überhaupt eine Berichterstattung rechtfertigt. Wenn die Daten nicht zuverlässig sind, sagen sie nicht mal tendenziell etwas aus, sondern gar nichts.

Das ist leider kein Einzelfall. Gerade Online-Medien fliegen auf Umfragen. Sie sind leicht generierter Inhalt, der vermutlich auch auf viel Interesse stößt.

Leider produzieren auch eigentlich als seriös geltende Absender solche Umfragen. So heißt es in einer Pressemitteilung der Katholischen Universität Eichstädt-Ingolstadt von gestern:

KU-Studie: Großes Interesse von Erstwählern an der Bundestagswahl 2017

Fast jeder zweite Erstwähler interessiert sich sehr für Politik, 80 Prozent wollen wählen gehen, und Eltern haben einen deutlich größeren Einfluss auf das Wahlverhalten von Erstwählern als die Schule. Diese Erkenntnisse gehen aus einer nicht repräsentativen Befragung von Erstwählern durch ein Master-Seminar des Lehrstuhls für Vergleichende Politikwissenschaft der KU im Sommersemester hervor.

Dass eine nicht repräsentative Befragung durch Überschrift und Teaser so verallgemeinert wird, entspricht eigentlich nicht mehr dem Ergebnis der Studie. Das ist allerdings die Arbeit der Pressestelle und nicht die der Wissenschaftler selbst. Die Pressestelle antwortete mir darauf:

…aus unserer Sicht handelt es sich nicht um eine Verallgemeinerung, wenn wir unmittelbar nach dem von Ihnen zitierten Satz offen darauf hinweisen, dass es sich um eine nicht-repräsentative Studie handelt, die in einem Masterseminar entstand. Der erste Satz fasst lediglich kompakt die Ergebnisse dieser Erhebung zusammen. Im weiteren Verlauf des Textes wird zudem stets formuliert „befragte Erstwähler“ und nicht „die Erstwähler“. Vor diesem Hintergrund halten wir auch die Überschrift für legitim, welche zwangsläufig nicht so ausführlich geraten kann, dass man den kompletten Rahmen der Studie wiedergibt.

Meines Erachtens wäre die Pressemitteilung auch ohne die Verallgemeinerung ausgekommen, hätte man sie so formuliert:

Fast jeder zweite in einer Studie befragte Erstwähler interessiert sich sehr für Politik, 80 Prozent von ihnen wollen wählen gehen, und ihre Eltern haben einen deutlich größeren Einfluss auf das Wahlverhalten der Befragten als die Schule. Diese Erkenntnisse gehen aus einer nicht repräsentativen Befragung von Erstwählern durch ein Master-Seminar des Lehrstuhls für Vergleichende Politikwissenschaft der KU im Sommersemester hervor.

Natürlich klingt das weniger sexy, dafür stimmt es in jedem einzelnen Satz. Möglicherweise wäre es sonst aber auch keine Meldung geworden.

 

Nachtrag, 9. August: Der Autor des Spiegel-Artikels hat diesen nach der Kritik um die notwendigen Daten ergänzt. Dort heißt es jetzt im letzten Absatz:

Für die Umfrage befragte das Institut SSRS telefonisch 1018 US-Amerikaner. Die Meinungsforscher gewichteten das Ergebnis anhand des Zensus, damit ist die Umfrage repräsentativ für die erwachsene Bevölkerung der USA. Der statistische Fehler lag im Gesamtergebnis bei 3,6 Prozentpunkten.

Danke dafür. Das ermöglicht es den Lesern, die Umfrage besser einzuschätzen. Freilich bin ich mir bewusst, dass vielen dennoch die Aussagekraft solcher Umfragen nicht hundertprozentig bewusst ist. Es ist Aufgabe von Journalisten, darauf immer wieder hinzuweisen.

Überraschende Umfrage: 5 Millionen Deutsche würden in die Türkei fahren

Umfragen sind eine heikle Angelegenheit. Manchmal scheinen sie eine Geschichte zu erzählen, die sich bei näherer Betrachtung als gar nicht so spektakulär herausstellt.

Spiegel online hat gestern eine repräsentative Umfrage veröffentlicht, die das Umfrageunternehmen Civey für sie durchgeführt hat. Die Frage lautete: „Können Sie sich angesichts der aktuellen politischen Situation vorstellen, in die Türkei zu reisen?“ Der Umfrage zufolge würden 92 Prozent der Befragten momentan eher nicht in die Türkei reisen. 79,8 Prozent sagten „Nein, auf keinen Fall“, weitere 12,2 Prozent „Eher nein“.

Interessant ist der Umkehrschluss: 6,4 Prozent tendieren eher zum Ja. 3,7 Prozent antworteten demnach mit „Ja, auf jeden Fall“ und weitere 2,7 Prozent mit „Eher ja“.

Freilich kann man daraus nicht schließen, dass all diese Leute tatsächlich in die Türkei reisen werden. Würden sie es aber tun, könnte die Türkei – sagen wir mal auf das Jahr 2017 gerechnet – 5,26 Millionen deutsche Touristen begrüßen können.

Und das liegt gar nicht so weit entfernt von den tatsächlichen Besucherzahlen vor Beginn der politischen Umbrüche in der Türkei. Im Jahr 2015 kamen 5,6 Millionen Urlauber in organisierten Reisen in die Türkei, weitere als Individualtouristen. „Die Welt“ schreibt weiter:

Schätzungen zufolge dürfte diese Zahl 2016 schlagartig auf nur noch rund vier Millionen zurückgefallen sein.

Angesichts dessen könnte sich die türkische Tourismusbranche über einen Zuwachs für 2017 freuen.

Natürlich können sich immer mehr Menschen vorstellen, an einem bestimmten Ort ihren Urlaub zu verbringen, als dann tatsächlich hinfahren. Insofern wären die eher zustimmenden Antworten in anderen Zeiten sicher höher ausgefallen.

Aber es zeigt sich auch, dass eine Umfrage eben nur eine Umfrage ist. Womöglich machen sich nur wenige Befragte ernsthaft Gedanken darüber, wie wohl ein Urlaub in der Türkei zu realisieren würde, ob Touristen betroffen wären, wie der Alltag am Urlaubsort wäre. Stattdessen schließen die Befragten auf die eigentliche Frage, die der Umfrage implizit zugrunde liegt, nämlich wie ihre politische Einstellung oder auch ihre Gefühlslage gegenüber der Türkei gerade ist. Gerade der Spin der Fragestellung „Können Sie sich angesichts der aktuellen politischen Situation vorstellen, in die Türkei zu reisen?“ lenkt die Antworten bereits in eine bestimmte Richtung.

Letztlich sagt diese Umfrage also weniger aus als man erst mal aus ihr herauszulesen glaubt.

Wie beeinflussen Wahlumfragen die politische Kultur?

Meinungsumfragen sind wichtiger denn je, sie können Wahlen beeinflussen und Politiker-Karrieren bestimmen. Doch immer öfter gilt: Bis zur Wahl wird die Sonntagsfrage gerne als Tatsache präsentiert – und danach werden die Schuldigen dafür gesucht, warum sie nicht stimmte. Mein Beitrag in der DLF-Sendung „Hintergrund“.