Obacht! Neue Bertelsmann-Studie zu Algorithmen

Wenn die Bertelsmann-Stiftung eine Studie vor­legt, soll­te man hell­hö­rig wer­den. Wenn sie ein Geleitwort des Vorstandsmitglieds der neo­li­be­ra­len Denkfabrik, Jörg Dräger, beinhal­tet, um so mehr. Er war lang­jäh­ri­ger Unternehmensberater, Gesundheitssenator in Hamburg und ver­ant­wort­lich für die Einführung von Studiengebühren. Dräger lehrt an der pri­va­ten "Hertie School of Governance".

»Wie Deutschland über Algorithmen schreibt. Eine Analyse des Mediendiskurses über Algorithmen und Künstliche Intelligenz (2005–2020)«

lau­tet der Titel der Studie, die sich damit auch mit der Akzeptanz der aktu­ell so belieb­ten Modellrechnungen über Mutanten, Inzidenzen etc. beschäf­tigt. AutorInnen sind Sarah Fischer, die sich seit Jahren für Big Data im Gesundheitswesen stark macht (sie­he u.a. hier), und Cornelius Puschmann. Die Studie nimmt Digitalisierung und Macht von Algorithmen als gege­ben und nicht hin­ter­frag­bar an. Wie mei­stens beschreibt sie Defizite, um zu einer Optimierung zu gelan­gen. Das Hauptproblem: unin­for­mier­te Menschen:

»Bei die­sem Thema herr­schen Unwissen, Unentschlossenheit und Unbehagen. Die Menschen in Deutschland wis­sen noch sehr wenig dar­über, was Algorithmen sind und dass sie bereits in zen­tra­len Gesellschaftsbereichen wie in der Medizin, im Personalwesen oder bei der Polizeiarbeit zum Einsatz kom­men. Sie haben noch kei­ne kla­re Meinung zum Thema, ver­spü­ren aber ein Unbehagen, wenn Entscheidungen von algo­rith­mi­schen Systemen beein­flusst sind…

Vor die­sem Hintergrund stellt sich die Frage, wie der media­le Diskurs über Algorithmen und künst­li­che Intelligenz in Deutschland genau aus­sieht: Kommen unter­schied­li­che Akteure mit ver­schie­de­nen Perspektiven zu Wort? Wird eher posi­tiv und chan­cen­ori­en­tiert über das Thema berich­tet oder nega­tiv und pro­blem­be­zo­gen? Welche kon­kre­ten Herausforderungen und Handlungsempfehlungen wer­den thematisiert?«

Die in einer Zusammenfassung dar­ge­stell­ten Ergebnisse zei­gen, was bei der Zielsetzung der Stiftung noch im Argen liegt, und wo aktu­ell schon Fortschritte in ihrem Sinne zu ver­zeich­nen sind:

»Aus den Ergebnissen der Studie lassen sich drei zentrale Ableitungen treffen: 

Erstens man­gelt es dem Diskurs im Hinblick auf ver­tre­te­ne Perspektiven und Akteure an Vielfalt. Für eine brei­te demo­kra­ti­sche Meinungsbildung braucht es jedoch diver­se Positionen. Dazu benö­ti­gen vor allem zivil­ge­sell­schaft­li­che und poli­ti­sche Stimmen grö­ße­re Resonanz in der Debatte über Algorithmen und künst­li­che Intelligenz. Leitmedien soll­ten sie einer­seits häu­fi­ger in der Berichterstattung berück­sich­ti­gen. Andererseits soll­ten Akteure aus Zivilgesellschaft und Politik dar­an arbei­ten, ihre Anliegen und Kernbotschaften stär­ker und ziel­ge­rich­te­ter an und über die Medien zu kommunizieren. 

Zweitens spie­gelt sich der Fokus auf die wirt­schaft­li­che Perspektive auch in den the­ma­ti­sier­ten Anwendungsbereichen und Chancen wider. Damit Skepsis in der Bevölkerung sich abbaut und Vertrauen in neue Technologien wach­sen kann, ist es wich­tig, dass auch der Einsatz von künst­li­cher Intelligenz und Algorithmen in zen­tra­len teil­ha­be­re­le­van­ten Bereichen wie Bildung, Gesundheit oder Sicherheit sowie gesamt­ge­sell­schaft­li­che Chancen der­ar­ti­ger Systeme häu­fi­ger in der Berichterstattung vorkommen.

Drittens dür­fen im Diskurs the­ma­ti­sier­te Lösungsansätze nicht beim Kompetenzaufbau ste­hen blei­ben. In der brei­ten Bevölkerung, aber auch bei Anwender:innen darf nicht der Eindruck ent­ste­hen, dass die Bürde des ver­ant­wor­tungs­vol­len Einsatzes algo­rith­mi­scher Systeme allein auf ihnen lastet. Wissen wirkt zwar oft­mals Wunder, braucht dazu aber auch adäqua­te Aufsichts- und Kontrollstrukturen. Eine stär­ke­re Berücksichtigung sol­cher wei­te­rer Lösungsansätze im media­len Diskurs könn­te gleich­sam den dafür nöti­gen poli­ti­schen Handlungsdruck befördern.«

Adäquate Aufsichts- und Kontrollstrukturen

Kernpunkt dürf­ten die "Aufsichts- und Kontrollstrukturen" sein, um "poli­ti­schen Handlungsdruck" zu erzeu­gen. Die Formulierung von "teilhabe­relevanten Bereichen wie Bildung, Gesundheit oder Sicherheit" ist nichts als eine Floskel. Überaus dra­stisch erle­ben wir gera­de, daß genau die­se Bereiche von Teilhabe der BürgerInnen aus­ge­schlos­sen sind. Begründungen dafür lie­fern die gelob­ten Algorithmen, wobei sie mei­len­weit davon ent­fernt sind, so etwas wie künst­li­che Intelligenz darzustellen.

Durchaus zutref­fend wird festgehalten:

»Die Frage, wel­che Perspektiven und Personengruppen in der media­len Berichterstattung zu Wort kom­men, ist somit auch eine Machtfrage. Wer Gehör fin­det, kann mit­be­ein­flus­sen, wie wir den digi­ta­len Wandel zukünf­tig gestalten…

Kurz gesagt: Der Diskurs über Algorithmen und künst­li­che Intelligenz in Deutschland erscheint wenig divers. Es fehlt eine gemein­wohl­ori­en­tier­te Perspektive auf das Thema.«

Was die Stiftung unter Gemeinwohl ver­steht, ist auch ihren ver­schie­de­nen Vorstößen zu Krankenhausschließungen zu entnehmen.

»Die Dominanz öko­no­mi­scher Potenziale im Diskurs erklärt sich aus dem unter­neh­me­ri­schen Vorsprung im Umgang mit digi­ta­len Technologien und dem legi­ti­men Interesse, die­se sicht­bar zu machen. Bei sozia­len Innovationen fehlt es im Vergleich dazu oft noch an kon­kre­ten Beispielen und an Akteuren, die ent­spre­chen­de Bestrebungen und Erfolge offen­siv kommunizieren…

Um der bei die­sem Thema vor­herr­schen­den Unkenntnis und dem Unbehagen in der Bevölkerung ent­ge­gen­zu­wir­ken, reicht die­se Perspektive nicht aus. Das Vertrauen der Menschen in den digi­ta­len Wandel lässt sich nur stär­ken, wenn es gelingt, zum einen auch Chancen fürs Gemeinwohl in Bereichen wie Bildung, Gesundheit oder beim Klimaschutz sicht­bar zu machen.«

Einige konkrete Handlungsableitungen

»Medienvertreter:innen soll­ten neben wirt­schaft­li­chen Aspekten auch stär­ker über den Einsatz algo­rith­mi­scher Systeme in gemein­wohl­re­le­van­ten Bereichen berich­ten. Die Auswirkungen von Algorithmen und künst­li­cher Intelligenz betref­fen längst gro­ße Teile des gesell­schaft­li­chen Lebens (Chiusi et al. 2020). Deshalb darf sich die Berichterstattung dar­über nicht auf weni­ge Fachjournalist:innen und die klei­nen Digital-Ressorts der Leitmedien beschrän­ken. Vielmehr soll­ten sich die Redaktionen in ihrer Breite mit die­ser Querschnittsthematik aus­ein­an­der­set­zen und hier auch stär­ker auf hin­ter­grün­di­ge oder inve­sti­ga­ti­ve Stücke set­zen. Sie soll­ten zudem dar­auf ach­ten, dass dabei diver­se Stimmen aus Politik und Zivilgesellschaft zu Wort kom­men und aktiv auf die­se Akteure zugehen. 

Zugleich liegt es an der Politik, Anlässe für media­le Berichterstattung zu schaf­fen und ent­spre­chen­de Entscheidungen sowie ihren prak­ti­schen Nutzen für die Bürger:innen ver­ständ­lich zu kommunizieren…

Mehr Vielfalt im Diskurs erfor­dert auch mehr zivil­ge­sell­schaft­li­ches Engagement. Das Spektrum an Handlungsoptionen ist dabei eben­so divers wie die Zivilgesellschaft selbst: Die Öffentlichkeit sen­si­bi­li­sie­ren, Räume für Dialog und Austausch schaf­fen, Lösungsansätze ent­wickeln – je nach indi­vi­du­el­ler stra­te­gi­scher Ausrichtung bie­ten sich viel­fäl­ti­ge Ansatzpunkte. Dazu braucht es aller­dings auch stär­ke­re Unterstützung durch die Politik oder auch Stiftungen – denn der digi­ta­len zivil­ge­sell­schaft­li­chen Avantgarde feh­len bis­lang die nöti­gen Ressourcen und vie­len grö­ße­ren Akteuren die nöti­gen Kompetenzen…«

Hier erle­ben wir mit ZeroCovid soeben eine kon­kre­te Umsetzung.