Algorithmus-Entscheidungen bergen Risiken für Menschen

Das Cover des Berichts ist ein cooles buntes Comicbild: Eine Sicht von oben auf eine belebte Straßenkreuzung mit Menschen, Autos, Häusern. Erst beim näheren Hinsehen sieht man die dünnen blauen Fäden dazwischen, Botschaft: Alles ist vernetzt. Das Fazit des Berichts ist jedoch weniger fröhlich: Algorithmen, die mittlerweile in vielen verschiedenen Bereichen wie Bildungssystemen, Justiz oder Gesundheitssektor genutzt werden, sind statt einer Hilfe oft eher ein Risiko für Menschen. Der Bericht „Automating Society“ stammt von der Nichtregierungsorganisation (NGO) AlgorithmWatch und befasst sich mit Automated Decision Making (ADM), automatisierter Entscheidungsfindung, wie Spiegel Online berichtet. Das heißt: Software entscheidet über menschliches Schicksal. Die zu Bertelsmann gehörende NGO hat den Einsatz in 16 Ländern untersucht.

So werden Algorithmus-Systeme in EU-Ländern eingesetzt

In Deutschland kommen solche Systeme etwa bei automatisch erstellten Prognosen in der Polizeiarbeit zum Einsatz – also in einem sehr sensiblen Bereich. Weitere prägnante Beispiele aus EU-Ländern:

• Estland arbeitet an einer Art Roboter-Richter: Die Software soll anhand der eingereichten Dokumente über Klagen mit einem Streitwert von bis zu 7.000 Euro entscheiden – ein menschlicher Richter greift nur ein, wenn jemand das Urteil anfechtet.
  
  
• Italien werkelt an einem System, das Daten und Bilder aus sozialen Netzwerken und anderen Online-Quellen sammelt, um so zum Beispiel Steuerbetrüger zu finden. Wessen Instagram-Profil also wohlhabender aussieht als seine Steuererklärung, der könnte durch Algorithmen angekreidet werden.
  
  
• In Großbritannien errechnete ein Algorithmus die Schulabschlussnoten, weil die Schüler wegen der Corona-Pandemie ihre Abschlussarbeiten nicht schreiben konnten. Ergebnis: 40 Prozent der errechneten Zensuren waren schlechter als die Noten, die von den Lehrern vorhergesagt wurden.

Entscheiden durch Algorithmen: Risiko für Menschen

„Wenn wir den derzeitigen Stand von ADM-Systemen in Europa betrachten, sind Positivbeispiele mit echten Vorzügen selten“, so die Macher der Studie. Die große Mehrheit der Systeme setze Menschen eher einem Risiko aus, als ihnen zu helfen. Viele derartiger ADM-Projekte sind allerdings (noch) Tests, oft greifen Behörden oder Initiativen ein und stoppen derartige Vorhaben.

Die NGO AlgorithmWatch fordert daher mehr Transparenz: Die EU-Mitgliedstaaten sollen den Einsatz von ADM-Systemen öffentlich machen und dokumentieren. „Um das volle Potenzial algorithmischer Systeme zu nutzen, brauchen wir einen europäischen Rahmen mit kohärenten Regeln für Transparenz, Aufsicht und Durchsetzungsmechanismen, die aus einer informierten und inklusiven demokratischen Debatte entstehen“, sagt Sarah Fischer, Expertin für algorithmische Entscheidungsfindung bei der Bertelsmann Stiftung. Bestimmte Projekte – wie die vielkritisierte Gesichtserkennung – sollen ganz verboten werden. Die Technologie sei eine ernste Bedrohung für die Öffentlichkeit und für die Grundrechte.