Unheimliche Macht

Wo ist der Einsatz von spezifischer Algorithmen hilfreich, und wann wird er zur Bedrohung? Die Dokumentation wirft einen Blick in die Bereiche Finanzen, Arbeitswelt und Medizin. Algorithmen sind Rechenvorgänge, die bestimmte Probleme zu lösen. Jedem Rechenprozess in der digitalen Welt, liegen Algorithmen zugrunde. Doch es gibt längst Algorithmen, die nicht mehr nur Anweisungen folgen, sondern ständig dazulernen und damit zur Kategorie der Künstlichen Intelligenz gehören. Gerade dadurch würden Dinge passieren, die nicht mehr ganz einsichtig seien, erklärt Prof. Katharina Zweig von der TU Kaiserslautern: "Ich glaube, es ist eine tiefsitzende Sorge, von einer Maschine einsortiert zu werden und sich nicht dagegen wehren zu können." Die Recherchen zeigen, dass dies berechtigt scheint.

Verbraucher werden immer mehr durchleuchtet und bewertet. Das wohl bekannteste Beispiel ist die Bonitätsprüfung durch Auskunfteien, die immer wieder durch Verbraucher und Experten kritisiert und infrage gestellt werden.

Wie es sich anfühlt, von einer Maschine bewertet zu werden, erlebt Autorin Franziska Wielandt am eigenen Leib: 15 Minuten Telefongespräch mit einer Computerstimme geben angeblich Auskunft über ihre Persönlichkeit. Möglich soll das eine Künstliche Intelligenz machen, die die Sprache in 500 000 Bausteine zerlegt. Ein Mensch könne das nicht leisten - die Technologie Precire schon, erklärt Mitbegründer Christian Greb. Das Ergebnis ist für die Autorin faszinierend und bedenklich zugleich.

Algorithmen sind längst in der Arbeitswelt angekommen. Bei manchen Arbeitgebern entscheidet bei der Auswahl der Auszubildenden auch eine entsprechende Software mit: Zusage oder Absage auf der Grundlage von Algorithmen? Kritik kommt vor allem von den Gewerkschaften, verbunden mit der Forderung danach, die Kriterien bei der Programmierung von Algorithmen offenzulegen. Vor allem bei selbstlernenden Systemen drohe ein Kontrollverlust.