Welf Schröter ist Mitbegründer und Leiter des "Forum Soziale Technikgestaltung" beim DGB Baden-Württemberg, das seit 30 Jahren Betriebs- und Personalräte auf dem Weg in die Wissensgesellschaft unterstützt und vernetzt. Aus einer Reihe von Diskussionen mit Wissenschaftlern, Gewerkschaftern, Betriebs- und Personalräten ist der gewerkschaftliche Gestaltungsanspruch für mitbestimmte Algorithmen entstanden.

VER.DI PUBLIK: Mitbestimmte Algorithmen: Worum geht es dabei?

WELF SCHRÖTER: Es geht um die Frage, wie sich Computerprogramme entsprechend der einprogrammierten Regeln verändern und weiterentwickeln können, wie man das steuern und gestalten kann – und wann man das vor allem machen sollte.

VER.DI PUBLIK: Ist künstliche Intelligenz, KI, unser Feind?

SCHRÖTER: Bei KI handelt es sich um autonome Softwaresysteme oder sich selbstverändernde Softwaresysteme, aber de facto nicht um Intelligenz. KI ist eine unzureichende Übersetzung aus dem Englischen. Artificial Intelligence meint die künstliche Nachbildung und nicht unseren Begriff von Intelligenz. KI lernt und denkt nicht. Dahinter stecken mathematische Prozesse, die von Menschen gesteuert werden, aber auch an bestimmten Stellen eben nicht mehr. Es handelt sich um brillante Mathematik, basierend auf Algorithmen. Diese Algorithmen sind von Menschen gemacht, also auch von Menschen veränderbar und gestaltbar. Oder auch irgendwann nicht mehr, wenn wir nicht rechtzeitig eingreifen. Dazu brauchen wir den Ansatz des mitbestimmten Algorithmus.

VER.DI PUBLIK: Wie sieht betriebliche Mitbestimmung denn bisher für autonome Softwaresysteme aus?

SCHRÖTER: Da muss ich etwas ausholen. Die Arbeitswelt steht vor einem Umbruch, der größer und tiefer ist, als wir es bislang wahrnehmen. Die Diskussionen hinken aber hinterher. Wir haben zum Teil ein Technikverständnis, das aus den 90er Jahren stammt, und ein Digitalisierungsverständnis, das zu alt ist. Bisher ging es um das Wechselverhältnis Mensch und Gerät und darum, dass die Technik dem Menschen dienen sollte. Missbrauch mal beiseitegeschoben. Es handelte sich um sogenannte Assistenztechnik. Darauf haben wir bisher unsere Arbeit in der Mitbestimmung konzentriert. Und das betrifft noch immer fast vier Fünftel aller Technikeinführungen. Die dahinter zugrunde liegenden Technologien sind aber schon 20 bis 25 Jahre alt. Diese Art der nachholenden Digitalisierung mit Assistenztechnik dreht sich nur um den Umgang des Menschen mit der Geräteoberfläche. Das ist der klassische Gestaltungsansatz in der Mitbestimmung. Und dafür sind bisher die Betriebsvereinbarungen abgeschlossen worden.

VER.DI PUBLIK: Jetzt aber gibt es einen Wandel?

SCHRÖTER: Im Hintergrund, hinter der Digitalisierung, hat sich eine andere Art der Digitalisierung entwickelt, die nicht mehr nur Assistenz ist, sondern es ist möglich geworden, dass der Mensch auf einen sogenannten Softwarehaufen eine Vollmacht delegieren kann. Das bedeutet, dass dieser Softwarehaufen anstelle des Menschen rechtsverbindlich handeln kann. Ich spreche hierbei von Delegationstechnik. Und die tickt anders als die bisherige Assistenztechnik.

VER.DI PUBLIK: Was bedeutet das?

SCHRÖTER: Wir verhalten uns noch immer nach dem Modell der alten Assistenztechnologie. Da gab es zwar auch Algorithmen, aber die waren am Anfang und am Ende immer gleich. Jetzt haben wir es mit sich selbst verändernden Softwaresystemen zu tun. Es gibt dafür einen Algorithmus, eine Spielregel, die sagt, wie der Softwarehaufen Daten verarbeiten soll. Entscheidend ist aber, welche Daten er bekommt. Die Spielregel ist nur ein Teil des Vorgangs. Je nachdem, mit welchen Daten der Softwarehaufen gefüttert wird, kommt jedes Mal etwas anderes heraus. Und wie ich ihn füttere, das hat viel damit zu tun, wie gut oder zuverlässig die Daten sind, die der Softwarehaufen nach der Bearbeitung wieder herausgibt. Wenn lauter falsche Daten gefüttert werden, kommt am Ende etwas Falsches dabei heraus. Nämlich ein Algorithmus, der lauter Fehler produziert. Die Qualität der Daten, mit denen ich den Algorithmus füttere, ist entscheidend dafür, was das System mit den Daten macht. Wir haben jetzt eine andere Komplexität als früher.

VER.DI PUBLIK: Das heißt, früher war der Algorithmus immer gleich und jetzt verändert er sich selbstständig und dann passen bisherige Mitbestimmungsvereinbarungen nicht mehr?

SCHRÖTER: Bislang wurde auf drei Ebenen mitbestimmt: über das Betriebsverfassungsgesetz, mittels Tarifverträgen und mit Betriebs- oder Dienstvereinbarungen. Für die Mitbestimmung der Delegationssysteme müsste eine vierte Ebene hinzukommen, nämlich für die Gestaltung der Algorithmen und Fütterung der Systeme.

VER.DI PUBLIK: Und was soll da rein?

SCHRÖTER: Unsere sozialen Standards, was wir erreichen und durchsetzen wollen. Das darf nicht nur in den Betriebs- und Dienstvereinbarungen stehen, sondern wir müssen lernen, was wir gestalten wollen, unmittelbar im Algorithmus, in den Spielregeln, im Fütterungsprozess zu verankern. Wenn wir das nicht schaffen, dann läuft uns die Technik davon und aus dem Betrieb hinaus. Dann entgleitet uns die Mitbestimmung.

VER.DI PUBLIK: Sind autonome Entscheidungen einer Software denn überhaupt rechtsverbindlich?

SCHRÖTER: Darüber streiten sich die Juristen schon seit 20 Jahren. Als erstmals solche Systeme, Softwareagenten oder mobile Agentensysteme, auftauchten, kamen Juristen, die sagten, gut, wenn der Softwarehaufen in der Lage ist, rechtsverbindlich alleine Entscheidungen treffen zu können, dann kann er ein gerichtsfestes Subjekt sein. Seitdem wird darüber mit unterschiedlichen Ansichten diskutiert. Aufgrund der EU-Datenschutzgrundverordnung und der Haltung der Datenschützer dazu, ist es äußerst schwer, die Systeme als Rechtssubjekte einzuführen. Aber die Tendenz ist da und ich vermute, außerhalb des europäischen Kontinents werden wir zu dieser Situation kommen. Technisch ist es möglich. Die Frage ist, ob wir und unsere Gesellschaft das rechtlich zulassen.

"Die Arbeitswelt steht vor einem Umbruch, der größer und tiefer ist, als wir es bislang wahrnehmen."

VER.DI PUBLIK: Warum genügt die bisherige Mitbestimmung nicht mehr?

SCHRÖTER: Die neuen algorithmischen Steuerungssysteme sind entwickelt worden, um die Beziehungen zwischen den Betrieben, den Standorten und den Zuliefererbetrieben zu organisieren. Es geht nicht mehr nur um die vertikale sondern insbesondere um die horizontale Wertschöpfungskette zwischen den Betrieben, Zulieferern, Kundschaft und so weiter. Doch soweit reicht die Mitbestimmung nicht, sie endet physisch am Ende des Werktors. Im virtuellen Raum müssen wir deshalb neu darüber entscheiden. Wenn ein Softwaresystem als Subjekt den Boden des Betriebes verlassen kann, um Arbeitsprozesse außerhalb des Betriebes zu steuern, die dann wiederum andere Arbeitsprozesse und Arbeitspersonen in anderen Betrieben beeinflussen, dann reicht die herkömmliche Mitbestimmung im Betrieb nicht mehr aus. Unsere Antwortet lautet: Dann müssen wir die Standards in den Betrieben, in den Aushandlungsprozessen, in der Humanisierung der Arbeit, in denen wir Mitbestimmung durchsetzen können, im Algorithmus verankern. So erreichen wir, dass der Algorithmus auf seiner Reise zwischen den Betrieben die Mitbestimmung mitnimmt.

VER.DI PUBLIK: Ist das schon so konkret?

SCHRÖTER: Die Einführung dieser Prozesse, die Veränderung horizontaler Wertschöpfungsketten, sehen wir im Moment bei mehreren bundesdeutschen großen Konzernen, die damit experimentieren. Wir müssen jetzt überlegen, wie wir die Mitbestimmung auf die horizontale Wertschöpfungskette ausdehnen. Das kann dadurch gelingen, dass wir sagen, wir verankern sie im Algorithmus. Dann nimmt er die Mitbestimmungswerte mit.

Interview: Marion Lühring