„Künstliche Intelligenz bietet große Chancen für die Menschheit“

Peter Ganten ist Gründer und CEO der IT-Firma Univention, die ein auf Linux basierendes Open-Source-Betriebssystem bereitstellt. Er warnt vor dem chinesischen „Punktesystem“ für Sozialkredit genauso wie vor der Datensammelwut von Großkonzernen. Für Europa schlägt er eine Digitalstrategie vor, die sich am Selbstbestimmungsrecht von Individuen und Organisationen orientiert.

Treffpunkt Europa: Viele Menschen haben Angst, dass Künstliche Intelligenz den freien Willen beschränkt. Ist diese Sorge berechtigt?

Peter Ganten: Künstliche Intelligenz kann in Verbindung mit Big Data Wünsche, Gedanken, geplante Handlungen und Bedürfnisstrukturen von Menschen immer besser vorhersagen. Diese Fähigkeit steht ja im Mittelpunkt der Geschäftsmodelle etwa von Google oder Facebook: Je besser bekannt ist, wer sich für was interessiert, wer welche Anschaffung plant oder sich für welche Themen interessiert, desto teurer lässt sich Werbung verkaufen, weil sie sehr zielgerichtet adressiert werden kann. Das Ziel von Werbekunden besteht dabei darin, Gedanken und Handlungen der Menschen zu beeinflussen, sie sollen bestimmte Produkte kaufen oder bestimmte Parteien wählen. Und natürlich funktioniert diese Verhaltensbeeinflussung auch - die Werbekunden messen das immer genauer und geben immer mehr Geld dafür aus - weil es so erfolgreich ist. Für Konsument*innen ist das immer weniger durchschaubar - sie wissen letztlich nicht, welches Verhalten dazu führt, dass ihnen bestimmte Nachrichten oder Suchergebnisse angezeigt werden. Und die Betreiber der entsprechenden Algorithmen wissen es selbst oft auch nicht, weil der heutige Stand künstlicher Intelligenz auch dadurch gekennzeichnet ist, dass die Entscheidungen der entsprechenden Algorithmen oft nicht nachvollziehbar sind.

Hinzu kommt folgendes: Big Data und KI führen dazu, dass einzelnen Individuen Nachrichten und Werbung sehr passgenau und individuell angezeigt werden. Das heißt beispielsweise, dass nur eine kleine Gruppe potentiell rechtsradikal denkender Menschen aus einem kleinen Stadtteil bestimmte Nachrichten sieht. Damit entziehen sich die Inhalte solcher Nachrichten der öffentlichen Diskussion, weil sie von denjenigen, die gute Argumente gegen den Inhalt vorbringen könnten, gar nicht gesehen werden. Auch dieses Fehlen der Möglichkeit des öffentlichen Diskurses führt zum Gefühl der Manipulierbarkeit.

Welche Chancen bietet Künstliche Intelligenz und wie könnte die Europäische Union sie für sich nutzen?

Bei allen Gefahren wie den eben genannten: Künstliche Intelligenz bietet für die Menschheit unwahrscheinlich große Chancen: Wir werden Krankheiten besser diagnostizieren und behandeln können, viele nicht besonders interessante Tätigkeiten überflüssig machen, besser, schneller und mit mehr Spaß lernen können oder das Energieproblem endlich in den Griff bekommen können.

Damit wir in Europa wieder eine gestaltende Rolle für die Nutzung dieser Chancen erlangen, müssen wir zwei Dinge tun: Wir dürfen nicht stumpf die Geschäftsmodelle der chinesischen und kalifornischen Vorreiter in der KI kopieren, sondern müssen uns selbst überlegen, welche Ethik wir der Nutzung von KI zu Grunde legen wollen. Und dann müssen wir diese Ethik in entsprechende Regulierung übersetzen, so dass neue, andere Geschäftsmodelle entstehen können, mit denen Europa wieder zum Innovationsmotor bei künstlicher Intelligenz werden kann. Wenn wir das klug anstellen, dann werden diese Geschäftsmodelle und die damit entwickelten Innovationen und Produkte auch zum Exportschlager und können uns auch weltweit wieder eine führende Rolle bringen. Denn Werte wie Achtung des freien Willen der Menschen, Selbstbestimmungsrecht über die durch eigenes Handeln erzeugten Daten, Vertrauenswürdigkeit von IT und so weiter sind natürlich auch anderswo auf der Welt nachgefragt.

Totalitäre Staaten wie China sammeln hemmungslos persönliche Daten und nutzen diese, um die Gesellschaft unter Kontrolle zu halten. Wie könnte eine „Digitalstrategie“ der Europäischen Union aussehen, die die Freiheit ihrer Bürger*innen langfristig schützt?

Genau, das vorhin beschriebene Sammeln von Daten und die Vorhersage von Interessen, Gedanken und geplanten Aktivitäten wird in den totalitären Staaten nicht nur genutzt, um Werbung möglichst effektiv zu schalten, sondern auch, um die Menschen selbst unter der Kontrolle der entsprechenden Regime zu halten. Im Kern einer europäischen Digitalstrategie müssen deswegen einmal das Selbstbestimmungsrecht von Individuen und Organisationen an den von ihnen oder durch ihr Handeln erzeugten Daten stehen und zum anderen müssen Datenhaltung und die auf Basis der Daten angebotenen Dienste voneinander getrennt werden, so ähnlich wie zum Beispiel im Bereich des Verkehrs Infrastruktur und darauf angebotene Dienste voneinander getrennt werden. Wenn wir diese Voraussetzungen schaffen, können zwar immer noch viele Daten gesammelt und damit wichtige, den Menschen dienende Innovationen geschaffen werden, die Daten stehen dann aber mehr als nur einem Unternehmen oder einer Organisation zur Verfügung, so dass Manipulationen oder Erpressungen viel schneller aufgedeckt werden können. Und es sind immer die Menschen und Organisationen selbst, die darüber entscheiden, ob sie bestimmte Daten lieber an den einen oder den anderen Dienstebetreiber geben, um deren Dienste zu nutzen. So entstehen Wettbewerb und Transparenz und dadurch auch die Grundlage für Innovation.

Sie treten für die Veröffentlichung von Daten und Codes nach dem Open-Source-Prinzip ein. Haben Sie ein Beispiel, wo eine Veröffentlichung besonders wichtig wäre?

Nicht ganz. Daten, die mit öffentlichem Geld entstehen, müssen natürlich auch öffentlich verfügbar gemacht werden, damit können sie die Grundlage für viele Innovationen und auch kommerzielle Aktivitäten bilden. Eingeschränkt wird dieses Prinzip natürlich durch den berechtigten Schutz von Daten über Menschen und Organisationen. Das ist nicht immer ganz einfach und manchmal gegeneinander abzuwägen.

Wem, zu welchem Zweck und unter welchen Bedingungen aber die von Individuen und Organisationen erzeugten Daten freigegeben werden, müssen diese selbst bestimmen können. Ich bin überzeugt davon, dass das nicht nur dem Datenschutz sondern auch schnelleren Innovationszyklen dient. Nehmen wir die Medizin: Von Krankheiten betroffene Menschen sind in der Regel sehr wohl bereit, auch persönliche Daten zu Forschungszwecken freizugeben, wenn das nicht primär den Interessen einzelner Unternehmen, sondern der Verbesserung von Behandlungsmethoden dient. Wenn nun viele Patient*innen Daten über eigene Krankheiten an viele unterschiedliche Forschungsinstitutionen und Unternehmen freigegeben können, entstehen wieder neue Grundlagen für Innovation und gleichzeitig Wettbewerb. Das ist genau die Mischung, mit der wir auch in der Vergangenheit sehr erfolgreich waren. Ähnliche Beispiele lassen sich in vielen anderen Bereichen finden.

Viele Firmen dürften kein Interesse haben, ihre Algorithmen offenzulegen. Sollten sie per EU-Gesetz dazu verpflichtet werden?

Grundsätzlich glaube ich, dass uns die Trennung der Hoheit über Daten und Algorithmen weiter bringt als der Zwang zur Offenlegung von Algorithmen, denn die Trennung von Daten und Algorithmen ermöglicht Wettbewerb und verteilte Innovation abseits der großen Cloud-Anbieter. So werden Manipulationen oft leichter sichtbar als durch die Offenlegung des Codes. Aber dennoch: Immer dann, wenn es um kritischen Infrastrukturen, um besonderen Vertrauensschutz oder um mit staatlichen Mitteln entwickelten Code geht, muss dieser offengelegt werden, schon alleine um Vertrauen wirklich herzustellen und unsere lebenswichtigen Infrastrukturen vor Angriffen zu schützen. Aber auch um Ideen und Technologie in den öffentlichen Raum zu bringen, diskutierbar zu machen und die Entstehung neuer Innovationen und neuer Geschäftsmodelle zu ermöglichen.

Strategien zum Umgang mit Künstlicher Intelligenz kann nur ausarbeiten, wer Programmiererfahrung hat. Was ist Ihr Vorschlag, um Schüler*innen und Studierenden in Europa die Angst vorm Programmieren zu nehmen?

Richtig, wir brauchen viel mehr Verständnis für die Funktionsweise von Cloud-Angeboten, Big Data und AI und vor allem auch die Fähigkeit, diese selbst zu gestalten - also Programmierfähigkeiten. Dafür müssen wir die Lust zur Gestaltung bei Jugendlichen, insbesondere auch bei Mädchen wecken. Das geht mit gut ausgebildeten Lehrer*innen, der Hinzuziehung externer Expert*innen, die auch im Unterricht auftreten und Vorträge und Seminare anbieten und mit der Verwendung von Open Source Software, mit der Schüler*innen auch erleben können, wie sie selbst in der Lage sind, diese zu gestalten und Dinge machen zu lassen, die sie sich selbst ausgedacht haben.

Peter Ganten ist Gründer und CEO der IT-Firma Univention. Er ist zudem Vorstandsvorsitzender der Open Source Business Alliance - ein europaweites Netzwerk von Unternehmen und Organisationen, die Open Source Software entwickeln, darauf aufbauen oder sie anwenden.