Die neue Verantwortung

Auf dem Web Summit schlägt die Branche auch nachdenkliche Töne an

In Lissabon beschäftigten sich die Tech-Konzerne teils erstaunlich selbstkritisch mit ihrer eigenen Verantwortung im Umgang mit KI und Big Data. Vor allem wollen sie politischer Regulierung zuvorkommen.

Von Holger Bleich und Volker Briegleb

Margrethe Vestager ließ keinen Raum für Missverständnisse: „Wir müssen uns unsere Demokratie zurückerobern“, forderte die EU-Wettbewerbskommissarin auf dem Web Summit Anfang November in Lissabon. „Wir können sie nicht den Googles und Facebooks überlassen.“ Vestager verwies auf die Erfolge der Kommission. Facebook hat seine Strafe für irreführende Angaben bei der WhatsApp-Übernahme bezahlt, und Google hat zwar gegen seine Milliarden-Buße Einspruch eingelegt, aber immerhin schon Garantien hinterlegt. „Jetzt holen wir uns die fälligen Steuern von Apple.“

Die Botschaft an die mächtige IT-Branche ist klar: Die Politik ist bereit, den Kampf aufzunehmen. Dabei geht es nicht nur um Wettbewerbsrecht und Steuern. Big Data und die neuen Technologien wie Künstliche Intelligenz (KI) oder smarte Autos bedeuten der Kommissarin zufolge, dass sich die Branche auch grundlegenden ethischen Fragen stellen muss.

Zum Kasten: »Wir haben es ein bisschen vergeigt«

Die EU-Kommission zeigte sich auf dem Web Summit gewillt, diese Fragen regulatorisch zu beantworten, wenn es die Branche nicht selbst tut. Zum Beispiel beim Umgang mit dem immensen Datenschatz, der durch alte und neue Technologien gehoben wird. „Daten sind das neue Öl“, sagte Intel-Chef Brian Krzanich. „Und dieses Öl ist der Treibstoff für Künstliche Intelligenz.“ Während der Intel-CEO lieber auf die Chancen der KI verwies, zeigten sich andere Teilnehmer deutlich nachdenklicher.

EU-Kommissarin Margrethe Vestager zeigt klare Kante: „Wir können die Demokratie nicht den Googles und Facebooks überlassen.“ *Foto: Stephen McCarthy/Web Summit*

Der Physiker Stephen Hawking etwa warnte in einer Videobotschaft zur Eröffnung des Web Summit deutlich vor den gesellschaftlichen Risiken der neuen Technologien. KI habe das Potenzial, ganze Volkswirtschaften auf den Kopf zu stellen. Oder die Technik könne für autonome Waffensysteme und zur Unterdrückung missbraucht werden, mahnte Hawking: „Wir können nicht vorhersehen, was passiert, wenn wir den menschlichen Geist mit der KI verbinden.“

Digitale Genfer Konvention

2010 war der Web Summit als Meeting für Start-ups und Investoren mit gerade mal 400 Teilnehmern in Dublin gestartet. In Lissabon zählte Konferenzveranstalter Paddy Cosgrave sieben Jahre später 60.000 Teilnehmer. In den vollen Messehallen stellten enthusiastische Entwickler ihre Businesspläne vor, umringt von IT-Konzernen wie Google und Amazon, aber auch Mercedes, BMW und Volkswagen, die in großem Stil auf Talentsuche gingen. Es wirkte etwas bizarr: In den Hallen herrschte grenzenloser Forscherdrang vor, während einige Meter weiter auf der Konferenz diskutiert wurde, wie sich die IT-Branche noch zähmen lässt.

Ein besonders düsteres Bild zeichnete Microsoft-Präsident und Chefjustiziar Brad Smith. Seiner Ansicht nach macht die Digitalisierung unser Leben zwar besser, aber auch verletzlicher. Ein Wettrüsten mit „unsichtbaren Waffen“ sei in vollem Gange. Vorfälle wie ein Cyber-Angriff auf Server in der Ukraine im Mai zeigen Smith zufolge, wie verletzlich kritische Infrastruktur mittlerweile ist: „Das sind zwar Angriffe auf Maschinen, betroffen sind aber Menschen – etwa Patienten in Krankenhäusern.“

Smith appellierte an die Moral von Unternehmen: „Versprechen Sie, niemals Regierungen bei Angriffen zu unterstützen!“ Er forderte eine „Digitale Genfer Konvention“: Alle Regierungen müssten sich verpflichten, niemals zivile Infrastruktur anzugreifen, keine Daten zu stehlen und sich nicht in Wahlen anderer Staaten einzumischen. (hob@ct.de)

Jon von Tetzchner hat Opera gegründet und führt das Erbe des beliebten Browsers mit Vivaldi fort. Auf dem Web Summit in Lissabon sprach er mit c’t über den Datenhunger in der IT-Branche.

c’t: Jon, was bringt Sie auf den Web Summit?

Der isländische Telekommunikationsforscher Jon Stephenson von Tetzchner betreibt seit 2013 das Unternehmen Vivaldi.

Jon von Tetzchner: Ich bin hier, um über Datenschutz zu sprechen. Wir als Branche sammeln viel mehr Daten als nötig. Nur weil man es kann, heißt das nicht, dass man es auch machen sollte.

c’t: Wird es da einen Punkt geben, an dem die Nutzer nicht mehr mitspielen?

von Tetzchner: Das ist ein gesamtgesellschaftliches Problem. Bisher hat man zu sehr auf das Individuum geschaut: Wenn die wissen, wohin ich reise, da kann ich sagen, ich hab da nichts zu verbergen. Aber wenn man auf die Gesellschaft als Ganzes blickt – da wird es zu einem Problem. Dieser Datenschatz, Targeting und schlimmstenfalls psychologische Analyse – das ist keine gute Kombination. Wir bauen da eine fantastische Propaganda-Plattform. Das ist nicht das, wofür ich im Internet bin.

c’t: Warum sind Sie im Internet?

von Tetzchner: Ich habe bisher versucht, alle anderen auch reinzubringen. Weil ich glaube, dass es fast so was wie ein Menschenrecht ist. Es gibt ein Recht auf Information. Ich glaube, das Internet bringt die Welt zusammen und nach vorne. Aber wie jede Technologie kann man es missbrauchen. Doch wir regulieren viele verschiedene Dinge, zum Beispiel andere Medien, warum also nicht auch dieses?

c’t: Sie fordern, Facebook, Google und die anderen Plattformen sollten stärker reguliert werden?

von Tetzchner: Ja, warum sollten die anders behandelt werden? In erster Linie sollten sie nicht so viele Daten sammeln, die sie nicht brauchen, und sie sollten diese Daten nicht ihren Werbekunden zur Verfügung stellen. Werbung hat doch gut funktioniert: Wenn du auf eine Technik-Seite gehst, siehst du Werbung für Technik, auf einer Mode-Seite für Mode. Heute siehst du auf der Technik-Seite Werbung für Mode, weil du dir vor zwei Wochen mal irgendwo Mode angeguckt hast. Ich sehe da keinen Fortschritt. Sie brauchen diese Informationen über uns nicht, und sie sollten sie nicht benutzen dürfen.

c’t: Inzwischen wird Werbung schon unheimlich, wenn in meinem Facebook-Feed Anzeigen für Sachen auftauchen, die sich meine Frau irgendwo angeguckt hat, und dabei ist sie nicht mal auf Facebook.

von Tetzchner: Oder ein Beispiel von meiner Frau: Sie war in einer Mall und hat Sushi geholt. Danach hat sie eine E-Mail von dem Laden bekommen und war außer sich. Woher hatten die ihre E-Mail-Adresse? Das ist das Problem, wenn verschiedene Datensätze abgeglichen werden. Wenn ich einen Shop besuche und mir dort etwas ansehe, wie können mir diese Produkte dann überallhin folgen? Das geht nur, wenn sie diese Informationen mit jemandem anderen teilen. Und soweit ich weiß, ist das illegal.

Nur weil uns die Technik in die Lage versetzt, diese Dinge zu machen, werden sie nicht plötzlich legal. Wenn die Gesetze da nicht greifen, weil es Lücken gibt, dann müssen wir uns um diese Gesetzeslücken kümmern. Wir müssen uns die Frage beantworten, in welcher Welt wir leben wollen – eine, in der Propaganda und Werbung uns manipulieren? Das passiert gerade. Sie lesen unsere Reaktionen ab, packen uns in Gruppen und überprüfen, ob wir so reagieren, wie sie das wollen. Und nicht zuletzt wird das für politische Zwecke eingesetzt.

c’t: Wurde die Büchse der Pandora nicht längst geöffnet? Die Technik entwickelt sich so schnell, wohingegen die Politik und der Gesetzgebungsprozess eher langsam sind. Kann die Regulierung da noch Schritt halten?

von Tetzchner: Wir haben uns schon immer Regeln gegeben, wenn wir festgestellt haben, dass eine Technik nicht wirklich gut für uns ist. Auch wenn es nur Daten sind, können sie Schaden anrichten – und zwar signifikanten Schaden für die Gesellschaft. Es ist an der Zeit, dass wir uns darum kümmern.

c’t: Hier auf dem Web Summit wird viel über Künstliche Intelligenz geredet und all die Daten, die dafür erhoben werden. Teilen Sie den Eindruck, dass die Branche sich der Risiken bewusst wird und es nicht vergeigen will?

von Tetzchner: Ein bisschen haben wir es schon vergeigt. Und ich glaube, wir sollten das wirklich reparieren. Wir müssen zeigen, dass wir aus unseren Fehlern lernen und nicht nur darüber reden. Ich liebe Technik, und deshalb möchte ich, dass Technologie für Fortschritt sorgt. Eigentlich möchte ich diese Debatten nicht führen müssen. Aber wir haben jetzt eine Technologie, die missbraucht wird, und wir sollten das regulieren und dann nach vorne blicken. Sonst bleibt ein Stigma auf dem ganzen Internet und allem, was wir aufbauen. (vbr@ct.de)