«Neue Technologien werden häufig extrem überschätzt»

Herr Dr. Ilic, mit ihrem im Jahr 2020 gegründeten AI Center möchte die ETH Zürich die Forschung im Bereich künstlicher Intelligenz bündeln. Interdisziplinäre Teams sollen die Erforschung dieser Schlüsseltechnologie vorantreiben. Auf welche Forschungs­gebiete setzen Sie schwerpunktmässig, und wo sehen Sie vielleicht noch weisse Flecken?
Am ETH AI Center treiben wir systematisch die Zusammen­arbeit über Fachbereichsgrenzen hinweg voran. Wir sind überzeugt, dass gerade an den Schnittstellen zwischen den Disziplinen ein riesiges Potenzial besteht, entscheidende Fortschritte zu erzielen. Zum Beispiel war die Frage, in welche Form sich Pro­teine falten, lange eine der grössten Herausforderungen in der Biologie. Die dreidimensionalen Strukturen der Proteine – und damit auch deren Funktion – liessen sich nur unter grossem Aufwand modellieren und vorhersagen. Das hat sich unlängst ge­ändert: Das KI-Start-up Deepmind, das zu Googles Mutterkonzern Alphabet gehört, hat eine künstliche Intelligenz entwickelt, die diese Strukturen ausserordentlich präzise vorhersagen kann. Für die Forschung am ETH AI Center haben wir zehn zentrale Bereiche definiert, in denen wir die Weiterentwicklung von ­Methoden und Anwendungen vorantreiben wollen. Bei einigen stehen der Mensch und seine Gesundheit im Mittelpunkt, bei ­anderen Themen aus Umwelt und Nachhaltigkeit. Wir haben Schnittmengen mit den Sozial- und Geisteswissenschaften genauso wie mit verschiedenen Ingenieursdisziplinen. Damit spannen wir einen Bogen über weite Teile der Forschung an der ETH.

Wie hat sich das AI Center seit seiner Gründung entwickelt?
Wir sind stark gewachsen; inzwischen sind alle 16 Depar­temente der ETH Zürich beteiligt. Die Zusammenarbeit über die Fachgrenzen hinweg fördern wir durch unsere Fellows – das sind Doktorierende, die zwei Professuren unterschiedlicher ­Departemente gleichermassen zugeteilt sind, ihren Arbeitsplatz aber am ETH AI Center haben, wo sie sich ständig mit anderen Fellows austauschen. Und im September beginnt bereits ein zweiter Jahrgang von Fellows sein Doktorat am ETH AI Center. Darüber hinaus haben wir mehr als 20 Unternehmen für eine Industriepartnerschaft mit dem ETH AI Center gewonnen. Darunter sind Grössen wie Viseca, EY oder Zalando. Mit Zalando arbeiten wir zum Beispiel an einer «virtuellen Umkleidekabine». Aber auch weniger bekannte und deutlich kleinere Unternehmen sind am ETH AI Center angegliedert. 

Ein weiterer Grundpfeiler unserer Arbeit ist die Unterstützung von jungen Teams bei der Ausgründung ihrer Start-ups. Ethon AI etwa, gegründet von Bernhard Kratzwald und Julian Senoner. Die beiden haben ihr Produkt während ihres Doktorats entwickelt. Die Applikationen von Ethon AI erleichtern die Qualitätskontrolle in der industriellen Fertigung; sie sorgen dafür, dass Produktionsfehler frühzeitig erkannt und effizient ver­mieden werden. Vor Kurzem haben die beiden Gründer in einer ersten Pre-Seed-Runde die Weiterfinanzierung ihres Start-ups ­sichergestellt. Ethon AI ist nun ein affiliated Start-up des ETH AI Centers und arbeitet weiterhin eng dem Center zusammen.

Was ist Ihnen in Ihrer Rolle als Geschäftsführer des Zentrums besonders wichtig, was möchten Sie besonders vorantreiben?
Wir haben mit dem ETH AI Center eine grosse Chance, Toptalente aus aller Welt an die ETH zu holen und durch deren Arbeit neue, interdisziplinäre Ansätze in der Forschung anzustossen. Durch die enge Vernetzung mit Industriepartnern und Start-ups eröffnen wir den jungen Talenten zugleich attraktive Karrierepfade, sei es in der Forschung, in der Industrie oder ­indem sie ein eigenes Unternehmen gründen.

Die ETH Zürich ist bereits seit längerer Zeit in der ­KI-Forschung engagiert. Warum kommt die Institutsgründung gerade jetzt?
In der Tat ist die ETH bereits seit Jahrzehnten aktiv in der KI-­Forschung. Bisher fand diese aber etwas fragmentiert und ­wenig vernetzt in verschiedenen Departements statt. Mit dem ETH ­AI Center haben wir einen gemeinsamen Hub ins Leben ge­rufen, der einerseits den Austausch zwischen den bereits etablierten KI-Forschenden erleichtert und andererseits ganz neue Kol­laborationen ermöglicht.

Auf europäischer Ebene existiert das KI-Netzwerk «Ellis». Die ETH ist hier Gründungsmitglied. Was steckt dahinter und wie ist die Verbindung zum AI Center?
Uns ist es wichtig, das Thema KI und seine Auswirkungen nicht in Isolation zu betrachten. Für uns steht Vernetzung und Austausch im Zentrum. Nur gemeinsam können wir die Anwendung künstlicher Intelligenz verantwortungsvoll, sinnstiftend und ­europäischen Werten entsprechend gestalten. 

Kommen wir zur künstlichen Intelligenz auf inhalt­licher Ebene. Zunächst vielleicht die Frage: Wie ­würden Sie KI erklärend beschreiben?
Es gibt unterschiedliche Perspektiven darauf, was genau ein künstlich intelligentes System ist. Generell meint man damit ein System, das «menschenähnlich» Aufgaben erledigen kann. Also Aufgaben, für die logisches Denken notwendig ist, das Erkennen von Mustern oder Sinnzusammenhängen oder das Klassi­fizieren von Objekten.

Maschinelles Lernen und die Anwendung von KI ­nehmen deutlich zu, damit auch deren Komplexität. Wie lässt sich da der Überblick bewahren? Gibt es ­abrufbare Dokumentationen, etwa über praktische Anwendungen und Reifegrade?
Mittlerweile ist es Forschenden und Anwendern wichtig, die KI-Systeme nicht mehr als Blackbox zu akzeptieren, sondern zu verstehen, was die Systeme gelernt haben und wo sie vielleicht Fehler gemacht haben. Dafür werden fortlaufend neue Werkzeuge und Lösungen entwickelt. In diesem Sinne bewegt sich das Feld gerade stark in Richtung Robustheit, Fairness und ­Erklärbarkeit selbstlernender Algorithmen.

Was ist eigentlich die Triebfeder für die gewaltigen Sprünge bei der Entwicklung und Anwendung von KI?
Einerseits sicher der technische Fortschritt bei der Rechenleistung, der die Bearbeitung immer umfangreicherer Datensätze ermöglicht. Vor allem aber haben viele Anwendungen die Leute begeistert. Die Erfolge von Firmen wie Deepmind und lebensnahe Anwendungen wie die von IBMs Watson haben viel dazu beigetragen, KI in der Öffentlichkeit sichtbar zu machen.

Stichwort «Machine Learning», also lernende Algorithmen, die ähnlich wie der Mensch aus einer gros­sen Zahl von Beispielfällen lernen und eine allgemeine Regel abstrahieren. Wie weit ist dies bereits in der Praxis vorhanden, können Sie Beispiele nennen?
Machine Learning ist schon längst ubiquitär. Nehmen Sie zum Beispiel die Methoden der automatischen Bilderkennung, die Robotern und selbstfahrenden Autos erlaubt, unfallfrei vor­anzukommen. Vergleichbare Methoden sind am Werk, wenn Ihr Handy selbstständig Gesichter auf Ihren Fotos erkennt und diese Personen zuordnet. Ein weiteres Beispiel ist die natürliche Sprachverarbeitung (Natural Language Processing). Diese steckt in den Übersetzungsdiensten Google Translate und Deepl, in den Sprachassistenten Siri und Alexa. Und das ist erst der Anfang. Inzwischen können Sie sogar eine App nutzen, um sich per Machine Learning und künstliche Intelligenz einen für Sie passenden Wein empfehlen zu lassen.

Wie weit ist dann noch der Weg bis zu «natürlichen» Unterhaltungen zwischen Mensch und Computer, ­welche Herausforderungen müssen dafür noch gemeistert werden?
Im begrenzten Umfang funktioniert ein solcher Dialog schon sehr gut – wir «unterhalten» uns ja mit Siri und Alexa. Viele weitere Anwendungen im Bereich des Selfservice sind denkbar und werden bereits entwickelt. Die Frage ist dabei aber immer, was der Zweck dieser Unterhaltung sein soll. Für uns ist es kein Ziel, zwischenmenschliche Interaktionen per se zu reduzieren. Überhaupt geht es uns nicht darum, mit KI Menschen zu ersetzen, sondern sie einzusetzen, um Menschen zu helfen – sie zu be­fähigen, bestimmte Dinge zu tun, die vorher vielleicht nicht oder nicht so einfach möglich waren.

Gibt es generell Szenarien zur Entwicklung von KI? Wo sehen Sie beispielsweise Potenziale für die Wirtschaft?
Wir sehen künstliche Intelligenz als ein Werkzeug, das über kurz oder lang alle Industriezweige und alle Lebensbereiche berühren wird. Wichtig ist dabei, diese mächtigen Werkzeuge stets sinnvoll und verantwortungsvoll einzusetzen. 

Sehen Sie hier hinsichtlich der Potenziale Unterschiede zwischen grossen Unternehmen und KMU?
Uns ist es ein Anliegen, auch kleinen und mittelständischen ­Unternehmen den Weg in die KI zu ermöglichen. Deshalb achten wir bei unseren Industriepartnerschaften darauf, auch kleine Firmen zu fördern. Generell hat KI aber das Potenzial, verschiedenste Geschäftsfelder breiter zugänglich zu machen, also gerade nicht nur den Grossen und Etablierten in die Hände zu spielen. Diese Chancen gilt es zu nutzen. 

Wie würden Sie skeptische Unternehmer vom Nutzen von KI überzeugen?
Alle werden wir nie überzeugen können – aber das ist auch nicht unser Ziel. Uns geht es darum, den Fortschritt der KI-­Forschung und
-Anwendung sinnstiftend und verantwortungsvoll zu gestalten und den Zugang zu ihr möglichst allen zu ­ermöglichen.

Für die Menschheit werde KI bedeutender als die ­Entdeckung des Feuers und der Elektrizität, soll Google-Chef Sundar Pichai gesagt haben. Würden Sie das auch so beurteilen?
Na ja, solche Vergleiche klingen immer gut, sind aber nicht ­unbedingt hilfreich. Was wir brauchen, ist ein breites, grundlegendes Verständnis davon, wie KI funktioniert. Nicht in dem Sinne, dass jeder programmieren lernt, sondern über eine grundlegende Kompetenz im Umgang mit KI verfügt. Diese wird für jede und jeden bedeutend sein, denn wie gesagt wird KI über kurz oder lang praktisch alle Geschäftsfelder und ­Lebensbereiche in irgendeiner Weise berühren. So gesehen, ist die KI durchaus mit Feuer und Elektrizität vergleichbar: Wer sich in der Welt von heute zurechtfinden will, muss damit ­umgehen können. 

Seit der Industrialisierung scheinen die Interdependenzen von Mensch und Maschine zu wachsen. KI ­beschleunigt diesen Prozess rasant. Wo oder wann sehen Sie den Scheideweg erreicht, an dem der Mensch die Kontrolle verliert?
Den Kontrollverlust haben die Menschen auch schon bei der ­Erfindung der Eisenbahn befürchtet und seither beim Auf­kommen jeder neuen, disruptiven Technologie. Wir sollten uns deshalb besser mit der Frage befassen, wie wir die neue Technologie sinnstiftend und verantwortungsvoll nutzen.

Den Traum von der Erschaffung künstlicher Wesen gibt es seit jeher. So steht KI als disruptive techno­logische Innovation auch zwischen den Extremen der technikfeindlichen Apokalyptiker einerseits und den ungebremsten Euphorikern andererseits. Braucht es Rahmenbedingungen für einen gesunden Mittelweg, etwa in Form ethischer Maximen, Stichwort «digitaler Humanismus»?
Die Forschungscommunity handelt – und zwar über alle Fachbereiche hinweg – seit jeher innerhalb eines starken ethischen Rahmens, in dem gewisse Grundprinzipien verankert sind. Diese gelten selbstverständlich auch für die Forschung an und mit KI. Und innerhalb dieses Rahmens gilt es, die Chancen, die sich aus der Weiterentwicklung und Anwendung von KI ergeben, bestmöglich zu nutzen. Das Thema künstliche Intelligenz wird derzeit leider häufig missverstanden und in die negative Ecke gestellt, und es werden Szenarien einer gefährlichen und unkontrollierbaren Entwicklung heraufbeschworen. Gerade deshalb ist es wichtig, dass die Gesellschaft besser versteht, was KI eigentlich ist und welche Auswirkungen diese haben könnte. Wir haben die Möglichkeit, an vielen Stellen sehr positive Entwicklungen anzustossen und mitzugestalten – es wäre fatal, diese Chancen in der Schweiz und in Europa nicht zu nutzen.

Welche Rolle spielt Datenschutz in diesem Zusammenhang?
Das Thema Datenschutz ist hierzulande stark ausgeprägt; auf Individualrechte wird zu Recht viel Wert gelegt. Gleichzeitig müssen wir darauf achten, nicht aus Angst vor möglichen ne­gativen Folgen allzu starke Regularien aufzubauen. Diese würden vor allem kleine Firmen empfindlich treffen und bremsen, die für ein innovatives Umfeld aber besonders wichtig sind.

Eine letzte Frage: Als wie grenzenlos ist KI grundsätzlich einzuordnen? Gibt es etwa die Möglichkeit, eine KI zu entwickeln, die wiederum selbst eine neue KI entwickelt?
Neue Technologien werden häufig extrem überschätzt, und das ist momentan eben bei der KI der Fall. Dabei stehen viele mögliche Anwendungen von KI noch ganz am Anfang. Etwa das ­autonome Fahren. Dort haben die letzten Jahre gezeigt, dass es noch viel mehr Arbeit an den Grundlagen braucht, bevor autonome Fahrzeuge für die breite Gesellschaft zugänglich werden. Die Probleme, die auf dem Weg dahin noch gemeistert werden müssen, sind alles andere als trivial. Gerade deswegen müssen wir weiter in eine starke Grundlagenforschung investieren und diese mit unseren Wertvorstellungen vorantreiben.