Morgenröte einer vertrauenswürdigen und kooperativen künstlichen Intelligenz
Erleben wir den Aufstieg einer anderen, anpassungsf?higen k¨¹nstlichen Intelligenz (KI), die mit den Menschen zusammenarbeitet und sie mit klugen Entscheidungen unterst¨¹tzt? Die Informatikerin Niao He untersucht, wie sich eine solche KI theoretisch absichern l?sst, damit sie wirklich Nutzen stiftet.
Als Forscherin hat Niao He die Menschen und die Technik im Blick. Bezeichnend daf¨¹r war ihre Antrittsvorlesung, als sie mit wenigen Worten umriss, wie sich lernf?hige Computer-Software auf unser t?gliches Leben auswirkt: ?Wir stehen an der Schwelle eines neuen Zeitalters der k¨¹nstlichen Intelligenz und sind alle verbl¨¹fft, was KI heute schon leistet und wie sie unseren Alltag bereits ver?ndert.? Im Vortrag verglich die Informatikprofessorin vom Institut f¨¹r maschinelles Lernen den aktuellen Entwicklungsstand der k¨¹nstlichen Intelligenz mit der Morgenr?te, wenn der anbrechende Tag Grosses verspricht und wir sp¨¹ren, dass noch viel Arbeit auf uns wartet.
Allein im Bild der Morgend?mmerung spiegelt sich der frappante Aufstieg, den Forschung und Entwicklung im Gebiet des maschinellen Lernens und der k¨¹nstlichen Intelligenz in den vergangenen Jahren erfahren haben. Neue mathematische und algorithmische Erkenntnisse, enorme Leistungssteigerungen der Hardware, frei verf¨¹gbare KI-Softwaremodule sowie riesige Datenmengen, mit denen sich k¨¹nstliche Intelligenz trainieren l?sst, haben die Anwendungsm?glichkeiten von KI sprunghaft erweitert.
Heute sind Computer in der Lage mittels statistischen und datengetriebenen Methoden maschinell zu lernen. Sie erg?nzen das Wissen der Menschen, indem sie automatisch Muster und Regelm?ssigkeiten aus riesigen Datens?tzen herauslesen, die f¨¹r Menschen zu komplex und zu umfangreich sind. Zum Beispiel kann KI auf diese Weise neue Proteinstrukturen entdecken und damit zur Entwicklung neuer Medikamente beitragen. Niao He m?chte einen Schritt weitergehen und eine KI entwickeln, die mehr kann als Muster erkennen. Im Einklang mit den Werten des ETH AI Centers, zu dessen Kernteam sie geh?rt, schwebt ihr eine vertrauensw¨¹rdige und kooperative k¨¹nstliche Intelligenz vor, die nicht in Konkurrenz zu den Menschen arbeitet, sondern mit diesen zusammen und sie mit intelligenten und nachvollziehbaren Entscheidungen unterst¨¹tzt.
KI als Wegbegleiterin und Ratgeberin
Das Fernziel ihrer Forschung ist eine anpassungsf?hige KI, die sich ¨C wie die Menschen selbst ¨C rasch und flexibel auf ver?nderte Umweltbedingungen einstellt und den Menschen bei ungewohnt schwierigen Entscheidungen wie eine Ratgeberin zur Seite steht. Dabei spornt Niao He auch die eigene Lebenserfahrung an: Nach dem Bachelorstudium in China studierte und forschte sie gut zehn Jahre in Georgia und Illinois (USA), bevor sie 2020 in die Schweiz kam. Bei jedem Umzug stellte sie sich auf eine andere Kultur ein und erwarb sich neue F?higkeiten ¨C in Illinois etwa lernte sie Autofahren, in Z¨¹rich Deutsch. ?Wenn ich auf eine v?llig neue Umgebung traf, w¨¹nschte ich mir oft, eine KI w¨¹rde mir helfen, m?glichst optimale Entscheidungen zu treffen.?
Mit Optimierung, Automatisierung und intelligenter Entscheidungsfindung in Organisationen befasst sich Niao He in ihrer Forschung: Ihre Gruppe untersucht, nach welchen Prinzipien sich Algorithmen ¨C also Berechnungsregeln, auf deren Basis intelligente Software programmiert wird ¨C mathematisch so gut fundiert entwerfen lassen, damit KI jederzeit zuverl?ssig arbeitet sowie datenbasierte Probleml?sungen und intelligente Entscheidungen erm?glicht. Damit KI die Arbeit der Menschen tats?chlich erg?nzt statt ersetzt, sucht Hes Team nach neuen KI-Ans?tzen und alternativen Methoden des maschinellen Lernens. ?Heute entwickeln wir fast schon routinem?ssig intelligente Programme, um reale Probleme von extrem hoher Komplexit?t mit riesigen Datenmengen zu l?sen?, erkl?rt sie.
Lernen, mit Unsicherheit und Unbekanntem umzugehen
Tats?chlich verbessern heute die meisten KI-Verfahren die Qualit?t ihrer Ergebnisse dadurch, dass sie aus grossen Trainingsdatensets lernen, was funktioniert und damit ihre Zuverl?ssigkeit erh?hen. ?Im betrieblichen Alltag unterliegen die Probleme, die KI l?sen soll, jedoch vielen Unsicherheiten?, gibt Niao He zu bedenken. Diese Unsicherheiten k?nnen technischer oder menschlicher Natur sein. Sie k?nnen die Daten und die Datensicherheit ebenso betreffen wie die Nutzung geteilter Plattformen oder systematische Fehler von Menschen (engl. ?human bias?).
?Damit k¨¹nstliche Intelligenz auch unter Unsicherheit und sich ?ndernden Bedingungen zuverl?ssig funktioniert, ist es wichtig, dass wir die Unsicherheiten mathematisch formulieren und in unsere Lernalgorithmen integrieren. Daran arbeiten wir?, sagt Niao He, ?wir brauchen KI-Systeme, die ¨¹ber die Zeit widerspruchsfrei entscheiden; die lernen, mit Unsicherheiten oder unbekannten Umgebungen umzugehen, und die sich an neue Aufgaben anpassen k?nnen.? Ein vielversprechender Ansatz, der zu einer anpassungsf?higen KI f¨¹hren k?nnte, ist das ?best?rkende Lernen? (engl. ?reinforcement learning?). Dabei erh?ht ein intelligentes Lernverfahren die Zuverl?ssigkeit seiner Ergebnisse durch wiederholte Interaktion mit der Umwelt. Diesen Ansatz erweitert Niao Hes Team auch auf F?lle, wenn es nur sp?rlich Daten gibt oder die menschlichen Erfahrungen ganz fehlen.
Zuverl?ssigkeit ¨¹ber die Zeit schafft Vertrauen
F¨¹r Niao He ist klar: ?KI muss ?humanzentriert? sein, das heisst auf den Menschen ausgerichtet sein, unsere Werte ausdr¨¹cken und vertrauensw¨¹rdig arbeiten.? Sie teilt die Auffassung, dass Werte wie Vertrauensw¨¹rdigkeit, Transparenz, Datenschutz, Fairness, Ethik, Verantwortung und Haftung als Leitprinzipien f¨¹r den Einsatz von KI in der Praxis dienen sollten. ?Eine vertrauensw¨¹rdige KI arbeitet ¨¹ber einen langen Zeitraum zuverl?ssig. Die Zuverl?ssigkeit ¨¹ber die Zeit schafft Vertrauen?, legt sie dar.
?Mir fehlen im Bild der vertrauensw¨¹rdigen KI leider zu oft die theoretischen Aspekte der KI.?Niao He
Theorie liegt ihr am Herzen. Ihr ist bewusst, dass die Rede von der Vertrauensw¨¹rdigkeit mehrdeutig ist: ?Vertrauensw¨¹rdige KI ist f¨¹r mich ein sehr magisches Wort, weil es mit vielen Bedeutungen ¨¹berfrachtet wurde. F¨¹r mich ist Vertrauensw¨¹rdigkeit eine Frage der Methodik.? Entschieden f¨¹gt sie hinzu: ?Wir sollten KI von Grund auf so entwickeln, dass sie mathematisch einwandfrei und theoretisch abgesichert ist, bevor sie in der Praxis eingesetzt wird. Mir fehlen im Bild der vertrauensw¨¹rdigen KI leider zu oft die theoretischen Aspekte der KI.?
Grenzen kennen, Diversit?t erh?hen
Da es f¨¹r Computer-Designer und Programmierer heute vergleichsweise einfach ist, auf KI-Plattformen etwas auszuprobieren, gibt es in der Praxis ab und zu Algorithmen, die sehr plausible Ergebnisse liefern, bei denen jedoch, wenn ein Fehler auftritt, unklar bleibt, weshalb er entstanden ist. ?Theorie? bedeutet f¨¹r Niao He, dass die mathematischen und algorithmischen Grundlagen der KI soweit verstanden sind, dass jederzeit erkl?rbar ist, wie ein Algorithmus wirklich funktioniert und wie seine Ergebnisse zustande kommen. ?Beim theoretischen Verst?ndnis geht es vor allem auch darum, die grunds?tzlichen Grenzen dieser Probleme und die grunds?tzlichen Grenzen der Algorithmen zu verstehen?.
KI menschenbezogen zu entwickeln, erfordere kontrafaktisches Denken, sagt Niao He. Was w?re passiert, wenn ich mich anders entschieden h?tte oder wenn jemand mit einem anderen Geschlecht oder aus einer anderen ethnischen Gruppe sich an meiner Stelle entschiede? Diversit?t sei wichtig f¨¹r die KI-Forschung: ?Gerade wenn es um Fairness, Vertrauen und Zusammenarbeit mit KI geht, kommt es sehr darauf an, dass verschiedene Menschen ihre Perspektiven in die Entwicklung der KI einbringen. Ich m?chte darum alle Studentinnen ermutigen, sich an der KI-Forschung zu beteiligen, damit die KI in Zukunft kooperativ, ethisch, fair und vertrauensw¨¹rdig funktioniert.?
