Tom Lutz's Blog

Microsoft hat vor wenigen Tagen ein AI Programm für humanitäre Zwecke angekündigt. AI steht hier für „Artificial Intelligene“, auf deutsch „Künstliche Intelligenz“. Das auf der Kundenmesse „Ignite“ vorgestellte neue Programm zielt darauf ab, die Technologie für Katastrophenhilfe, den Schutz von Kindern sowie für Flüchtlinge und Vertriebene einzusetzen. Das 40 Millionen Dollar-Programm wird in enger Zusammenarbeit mit ausgewählten Non-Profit- und humanitären Organisationen in die Fläche gebracht.  Das Ganze ist in einem noch größeren Programm untergebracht, das sich „AI for Good“ nennt.

Das legt nahe, dass sich AI auch für andere als gute Zwecke einsetzen lässt.

Und so ist es auch. AI ist keine Technologie für einen bestimmten Zweck sondern vielmehr eine „multi-purpose technology“, kann also in jedem Bereich zum Einsatz kommen. Was auch bereits geschieht, in der privaten Lebenswelt, der Arbeitswelt, der Wissenschaft, dem Militär, einfach überall. Und wie es halt so ist mit Technologien, ob sie für das Gute oder das Böse eingesetzt werden, liegt alleine am Menschen. Übrigens auch, ob und wie sich AI gegen die Interessen des Menschen wenden kann, wird ausschließlich von Menschen bestimmt. Wir sind da an einem interessanten und auch kritisch-wichtigen Punkt in der Entwickung von AI angelangt.

Vieles, was man heute über AI in den Zeitungen liest, ist meist in die Zukunft gerichtet und lässt vermuten, dass hier ein Tsunami in Zeitlupe auf uns zukommt, der je nach Lesart entweder in eine Art Endkampf zwischen Mensch und Roboter münden wird, der die vielbeschworene „Singularität“ Wirklichkeit werden lässt, also eine Art Super-Intelligenz, die dem Menschen so weit überlegen ist, dass eh schon alles zu spät ist oder aber zumindestens die Hälfte der Menschheit arbeitslos machen wird. Das meiste daran ist nicht nur phantasievoll sondern auch überzogen und überhöht. Aber dazu später.

Tatsache ist jedoch, dass AI nicht im Kommen ist – da sind wir uns ja alle irgendwie einig – sondern vielmehr schon längst da ist. Hier zwei Beispiele aus meiner eigenen Erfahrung.

Bessere Musik und weniger E-Mails!

Nutzen Sie gerne Spotify? Wundern Sie sich vielleicht, dass die Musikvorschläge des Onlinedienstes mit der Zeit immer besser Ihrem Musikgeschmack entsprechen? Ja. genau. Das ist bereits AI in bester Aktion. Jeder Song, den Sie hören, trägt dazu bei, dass das System sich unsere Vorlieben merkt und dazulernt, was uns noch gefallen könnte. Dabei werden auch die Musiklisten anderer Anwender herangezogen und was dem einen Latin-Jazz Liebhaber gefällt, wird vielleicht auch dem anderen gefallen, der einen ähnlichen Musikgeschmack hat. Das System lernt daher nicht nur aus ihrer eigenen Auswahl, sondern auch von der anderer. Ich finde das ziemlich genial und freue mich ehrlich gesagt im Fitness-Studio oder beim Laufen immer wieder über neue Songs, die mir Spotify in meinen wöchentlichen Mixtapes vorschlägt. Wie das Spotify macht, wird in den Artikeln „How Does Spotifiy Knows You So Well“ und in „The magic that makes Spotify’s Discover Weekly playlists so damn good“ sehr gut beschrieben.  

Ein anderes sehr alltagstaugliches Beispiele für AI ist für mich der Posteingang mit Relevanz, der Nachfolger des „Clutter“ Funktion in Outlook. Ich nutze das nun bereits seit über einem Jahr und bin schlichtweg begeistert. Während die Trefferquoten des Vorgängerdienstes Clutter noch ziemlich zu wünschen überließen und immer wieder auch wichtige Post im Clutterordner landete, erlöst mich der inzwischen in Office 365 / Outlook.com flächendeckend verfügbare Posteingang mit Relevanz vom Lesen mehrerer hundert Mails pro Woche. Ein extremer Zeit- und Produktivitätsgewinn für mich. Dank AI. Hier gibt´s für Interessierte auch ein kurzes Erklärvideo dazu.

Auch auf dem Smartphone benutzen Sie vermutlich bereits AI. Wenn Sie etwas in Google oder Bing suchen, machen Sie das bereits in einer hochentwickelten AI Engine. Oder sie nutzen vielleicht die Speech-to-Text-Funktion, da Ihnen das Tippen zu mühsam ist? Aber auch wenn Sie tippen, antizipiert die künstliche Intelligenz Ihres Handies bereits ex-ante, welches Wort als nächstes ideal passen würde, da der Gesamtzusammenhang eines Satzes und auch mehrer Sätze bereits im Hintergrund analysiert wird.

Ihre persönliche Internet Filterblase wird mit AI Technologie erzeugt

Das waren jetzt alles schöne Beispiele für „AI for Good“ – und es gibt noch viel mehr davon, AI für bessere Krebs-Früherkennung, AI für besseres Bier u.v.m., allerdings gibt es auch Formen der AI Anwendung, die weit kontroversieller beurteilt werden können. Etwa die AI, die dafür verantwortlich ist, dass Sie beim Surfen und Ansehen von Inhalten in Facebook, Instagram & Co immer stärker in einer sog. „Filterblase“ eingefangen werden, die bereits durch das Surfen im Internet, das Suchen in der Google Suchmaschine, mit Cookies und mit Likes, Shares und Kommentaren einen Comfort-Tunnel für Sie erschafft, der Ihre Welt zwar einengt, aber attraktiver macht. Denn die Wände des Tunnels sind dekoriert mit den Angeboten, die Ihrem Gehirn besonders attraktiv erscheinen (Danke an Michael Bartz für das schöne Sprachbild).

Das Problem mit dieser Form von AI ist halt, dass der durchschnittliche Anwender sich dem kaum entziehen kann. Hier heißt es, zumindestens das Bewusstsein zu behalten, dass es eine AI Welt ist. Mein lieber Ex-Kollege Michael Bartz spricht hier in diesem Zusammenhang davon, eine Art siebten Sinn für AI und seine Konsequenzen zu entwickeln, ein siebter Sinn für die digitale Welt von heute um im Sinne von Kant der „selbst verschuldeten Unmündigkeit“ zu entkommen. Dieser Sinn oder zumindestens das Wissen darum wird eine wichtige Komponente sein, um AI zum „Human Enhancement“ zu machen, also einer mächtigen Erweiterung der Fähigkeiten des Menschen, die Welt in der er lebt zu erfahren, zu begreifen und beurteilen zu können.

The Computer Says No!

Und wenn wir noch weiter in die Abgründe des Menschseins blicken, finden sich natürlich auch die dazu passenden Anwendungsbeispiele der AI. Wie etwa in der Militärtechnik, wo fliegende Drohnen mutmassliche Feinde über einen Algorithmus gesteuert auswählen und automatisiert töten könnten. Oder in Diktaturen, wo AI dabei helfen kann, potentielle Staatsfeinde aufgrund ihrer social media Aktivitäten zu identifizeren. Oder nicht gar so abgründig: Intelligente Algortithmen, die bei Versicherungen und Banken automatisch darüber entscheiden, ob Sie einen Vertrag bzw. Kredit bekommen oder nicht. Besonders perfide wäre es, wenn das nicht transparent passiert und Sie niemals erfahren, warum sie nicht zum Zug gekommen sind.

Das bringt uns endgültig auf das Feld der Ethik. Ein sehr weites Feld. Und eine sehr weite Diskussion, da es nicht nur einfach eine Ethik auf dieser Welt gibt. Was in Asien ethisch vertretbar ist, muss es nicht zwangsläufig auch in den USA oder in Europa sein.

Als Forscher des MIT 2014 Media Lab ihre Moral Machine ins Netz stellten, hätten sie wahrscheinlich nie gedacht, dass das Experiment zu einer der weltweit größten Informationsquellen über ethische und moralische Wertvorstellungen werden würde. Sie wollten schlicht eine spielerische Plattform schaffen, auf der Menschen erleben können, welche Entscheidungen bei der Programmierung selbstfahrender Autos möglichweise eine Rolle spielen.

Vier Jahre nach dem Start der Moral Machine haben Millionen von Menschen in 233 Ländern mehr als 40 Millionen Einzelentscheidungen getroffen. Diese Daten wurden jetzt ausgewertet und ergeben deutliche regionale Unterschiede, so ein Bericht der MIT Technology Review. So würden Chinesen im Extremfall eher das Leben der Passagiere, Japaner eher das der Fußgänger schützen. Europäer würden eher junge Menschen, Asiaten eher ältere Menschen retten. Die Autoren der Studie betonen allerdings, dass die Ergebnisse nicht als Vorlage für eine Regulierung von KI dienen sollen, sondern vor allem zu weiteren Diskussionen über die Ethik von KI auch über selbstfahrende Autos hinaus anregen sollen. Die Moral Machine ist jedenfalls weiterhin online. Ein Selbstversuch konfrontiert uns vor allem mit unseren ganz persönlichen moralischen Werten.

Trotzdem gibt es so etwas wie eine universelle Ethik des Menschen, unabhängig von Kulturen und Traditionen. Und die muss die Richtschnur sein für das, was der Mensch mit seinem Werkzeug AI anstellen darf und was nicht. Aber auch unter welchen Bedingungen das passiert – beispielsweise volle Transparenz derartiger Robot-Dienste zum Menschen hin. Das ist auch das, was Microsoft unter „Democratizing AI“ versteht und versucht, mit anderen großen AI Anbietern der Welt wie Google, Facebook oder Amazon auf einen gemeinsamen Nenner zu bringen.

Ethik ist etwas sehr Menschliches und man spricht in diesem Zusammenhang auch von „Human Centric Design“, das jeder AI Programmierung zugrunde liegen sollte. Denn dass von Menschen gemachten Maschinen und Alogrithmen auch nichts Menschliche fremd sein wird – inklusive des menschlichen Irrtums -, liegt zwar irgendwie auf der Hand, ist aber trotzdem nicht immer so offensichtlich. So kann beispielsweise ein Vorurteil eines Programmieres eines Chatbots auch dazu führen, dass die Maschine dieses übernimmt. Wenn also sagen wir mal eine Personalabteilung die Auswahl von Kandidat*innen einem AI Algorithmus überlässt, der seitens des Programmierers eine Benachteiligung oder Präferenz von Frauen oder Männern, bestimmten Rassen u.ä. enthält, wird dies in Folge auch zu einer automatisierten Diskriminierung führen.

Recht neu ist dabei die Erkenntnis, dass Maschinen auch von ganz allein Vorurteile „erlernen“ können, wie eine Untersuchung von Forschern der Universität Cardiff zeigt.

So vielversprechend diese neue Technologie ist, so wichtig ist auch die Diskussion darüber, unter welchen Bedingungen sie zum Einsatz kommen kann, um das Ziel des am Menschen orientierten Designs niemals aus den Augen zu verlieren.

Das war auch am Microsoft Data Center Summit ein großes Thema, das von Futurezone Redakteurin Barbara Wimmer in folgenden Tweet bzw. Artikel verpackt wurde:

Hab ihr gewusst, dass man sich auch als Einzelperson bei der europäischen „AI Alliance“ registrieren kann, um über künstliche Intelligenz zu debattieren? https://t.co/P5K5q8aeuI

— Barbara Wimmer (@shroombab) October 5, 2018