Thea Dorn und Raul Rojas über Künstliche Intelligenz

Können Roboter auch fühlen?
Begegnung - Thea Dorn und Raúl Rojas in einem Unterrichtsraum der FU Berlin

Begegnung - Thea Dorn und Raúl Rojas in einem Unterrichtsraum der FU Berlin

Steffen Roth

Unvorstellbar, sagt der Informatikprofessor. 
Trotzdem muss man die Visionen zu Ende denken, findet die Philosophin. 
Raúl Rojas und Thea Dorn über Künstliche Intelligenz

chrismon: Wenn Sie sich eine intelligente Maschine ­wünschen dürften, welche wäre das?

Thea Dorn: Ich will mit dem Kopf und dem Herzen ar­bei­ten, deshalb finde ich es wunderbar, dass Geräte mir Tätigkeiten im Haushalt abnehmen, die ich nur zähne­knirschend machen würde. Ich bin aber noch nie auf die Idee gekommen, meine Waschmaschine intelligent zu nennen.

Raúl Rojas: Ich wünsche mir eine Technologie, die mir nicht ständig im Weg steht und mich an den Computer fesselt – wie es zum Beispiel E-Mails tun. Ich habe kein Handy, das ist mein Ausweg. Ich möchte mein Gehirn für etwas anderes verwenden. Also entwickle ich etwa auto­nome Fahrzeuge, die man wie Taxis nutzen kann.

Sind wir denen nicht erst recht ausgeliefert?

Rojas: Nein. Im Gegenteil. Ich möchte das Auto in ein öffent­liches Verkehrsmittel verwandeln. Wir haben in Berlin 1,3 Millionen Fahrzeuge, dazu Busse und U-­Bahnen. Ich hätte gern statt der Autos nur noch 100 000 autonome Fahrzeuge: Sammeltaxis. Sie würden die Leute auf der Straße aufnehmen und sie zur U-Bahn, zum Bus oder einem anderen Ziel bringen. Man fährt gemeinsam, teilt sich die Kos­ten. Das entlastet den Verkehr. Es gäbe keine Parkspuren mehr, und die frei gewordene Spur bekämen die Fahrräder. Es gäbe weniger Unfälle. Und es wäre so bequem! Ich brauche nicht mehr selbst zu fahren, ich kann ins Taxi einsteigen, lesen, arbeiten. Das wäre meine "Autopie" für die Stadt.

Dorn: Keine Einwände gegen diese Vision! Letztlich ist es mir egal, ob ein Chauffeur am Steuer sitzt oder ob das ­Auto selbst fährt. Aber einstweilen sitzen wir ja selbst noch am Steuer – und werden dauernd bevormundet. Es macht mich rasend, wenn mein Auto mir durch hysterisches Piepsen vorschreiben will, wie ich einparken oder wann ich Pause machen soll. Und Navigationssysteme sind die reinsten Orientierungs-Verblödungs-Maschinen. Wenn möglich, schalte ich das alles ab.

Raul Rojas: "Ich mag keine Haushaltsroboter."

Rojas: Ein Navigationssystem habe ich auch nicht. Aber im Ernst: Ich halte viele Vorträge über autonome Fahrzeuge, und die häufigste Reaktion ist: Ich will nicht, dass mir jemand das Lenkrad wegnimmt! Da antworte ich: Reiche Leute haben einen Chauffeur und kümmern sich nicht um die Details. Wollen wir nicht alle reich sein? Dann interessiert mich das Fahren nicht mehr. Ich lese meine Zeitung, mein Buch, bis der Chauffeur sagt: Wir sind angekommen.

Dorn: Auch dies: schöne Vision! Ich fürchte nur, dass die Leute die gewonnene Zeit nicht nutzen werden, um Aristoteles oder wenigstens die Zeitung zu lesen. Sie werden noch mehr an ihren Geräten herumdaddeln. Aber es stimmt natürlich, dass sich – gerade in Großstädten – im Verkehr viel verbessern muss. Jeder, der in Berlin zu Fuß oder mit dem Rad unterwegs ist, hasst den Autoverkehr.

Aber?

Dorn: Mich beunruhigt die Rasanz, mit der wir Entscheidungen, die wir früher selbst treffen mussten, oder Kompetenzen, die wir uns selbst aneignen mussten, an die Technik delegieren: Ein Gespür dafür entwickeln, ob ich mich heute genügend bewegt habe? Überflüssig, die Gesundheits-App sagt’s mir. Vorratsplanung? Überflüssig, der Kühlschrank weiß selbst, wann neue Milch hermuss. Fremdsprachen ­lernen? Wozu, es gibt doch Übersetzungsprogramme.

Herr Rojas, Sie wollen eine Technologie, die Ihnen Dinge abnimmt und Arbeit von Ihnen fernhält. Stellen wir uns also einen Haushalt vor, der von selbst Wäsche wäscht, das Essen macht...

Rojas: Nein, nein. Ich mag keine Haushaltsroboter. Mein persönlicher Sport ist es, den Rasen zu mähen, Blätter aufzusammeln und die Wäsche zu machen. Man sollte den Menschen nicht alles im Haushalt abnehmen, weil sie sich dann nicht mehr bewegen und dick werden. Wie im Film "WALL-E". Kennen Sie den?

Dorn: Nur den Trailer.

Rojas: Da sitzen die Menschen auf einer fliegenden Couch, sie haben den Bildschirm vor der Nase, und Roboter bringen das Essen. So eine Zukunft wäre grausam. Manche Maschinen, die gebaut werden könnten, sollte man deshalb aus sozialen Gründen nicht bauen. Pflegeroboter für Krankenhäuser etwa, die den Kontakt der Kranken zu ­anderen Menschen minimieren.

Thea Dorn

Thea Dorn, geboren 1970, ist Schriftstellerin und Philosophin. In ihrem Roman "Die Unglückseligen" (Knaus, 24,99 Euro) geht es um die Abschaffung der Sterblichkeit. Das Thema künstliche Intelligenz treibt sie um: Auf der diesjährigen Jahrestagung des Deutschen Ethikrats zum Thema "Autonome Systeme" ging sie der Frage nach, wie diese Maschinen unser Selbstverständnis ändern.
Steffen RothBegegnung / Thea Dorn und Paul Rojas, fotografiert am 26.11.2017 an der FU Berlin. Foto: Steffen Roth

Raúl Rojas

Raúl Rojas, Jahrgang 1955, ist Mathematiker und Professor für Informatik an der Freien Universität Berlin. Er leitet das Dahlem Center for Machine Learning and Robotics und wurde bekannt durch fußballspielende Roboter, mit denen sein Team und er viele Meisterschaften gewannen. Derzeit arbeitet er an autonom fahrenden Fahrzeugen, der Prototyp heißt "AutoNOMOS". Seine Doktorarbeit hatte seinerzeit ein ganz anderes Thema: Karl Marx.
Steffen RothBegegnung / Thea Dorn und Paul Rojas, fotografiert am 26.11.2017 an der FU Berlin. Foto: Steffen Roth

Dorn: An deren Entwicklung wird aber massiv gearbeitet. Einerseits ist das verständlich: Es herrscht ein Mangel an Pflegekräften, warum also nicht Abhilfe durch Roboter schaffen? Andererseits wird mit jeder technologischen ­Lösung eines gesellschaftlichen Problems unsere ­soziale Kreativität weiter abnehmen. Im Kern scheint es mir darum zu gehen: Wie füllen wir die Freiräume aus, die uns die neue Technik beschert? Gehen wir einem Athen 4.0 entgegen, in dem jeder von morgens bis abends philosophieren und Sport treiben kann, weil ihm freundliche Robotersklaven alle lästige Arbeit abnehmen? Oder enden wir so, wie "WALL-E" es nahelegt: dick, faul und dumm?

Rojas: Das ist das Dilemma. Die klassische Antike ist sowieso nicht mein Vorbild, weil da nur Männer frei ­waren, während Frauen und Sklaven die Arbeit machten. Ich denke eher an die utopischen Sozialisten.

Dorn: Trotzki wäre heute wohl ein großer Verfechter der Technologisierung, weil er hoffen würde, man bekäme dadurch die Freiheit zur Bildung.

Rojas: Die große Frage bei den frühen Sozialisten war ja, wer die niederen Arbeiten macht. Ihre Antwort: Maschinen. Friedrich Engels schrieb, als er noch jung war: Ihr habt gesagt, wir brauchen eine untere Klasse, die ­Toiletten putzt, aber jetzt gibt es eine automatische ­Toilette, die selbst spült! Für ihn bewies das, dass die Menschheit der Zukunft von diesen niederen Arbeiten entbunden sein werde – die sozialistische Utopie des 19. Jahrhunderts. Inzwischen haben wir viel mehr Maschinen, als sich Marx und Engels jemals erträumt haben, aber die tolle Zukunft mit den freien Menschen haben wir nicht. Da kann man schon fast verzweifeln.

Dorn: Tja. Ich glaube, der Mensch hat nur zwei Möglichkeiten:Entweder er findet sich weiterhin damit ab, dass er neben all dem Großartigen, das er kann, auch ein beschränktes Mängelwesen ist: manchmal traurig, manchmal krank, und am Schluss steht der Tod. Oder er will all dies endgültig hinter sich lassen und ewig fit, ewig gut drauf und in letzter Konsequenz auch unsterblich sein. Unser abendländisches, humanistisch geprägtes Menschenbild wäre ­damit am ­Ende. Ich vermute, im Silicon Valley ­würde ich höhnisches Gelächter ernten, wenn ich dort sagen ­würde, dass ich die weitere Optimierung des Menschen im Maschinen­stil für das Ende unserer Autonomie und Würde halte. Die Allerkühnsten dort träumen ja davon, ihr Hirn in die Cloud hochzuladen, wo es mit dem Weltwissen verschmelzen kann: die totale Entgrenzung. In meiner Sprache: das Ende von Persönlichkeit, Charakter, Individuum.

Rojas: Das sind alles Fantasien, das ist alles Quatsch.

Dorn: Es beruhigt mich, wenn Sie das sagen.

Woher weiß ich als normale Leserin, dass das Quatsch ist?

Rojas: Das ist schwer herauszufinden. Ray Kurzweil, der Vordenker des Transhumanismus, behauptete schon vor Jahrzehnten, die Menschen würden durch Maschinen ersetzt, es gäbe irgendwann nur noch maschinelle Intelligenz. Er sagt, 2030 werden Computer genauso viele Transistoren wie Menschen Neuronen haben, also werden die Maschinen automatisch intelligenter sein. Das ist Unsinn, und es ist vermessen. Immer wieder merken wir, wie weit wir noch davon entfernt sind, Gehirn und Kognition zu verstehen. Wer glaubt, dass Maschinen haargenau wie Menschen sein können, verkennt, dass wir Körper und Geist sind.

Raul Rojas und Thea Dorn über Künstliche Intelligenz und Roboter

Dorn: Kurzweil ist so konsequent, den Körper für ein läs­tiges Anhängsel des Geistes zu halten.

Rojas: Wenn er all seine Informationen auf einer Festplatte speichern könnte, würde er schnell merken, dass er ohne Körpernicht mehr derselbe wäre.

Dorn: Wie gesagt: Ich hoffe, Sie haben recht und die "Singularität", von der Kurzweil träumt, wird es niemals geben. Trotzdem glaube ich nicht, dass man alle trans- und posthumanistischen Visionen achselzuckend übergehen sollte...

Rojas: Doch. (lacht)

Dorn: ...weil sie uns mit dem Fluchtpunkt unserer technologischen Zivilisationsgeschichte konfrontieren. Sie zwingen uns, uns zu fragen: Wollen wir den Weg, den wir eingeschlagen haben, wirklich so radikal zu Ende gehen?

Rojas: Wer Roboter baut, ist wie ein Zauberer, und die Leute lassen sich täuschen. Ein Beispiel: Wenn Sie kleine Roboter per Zufallsprinzip Würfel durch die Gegend schieben lassen, bildet sich irgendwann in der Mitte der Arena ein Haufen. Das ist zufällig, doch die Leute denken: Ah! Die Roboter bauen gemeinsam einen Turm. Sie sind intelligent!

Dorn: Kommt das nicht daher, dass die Menschen seit Anbeginn davon träumen, Wesen zu erschaffen, die sie unendlich überbieten – an Gesundheit, in Langlebigkeit, Schönheit, Stärke, Intelligenz? Pygmalion und die ideale Frau, die jüdische Mythologie und der Golem, Nietzsche und der Übermensch. Diese Begeisterung wundert mich also nicht. Aber ich teile Ihre Einschätzung, dass wir es zumindest derzeit noch mit eher billigem Budenzauber zu tun haben. Neulich war ich bei einem Empfang, da lief ein kleiner weißer Roboter herum, begrüßte die Gäste, konnte – meistens – erkennen, ob ihm ein Mann oder eine Frau gegenüberstand. Meinte er, eine Dame zu sehen, gab’s ne Rose.

Rojas: Das ist Volksverdummung. Ich weiß, was der Stand der Technik ist. Wir kochen alle nur mit Wasser. Die Leute, die diese Roboter bauen, tun so, als ob der Roboter wirklich viel versteht. Statt über die Grenzen und Probleme der Technologie aufzuklären, übertreiben sie maßlos, um Inves­toren oder neue Gelder für die Forschung zu bekommen.

Dorn: Glauben Sie, dass diese Künstlichen Intelligenzen eines Tages so etwas wie Emotionen ausbilden könnten?

Rojas: Nein. Das ist absolut undenkbar. Ich arbeite seit 35 Jahren daran. Es gibt gewisse bescheidene Fähigkeiten, die wir den Computern beizubringen versuchen. Aber: Die Spracherkennung ist immer noch nicht toll. Es gibt ein paar brauchbare Sachen wie Gesichtserkennung am Flughafen oder Übersetzungssysteme. Letztere funktionieren, weil inzwischen so viele Bücher auf Deutsch und Englisch online stehen, dass der Computer die Korres­pondenz ­zwischen beiden Sprachen automatisch lernen kann.

Das nennt sich Deep Learning – Menschen trainieren die Programme mit großen Datenmengen.

Rojas: Ja. Es funktioniert allerdings nur zu einem gewissen Grad. Ich zeige dem Computer Millionen von Katzenbildern. Dann weiß er irgendwann, was eine Katze ist. Aber wenn ich ihn frage, wieso?, kann er es nicht erklären.

Woher kommen diese Daten?

Rojas: Von uns allen.

Dorn: Täglich.

Dorn: "Die menschliche Urteilskraft ist durch nichts zu ersetzen."

Rojas: Wenn man auf Instagram Bilder hochlädt, landen die Daten bei Facebook. Damit können die ihre Gesichts­erkennungsprogramme verbessern. Oder Katzen­erkennungsprogramme. Wir generieren diese Daten – freiwillig und kostenlos für Google und Facebook.

Eine Google-KI hat unlängst schwarze Menschen als Gorillas bezeichnet. Eine andere KI hat Küche und Frauen verbunden. Lernen die Systeme nicht wertneutral?

 Begegnung - Raúl Rojas und Thea Dorn im Robotik-Labor. Links vorne ein "FUmanoid", ein fußballspielender Roboter, daneben das Modell "AutoMiny"Steffen Roth
Rojas: Nein. Bei Deep Learning gibt es nur Muster. Und daraus ergibt sich eine Entscheidung. Wenn in 90 ­Prozent der Küchenwerbung eine Frau zu sehen ist, dann ist klar, woher das kommt. In Big Data sind all unsere Wert­vorstellungen, Widersprüche und Vorurteile enthalten.

Dorn: Ich habe gehört, dass eins dieser sogenannten autonomen Systeme im militärischen Bereich, das Panzer gut erkannt hat, plötzlich versagte. Keiner wusste, warum. Dann fand man heraus, dass die Mehrheit der Bilder, 
mit denen das System trainiert worden war, Panzer unter blauem Himmel zeigte. Nun war der Himmel bedeckt, und das System ratlos.

Rojas: Das ist leider ein Märchen, so ein System war nie im Einsatz. Ein gravierendes Beispiel ist ein Unfall von Tesla, weil da ein echtes, kommerzielles System beteiligt war. Da blockierte ein weißer Lkw quergestellt die Autobahn. Die Kamera des Autos konnte die Wolken am Himmel nicht vom Laster unterscheiden, es bremste nicht.

Dorn: Die menschliche Urteilskraft ist durch nichts zu ersetzen. Der Mensch ist imstande, abzuwägen und zu einem Urteil zu kommen, zu argumentieren und seine Entscheidung zu begründen. Kann das einer der Unterschiede sein zwischen Künstlichen Intelligenzen und uns?

Rojas: Ja. Maschinen verfügen tatsächlich über keine tiefe Urteilskraft. Vor allem besitzen sie keine Intuition, kein Fingerspitzengefühl.

Dorn: Es geht doch noch um viel mehr: Künstliche Intelligenzen kennen keine Scham- und Schuldgefühle, kein Mitleid, kein Gewissen. An Ihren Forschungsbereich wird ja oft die Frage gestellt: Wer trägt die Verantwortung, wenn ein selbstfahrendes Auto in einer brenzligen Situation entscheidet, lieber das Rentnerehepaar als die Mutter samt Kind zu überfahren? Müssten wir nicht eigentlich fragen, was es bedeutet, wenn auf unseren Straßen demnächst Hunderttausende Gefährte unterwegs sind, denen es schlicht egal ist, wenn sie jemanden überfahren haben?

Rojas: Diese Frage höre ich immer wieder: Wer trägt die Verantwortung? Natürlich die Menschen, die das System bauen! Mein Vorschlag ist, im Vorfeld so gut zu arbeiten, dass solche Situationen gar nicht erst entstehen können. Mindest­abstand, reduzierte Geschwindigkeit, leichte Baustoffe – wenn wir das alles berücksichtigen, können wir hoffentlich Fahrzeugsysteme bauen, die keine schlimmen Kollisionen verursachen und letztlich sicherer sind als die Autos heute.

Sollte die KI international reguliert werden?

Dorn: Die Menschheit hat die Internationale Atom­energie-Organisation gegründet, als sie erkannt hat, welch gefährliche, potenziell die ganze Erde bedrohende Macht sie mit der Atomkraft entfesselt hat. Vermutlich ist es an der Zeit, darüber nachzudenken, ob wir nicht eine vergleichbare Einrichtung brauchen, die über die Entwicklung und den Einsatz von KI wacht.

Rojas: Ich bin immer für Regulierung, zum Beispiel von Gentechnologie und Waffen. Nur in diesem speziellen Fall sehe ich nicht auf Anhieb, wie man intelligente Algorithmen regulieren kann. Darüber muss man gründlich nachdenken – die Lösung ist nicht gerade trivial.

Und wir müssen uns wirklich keine Gedanken darüber machen, Herr Rojas, dass Roboter einmal klüger sein werden als die Menschen oder sich einst von uns emanzipieren?

Rojas: Auf jeden Fall nicht in diesem Jahrhundert! Ich glaube generell nicht, dass Roboter irgendwann die Herrschaft über uns übernehmen werden. Konrad Zuse, der erste Computerbauer in Deutschland, sagte einmal: Wenn die Computer zu frech werden, zieh den Stecker raus.

Nebenbei gefragt

Frau Dorn, man kann sich der Technik kaum entziehen - wie gehen Sie damit um?
Dorn: Solange uns die Computerchips noch nicht unter die Haut transplantiert isind, kann man die vielen Geräte ja Gott sei Dank abschalten. Man muss es nur tun.
Benutzen Sie sie noch?
Ich bin ein "Light User". Siri etwa habe ich zum Schweigen verdammt, nachdem ich sie minutenlang beschimpft hatte - und alles, was sie mir zu entgegnen wusste, war: "Thea, ich habe dich nicht verstanden."

Was ist Ihr liebster Science-­Fiction-Film, Herr Rojas?

Rojas: "2001 – Odyssee im Weltraum" von ­Stanley Kubrick, weil er das Problem zeigt, einen Computer zu haben, der wie ein Mensch denken kann. Der Computer HAL 9000 belügt die Raumfahrer. Und ­lügen ist die höchste Form von 
Intelligenz.
Und – können ­Roboter lügen?

Rojas: Nein. Und ich glaube auch nicht, dass sie in diesem Jahrhundert lernen, so gut zu lügen, wie Menschen es 
können.

Neue Lesermeinung schreiben

Wir freuen uns über einen anregenden Meinungsaustausch. Wir begrüßen mutige Meinungen. Bitte stützen Sie sie mit Argumenten und belegen Sie sie nachvollziehbar. Vielen Dank! Damit der Austausch für alle ein Gewinn ist, haben wir Regeln:

  • keine werblichen Inhalte
  • keine Obszönitäten, Pornografie und Hasspropaganda
  • wir beleidigen oder diskriminieren niemanden
  • keine nicht nachprüfbaren Tatsachenbehauptungen
  • Links zu externen Webseiten müssen zu seriösen journalistischen Quellen führen oder im Zweifel mit einem vertretbaren Prüfaufwand für die Redaktion verbunden sein.

Die Redaktion behält sich das Recht vor, Beiträge zu bearbeiten, macht dies aber stets kenntlich. Wir zensieren nicht, wir moderieren.
Wir prüfen alle Beiträge vor Veröffentlichung. Es besteht kein Recht auf Publikation eines Kommentars.

Lesermeinungen

Bei der Digitalisierung respektive künstlichen Intelligenz geht es auch um die Veränderung der Sprache und damit auch um die Deutungshoheit über die technologische Entwicklung. Was dem einen als zunehmendes und immer enger werdendes digitales Korsett bis hin zur vollkommenen Bevormundung und zum Ende der Persönlichkeit erscheint, ist für den anderen die Befreiung und Beglückung der Menschheit. Und wer hier künftig eher die mediale Dominanz sich erobert und etwa den Begriff der Intelligenz definieren darf, dürfte klar sein.