Alena Buyx und Thomas Schulz über Medizin und Digitalisierung

Wir müssen jetzt schnell reden!
Begegnung - Alena Buyx und Thomas Schulz

Sebastian Arlt

Alena Buyx und Thomas Schulz hinter dem Binärcode die Sprache unserer Computer

Begegnung - Alena Buyx und Thomas Schulz

Sonst dreht sich die Welt weiter, und wir gucken hinterher. Medizinisch und moralisch. Sagen die Medizinethikerin und der Silicon-Valley-Kenner.

chrismon: Frau Buyx, warum sind Sie Medizinerin ge­worden?

Alena Buyx: Das Übliche – Menschen helfen, Krankheiten heilen und so weiter. Die ethischen Fragen der Medizin haben mich aber von Anfang an beschäftigt.

Menschen helfen – wollen das auch die Leute im Silicon Valley, Herr Schulz?

Thomas Schulz: Ja, man denkt immer, das sind alles Techno­logen, aber die meisten dieser medizinischen Start-ups werden von Medizinern mitgegründet. Und den Google-
Ableger Verily leitet eine bekannte Kardiologin aus Bos­ton. Im Valley können Leute, die in ihrem Fach wahnsinnig gut sind, so richtig Gas geben. Deshalb gehen sie da hin.

Buyx: Erfahrene Kolleginnen und Kollegen sagen oft: Jaja, lassen wir mal die Kirche im Dorf mit der neuen Techno­logie, es braucht immer noch das Ärztliche, das muss man alles erst mal sacken lassen. Während die Jüngeren jubeln: Das wird’s lösen! Die wollen einen wertstiftenden Beruf und gleichzeitig voll mitsurfen auf den angesagten Techno­logiewellen, das ist neu.

Schulz: Und interessant, denn andererseits suchen die Techniker etwas Wertstiftendes. Wenn man den Highway 101 runterfährt, sieht man neuerdings viele Reklame­tafeln, darauf steht: Code to fight Cancer, programmiere, um den Krebs zu besiegen!

Alena Buyx

Alena Buyx, 41, 
leitet das Institut für Geschichte und Ethik der Medizin an der Technischen Universität München. Sie ist Philosophin, Sozio­login und approbierte Ärztin, hat in Harvard gearbeitet und war Senior Fellow am 
University College London. Sie ist seit 2014 Professorin, 
seit 2016 Mitglied des Deutschen Ethikrats und berät regelmäßig große internationale Forschungskon­sortien. Alena Buyx lebt in München.
Sebastian ArltAlena Buyx

Thomas Schulz

Thomas Schulz, 45, Reporter beim "­Spiegel", hat zehn Jahre lang als USA-Korrespondent im Silicon Valley über die Technologiebranche geschrieben. 2018 erschien 
sein Buch "Zukunftsmedizin" über die neuen Möglichkeiten und Risiken durch ­Algorithmen, Künstliche Intelligenz und große Datenmengen. Schulz wurde unter anderem mit dem Henri-­Nannen-­Preis und dem Holtzbrinck-­Preis für Wirtschaftspublizistik aus­gezeichnet. Er lebt ­
in München.
Sebastian ArltThomas Schulz

Was sind denn die neuesten Technologiewellen, auf ­denen die Forscher und Techniker surfen möchten?

Buyx: Das eine große Spielfeld ist die digitale, datenreiche Medizin. Da geht es um Prävention, Biomarker, Risiko­profile und letztlich personalisierte Präzisionsmedizin. Das andere ist alles, was mit Genomics und Co. zu hat, ­etwa die sogenannte Gen-Schere CRISPR/Cas. Drittens dann die Künstliche Intelligenz, die sich gerade interessant mit Robotics-Ansätzen verschränkt – für bessere Diagnostik und Therapie, sogar in Psychiatrie und Psychotherapie. Vielleicht wird eines Tages ein Avatar oder ein Roboter mit schizophrenen Patienten oder autistischen Kindern sprechen.

Schulz: Wissenschaft ist ja immer Information. Als ­Patient weiß ich doch: Hat der Arzt mein Blutbild und mein EKG und noch mehr Daten, dann ist das gut. Jetzt können wir immer mehr Informationen erheben und auswerten, ich kann sogar in meine Genetik gucken. So lernen wir mehr über den eigenen Körper und über Krankheiten. Das geht nur, indem man klügere, schnellere Computer hat. Ärzte allein können das nicht mehr. Nur: Die neuen Möglichkeiten verstehen wir noch längst nicht alle. Und vielleicht werden wir einige nie verstehen. Aber wie geht man mit Möglichkeiten um, die man nicht durchdrungen hat, wo man nicht weiß, in welche Richtung man damit läuft?

Weil es ja um Menschen geht, nicht um Sachen.

Buyx: Ja, das Entwicklungs- und Businessmodell der Techbranche mit Mottos wie "Move fast and break things", also: sei schnell und brich die Regeln bzw. Dinge, funktioniert nicht in der Medizin. Da hat es ja schon spektakuläre, kriminelle Fälle gegeben, als das übertragen wurde, und Patienten kamen zu Schaden. Und das, obwohl wir Vorsichtsmaßnahmen haben, etwa sehr aufwendige klinische Prüfungen. Da kann man nichts auf einmal umkrempeln.

"Zu viel Tempo kann zu Schäden an Patienten führen" - Alena Buyx

Die Technik entwickelt sich rasanter denn je, aber die klinischen Studien dauern so lange wie immer?

Buyx: Das ist auch richtig so. Denn man probiert Dinge am Menschen aus, die bisher noch nicht am menschlichen Körper gemacht wurden. Das hat Risiken. Die Beatmung in der Intensivmedizin können künstlich intelligente ­Algorithmen wohl bald besser einstellen als ein Arzt. Aber den Schalter umzulegen und zu sagen, okay, jetzt lassen wir den Algorithmus die klinische Entscheidung treffen – das müssen Sie sehr sorgfältig prüfen.

Schulz: Ich bin da unentschieden. Natürlich gibt es gute Gründe, warum man sechs bis zehn Jahre an neuen Thera­pien arbeitet. Vieles, was bei Mäusen gut funktioniert, versagt am Ende doch. Aber: Wenn der Fortschritt grundsätzlich schneller läuft und wir schneller zu Ergebnissen kommen, dann will man die doch auch schneller zum Patienten bringen. Die amerikanische Zulassungsbehörde hat jetzt beschleunigte Programme aufgesetzt, um das rote Band ein, zwei Jahre früher durchschneiden zu können. Zum Beispiel bei den neuen Krebsimmuntherapien.

Buyx: Das ist der Knackpunkt. Wann überspringe ich die Hürde, jenseits der es um Nutzen oder Schaden an ­Menschen geht? Diese beschleunigten Verfahren haben Vorteile, sind aber auch anfällig. Gerade in der Krebs­therapie gab es schon extrem starkes Lobbying, um Verfahren zu verkürzen, auch von Patientenorganisationen. Die Leute sind verzweifelt und setzen so viel Hoffnung auf die neuen Möglichkeiten. Und die gewinnorientierte Industrie auch. Zu viel Tempo kann aber zu Schäden an Patienten führen. Da muss man die Balance finden.

Schulz: Das ist meine Haupterkenntnis nach zehn Jahren 
im Silicon Valley – die gefühlte Beschleunigung ist real. 
Die Welt dreht sich schneller, gerade in der Medizin. ­Entwicklungen, die früher zehn Jahre gedauert haben, brauchen heute drei. Die beiden Frauen, die CRISPR/Cas entwickelt haben, dachten, das dauert 25 Jahre, und jetzt sind wir nach fünf Jahren bei klinischen Studien an Menschen. Auch bei den neuen Krebsforschungen geht es viel schneller. Wie man das in Diagnostik und Therapien umsetzt, ohne das Tempo zu verlieren, ist eine andere Frage. Denn es ist ja eigentlich gut, wenn wir schneller lernen . . .

"Das Tempo der Entwicklungen trägt zum allgemeinen Gefühl der Überforderung bei" - Thomas Schulz

Es geht dabei ja auch um tiefgehende Veränderungen am Menschen . . .

Buyx: Ja, zum Beispiel wenn es an das Erbgut geht, die Keimbahn. Dazu formulieren wir im Deutschen Ethik­rat gerade eine Stellungnahme. Die Erfinderinnen von CRISPR/Cas haben selbst eine ethische Diskussion gefordert. Was ist, wenn wir den Genpool von morgen verändern? Wollen wir das, und wenn ja, für welche ­Anwendungen? Nur um Krankheiten zu heilen? Oder: Um Krankheitsrisiken zu senken? Oder um uns ein bisschen zu verbessern? Das sind wichtige Weichenstellungen, ­darüber muss die ganze Gesellschaft diskutieren. Auch über die Künstliche Intelligenz. Die Szenarien reichen vom Algorithmus, der hilft, Röntgenbilder besser zu befunden, bis zu der schrecklichen Vorstellung, dass uns eine selbstdenkende, halb bewusste oder ganz bewusste Künstliche Intelligenz eines Tages unterjocht. Wir ­müssen jetzt die Entwicklung in ethisch und sozial akzeptable Bahnen lenken. Immerhin fangen wir da nicht bei null an.

Aber wie hilft uns die Diskussion?

Buyx: Manche Kollegen sagen, viele Menschen seien mit Debatten wie der über die Keimbahn völlig überfordert. Ich glaube, dass wir trotzdem transparent darüber sprechen müssen, was da passiert. Weil es ja passiert. Wir müssen ­da-
rüber reden, was das für uns bedeutet, als Gesellschaft, als Individuen, als Ärztin, als Patient, als Mutter. Wir müssen es jetzt regeln und gestalten. Klar, dass dabei auch Missverständnisse und Ängste entstehen. Aber je mehr wir mit Evidenz und Argumenten arbeiten, desto besser können wir Angst nehmen, Vertrauen schaffen und gute Regulierung entwickeln. Damit die Welt besser wird, müssen wir etwas tun. Wir alle. Sonst braust der Zug an uns vorbei.

Schulz: Ja, und es ist auch wichtig, sich bewusst zu machen, wie das bisher lief. In den letzten 15 Jahren haben wir gesagt: "Mensch, Internet – geil, Smartphone – super, soziale Medien – juhu! Wird irgendwie schon alles total klasse werden." Das war auch der klare Ansatz der Unternehmen, die das vorangetrieben haben. Jetzt erkennen wir, dass das nicht stimmt, und versuchen, es einzufangen – und es funktioniert nicht. Und, vielleicht noch wichtiger: Das Tempo der Entwicklungen trägt zum allgemeinen Gefühl der Überforderung bei, das wir beobachten. Die Erfolge der AfD in Bayern zum Beispiel, wo es ja allen ziemlich gut geht, haben eben nicht mit der Angst vor mehr Migration zu tun, sondern mit diesem diffusen Gefühl, dass die Welt plötzlich so anders ist, dass alles Mögliche auf einen einstürmt. Das können wir nicht an uns vorüberziehen lassen, ohne es irgendwie mal zu diskutieren.

Buyx: Gut, dass das auch im Tech-Bereich erkannt wird. Jetzt kommen Ansätze aus der Branche selbst: Stanford entwickelt Ethik-Curricula für das Silicon Valley . . .

"Das Argument "Die anderen machen es ja auch" ist immer schlecht" - Alena Buyx

Heißt das, dass die bisherige Silicon-Valley-Maxime "Frag nicht um Erlaubnis, sondern bitte um Vergebung" inzwischen veraltet ist?

Buyx: Die ist in vielen Branchen noch nicht veraltet.

Schulz: Korrekt!

Buyx: Nur setzt die Medizin diesem Denken eine natürliche Grenze, weil Menschen und ihre Körper direkt betroffen sind. Das ist etwas anderes, als wenn Sie nur mit Computern und Daten herumhantieren.

Aber gibt es nicht das Totschlag-Gegenargument, dass andere es sowieso machen? In China ist die CRISPR/Cas-
Schere schon an Embryonen benutzt worden.

Schulz: Ja, auf diese wirklich große Frage habe ich auch keine Antwort. Wir entwickeln vielleicht eine eigene Ethik für Eingriffe in das Erbgut, aber gleichzeitig kann ich nach China fahren und mir da ein Designerbaby nach meinen Vorstellungen machen lassen.

Buyx: Das Argument "Die anderen machen es ja auch" ist immer schlecht. Dennoch sehen wir am chinesischen Fall, der in vieler Hinsicht hochproblematisch war, dass es in der Realität natürlich wichtig ist. Wenn wir nun unsere Grundsätze dafür nutzen, eine gute, nachhaltige Technologieentwicklung ohne fragwürdige Schnellschüsse zu befördern, sind wir vielleicht nicht immer ganz vorn. Aber wir gestalten Wege, eine ethisch akzeptable Entwicklung voranzutreiben. Dann können wir sagen: So machen wir das, so gehen wir damit um!

Schulz: Und was, wenn wir in 15 Jahren merken, dass wir von den Amerikanern abgehängt worden sind und von den Chinesen auch? Die Chinesen sind dann führend in allen möglichen Technologien, und wir sind nur noch die fünfzehntgrößte Wirtschaftsnation der Welt und haben fünf Millionen Arbeitslose mehr. Wie reagieren wir dann, wenn es ans Eingemachte geht?

Buyx: Ich glaube, wir können es schaffen, mit unseren Standards eine schnelle Techno­logieentwicklung zu er­reichen. Nur muss sich da auch die Ethik mitverändern.

"Selbst die Macher im Silicon 
Valley sind verunsichert" - Thomas Schulz

Die Ethik soll sich ändern? Ist die denn nicht zeitlos?

Buyx: Wir führen heute die Diskussion mit den gleichen ethischen Grundsätzen wie vor 20 beziehungsweise 200 Jahren, aber eben in anderer Weise. Unser Embryonenschutzgesetz zum Beispiel ist teils veraltet und daher dysfunktional. Das werden wir im Licht neuer Technologien überarbeiten müssen. Aber wir denken dabei über dieselben ethischen Prinzipien und Grundlagen nach, etwa den Schutz des Lebens und die Menschenwürde. Ethik ist sowohl zeitlos als auch kontextabhängig. Das klingt wie ein Widerspruch, ist aber keiner. Und natürlich werden wir auch mal "Nein" sagen. Man darf eben nicht alles, was man kann. Man muss gut überlegen: Was dürfen wir – und warum? Welche Ziele wollen wir verfolgen, welche ethischen Prinzipien müssen wir dabei beachten? Und auch wir Ethiker müssen uns an die Geschwindigkeit des Fortschritts anpassen. Wir brauchen bald Ethikempfehlungen für die weitere Forschung.

Schulz: Das ist sehr wichtig. Selbst die Macher im Silicon 
Valley sind verunsichert. Heute sagt jemand wie Google-
Gründer Larry Page, vielleicht einer der klügsten ­Menschen auf dieser Welt: "Ich verstehe nicht mehr alles, was mein Unternehmen macht." Wenn die 500 klügsten Köpfe ­
über CRISPR/Cas diskutieren, ist das toll. Und doch besteht die Gefahr, dass die Elitenbildung und die ­Wissenshegemonie noch größer werden. Dann gibt es fünf Prozent Menschen, die alles diskutieren und ver­suchen, mit­zukommen, und die anderen 95 Prozent heben die Hände und sagen: Nee, echt nicht. – Die sind dann endgültig abgehängt.

Buyx: Ja, wir müssen noch offener werden und besser erklären, worum es geht. Natürlich hat man dann immer noch die, die sich komplett verweigern. Und das kann man auch verstehen. Viele Leute in der Medizin zum Beispiel fragen: Was ist denn mit den nicht-technologischen Lösungen? Wir vergessen, dass manche Bereiche in der Medizin noch unterversorgt sind, von Psychosomatik über Pflege bis hin zur Geriatrie und Kinderheilkunde.

Wer profitiert eigentlich von der digitalen Datenmedizin?

Buyx: Die Frage müsste lauten: "Wer muss davon profi­tieren?" Und das sind immer die Patienten!

Anne Buhrfeind

Anne Buhrfeind ist stellvertretende Chefredakteurin bei chrismon. Davor war sie stellvertretende Chefredakteurin "Gala" und "woman" in Hamburg.
Lena UphoffPortrait Anne Buhrfeind, chrismon stellvertretende Chefredakteurin

Claudius Grigat

Claudius Grigat ist Redakteur bei chrismon und evangelisch.de. Magister in Germanistik, Soziologie und Politologie sowie Staatsexamen für das Lehramt an Gymnasien in Deutsch und Sozialkunde. Volontariat beim Hessischen Rundfunk, anschließend dort Redakteur und Reporter bei unterschiedlichen Radiowellen und Fernsehsendungen sowie Autor für diverse Zeitschriften.
Foto: Lena UphoffPortrait Claudius Grigat, online-Redaktion, Redaktionsportraits Maerz 2017

Solange die Krankenkassen das bezahlen . . .

Schulz: Genau. Wir bewegen uns da ja in einem Bereich, in dem eine Gentherapie im Einzelfall auch mal eine Million kosten kann, dafür aber auch Heilung bringt. Wunderbar, sagt die Krankenkasse, aber was machen wir, wenn der Patient vier Wochen später die Kasse wechselt? Das sind Systemfragen, die wir diskutieren müssen.
Und wie sieht das in der Forschung aus? Es wird doch vor allem da entwickelt, wo sich viel verdienen lässt.

Schulz: So ist der Kapitalismus. Große Pharmakonzerne wollen die Blockbuster entwickeln. Jetzt gibt es aber so viele Start-ups, dass sie auch mal in Nischen gehen, die die großen Firmen links liegen lassen. Da sehe ich im Moment eher einen Vorteil in der Entwicklung.

Buyx: Ich teile aber die Befürchtung, dass es Sparten in der Medizin geben könnte, in denen technologisch und finanziell gerade nicht so viel möglich ist – und dass die dann ins Hintertreffen geraten. Ich bin sehr gespannt, wie es mit den Businessmodellen weitergeht. Letztes Jahr wurde erstmals eine Gentherapie wieder fallen gelassen, weil sie mit einer Million Dollar pro Behandlung einfach zu teuer war. Aber es gibt Sparpotenziale, durch sehr viel frühere Diagnosen zum Beispiel.

Schulz: Und dann stehen auch Krankenkassen vor ethischen Entscheidungen. Zum Beispiel bei der Hämophilie, der Bluterkrankheit: Die könnte man bald gentherapeutisch auf einen Schlag heilen, das ist aber teuer. Andererseits kostet eine lebenslange Behandlung auch viel Geld. Was für die Kasse günstiger ist, hängt davon ab, wie lange dieser Patient noch lebt. Das müsste die Kasse dann ver­suchen, herauszufinden. Das kann richtig dreckig werden.

"Neue Technologien haben immer Schattenseiten" - Thomas Schulz

Schafft die Medizin neuerdings Probleme, die man ohne sie nicht hätte?

Schulz: Klar, neue Technologien haben immer Schattenseiten. Kühlschränke, super, und dann blasen sie FCKW in die Luft. Aber man kann natürlich auch mit einer Bratpfanne jemanden erschlagen. Die positiven Folgen des Fortschritts werden größer sein.

Buyx: Wissenschaft und Medizin haben mit dafür gesorgt, dass unsere Lebenserwartung gestiegen ist und wir insgesamt besser leben. Ich glaube, wir werden es schon ­schaffen, die technologische Entwicklung so einzuhegen, dass das halbwegs verantwortungsvoll und nachhaltig geht. Allein, dass so viel darüber debattiert wird, in Talkshows, in Tageszeitungen, sozialen Medien, zeigt, dass wir die rasante technologische Entwicklung nicht ausblenden wollen. Manche Leute sagen: Jetzt kommt der Weltuntergang. Aber ich glaube das nicht. Ich bin Optimistin.

Infobox

Was ist eigentlich CRISPR/Cas? Das Verfahren funk­tioniert wie eine ­Schere, mit der man Abschnitte aus der DNA, dem Erbgut, ­gezielt austauschen kann. Wenn man also den Genfehler kennt, der zu einer bestimmten Krankheit führt, kann man die defekte Sequenz heraus­nehmen und die Stelle so reparieren, dass das Gen normal funktioniert.

Was ist 
die Befürchtung? Eingriffe in das ­Erbgut verändern den 
Genpool unwiederbringlich — mit unabsehbaren Folgen.

Was bedeutet Künstliche Intelligenz (KI)? 
Künstliche (rück­gekoppelte) neuronale Netzwerke sind dem menschlichen Gehirn nachempfunden und funktionieren auch ­so (sind ihm aber auf 
einigen Gebieten bereits weit überlegen): Sie werden nicht im herkömmlichen Sinne programmiert, ­sondern mit Daten trainiert und "lernen". Defizite gibt es noch bei der Mustererkennung.

Was ist die Befürchtung? 
Autonome KI-Systeme machen sich buchstäblich selbstständig und werden unkon­trollierbar.

Leseempfehlung

Unvorstellbar, sagt der Informatikprofessor. Trotzdem muss man die Visionen zu Ende denken, findet die Philosophin
16_9_c1712_28_begegnung_web_0.jpg
Wer ist intelligenter: Fliege oder Roboter? Welche Zukunft macht Ihnen Sorgen? Verlieren wir die Kontrolle über Computer? Die Philosophin und der Informatikprofessor antworten
vorschaltbild_begegnung_digitalmedizin.png
Die Medizinethikerin und der Digitaljournalist erzählen, was das Schöne am Kranksein als Kind war. Und erklären unter anderem, was an Star Trek so prima ist.

Neue Lesermeinung schreiben

Wir freuen uns über einen anregenden Meinungsaustausch. Wir begrüßen mutige Meinungen. Bitte stützen Sie sie mit Argumenten und belegen Sie sie nachvollziehbar. Vielen Dank! Damit der Austausch für alle ein Gewinn ist, haben wir Regeln:

  • keine werblichen Inhalte
  • keine Obszönitäten, Pornografie und Hasspropaganda
  • wir beleidigen oder diskriminieren niemanden
  • keine nicht nachprüfbaren Tatsachenbehauptungen
  • Links zu externen Webseiten müssen zu seriösen journalistischen Quellen führen oder im Zweifel mit einem vertretbaren Prüfaufwand für die Redaktion verbunden sein.

Die Redaktion behält sich das Recht vor, Beiträge zu bearbeiten, macht dies aber stets kenntlich. Wir zensieren nicht, wir moderieren.
Wir prüfen alle Beiträge vor Veröffentlichung. Es besteht kein Recht auf Publikation eines Kommentars.