
Menschliches Maß: Über KI in der Arztpraxis, Widerstand und die älteste Ethik…
Darf eine KI ans Praxistelefon gehen? Wem gehören unsere Gesundheitsdaten? Und warum reicht gute Technik allein nicht aus? In meiner Gastvorlesung an der HTWG Konstanz erzähle ich, was passiert ist, als ich die Frauenarztpraxis meiner Frau in kurzer Zeit digitalisiert habe. Daraus sind neun Thesen entstanden, hier verständlich zusammengefasst.
Diese Folge hören
Auch auf: Spotify · Apple Podcasts · podcast.de
Darf eine KI ans Praxistelefon gehen? In der Ringvorlesung „Angewandte Ethik“ an der HTWG Konstanz habe ich am 17. November 2026 erzählt, was in den letzten zwei Jahren passiert ist, als ich die Frauenarztpraxis meiner Frau digital fit gemacht habe. Kein Produkt-Pitch und keine Fuck-up-Night, sondern ein ehrlicher Erfahrungsbericht. Statt Folien gab es ein Ethik-Board in Miro: Die Studierenden haben live über meine Thesen abgestimmt.

Aus der Praxis: Workshop mit dem Team – „Was läuft noch nicht so gut?“
Titel: Woher „KI kommt vor K.O.“ kommt
Das Wortspiel stammt von einem Podium bei cyberLAGO an der Zeppelin Universität. Es hat mich seitdem nicht losgelassen. Denn in der Praxis kam erst die KI, dann der K.O. – und danach ein zweiter, besserer Anlauf.
These 1 und 2: Das Problem liegt tiefer als die Technik
Meine Praxis war nie analog. Computer gab es dort schon lange, sie waren nur schlecht miteinander verbunden. Daraus folgt meine zweite These: Digitalisierung ist die Folge des Problems, nicht seine Ursache. Das deutsche Gesundheitssystem gilt als teuer und wenig effizient. Neue Software allein ändert daran wenig. Zum Vergleich die Schweiz: Dort zahlen Versicherte jedes Jahr zuerst einen Teil ihrer Arztkosten selbst. Bei uns ist der Arztbesuch für gesetzlich Versicherte kostenlos, die Beiträge einmal ausgenommen.
These 3: Die Praxis ist kein Lieferdienst
Wenn ein Arztbesuch nichts kostet, erwarten manche, dass eine Praxis funktioniert wie ein Lieferdienst: online buchen, sofort bedient werden. Dabei haben gesetzlich Versicherte einen Vertrag mit ihrer Krankenkasse, nicht mit der Ärztin. Eine Praxis darf also auch sagen: Wir sind gerade voll.

„Wer KI maximal einführt, testet nicht die Technik, sondern den Menschen.“
These 4 und 5: KI testet den Menschen
Wir haben viele Programme gleichzeitig eingeführt: einen Online-Kalender, digitale Formulare statt Klemmbrett, Spracherkennung, SMS-Erinnerungen und eine KI-Telefonassistentin. Jedes Programm war für sich sinnvoll. Aber sie arbeiteten nicht zusammen, und die alten Abläufe auf Papier liefen weiter. Vorher hingen Anrufende teils bis zu einer Dreiviertelstunde in der Warteschleife, danach kamen Beschwerden und schlechte Bewertungen. Meine Erkenntnis: Wer KI im großen Stil einführt, testet nicht die Technik, sondern die Menschen. Ob Patientinnen und Team mitkommen, zeigt sich direkt am Empfangstresen. Dabei ist Widerstand kein Befund im Sinne einer Krankheit. Er ist eine Rückmeldung, und wer sie ernst nimmt, kann daraus lernen.
Segeln: Von der Yacht in die Jolle
Ich habe große IT-Projekte in Konzernen geleitet. Trotzdem lief es in der kleinen Praxis anders als erwartet. Ich vergleiche es mit dem Segeln, das ich übrigens an der HTWG gelernt habe: Eine Yacht liegt ruhig im Wasser. In einer Jolle kann schon eine kleine Gewichtsverlagerung das Boot zum Kentern bringen. Genau das ist uns im zweiten Jahr passiert.
„Eine IT-Transformation in der Arztpraxis war für mich wie der Schritt von der Yacht in die Jolle.“
These 6 und 7: Das menschliche Maß steht in keinem Plan
In IT-Projekten gibt es ein Lastenheft, also eine Liste, was die Software können soll. Was für Menschen zumutbar ist, steht dort meistens nicht drin. Das menschliche Maß findet man deshalb selten in der ersten Version. Man muss die zweite gleich mit einplanen. Wir haben manches wieder zurückgebaut, und Patientinnen können über einen Link Rückmeldung geben. Die siebte These – „Gute KI merkt man nicht“ – stelle ich bewusst zur Diskussion. Seit August 2026 verlangt der europäische AI Act, dass Menschen erfahren, wenn sie mit einer KI sprechen. Das gilt besonders bei einer künstlich erzeugten Stimme.
Mein konkreter Rat für KI am Telefon: Zwei Versuche mit der Maschine. Beim dritten Versuch sollte innerhalb einer Minute ein Mensch erreichbar sein, während der Öffnungszeiten.
These 8: Wer Termine verwaltet, hat Macht
Große Plattformen für Arzttermine haben ein echtes Problem gelöst: Man bekommt leichter einen Termin. Doch dort sammeln sich auch Befunde und Daten ganzer Familien, und manche Plattformen sind so groß geworden, dass sie kaum noch Schnittstellen für andere öffnen. Meine These: Wer die Termine verwaltet, verwaltet am Ende nicht den Termin, sondern die Patientin. Auf der anderen Seite steht die staatliche elektronische Patientenakte (ePA). Sie wird für gesetzlich Versicherte automatisch angelegt, man kann aber widersprechen.
These 9: Verantwortung bleibt beim Menschen
Eine Maschine hat kein Gewissen und keine Intuition. Deshalb lässt sich Verantwortung an keinen Algorithmus abgeben. Ich berufe mich dabei auf die Informatikerin Katharina Zweig und ihr Buch „Ein Algorithmus hat kein Taktgefühl“. Meine Sorge gilt weniger der KI selbst als dem, was sie mit uns macht – etwa wenn wir aus Bequemlichkeit allem zustimmen. Ich nenne das digitale Übergriffigkeit.

„Wir schreiben keine neue Ethik. Wir legen einer neuen Technik unsere älteste Ethik vor.“
Ethik: Die älteste Ethik für eine neue Technik
Der Pharma- und Technologiekonzern Merck hat für den Umgang mit Daten und KI fünf Grundsätze aufgeschrieben: Gerechtigkeit, Autonomie, Fürsorge, Schadensvermeidung und Transparenz. Vier davon stammen aus der Medizinethik der 1970er-Jahre und sind älter als jeder Computer. Als Theologe führe ich sie noch weiter zurück, über die Zehn Gebote bis zum Codex Hammurabi. Neu ist nur die Transparenz. Sie ist unbequem, weil sie die Machtfrage stellt: Wie weit bin ich bereit, mir in die Karten schauen zu lassen?
Weiterdenken: Was ist das menschliche Maß?
Eine fertige Antwort habe ich nicht. Ich halte mich an eine Definition aus dem Band „Digitale Ethik“ von Grimm, Keber und Zöllner: Digitale Ethik sucht nach angemessenen Regeln und Werten für unser Handeln in einer digitalen Welt. Mein Wunsch ist klar: Der Mensch soll ansprechbar bleiben, auch wenn ein System mitentscheidet.
Quellen und weiterführende Links
- ZEF21 / HTWG Konstanz: Ringvorlesung Angewandte Ethik, Wintersemester 2026/27 – Vortrag „KI kommt vor K.O.“ am 17.11.2026
- Merck KGaA: Code of Digital Ethics (PDF, 2021)
- Becker u. a.: A Code of Digital Ethics, AI & Society
- Tom L. Beauchamp und James F. Childress: Principles of Biomedical Ethics, erstmals 1979
- Peter G. Kirchschläger: Digital Transformation and Ethics, Nomos 2021
- Katharina Zweig: Ein Algorithmus hat kein Taktgefühl, Heyne 2019
- Petra Grimm, Tobias O. Keber, Oliver Zöllner: Digitale Ethik (bpb)
- Bundesgesundheitsministerium: Die elektronische Patientenakte (ePA) für alle
- EU AI Act, Artikel 50: Transparenzpflichten
Fotos: Alexander Stertzik (Workshop); Getty Images via Unsplash+; Daniel Stenholm / Unsplash


