Zum Inhalt
Der Podcast vom Techtheologen · seit 2021
In Ottes OhrDer Podcast vom Techtheologen
Medizinische Fachangestellte telefoniert am Empfang
Ratgeber

Menschliches Maß: Über KI in der Arztpraxis, Widerstand und die älteste Ethik…

Darf eine KI ans Praxistelefon gehen? Wem gehören unsere Gesundheitsdaten? Und warum reicht gute Technik allein nicht aus? In meiner Gastvorlesung an der HTWG Konstanz erzähle ich, was passiert ist, als ich die Frauenarztpraxis meiner Frau in kurzer Zeit digitalisiert habe. Daraus sind neun Thesen entstanden, hier verständlich zusammengefasst.

Von Jan Thomas Otte5 Min. Lesezeit · 60 Min. Hörzeit
Geschichte beginnen

Diese Folge hören

60 Minuten · Gastvorlesung vom 17. November 2026 an der HTWG Konstanz, Ringvorlesung Angewandte Ethik

Auch auf: Spotify · Apple Podcasts · podcast.de

Darf eine KI ans Praxistelefon gehen? In der Ringvorlesung „Angewandte Ethik“ an der HTWG Konstanz habe ich am 17. November 2026 erzählt, was in den letzten zwei Jahren passiert ist, als ich die Frauenarztpraxis meiner Frau digital fit gemacht habe. Kein Produkt-Pitch und keine Fuck-up-Night, sondern ein ehrlicher Erfahrungsbericht. Statt Folien gab es ein Ethik-Board in Miro: Die Studierenden haben live über meine Thesen abgestimmt.

Jan Thomas Otte im Workshop mit dem Praxisteam am Flipchart

Aus der Praxis: Workshop mit dem Team – „Was läuft noch nicht so gut?“

Titel: Woher „KI kommt vor K.O.“ kommt

Das Wortspiel stammt von einem Podium bei cyberLAGO an der Zeppelin Universität. Es hat mich seitdem nicht losgelassen. Denn in der Praxis kam erst die KI, dann der K.O. – und danach ein zweiter, besserer Anlauf.

These 1 und 2: Das Problem liegt tiefer als die Technik

Meine Praxis war nie analog. Computer gab es dort schon lange, sie waren nur schlecht miteinander verbunden. Daraus folgt meine zweite These: Digitalisierung ist die Folge des Problems, nicht seine Ursache. Das deutsche Gesundheitssystem gilt als teuer und wenig effizient. Neue Software allein ändert daran wenig. Zum Vergleich die Schweiz: Dort zahlen Versicherte jedes Jahr zuerst einen Teil ihrer Arztkosten selbst. Bei uns ist der Arztbesuch für gesetzlich Versicherte kostenlos, die Beiträge einmal ausgenommen.

These 3: Die Praxis ist kein Lieferdienst

Wenn ein Arztbesuch nichts kostet, erwarten manche, dass eine Praxis funktioniert wie ein Lieferdienst: online buchen, sofort bedient werden. Dabei haben gesetzlich Versicherte einen Vertrag mit ihrer Krankenkasse, nicht mit der Ärztin. Eine Praxis darf also auch sagen: Wir sind gerade voll.

„Wer KI maximal einführt, testet nicht die Technik, sondern den Menschen.“

These 4 und 5: KI testet den Menschen

Wir haben viele Programme gleichzeitig eingeführt: einen Online-Kalender, digitale Formulare statt Klemmbrett, Spracherkennung, SMS-Erinnerungen und eine KI-Telefonassistentin. Jedes Programm war für sich sinnvoll. Aber sie arbeiteten nicht zusammen, und die alten Abläufe auf Papier liefen weiter. Vorher hingen Anrufende teils bis zu einer Dreiviertelstunde in der Warteschleife, danach kamen Beschwerden und schlechte Bewertungen. Meine Erkenntnis: Wer KI im großen Stil einführt, testet nicht die Technik, sondern die Menschen. Ob Patientinnen und Team mitkommen, zeigt sich direkt am Empfangstresen. Dabei ist Widerstand kein Befund im Sinne einer Krankheit. Er ist eine Rückmeldung, und wer sie ernst nimmt, kann daraus lernen.

Segeln: Von der Yacht in die Jolle

Ich habe große IT-Projekte in Konzernen geleitet. Trotzdem lief es in der kleinen Praxis anders als erwartet. Ich vergleiche es mit dem Segeln, das ich übrigens an der HTWG gelernt habe: Eine Yacht liegt ruhig im Wasser. In einer Jolle kann schon eine kleine Gewichtsverlagerung das Boot zum Kentern bringen. Genau das ist uns im zweiten Jahr passiert.

„Eine IT-Transformation in der Arztpraxis war für mich wie der Schritt von der Yacht in die Jolle.“

These 6 und 7: Das menschliche Maß steht in keinem Plan

In IT-Projekten gibt es ein Lastenheft, also eine Liste, was die Software können soll. Was für Menschen zumutbar ist, steht dort meistens nicht drin. Das menschliche Maß findet man deshalb selten in der ersten Version. Man muss die zweite gleich mit einplanen. Wir haben manches wieder zurückgebaut, und Patientinnen können über einen Link Rückmeldung geben. Die siebte These – „Gute KI merkt man nicht“ – stelle ich bewusst zur Diskussion. Seit August 2026 verlangt der europäische AI Act, dass Menschen erfahren, wenn sie mit einer KI sprechen. Das gilt besonders bei einer künstlich erzeugten Stimme.

Mein konkreter Rat für KI am Telefon: Zwei Versuche mit der Maschine. Beim dritten Versuch sollte innerhalb einer Minute ein Mensch erreichbar sein, während der Öffnungszeiten.

These 8: Wer Termine verwaltet, hat Macht

Große Plattformen für Arzttermine haben ein echtes Problem gelöst: Man bekommt leichter einen Termin. Doch dort sammeln sich auch Befunde und Daten ganzer Familien, und manche Plattformen sind so groß geworden, dass sie kaum noch Schnittstellen für andere öffnen. Meine These: Wer die Termine verwaltet, verwaltet am Ende nicht den Termin, sondern die Patientin. Auf der anderen Seite steht die staatliche elektronische Patientenakte (ePA). Sie wird für gesetzlich Versicherte automatisch angelegt, man kann aber widersprechen.

These 9: Verantwortung bleibt beim Menschen

Eine Maschine hat kein Gewissen und keine Intuition. Deshalb lässt sich Verantwortung an keinen Algorithmus abgeben. Ich berufe mich dabei auf die Informatikerin Katharina Zweig und ihr Buch „Ein Algorithmus hat kein Taktgefühl“. Meine Sorge gilt weniger der KI selbst als dem, was sie mit uns macht – etwa wenn wir aus Bequemlichkeit allem zustimmen. Ich nenne das digitale Übergriffigkeit.

„Wir schreiben keine neue Ethik. Wir legen einer neuen Technik unsere älteste Ethik vor.“

Ethik: Die älteste Ethik für eine neue Technik

Der Pharma- und Technologiekonzern Merck hat für den Umgang mit Daten und KI fünf Grundsätze aufgeschrieben: Gerechtigkeit, Autonomie, Fürsorge, Schadensvermeidung und Transparenz. Vier davon stammen aus der Medizinethik der 1970er-Jahre und sind älter als jeder Computer. Als Theologe führe ich sie noch weiter zurück, über die Zehn Gebote bis zum Codex Hammurabi. Neu ist nur die Transparenz. Sie ist unbequem, weil sie die Machtfrage stellt: Wie weit bin ich bereit, mir in die Karten schauen zu lassen?

Weiterdenken: Was ist das menschliche Maß?

Eine fertige Antwort habe ich nicht. Ich halte mich an eine Definition aus dem Band „Digitale Ethik“ von Grimm, Keber und Zöllner: Digitale Ethik sucht nach angemessenen Regeln und Werten für unser Handeln in einer digitalen Welt. Mein Wunsch ist klar: Der Mensch soll ansprechbar bleiben, auch wenn ein System mitentscheidet.

Quellen und weiterführende Links

Fotos: Alexander Stertzik (Workshop); Getty Images via Unsplash+; Daniel Stenholm / Unsplash