Die Deutsche Ophthalmologische Gesellschaft e.V. (DOG) und der Berufsverband der Augenärzte Deutschlands e.V. (BVA) haben im Januar 2025 eine Stellungnahme zu ethischen Aspekten künstlicher Intelligenz (KI) in der Augenheilkunde vorgelegt. Ziel ist es, Standards für die Entwicklung, Zulassung und die Implementierung von KI-Anwendungen zu setzen, die ärztliche Entscheidungen unterstützen, und gleichzeitig Patientenrechte sicherzustellen.
KI kann beispielsweise bei der Analyse großer Bilddatenmengen hilfreich sein, die in der Diagnostik von Netzhauterkrankungen oder der Verlaufskontrolle von Glaukomen anfallen. Während KI-Systeme Muster erkennen und präzise Analysen liefern können, bleibe es jedoch Aufgabe der Behandelnden, diese Ergebnisse zu bewerten. Die Verantwortung für Diagnosen und Therapien, betonen DOG und BVA, müsse stets bei Ärztinnen und Ärzten liegen.
Denn KI-Systeme sind nicht fehlerfrei und können Risiken bergen – etwa durch verzerrte Trainingsdaten oder wenn bestimmte Personengruppen nicht berücksichtigt wurden. Auch könnten Algorithmen seltene Krankheitsbilder übersehen oder aufgrund unvollständiger Daten falsche Diagnosen stellen. Ärztinnen und Ärzte müssen daher mögliche Fehlerquellen erkennen und KI-Ergebnisse kritisch hinterfragen.
Als zentrale Prinzipien für den Einsatz von KI in der Augenheilkunde fordern DOG und BVA unter anderem:
• Gerechtigkeit: KI-Systeme dürfen keine Gruppen benachteiligen. Trainingsdaten müssen divers und repräsentativ sein.
• Transparenz: Es muss deutlich werden, wie und welche Daten ein KI-System verarbeitet und gegebenenfalls weiterleitet.
• Erklärbarkeit: KI-Entscheidungen müssen nachvollziehbar sein, insbesondere bei Therapieempfehlungen.
• Datenschutz: Patientenbezogene Daten müssen sicher verarbeitet werden; anonyme Datensätze sind zu bevorzugen.
• Ärztliche Autonomie: KI darf die Rolle des Arztes und der Ärztin nicht ersetzen, sondern nur unterstützen.
Weitere wichtige Aspekte sind die Wahrung der Patientenautonomie, die Information der Patientinnen und Patienten, wenn KI-basierte Systeme in ihrer Behandlung eingesetzt werden, klare Regeln für die Zulassung und Implementierung von KI-Systemen, wie etwa technische Robustheit im Sinne einer geringen Fehleranfälligkeit sowie eine vollständige Haftungsklärung.
Die Stellungnahme steht als PDF-Datei zum Download bereit unter: