Warum es wichtig ist, KI mitzugestalten: Was wir aus unserer Arbeit in Äthiopien über gerechtere KI gelernt haben
Von Darwish Thajudeen
Vor zwei Jahren haben wir über die große Kluft in der Künstlichen Intelligenz geschrieben: über den ungleichen Zugang zu Technologien, Infrastruktur und Chancen zwischen dem Globalen Norden und dem Globalen Süden. Diese Kluft besteht weiterhin. Doch unsere Arbeit der vergangenen Jahre hat uns noch etwas anderes gezeigt: Faire KI entsteht nicht allein dadurch, dass wir Menschen Zugang zu Systemen ermöglichen, die anderswo entwickelt wurden. Sie entsteht dann, wenn Menschen aus bisher unterrepräsentierten Regionen selbst mitgestalten können, wie diese Systeme aussehen und sich weiterentwickeln.[1][2]
Diese Erkenntnis stammt nicht aus der Theorie. Sie entstand in der Praxis: durch klinische Abläufe, Fragen rund um Daten und durch die täglichen Herausforderungen der Gesundheitsversorgung in Äthiopien.
Mit unserem Projekt SUSTAIN-AI ECG, das wir gemeinsam mit dem Armauer Hansen Research Institute (AHRI) in Addis Abeba und der Technischen Hochschule Mittelhessen (THM) entwickeln, wollen wir die kardiologische Diagnostik dort verbessern, wo Fachpersonal knapp ist und eine frühzeitige Diagnose über rechtzeitige Behandlung oder vermeidbare gesundheitliche Schäden entscheiden kann.
Unsere ersten Untersuchungen haben gezeigt, wie groß diese Versorgungslücke ist: Auf rund 130 Millionen Einwohner:innen kommen in Äthiopien lediglich etwa 30 Kardiolog:innen. Gerade hier kann KI einen wichtigen Beitrag leisten.
Doch wir haben auch gelernt: Technischer Nutzen allein reicht nicht aus.
Wenn wir wollen, dass Menschen KI vertrauen, muss sie transparent genug sein, um sie überprüfen zu können. Die zugrunde liegenden Daten müssen die Menschen repräsentieren, für die die Systeme entwickelt werden. Und vor allem müssen diejenigen, die mit der Technologie arbeiten und von ihr betroffen sind, an ihrer Entwicklung beteiligt sein.[3]
Was uns unser Projekt in Äthiopien gelehrt hat
Wenn Menschen von KI im Gesundheitswesen hören, entsteht häufig ein bestimmtes Bild: Ein leistungsfähiges Modell wird in einem Forschungszentrum entwickelt, anschließend in einer ressourcenärmeren Region eingesetzt und soll dort bestehende Versorgungslücken schließen.
Ganz falsch ist dieses Bild nicht. KI kann medizinisches Fachpersonal unterstützen, Prozesse effizienter machen und Gesundheitssystemen helfen, begrenzte Expertise besser einzusetzen
.
Unsere Erfahrungen in Äthiopien zeigen jedoch: Die Realität ist komplexer.
Die Herausforderung besteht nicht nur darin, dass es zu wenige Kardiolog:innen gibt. Ein weiteres Problem liegt in den Daten, auf denen viele medizinische KI-Systeme basieren.
Historisch wurden zahlreiche KI-Modelle zur EKG-Auswertung überwiegend mit Daten westlicher Populationen trainiert. Aktuelle Forschung zur Nutzung von KI im Globalen Süden zeigt jedoch, dass Systeme, die mit Daten aus einkommensstarken Ländern entwickelt wurden, häufig angepasst und neu kalibriert werden müssen, bevor sie in anderen Regionen zuverlässig eingesetzt werden können.
Es geht also nicht nur darum, Zugang zu KI-Modellen zu schaffen. Es geht auch darum, wer in den Daten repräsentiert ist, auf deren Grundlage medizinische Expertise automatisiert wird.
Und genau das ist entscheidend.
Medizinische KI existiert niemals unabhängig von ihrem Kontext. Krankheiten treten unterschiedlich häufig auf. Medizinische Abläufe unterscheiden sich. Gesundheitssysteme unterscheiden sich. Der Umgang mit Daten unterscheidet sich.
Ein Algorithmus kann technisch beeindruckend sein und dennoch schlechter funktionieren, sobald er auf eine Bevölkerung, einen klinischen Prozess oder eine Infrastruktur trifft, die in seinen Trainingsdaten kaum vertreten war.
Deshalb geht es in der aktuellen Diskussion über KI im Gesundheitswesen zunehmend weniger um abstrakte technologische Begeisterung und stärker um Evidenz, Verantwortlichkeit und lokale Beteiligung.[4][5]
Unser Projekt SUSTAIN-AI ECG hat diese Fragen für uns sehr konkret gemacht.
Wir verstehen das System nicht als eine Blackbox, die von außen nach Äthiopien gebracht wird. Stattdessen verbinden wir KI-Forschung, klinische Anwendung und Methoden der Erklärbarkeit mit einer engen Integration in das äthiopische Gesundheitssystem.
Das ist kein Nebenaspekt des Projekts, sondern eine bewusste Entscheidung.
Denn wir sind überzeugt: Wenn ein KI-System in einem realen gesellschaftlichen Kontext eingesetzt wird, müssen die Menschen, die damit arbeiten und von seinen Entscheidungen betroffen sind, eine echte Möglichkeit haben, seine Entwicklung, Einführung, Bewertung und Weiterentwicklung mitzugestalten.[6]
Lektion 1: Offenheit
Für uns ist Offenheit kein Schlagwort. Sie ist eine Voraussetzung dafür, dass KI verantwortungsvoll eingesetzt und kontrolliert werden kann.
Auch die Weltgesundheitsorganisation WHO betont diesen Punkt deutlich. In ihren Leitlinien zur Ethik und Governance von KI im Gesundheitswesen nennt sie Transparenz, Erklärbarkeit und Verständlichkeit als zentrale Prinzipien eines verantwortungsvollen Einsatzes.
Bereits vor der Einführung eines KI-Systems sollten ausreichend Informationen dokumentiert werden, damit Beteiligte nachvollziehen können, auf welchen Annahmen das System basiert, welche Daten verwendet wurden, wo seine Grenzen liegen und für welchen Zweck es entwickelt wurde.
Die WHO weist außerdem darauf hin, dass Open-Source-Ansätze und eine ernsthafte Beteiligung der Öffentlichkeit dazu beitragen können, Transparenz und Mitbestimmung bei der Entwicklung und Nutzung von Technologien zu stärken.[3][6]
Für Organisationen ist Offenheit aus zwei Gründen entscheidend.
Erstens ist sie ganz praktisch notwendig. Wenn Ärzt:innen, Forschende, Regulierungsbehörden oder zivilgesellschaftliche Organisationen nicht nachvollziehen können, wie ein System funktioniert, wo seine Grenzen liegen und woher seine Daten stammen, können sie kaum beurteilen, ob es für einen bestimmten Einsatz geeignet ist.
Zweitens ist Offenheit eine Frage der Mitbestimmung. Sie schafft die Möglichkeit, Systeme zu hinterfragen, zu verbessern und Verantwortlichkeit einzufordern. Gerade in sensiblen Bereichen wie dem Gesundheitswesen, in denen technologische Entscheidungen direkte Auswirkungen auf Menschen haben können.[7][8][9][3]
In unserem KI-EKG-Projekt in Äthiopien ist Erklärbarkeit deshalb kein optionales Extra. Sie ist ein Bestandteil der Vertrauensbasis.
Die THM arbeitet bei der Entwicklung des zugrunde liegenden KI-Modells gezielt an Methoden der Explainable AI. Das soll medizinischem Fachpersonal ermöglichen, sich kritisch mit den Ergebnissen des Systems auseinanderzusetzen, anstatt die KI als unangreifbare Autorität zu betrachten.
Gerade in ressourcenbeschränkten Gesundheitssystemen ist dieser Unterschied wichtig: KI soll die professionelle Entscheidung von Ärzt:innen unterstützen und nicht sie ersetzen.[1][2]
Lektion 2: Repräsentation
Wenn Offenheit dafür sorgt, dass KI überprüft werden kann, entscheidet Repräsentation darüber, wie verlässlich sie für unterschiedliche Menschen sein kann.
Eine aktuelle Übersichtsarbeit zu KI im Globalen Süden kommt zu einem deutlichen Ergebnis: Der Mangel an vielfältigen Daten gehört weiterhin zu den größten Hindernissen für faire und wirksame medizinische KI.
KI-Anwendungen, die überwiegend mit Daten aus einkommensstarken Ländern trainiert wurden, können im Globalen Süden schlechter funktionieren oder ungeeignete Ergebnisse liefern. Ein Grund dafür ist, dass lokale Gesundheitsdaten häufig fehlen, fragmentiert vorliegen, nicht digitalisiert sind oder gar nicht erhoben werden.
Das ist mehr als ein technisches Problem.
Es ist eine strukturelle Quelle möglicher Ungleichheit.
Genau deshalb gehört die Datenerhebung zu den wichtigsten Ergebnissen unseres Pilotprojekts in Äthiopien.
Innerhalb weniger Monate konnten wir rund 7.200 EKG-Aufzeichnungen äthiopischer Patient:innen erfassen. Diese Daten werden anonymisiert und für eine Open-Source-Veröffentlichung vorbereitet.
Nach unserem derzeitigen Kenntnisstand entsteht damit der erste EKG-Datensatz, der sich gezielt auf eine äthiopische Population konzentriert.
Das ist ein wichtiger Meilenstein.
Nicht nur, weil diese Daten künftig dazu beitragen können, EKG-Modelle für Patient:innen in Äthiopien relevanter und zuverlässiger zu machen. Sie tragen auch dazu bei, die wissenschaftliche Datengrundlage für medizinische KI insgesamt repräsentativer zu gestalten.
In Diskussionen über KI entsteht manchmal der Eindruck, bessere Modelle seien vor allem das Ergebnis größerer Rechenleistung oder komplexerer Architekturen.
Doch das greift zu kurz.
Bessere Modelle brauchen auch vielfältigere Daten, gute Validierung und eine angemessene Repräsentation der Menschen, für die sie entwickelt werden.
Datenvielfalt ist deshalb kein zusätzliches Fairness-Feature. Sie gehört zur wissenschaftlichen Grundlage zuverlässiger KI.
Für Förderorganisationen und politische Entscheidungsträger:innen ergibt sich daraus eine klare Konsequenz: Investitionen in lokale Dateninfrastrukturen, Data Governance und verantwortungsvolles Datenmanagement sind kein Nebenthema technologischer Innovation.
Sie sind eine ihrer Voraussetzungen.
Nur so können KI-Systeme verantwortungsvoll auf neue Kontexte übertragen werden oder noch besser: gemeinsam mit den Menschen vor Ort entwickelt werden.[6]
Lektion 3: Beteiligung
Doch auch Repräsentation allein reicht nicht aus.
Menschen dürfen nicht lediglich als Datenlieferant:innen betrachtet werden, während alle wichtigen Entscheidungen über Design und Entwicklung an einem anderen Ort getroffen werden.
Die WHO empfiehlt deshalb, Nutzer:innen sowie direkt und indirekt betroffene Gruppen bereits frühzeitig in strukturierte, inklusive und transparente Entwicklungsprozesse einzubeziehen.
Auch die Öffentlichkeit sollte verstehen können, wie Daten genutzt werden, welche gesellschaftlichen Auswirkungen ein System haben kann und welche Erwartungen oder Bedenken mit seinem Einsatz verbunden sind.
Aktuelle Forschung kommt zu ähnlichen Ergebnissen: Werden die Perspektiven lokaler Gemeinschaften bei der Einführung medizinischer KI nicht berücksichtigt, besteht die Gefahr, dass bestehende Ungleichheiten reproduziert oder sogar verstärkt werden.[5][10]
Wir verstehen Beteiligung deshalb zunehmend nicht nur als Kommunikationsprinzip, sondern als Forschungsprinzip.
Lokale Ärzt:innen und Institutionen kennen klinische Abläufe, Datenlücken und praktische Einschränkungen, die aus der Ferne kaum sichtbar sind. Ihre Beteiligung verbessert deshalb die Qualität und Relevanz eines Systems.
Gleichzeitig stärkt sie Vertrauen. Menschen vertrauen eher Technologien, an deren Entwicklung, Überprüfung und Anpassung sie selbst beteiligt waren.[9][3]
SUSTAIN-AI ECG funktioniert genau deshalb als Partnerschaft.
AHRI verantwortet die klinische Umsetzung und stellt sicher, dass das Projekt in die äthiopischen Gesundheitsstrukturen eingebettet ist. Die THM bringt die technische und wissenschaftliche Grundlage des KI-Modells ein. Lokale Krankenhäuser und medizinische Fachkräfte gestalten die tägliche Nutzung, Validierung und Integration in bestehende Prozesse mit.
Während des Pilotprojekts wurde das System in neun Krankenhäusern eingesetzt. Mehr als 30 medizinische Fachkräfte wurden im praktischen Umgang mit dem System geschult. Gleichzeitig wurde ihr Feedback systematisch gesammelt und dokumentiert.
Damit schaffen wir die Grundlage für eine künftig noch stärker lokalisierte Version unserer ECG4Africa-Plattform, für deren Weiterentwicklung und Skalierung wir derzeit nach Finanzierungsmöglichkeiten suchen.
Diese Form der Zusammenarbeit ist für uns weit mehr als eine praktische Notwendigkeit.
Sie sorgt dafür, dass sich die Technologie an den tatsächlichen Bedürfnissen des Umfelds orientiert, in dem sie eingesetzt wird.
Und sie stellt noch eine andere verbreitete Vorstellung über globale Innovation infrage: die Idee, dass Innovation grundsätzlich von wenigen technologischen Zentren ausgeht und sich von dort in den Rest der Welt verbreitet.
Unsere Erfahrung zeigt etwas anderes.
Länder wie Äthiopien sind nicht einfach Orte, an denen Technologie eingesetzt wird. Sie sind Orte, an denen neue Fragen gestellt werden. An denen neue wissenschaftliche Erkenntnisse entstehen. Und an denen sichtbar wird, wo angeblich universelle technologische Lösungen an ihre Grenzen stoßen.
Unsere Vorstellung von globaler KI ist eine andere
Die Begriffe „Globaler Norden“ und „Globaler Süden“ vereinfachen eine sehr komplexe Realität.
Auch innerhalb einkommensstarker Länder gibt es erhebliche Ungleichheiten. Gleichzeitig entstehen in Ländern mit begrenzteren Ressourcen wichtige technologische Innovationen.
Trotzdem beschreibt diese Unterscheidung eine reale Schieflage: Wer bestimmt heute überwiegend, wie neue Technologien entwickelt werden? Und wessen Lebensrealität wird dabei als universeller Standard vorausgesetzt?
Unsere Arbeit in Äthiopien hat uns eines besonders deutlich gemacht: Die Zukunft der KI wird nicht automatisch gerechter, nur weil KI weltweit verfügbarer wird.
Sie wird dann gerechter, wenn mehr Menschen die Möglichkeit bekommen, mitzubestimmen, wie KI entwickelt, trainiert, validiert, reguliert und verbessert wird.
Das ist ein höherer Anspruch als bloßer Zugang.
Es geht um Mitgestaltung. Um Beteiligung. Und um gemeinsame Verantwortung.
Genau dafür wollen wir uns einsetzen: für ein KI-Ökosystem, das offen genug ist, um überprüft zu werden. Für KI-Systeme, deren Daten die Menschen repräsentieren, denen sie dienen sollen. Und für Technologien, die gemeinsam mit den betroffenen Communities entwickelt werden statt ihnen präsentiert zu werden, nachdem alle wichtigen Entscheidungen längst getroffen wurden.
Das SUSTAIN-AI-ECG-Pilotprojekt zeigt, wie ein solcher Ansatz in der Praxis aussehen kann: reale klinische Anwendung, lokale Schulungen, neue Datengrundlagen, grenzüberschreitende Zusammenarbeit und ein Weg hin zu repräsentativeren Daten für kardiovaskuläre KI.
Die Bedeutung dieses Ansatzes geht für uns weit über ein einzelnes Projekt oder ein einzelnes Land hinaus.
Er steht für eine reifere Form von AI4Good.
Eine Form, bei der es nicht darum geht, Technologie als Retterin zu inszenieren, sondern um Zusammenarbeit, Lernbereitschaft und vertrauenswürdige Institutionen.
Gemeinsam gestalten
Unsere Einladung an Unterstützer:innen, Mentor:innen und Förderorganisationen ist deshalb klar: Unterstützt KI, die überprüft werden kann, statt nur gut vermarktet zu werden.
Fördert Datenökosysteme, die Repräsentation verbessern, statt bestehende Verzerrungen weiter zu verstärken.
Und stärkt Partnerschaften, in denen lokale Institutionen echte Mitgestalter von Innovation sind und nicht lediglich Orte, an denen fertige Technologien getestet oder ausgerollt werden.
Für Forschende kann das bedeuten, sich zu fragen: Wessen Daten fehlen? Und wessen Expertise fehlt bei der Validierung?
Für politische Akteur:innen bedeutet es, abstrakte Prinzipien in konkrete Anforderungen an Governance und Verantwortlichkeit zu übersetzen.
Und für öffentliche und philanthropische Förderorganisationen bedeutet es anzuerkennen, dass langfristig faire KI nicht nur Investitionen in einzelne Tools benötigt. Sie braucht Investitionen in Kompetenzen, Infrastruktur und offen zugängliche wissenschaftliche Erkenntnisse.
Was uns optimistisch macht: Dieser Wandel findet bereits statt.
In Äthiopien zeigen Ärzt:innen, Forschende, öffentliche Institutionen und Technologiepartner gemeinsam, dass wir gerechtere KI entwickeln können. Nicht auf Basis von Annahmen, sondern durch Beteiligung.
Der nächste Schritt besteht darin, diesen Kreis größer zu machen.
Wenn die Zukunft der KI der Menschheit gerecht dienen soll, dann muss die Vielfalt der Menschheit auch in ihrer Entwicklung vertreten sein.
Das ist nicht nur ein moralischer Anspruch. Es ist eine wissenschaftliche und institutionelle Notwendigkeit.
Und wir laden euch ein, daran mitzuwirken.
Mit freundlichen Grüßen
MI4People
Quellen
