Wem gehört die KI?

Foto von Jornada Produtora auf Unsplash

von Darwish Thajudeen 

Überall in Europa setzen Initiativen, Wohlfahrtsorganisationen und NGOs bereits KI ein, um Dokumente für Geflüchtete zu übersetzen, Fallnotizen zusammenzufassen... damit Mitarbeitende mehr Zeit für Menschen haben. Das sind Beispiele für „KI for Good" in der Praxis und sie zeigen genau das, worauf wir bei MI4People setzen: KI für öffentliches Wohl, Gesundheit, Umwelt und Gesellschaft.

Aber sie werfen auch eine unbequeme Frage auf: Wem gehört die KI, die wir nutzen und wer entscheidet, was sie darf? Die naheliegende Antwort ist „dem Unternehmen, das sie gebaut hat".

Aktuelle Forschung zur KI-Souveränität zeigt jedoch ein anderes Bild: Kontrolle verteilt sich auf Unternehmen, Regierungen und technische Infrastruktur (Brookings-Hintergrund). Wer KI nutzt, um einen Bericht zu schreiben oder Daten zu analysieren, interagiert nicht mit neutraler Software. Man tritt in ein Ökosystem ein, geprägt von Regeln, Anreizen und Abhängigkeiten, die bestimmen, welche Funktionen existieren, wer Zugang bekommt und was als akzeptable Nutzung gilt. Deshalb lohnt es sich, genauer hinzusehen:

Wer kontrolliert die eingegebenen Daten? Wer entscheidet, wie sich das System weiterentwickelt? Wer setzt die Regeln und kann sie ändern? Wer kann überhaupt nachvollziehen, wie Entscheidungen zustande kommen? Und was passiert, wenn der Zugang plötzlich wegfällt? Das sind keine reinen IT-Fragen, sie betreffen Vertrauen, Unabhängigkeit und Demokratie, wie aktuelle Arbeiten zu Menschenrechten und KI-Souveränität zeigen (Just Security). Bei MI4People sehen wir es so: Organisationen, die für Mensch und Planet arbeiten, sollten sich diese Fragen stellen und zwar bevor KI-Abhängigkeit verstetigt sind.

Ebenen der Kontrolle

Drei sich überlappende Ebenen helfen zu verstehen, wem die genutzte KI wirklich gehört.

Die erste ist unternehmerische Eigentümerschaft. Das Unternehmen hinter dem Modell legt Preise fest, entscheidet, wer welche Funktionen nutzen darf, schreibt die Nutzungsbedingungen und bestimmt die Richtung künftiger Entwicklung. NGOs kennen diese Dynamik bereits von Social Media und Cloud-Plattformen, eine Produktentscheidung anderswo, und plötzlich funktioniert die eigene Kommunikation nicht mehr. KI erweitert diese Abhängigkeit nun auf andere Bereiche: Übersetzung, Zusammenfassung, Risikoanalyse. Die Fähigkeit, Gemeinschaften zu dienen, kann so von Entscheidungen abhängen, die weit außerhalb des lokalen Kontexts getroffen werden (Brookings).

Staatliche Kontrolle: Regierungen behandeln fortgeschrittene KI-Systeme zunehmend als strategische Infrastruktur vergleichbar mit Energienetzen oder Telekommunikation und bauen entsprechende nationale und regionale Rahmenwerke auf (Brookings-Bericht). In den USA rahmt das "National Policy Framework for AI" fortgeschrittene KI explizit als Frage der nationalen Sicherheit und drängt auf stärkere föderale Aufsicht (CSET). In Europa verknüpfen das Tech Sovereignty Package und die EU-Open-Source-Strategie KI, Cloud, Chips und offene Technologien direkt mit digitaler Autonomie (Europäische Kommission). Der Zugang zu bestimmten Fähigkeiten kann also davon abhängen, wo eine Organisation sitzt, welchen Sektor sie bedient und wie Risiko und Souveränität definiert sind.

Die dritte Ebene ist organisationale Souveränität: Kann die Organisation wählen, wo ihre Daten liegen? Versteht sie, wie KI-gestützte Entscheidungen entstehen? Könnte sie den Anbieter wechseln, ohne ihre Historie zu verlieren? Lassen sich Tools an lokale Sprachen und Kontexte anpassen? Behält sie die Kontrolle über kritische Arbeitsabläufe? Forschung zu souveräner KI legt nahe: Open Source, offene Standards und Interoperabilität sind entscheidend, um diese Fragen gut zu beantworten (Linux Foundation).

Datensouveränität

„Datensouveränität" klingt nach einem Begriff aus dem Lehrbuch, was ist damit gemeint?Können Organisationen informierte Entscheidungen über die Infrastruktur und Daten treffen, von denen sie abhängen und trotzdem global zusammenarbeiten (Brookings)? Für die Zivilgesellschaft heißt das: Wissen, wer jetzt und in Zukunft auf Informationen zugreifen kann, welche Gesetze gelten, wie Daten verarbeitet und kombiniert werden, und wie die Abhängigkeit von bestimmten Tools über Zeit gesteuert wird (Open-Source-Strategie). Das ist wichtig, weil NGOs oft sensibles Material verwalten: Aussagen vulnerabler Gruppen, Gesundheitsdaten, Migrationsgeschichten, Bildungsdaten, Menschenrechtsdokumentation, Mitgeidesdaten... alles über Jahre aufgebautes Vertrauen. Es wird nicht reichen zu sagen, unser Anbieter ist DAGVO-konform". Es braucht Technologieentscheidungen, die mit den eigenen Werten und den Erwartungen der bedienten Gemeinschaften übereinstimmen, ein Punkt, der auch in den Prioritäten zivilgesellschaftlicher KI-Governance immer wieder auftaucht (The Future Society). Die eigentliche Frage lautet: Stärken KI-Entscheidungen dieses Vertrauen, oder untergraben sie es?

Offenheit, Abhängigkeit und Rechenschaftspflicht

In der öffentlichen Debatte wird KI oft als „Open Source gegen Big Tech" verhandelt. Für NGOs ist das selten die hilfreichste Frage. Kommerzielle Anbieter haben leistungsfähige Tools gebaut, die die Arbeit von Organisationen verbessern können. Open-Source-Projekte und offene Standards bieten dagegen Transparenz, Flexibilität und Unabhängigkeit, die proprietäre Systeme selten erreichen (Europas digitale Souveränität beginnt mit Open Source; Linux Foundation). Die praktischere Frage für die Zivilgesellschaft: Wird man abhängig von Systemen, die man nicht verstehen, prüfen oder ersetzen kann? Viele Organisationen kennen das bereits von Social Media und Cloud-Plattformen, Strategien, vollständig auf externen Diensten aufgebaut, die brüchig wurden, sobald sich Algorithmen, Bedingungen oder Geschäftsmodelle änderten (FSFE). Daraus lässt sich lernen: Kommerzielle Tools können dort weiter genutzt werden, wo sie sinnvoll sind. Für Kernprozesse und sensible Daten sollten offene, überprüfbare Alternativen gezielt gestärkt werden.

Offenheit ist dabei nicht automatisch ethisch. Ein offenes Modell kann trotzdem verzerrt sein, eine offene Plattform trotzdem missbraucht werden. Was Offenheit bietet, ist die Möglichkeit echter Rechenschaftspflicht (Linux Foundation). Sind Code, Dokumentation und Governance-Prozesse sichtbar (auch nur teilweise) können unabhängige Forschende sie prüfen, Bedenken äußern, Organisationen Systeme an lokale Gegebenheiten anpassen. Probleme werden öffentlich diskutiert statt in proprietärer Logik verborgen (LFAI & Data). Für NGOs zählt oft am Ende nicht das Label „Open Source", sondern ob genug über die Technologie verstanden werden kann, um ihr die eigene Mission anzuvertrauen.

Die Rolle der Zivilgesellschaft

Hochrangige KI-Richtlinien und -Produkte werden derzeit vor allem von Regierungen und großen Unternehmen geprägt. Die Zivilgesellschaft sitzt dabei aber nicht nur am Rand (Brookings-Initiative). Konsultationen und Befragungen zeigen: NGOs und Gemeinschaftsorganisationen bringen Perspektiven ein, die sonst fehlen, die gelebte Erfahrung vulnerabler Menschen, lokale Sprachen und Kulturen, den sozialen Kontext hinter Daten, ein Gespür dafür, wie echte Wirkung vor Ort aussieht (The Future Society; KI-Governance-Prioritäten). KI sollte nicht nur für Märkte gestaltet werden, sondern auch für Gesellschaften. Die Zivilgesellschaft trägt dazu bei, indem sie Transparenz einfordert, bevor Tools eingeführt werden, darauf besteht, dass Governance-Rahmenwerke Betroffene einbeziehen, und wo möglich offene, partizipative Ansätze wählt.. Jede Technologieentscheidung sendet ein Signal. Jede Frage zu Datenkontrolle, Erklärbarkeit oder Anbieterwechsel schiebt das gesamte Ökosystem ein Stück Richtung mehr Rechenschaftspflicht (Partnership on AI).

Warum MI4People sich für Offenheit entscheidet

Für MI4People ist Offenheit kein Nebenaspekt, sondern Teil der eigenen Identität als KI4Good-Initiative, die mit Partnern in Deutschland und darüber hinaus zusammenarbeitet. Die Arbeit reicht über öffentliches Wohl, Gesundheit, Umwelt und Gesellschaft, getragen von der Überzeugung, dass Organisationen die Technologien, von denen sie abhängen, verstehen sollten und ein Mitspracherecht bei deren Weiterentwicklung brauchen. Deshalb stehen Tools und Ansätze im Vordergrund, die offen, transparent, datenschutzbewusst, erklärbar und interoperabel sind – im Einklang mit breiteren ethischen Rahmenwerken für eine gute KI-Gesellschaft (AI4People / PubMed).

Offene Standards und offene Tools sind keine reine Geschmacksfrage von Entwickler:innen. Sie sind Bausteine demokratischer Infrastruktur: Sie helfen Gemeinschaften, Forschenden, öffentlichen Institutionen und NGOs bei der Zusammenarbeit. Sie erhalten Organisationen genug Unabhängigkeit, um ihre Mission zu verfolgen. Und sie ermöglichen, Rechenschaftspflicht von Anfang an in digitale Systeme einzubauen (Linux Foundation). Offenheit hält Menschen als aktive Teilnehmende an der Zukunft der KI, statt sie zu passiven Konsumentinnen und Konsumenten fremder Entscheidungen zu machen (AI Now Institute).

Und, wem gehört die KI, die wir nutzen jetzt? Eigentümerschaft ist geteilt und umstritten, verteilt über Unternehmen, Staaten und Infrastrukturen. Die wichtigere Frage ist eine andere: Wem soll KI dienen? In erster Linie den Menschen. Die Zukunft der KI sollte offen genug sein, um sie zu prüfen, transparent genug, um ihr zu vertrauen, und zugänglich genug, um allen zu nützen (EU-Mitteilung zur Tech-Souveränität; Linux Foundation Europe). Technologie für das Gemeinwohl darf nie zu etwas werden, das die Öffentlichkeit nicht mehr versteht, beeinflusst oder hinterfragt.

Die Zukunft der KI sollte nicht hinter verschlossenen Türen entstehen. Sie sollte gemeinsam mit Gemeinschaften, für Gemeinschaften, und zunehmend von Gemeinschaften selbst entwickelt werden (NGI Commons; AI for Good).

Eine Frage bleibt am Ende, wenn Organisationen über ihre bestehenden und künftigen Tools nachdenken: Wie können KI-Entscheidungen die Menschen, denen gedient wird und ihre Fähigkeit stärken, statt sie zu schwächen,? MI4People sucht diese Antwort gemeinsam und wir helfen dabei, offene, transparente und rechenschaftspflichtige KI aufzubauen, die wirklich dem Gemeinwohl dient.