KI für das Gemeinwohl hängt weiterhin von Institutionen, Arbeit und lokalem Vertrauen ab

Die stärkste Kritik an „KI wird das lösen“ ist nicht technikfeindlich

Künstliche Intelligenz wird zunehmend als Lösung für Probleme in Bildung, Landwirtschaft, Beschäftigung und öffentlicher Dienstleistung vermarktet. Dieses Framing ist verführerisch, weil es komplizierte soziale Missstände in eine handhabbare ingenieurtechnische Aufgabe verwandelt. Wenn Institutionen langsam, unterfinanziert oder fragmentiert sind, wirkt das Versprechen eines reaktionsfähigen Modells beinahe unwiderstehlich.

Doch ein in Rest of World veröffentlichter Essay argumentiert, dass dieses Framing die zentrale Realität sozialer Systeme verfehlt: Technische Leistungsfähigkeit allein reicht nicht aus. Selbst anspruchsvolle KI-Tools brauchen menschliche Unterstützung, institutionelle Kapazitäten und lokale Rechenschaft, wenn sie mehr sein sollen als nur beeindruckende Demos.

Der Artikel, verfasst von den Cornell-Forschern Deepak Varuvel Dennison und Aditya Vashistha, bestreitet das echte Potenzial von KI nicht. Er erkennt ausdrücklich wachsende Hinweise auf Produktivitätsgewinne und die Attraktivität von KI im privaten wie im öffentlichen Sektor an. Sein Argument ist enger, aber wichtiger: KI in unterversorgten Gemeinschaften einzusetzen, ist nicht dasselbe wie ihre Probleme zu lösen.

Der Widerspruch im Zentrum von AI for good

Der Essay hebt eine strukturelle Spannung hervor. KI wird oft als Werkzeug präsentiert, um Ungleichheit, Ausgrenzung und Versorgungslücken zu adressieren. Doch die Systeme selbst sind von extraktiven Lieferketten, konzentrierter Macht und bestehenden Ungleichheiten geprägt. Unter Bezug auf Themen aus Büchern wie AI Snake Oil und Atlas of AI verorten die Autoren KI nicht als neutrale Softwareschicht, sondern als soziotechnisches System, das auf natürlichen Ressourcen, menschlicher Arbeit und verfestigten Institutionen beruht.

Das ist wichtig, weil die Gemeinschaften, auf die Projekte für „KI für das Gemeinwohl“ am häufigsten zielen, auch diejenigen sind, die die Kosten schlecht gestalteter Eingriffe am ehesten tragen müssen. Ein Modell, das aus der Distanz effizient erscheint, kann vor Ort dennoch scheitern, wenn es Sprache, Vertrauen, Zugang, Governance oder die menschlichen Vermittler ignoriert, die nötig sind, um seine Ergebnisse in Handlungen umzusetzen.

Die zentrale Frage ist also nicht, ob KI helfen kann. Entscheidend ist, welche Bedingungen existieren müssen, damit sie auf dauerhafte und verantwortliche Weise helfen kann.

Warum Institutionen wichtiger sind als Demos

Die Autoren untersuchten acht KI-Systeme, die zur Lösung sozialer Probleme im globalen Süden eingesetzt wurden. Aus dem hier verfügbaren Ausgangstext ist die zentrale Schlussfolgerung des Artikels, dass KI nur dann funktioniert, wenn sie mit menschlicher Unterstützung und institutioneller Kapazität kombiniert wird. In der Praxis bedeutet das geschultes Personal, funktionierende Dienstleistungsketten, Beziehungen in der Gemeinschaft und Organisationen, die auf das reagieren können, was die Technologie sichtbar macht.

Das ist ein entscheidender Punkt, weil viele KI-Einsätze nach Modellleistung und nicht nach Ergebnissen im weiteren Verlauf bewertet werden. Ein System kann zusammenfassen, klassifizieren oder vorhersagen und dennoch niemandes Leben verbessern, wenn keine Behörde auf die Informationen reagieren kann. In sozialen Kontexten ist die letzte Meile oft die ganze Geschichte.

Man stelle sich vor, eine KI erkennt einen Bedarf, aber es gibt kein Personal, keine Finanzierung und keine rechtliche Befugnis zu reagieren. Das System kann weiterhin Dashboards produzieren, aber das Ergebnis ist administratives Theater statt gelöster Probleme. Der Essay argumentiert, dass genau diese Lücke zwischen technischer Verheißung und Umsetzungskapazität der Ort ist, an dem viele AI-for-good-Initiativen stillschweigend scheitern.

Gemeinschaften sind keine Einsatzumgebungen

Eine weitere Implikation des Essays ist, dass unterversorgte Gemeinschaften nicht als Testfelder für generische Werkzeuge betrachtet werden sollten. Soziale Probleme sind in lokale Geschichten, Normen und Machtstrukturen eingebettet. Systeme, die diese Realitäten ignorieren, können Ausgrenzung reproduzieren und dabei Neutralität behaupten.

Das ist besonders relevant in Bereichen wie Landwirtschaft, Bildung und öffentlichem Zugang zu Dienstleistungen, in denen informelle Vermittler und Beziehungen vor Ort oft darüber entscheiden, ob Menschen ein System tatsächlich nutzen können. KI kann diese Systeme unterstützen, ersetzt sie aber selten. Die Arbeit des Übersetzens, Erklärens, Prüfens und Vertrauensaufbaus bleibt hartnäckig menschlich.

Der Artikel wehrt sich auch gegen die verbreitete Vorstellung, dass ein leistungsfähigeres Modell Umsetzungslücken automatisch schließen werde. Besseres Schlussfolgern oder stärkere Sprachkompetenz können Teile eines Workflows verbessern, schaffen aber keine Institutionen, wo keine existieren. Sie reparieren weder defekte Vergabeverfahren noch fragile lokale Verwaltung oder unterfinanzierte Behörden.

Was eine ernsthaftere AI-for-good-Agenda erfordern würde

Wenn der Essay recht hat, muss ein sinnvoller KI-Einsatz in sozialen Bereichen mit Designvorgaben beginnen, die viele Produktteams lieber als externe Effekte behandeln. Systeme brauchen klare Verantwortungsstrukturen. Sie brauchen menschliche Operatoren, die eingreifen, erklären und Ergebnisse anfechten können. Sie brauchen Institutionen, die Empfehlungen in tatsächliches Handeln überführen können. Und sie brauchen genug lokale Verankerung, um keine technische Antwort auf ein soziales Problem aufzuzwingen, das nicht richtig verstanden wurde.

Das macht KI nicht irrelevant. Im Gegenteil, es zeigt, wo sie am nützlichsten sein kann: nicht als Ersatz für öffentliche Systeme, sondern als Bestandteil innerhalb dieser Systeme. So eingesetzt kann KI Verwaltungsaufwand senken, den Zugang zu Informationen erweitern, Triage unterstützen und Frontline-Beschäftigten helfen, begrenzte Ressourcen besser zu nutzen.

Diese Vision ist jedoch langsamer und weniger glamourös als das Versprechen, KI könne institutionelles Versagen einfach umgehen. Sie erfordert Investitionen in Menschen ebenso wie in Software und in Governance ebenso wie in Modelle.

Der Wert des Rest of World-Essays liegt darin, dass er die Debatte auf die ersten Prinzipien zurückführt. Soziale Probleme bestehen nicht, weil niemand eine ausreichend clevere Oberfläche gebaut hat, sondern weil dauerhafte Lösungen von Vertrauen, Kapazität und Macht abhängen. KI kann innerhalb dieser Landschaft helfen. Sie kann sie nicht wegwünschen.

Während Regierungen, NGOs und Unternehmen weiter KI in öffentlich sichtbaren Systemen einsetzen, wird diese Unterscheidung immer wichtiger. Die nächste Phase von AI for good wird weniger daran gemessen werden, was Modelle erzeugen können, als daran, ob Institutionen das, was sie erzeugen, verantwortungsvoll nutzen können. Das ist ein härterer Maßstab, aber genau der, der zählt.

Dieser Artikel basiert auf einem Bericht von Rest of World. Den Originalartikel lesen.