Trainingsdaten für KI könnten zum nächsten 100-Milliarden-Dollar-Wettlauf werden

Der nächste KI-Engpass könnte Daten sein, nicht die Modellgröße

Ein ehemaliger OpenAI-Forscher vertritt nachdrücklich die These, dass der nächste große KI-Wettlauf sich um Trainingsdaten und nicht allein um Skalierung drehen wird. Laut Berichten von The Decoder hat Andrew Ho OpenAI nach acht Monaten verlassen, um ein Unternehmen aufzubauen, das sich auf die Erzeugung hochwertiger, spezialisierter Datensätze konzentriert. Auslöser ist seine Ansicht, dass große Sprachmodelle bei wirtschaftlich wichtigen Aufgaben weiterhin schlecht generalisieren.

Diese Behauptung widerspricht einer der beständigsten Annahmen der modernen KI: dass größere Modelle, die mit mehr Rechenleistung trainiert werden, ihre Fähigkeiten über Domänen hinweg weiter ausbauen. Ho hält das für nicht ausreichend. Aus seiner Sicht sind viele wertvolle Tätigkeiten zu stark kontextabhängig, in den vorhandenen Datensätzen zu schwach repräsentiert oder innerhalb bestehender Datensätze zu schwer zu bewerten, als dass der heutige Skalierungsansatz sie zuverlässig erfassen könnte.

Das ist relevant, weil es den Fokus von der sichtbaren Konkurrenz zwischen Frontier-Modell-Labors hin zu dem weniger glamourösen, aber zunehmend strategischen Geschäft der Datenerzeugung verschiebt. Wenn Ho recht hat, könnte der nächste dauerhafte Vorteil in der KI demjenigen zufallen, der auf industrieller Ebene aufgabenspezifische Beispiele sammeln, strukturieren und validieren kann.

Warum aktuelle Datensätze möglicherweise unzureichend sind

Der Ausgangsbericht sagt, Ho glaube, das Kernproblem sei, dass die meisten wirtschaftlich relevanten Fähigkeiten in den bestehenden Trainingskorpora kaum vertreten seien. Internet-Text in großem Umfang habe gereicht, um leistungsfähige Chatbots, Code-Assistenten und Recherchetools zu schaffen, aber möglicherweise nicht, um Modellen beizubringen, spezialisierte Arbeit mit konstanter Zuverlässigkeit auszuführen.

Hos Kritik ist besonders scharf, weil sie aus dem Inneren des Frontier-Modell-Ökosystems kommt und nicht von einem externen Skeptiker. Er argumentiert, dass selbst dann, wenn Menschen einen „goldenen Pfad“ durch eine Aufgabe erkennen können, es schwierig ist zu wissen, ob alternative Pfade ebenfalls gut, schlecht oder unvollständig sind. Diese Unschärfe macht es schwer, viele reale Fähigkeiten in saubere Benchmark-Umgebungen zu überführen.

Mit anderen Worten: Die Herausforderung besteht nicht einfach darin, mehr Text zu sammeln. Es geht darum, Datensätze aufzubauen, die Kontext, Ergebnisse, Grenzfälle und Qualitätsindikatoren in Bereichen bewahren, in denen Fehler teuer sind und gute Leistung von implizitem Wissen abhängt. Das ist ein deutlich schwierigeres Datenproblem als das bloße Scrapen des öffentlichen Webs.

Von breitem KI-Anspruch zur engeren Umsetzung in Domänen

Hos These wird im Bericht durch Arbeiten des Cambridge-Forschers Adam Hunt und durch Unterstützung von Forschern bei Google DeepMind untermauert, die argumentieren, dass sich aktuelle Systeme eher spezialisieren als universell leistungsfähiger werden. Das bedeutet, dass manche Schlagzeilen-Erfolge ein ungleichmäßigeres Bild verdecken können: Modelle können in ausgewählten Bereichen schärfer werden, während sie in anderen stagnieren oder schwächer werden.

Dieser Unterschied ist wichtig für Unternehmen, die KI in Laboren, Gesundheitsabläufen, wissenschaftlicher Analyse oder anderen hochwertigen Umgebungen einsetzen wollen. Ein Modell, das in Demonstrationen beeindruckt, aber in der Praxis inkonsistent ist, reicht nicht aus. Zuverlässigkeit, Wiederholbarkeit und domänenspezifische Kompetenz sind wichtiger als breite, aber oberflächliche Sprachgewandtheit.

Wenn Modellentwickler bei kreativer Problemlösung oder allgemeinem Transfer an eine Grenze stoßen, werden zielgerichtete Daten zu einem Mittel, um Fähigkeiten dort voranzubringen, wo es wirklich zählt. Das ist im Kern Hos Wette: nicht, dass Skalierung nutzlos ist, sondern dass ihre Erträge sinken, wenn sie nicht mit Daten kombiniert wird, die um konkrete Aufgaben herum gestaltet sind.

Die ersten Ziele: Bioinformatik und Routine-Laborarbeit

Das Unternehmen, das Ho aufbaut, soll laut Bericht mit zwei Bereichen starten. Der eine ist die Bioinformatik, in der aktuelle Modelle wie GPT-5.6 Sol laut Artikel bei komplexen wissenschaftlichen Analysen mit Bezug zu Hos früherer Arbeit bei OpenAI nur eine Erfolgsquote von etwa 30 Prozent erreichen. Der zweite Bereich ist Routine-Laborarbeit, einschließlich Szenarien, in denen Forschende Bilder von Experimenten an KI-Systeme zur Bewertung übermitteln.

Diese Startpunkte sind aufschlussreich. Beide Domänen verlangen von nützlicher KI mehr als sprachliche Nachahmung. Bioinformatik umfasst oft mehrstufiges Denken, Fachkonventionen, wissenschaftlichen Kontext und hohe Fehlertoleranz-Sensitivität. Laborabläufe können von visuellem Urteil, prozeduralem Verständnis und praktischer Interpretation abhängen, nicht von Lehrbuchantworten. Genau das sind Umgebungen, in denen minderwertige oder generische Daten Modelle in Gesamtmetriken kompetent erscheinen lassen können, obwohl sie bei entscheidenden Anwendungen scheitern.

Laut Bericht sind als Nächstes Chemie, Materialwissenschaften, Gesundheitswesen und breitere Wissensarbeit geplant. Diese Roadmap deutet auf eine kommerzielle Strategie hin, die auf Branchen aufbaut, in denen Fehler Kosten verursachen und in denen maßgeschneiderte Daten zu einer verteidigungsfähigen Infrastruktur werden könnten.

Eine Herausforderung für die Ökonomie der Frontier-Labors

Ho scheint auch skeptisch gegenüber den enormen Bewertungen zu sein, die Frontier-KI-Labors zugeschrieben werden. Wie The Decoder zusammenfasst, argumentiert er, dass Unternehmen wie OpenAI und Anthropic chronisch unrentabel seien, weil sie ständig massiv in neue Modelle investieren müssten, nur um gegenüber günstigeren Rivalen wie Qwen oder Kimi vorne zu bleiben. Unabhängig davon, ob man dieser vollständigen Diagnose zustimmt, verweist sie auf eine wachsende Spannung im Markt.

Wenn die Grenzkosten der Frontier-Skalierung hoch bleiben, während offene oder günstigere Wettbewerber die Lücke schließen, dann könnte der proprietäre Vorteil aus etwas kommen müssen, das schwerer zu reproduzieren ist als die Modellgröße allein. Kuratierte Datensätze, private Workflows, verifizierte Ergebnisse und domänenspezifische Feedbackschleifen erfüllen diese Anforderung besser als rohe Skalierung. Sie sind langsamer aufzubauen, schwerer zu kopieren und oft enger an konkrete Kundennutzungen gebunden.

Das bedeutet nicht, dass Basismodelle aufhören wichtig zu sein. Es bedeutet, dass ihre Differenzierung zunehmend von der Qualität der Daten abhängen könnte, die sie umgeben. In diesem Szenario sitzen Datenunternehmen nicht nachgelagert zu den Modelllabors; sie werden zu einem kritischen Teil des Fähigkeitsstapels.

Was ein 100-Milliarden-Dollar-Datenmarkt signalisieren würde

Hos Schätzung, dass KI-Labors in den kommenden Jahren mehr als 100 Milliarden Dollar für gezielte Datenerfassung ausgeben werden, ist eine kühne Prognose, aber die strategische Logik ist leicht nachzuvollziehen. Wenn allgemeine Webdaten als Quelle leichter Gewinne erschöpft sind, braucht die Branche neues Rohmaterial. Dieses Rohmaterial könnten annotierte wissenschaftliche Aufgaben, validierte Unternehmensworkflows, multimodale Laboraufzeichnungen oder andere strukturierte Erfahrungen sein, die aktuelle Modelle während des Trainings nicht ausreichend sehen.

Solche Ausgaben würden auch verändern, wer vom KI-Boom profitiert. Statt den Wert vor allem bei Chipherstellern, Hyperscalern und Frontier-Modellentwicklern zu konzentrieren, würde ein datengetriebener Zyklus Domänenexperten, Labeling-Systeme, Synthetic-Data-Tools, Unternehmensdaten-Partnerschaften und Organisationen aufwerten, die Qualität in spezialisierten Umgebungen messen können.

Die größere Lehre ist, dass der KI-Wettbewerb in eine weniger sichtbare, aber grundlegendere Phase eintreten könnte. Der nächste Sprung nach vorn kommt womöglich nicht einfach daher, Modelle größer zu machen. Er könnte daraus entstehen, sie besser zu lehren, mit Daten, die für die chaotische, kontextabhängige und risikoreiche Arbeit gebaut sind, die sich der Automatisierung weiterhin entzieht. Ho setzt darauf, dass diese Verschiebung keine Nebenstory ist. Er wettet darauf, dass sie zu einem der definierenden Märkte des nächsten KI-Zyklus wird.

Dieser Artikel basiert auf einem Bericht von The Decoder. Den Originalartikel lesen.