LegalOn halbiert Codex-Kosten bei gleichem Entwicklungstempo

LegalOn Technologies bietet weltweit Professional AI an und unterstützt mit KI die juristische Arbeit sowie weitere zentrale Unternehmensfunktionen. Die Verbindung von Fachwissen und KI ermöglicht es Menschen, sich auf komplexe Beurteilungen und Entscheidungen zu konzentrieren. Ziel ist eine KI-gestützte Unternehmensführung, die bessere und schnellere Geschäftsentscheidungen ermöglicht.

Dieser Ansatz geht über die Produkte hinaus: Auch die Organisation selbst soll von Grund auf auf KI ausgerichtet werden. Das Unternehmen integrierte Codex in seinen Entwicklungsprozess. Durch den täglichen Einsatz verbreitete sich die Nutzung in der gesamten Organisation.

Mit zunehmender Nutzung entstand eine neue Herausforderung: die Kostenkontrolle. Der unbegrenzte Einsatz leistungsstarker Modelle konnte die Ausgaben erhöhen. Pauschale Einschränkungen wiederum drohten die durch KI erzielten Produktivitätsgewinne zu schmälern.

Wie ließen sich die Kosten senken, ohne die Entwicklung zu verlangsamen? LegalOn Technologies begegnete dieser Herausforderung, indem es je nach Aufgabenkomplexität und Entwicklungsphase zwischen GPT‑6 (Astra, Luna) und GPT‑6.1 Sol wählte und die Budgets auf die Wachstumsphase des jeweiligen Geschäftsbereichs abstimmte. Das Unternehmen halbierte die Kosten bei gleichbleibendem Entwicklungstempo.

Anfangs gewährte das Unternehmen seinen Entwicklungsteams unbegrenzten Zugriff auf sein Hauptmodell GPT‑5.5 im Schnellmodus. Die Teams weiteten den Einsatz auf Konzeption, Implementierung und alltägliche Aufgaben aus. Durch Experimentieren lernten sie, wie sich die Arbeit am besten zwischen Menschen und KI aufteilen ließ.

Ein weiterhin unbegrenzter Einsatz leistungsstarker Modelle würde jedoch unweigerlich das Jahresbudget überschreiten. Das AI-powered Development CoE (AID CoE) des Unternehmens begann, Richtlinien für die Modellauswahl zu entwickeln. Das AID CoE testete und überwachte Modelle. Führungskräfte teilten die Erkenntnisse mit ihren Teams. So konnte jede Person im Entwicklungsteam eigenständig das am besten geeignete Modell für ihre jeweilige Aufgabe wählen.

Die neuen Richtlinien führten zu einem Umdenken: Statt für jede Aufgabe das leistungsstärkste Modell einzusetzen, wählte das Unternehmen nun das jeweils passende Modell. Die Teams begannen mit einem schlanken Modell und wechselten bei komplexeren Aufgaben zu leistungsfähigeren Modellen.

Zur Unterstützung der Governance führte das Unternehmen außerdem Systemkontrollen über die Administrationseinstellungen ein, mit monatlichen Nutzungslimits für Abteilungen und Einzelpersonen. Das AID CoE überwacht die Nutzung und passt die Limits an den geschäftlichen Bedarf an.

Interne Tests unter diesen Vorgaben halfen, die Auswahlkriterien zu konkretisieren. GPT‑6 Luna, das schlankste Modell, übernimmt die Code-Implementierung bei klaren Anforderungen. GPT‑6.1 Sol unterstützt gängige Konzeptionsaufgaben, Datenanalysen und die Dokumentenerstellung. GPT‑6 Astra, das leistungsfähigste Modell, übernimmt Aufgaben, die anspruchsvolle Abwägungen erfordern, etwa den Architekturentwurf. Die aufgabengerechte Modellauswahl wurde nach und nach zur gemeinsamen Praxis aller Teams.

Neben der Modellauswahl schränkte das Unternehmen den Schnellmodus standardmäßig ein und genehmigte individuelle Anfragen nur bei Bedarf. Die Änderung weckte zwar Bedenken hinsichtlich des Entwicklungstempos. Doch durch Ansätze wie die parallele Ausführung von Aufgaben konnten die Teams ihre Leistung halten und den Übergang reibungslos gestalten.

Zudem führte das Unternehmen Budgetobergrenzen für KI-Ausgaben auf Abteilungs-, Gruppen- und Personenebene ein. Der etablierte Geschäftsbereich LegalOn sollte seine Kosteneffizienz um bis zu rund 20 % steigern. Neue Geschäftsbereiche in der Startphase erhielten dagegen großzügige Budgets, um den aktiven Einsatz von KI zu fördern.

Yuta Tokitake, Senior Engineering Manager bei LegalOn Technologies, erklärt, dass neue Geschäftsbereiche ihrem Geschäftstempo Vorrang vor der Kosteneffizienz einräumten. Ziel war es, durch einen umfassenden KI-Einsatz mehr zu leisten und letztlich das Geschäftswachstum voranzutreiben.

Zusammen senkten die Modellauswahl, Funktionseinschränkungen und auf die Geschäftsbereiche zugeschnittene Budgets die geschätzten Tageskosten um rund 65 %. So blieb das Gesamtbudget unter Kontrolle, während Ressourcen gezielt in Geschäftsbereiche flossen, deren Wachstum das Unternehmen fördern wollte.

Der optimierte Modelleinsatz und die strategische Ressourcenverteilung führten zu folgenden Ergebnissen:

• Statt stets das leistungsfähigste Modell einzusetzen, wählten die Teams GPT‑6 Astra, GPT‑6.1 Sol oder GPT‑6 Luna je nach Aufgabenkomplexität und Entwicklungsphase.

• Die Entwicklungsleistung blieb auch nach der standardmäßigen Einschränkung des Schnellmodus erhalten. Dazu trugen Teampraktiken wie die parallele Aufgabenausführung bei.

• Budgetobergrenzen verbanden eine Effizienzsteigerung von rund 20 % in etablierten Geschäftsbereichen mit gezielten Investitionen in neue Bereiche.

• Die Auswahl zwischen GPT‑6‑ und GPT‑6.1‑Modellen senkte die geschätzten Tageskosten im Vergleich zu GPT‑5.5 um 65 %.

Durch den optimierten Modelleinsatz senkte das Unternehmen die Kosten, ohne Abstriche beim Entwicklungstempo oder bei der Qualität zu machen. Die Teams beobachten außerdem, dass KI die Zeit von der Entwicklung bis zur Veröffentlichung stetig verkürzt.

Doch das Unternehmen blickt weiter voraus. Macht eine schnellere Entwicklung allein die KI-Investition zum Erfolg? Der Zusammenhang zwischen schnellerer Entwicklung und dem Nutzen für Kundenunternehmen blieb unklar. „Dass KI die Entwicklung und Aktualisierung von Systemen beschleunigen kann, ist fast schon selbstverständlich“, sagt Tokitake. „Wir möchten vor allem verstehen, ob die schnellere Entwicklung den Kundenunternehmen tatsächlich einen Mehrwert bringt.“

Diese Frage veranlasste das Unternehmen, eine eigene Kennzahl zu entwickeln. Damit verlagerte sich die Bewertungsgrundlage für KI-Investitionen vom Entwicklungstempo und Nutzungsumfang hin zum Kundennutzen.

Tokitake erklärt: „Beim KI-Einsatz können wir die Kosten einzelner Aufgaben erfassen. Die Gesamtkosten einer abgeschlossenen Arbeit, also der Veröffentlichung einer Funktion, bleiben jedoch oft undurchsichtig. Deshalb haben wir unsere Messung so angelegt, dass jede veröffentlichte Funktion eine eigene Einheit bildet. Wir verknüpfen den Kundennutzen dieser Funktion mit den tatsächlich dafür angefallenen KI-Kosten. So wollen wir die Kapitalrendite sichtbar machen und präzise erfassen.“

Das Unternehmen baut derzeit die Datenpipeline zur Berechnung dieser Kennzahl auf. Sobald sie fertiggestellt ist, wird sie den tatsächlichen ROI gemessen am Kundennutzen sichtbar machen. LegalOn Technologies geht damit über das reine KI-Kostenmanagement hinaus und verknüpft Technologieinvestitionen direkt mit dem geschäftlichen Nutzen.

Das nächste Ziel ist, das KI-Wissen einzelner Fachkräfte aus der Entwicklung in eine unternehmensweite Kompetenz zu überführen. Als ersten Schritt plant das Unternehmen eine Wissensdatenbank, um praktische Erfahrungen zu sammeln und zu teilen. Sie soll etwa festhalten, welche Modellkombinationen sich für Konzeption, Implementierung und Prüfung am besten eignen. So werden individuelle Erfolge schnell zu unternehmensweit bewährten Vorgehensweisen.

Diese Veränderungen, die aus den praktischen Erfahrungen der Teams entstehen, prägen auch die Organisation und die Personalgewinnung. Die Produktivitätsgewinne durch KI veranlassen das Unternehmen, sowohl die Arbeitsteilung zwischen Menschen und KI als auch seine Personalplanung grundlegend zu überdenken. Schon heute legt es bei Neueinstellungen mehr Wert auf KI-Kompetenzen, während es seine Investitionsstrategie und Organisationsstruktur weiterentwickelt.

Damit der KI-Einsatz zu einem dauerhaften Wettbewerbsvorteil wird, muss das Gleichgewicht zwischen Governance und dem Handlungsspielraum der Teams laufend neu austariert werden. Das AID CoE und das Sicherheitsteam arbeiten gemeinsam daran, Leistung, Kosten und Risiken aus verschiedenen Perspektiven zu optimieren. Dabei schaffen sie einen flexiblen Rahmen, der Experimente im gesamten Unternehmen unterstützt.