LegalOn: μισό κόστος Codex, ίδια ταχύτητα ανάπτυξης

Η LegalOn Technologies προσφέρει το Professional AI παγκοσμίως, αξιοποιώντας την AI για την υποστήριξη νομικών εργασιών και άλλων βασικών επιχειρηματικών λειτουργιών. Συνδυάζοντας εξειδικευμένη γνώση με AI, δίνει στους ανθρώπους τη δυνατότητα να εστιάζουν σε σύνθετες αξιολογήσεις και αποφάσεις. Στόχος της είναι η διοίκηση με τη βοήθεια της AI, για καλύτερες και ταχύτερες επιχειρηματικές αποφάσεις.

Η προσέγγιση αυτή δεν περιορίζεται στα προϊόντα της: επιδιώκει να ενσωματώσει την AI στον πυρήνα του ίδιου του οργανισμού. Η εταιρεία ενσωμάτωσε το Codex στη διαδικασία ανάπτυξης λογισμικού και διεύρυνε την υιοθέτησή του σε όλο τον οργανισμό μέσα από την καθημερινή χρήση.

Καθώς η χρήση του εδραιωνόταν, προέκυψε μια νέα πρόκληση: ο έλεγχος του κόστους. Η απεριόριστη χρήση μοντέλων υψηλών επιδόσεων μπορούσε να αυξήσει τις δαπάνες, ενώ οι οριζόντιοι περιορισμοί κινδύνευαν να ακυρώσουν τα οφέλη παραγωγικότητας της AI.

Πώς θα μείωνε το κόστος χωρίς να επιβραδύνει την ανάπτυξη; Η LegalOn Technologies επέλεγε μεταξύ GPT‑6 (Astra, Luna) και GPT‑6.1 Sol ανάλογα με την πολυπλοκότητα της εργασίας και το στάδιο ανάπτυξης λογισμικού, προσαρμόζοντας τους προϋπολογισμούς στη φάση ανάπτυξης κάθε επιχειρηματικής δραστηριότητας. Η εταιρεία μείωσε το κόστος στο μισό, διατηρώντας την ταχύτητα ανάπτυξης.

Αρχικά, η εταιρεία έδωσε στους προγραμματιστές απεριόριστη πρόσβαση στο κύριο μοντέλο της, το GPT‑5.5 σε Γρήγορη λειτουργία. Επέκτειναν τη χρήση του στον σχεδιασμό, την υλοποίηση και τις καθημερινές εργασίες, μαθαίνοντας μέσα από πειραματισμούς πώς να κατανέμουν καλύτερα τις αρμοδιότητες μεταξύ ανθρώπων και AI.

Ωστόσο, η συνέχιση της απεριόριστης χρήσης μοντέλων υψηλών επιδόσεων θα οδηγούσε αναπόφευκτα σε υπέρβαση του ετήσιου προϋπολογισμού. Το Κέντρο Αριστείας για την Ανάπτυξη με AI (AID CoE) της εταιρείας άρχισε να καταρτίζει οδηγίες επιλογής μοντέλων. Το AID CoE δοκίμαζε και παρακολουθούσε τα μοντέλα, ενώ οι διευθυντές κοινοποιούσαν τα ευρήματά του στις ομάδες τους. Έτσι, κάθε μηχανικός λογισμικού μπορούσε να επιλέγει αυτόνομα το καταλληλότερο μοντέλο για κάθε εργασία.

Με τις νέες οδηγίες, η εταιρεία πέρασε από τη χρήση του ισχυρότερου μοντέλου για κάθε εργασία στην επιλογή του καταλληλότερου. Οι ομάδες ξεκινούσαν με ένα ελαφρύ μοντέλο και περνούσαν σε ισχυρότερα όσο αυξανόταν η πολυπλοκότητα της εργασίας.

Για την ενίσχυση της διακυβέρνησης, η εταιρεία θέσπισε επίσης ελέγχους στο σύστημα μέσω των ρυθμίσεων διαχειριστή, με μηνιαία όρια χρήσης ανά τμήμα και άτομο. Το AID CoE παρακολουθεί τη χρήση και προσαρμόζει τα όρια στις επιχειρηματικές ανάγκες.

Οι εσωτερικές δοκιμές με αυτούς τους ελέγχους βοήθησαν να γίνουν πιο συγκεκριμένα τα κριτήρια επιλογής. Το GPT‑6 Luna, το ελαφρύτερο μοντέλο, υλοποιεί κώδικα με σαφείς απαιτήσεις. Το GPT‑6.1 Sol υποστηρίζει συνήθεις εργασίες σχεδιασμού, ανάλυση δεδομένων και σύνταξη εγγράφων. Το GPT‑6 Astra, το ισχυρότερο μοντέλο, αναλαμβάνει εργασίες που απαιτούν σύνθετη κρίση, όπως ο αρχιτεκτονικός σχεδιασμός. Η επιλογή μοντέλου ανά εργασία έγινε σταδιακά κοινή πρακτική σε όλες τις ομάδες.

Παράλληλα, η εταιρεία περιόρισε τη Γρήγορη λειτουργία από προεπιλογή, εγκρίνοντας μεμονωμένα αιτήματα χρήσης μόνο όταν υπήρχε ανάγκη. Αν και η αλλαγή προκάλεσε ανησυχίες για την ταχύτητα ανάπτυξης, οι ομάδες διατήρησαν τις επιδόσεις και εξασφάλισαν ομαλή μετάβαση με πρακτικές όπως η παράλληλη εκτέλεση εργασιών.

Η εταιρεία θέσπισε επίσης ανώτατα όρια δαπανών AI ανά τμήμα, ομάδα και άτομο. Από την εδραιωμένη δραστηριότητα LegalOn ζητήθηκε βελτίωση της αποδοτικότητας κόστους έως περίπου 20%, ενώ οι νέες δραστηριότητες στο στάδιο εκκίνησης έλαβαν γενναιόδωρους προϋπολογισμούς για να ενθαρρυνθεί η ενεργή χρήση AI.

Ο Yuta Tokitake, ανώτερος διευθυντής μηχανικής λογισμικού στη LegalOn Technologies, εξηγεί ότι οι νέες δραστηριότητες έδιναν προτεραιότητα στην ταχύτητα έναντι της αποδοτικότητας κόστους. Στόχος ήταν η εκτεταμένη χρήση AI για περισσότερο παραγόμενο έργο και, τελικά, επιχειρηματική ανάπτυξη.

Η επιλογή μοντέλων, οι περιορισμοί λειτουργιών και οι προϋπολογισμοί ανά δραστηριότητα μείωσαν συνολικά το εκτιμώμενο ημερήσιο κόστος κατά περίπου 65%. Έτσι, ο συνολικός προϋπολογισμός παρέμεινε υπό έλεγχο, ενώ οι πόροι κατευθύνονταν στις δραστηριότητες που η εταιρεία ήθελε να αναπτύξει.

Η βελτιστοποίηση μοντέλων και η στρατηγική κατανομή πόρων έφεραν τα εξής αποτελέσματα:

• Μετάβαση από το ισχυρότερο μοντέλο για κάθε εργασία στην επιλογή GPT‑6 Astra, GPT‑6.1 Sol ή GPT‑6 Luna ανάλογα με την πολυπλοκότητα και το στάδιο ανάπτυξης.

• Διατήρηση των επιδόσεων ανάπτυξης μετά τον περιορισμό της Γρήγορης λειτουργίας από προεπιλογή, χάρη σε πρακτικές όπως η παράλληλη εκτέλεση εργασιών.

• Όρια προϋπολογισμού που συνδύαζαν περίπου 20% μεγαλύτερη αποδοτικότητα στις ώριμες δραστηριότητες με ενεργές επενδύσεις στις νέες.

• Μείωση του εκτιμώμενου ημερήσιου κόστους κατά 65% έναντι του GPT‑5.5, με επιλογή μεταξύ των μοντέλων GPT‑6 και 6.1.

Βελτιστοποιώντας τα μοντέλα, η εταιρεία μείωσε το κόστος χωρίς να θυσιάσει την ταχύτητα ή την ποιότητα ανάπτυξης. Οι ομάδες βλέπουν επίσης την AI να συντομεύει σταθερά τον κύκλο από την ανάπτυξη έως την κυκλοφορία.

Όμως η εταιρεία κοιτάζει πιο μακριά. Αρκεί η ταχύτερη ανάπτυξη για να θεωρηθεί επιτυχημένη η επένδυση στην AI; Η σύνδεση της ταχύτερης ανάπτυξης με την αξία για τον πελάτη παρέμενε ασαφής. «Είναι σχεδόν δεδομένο ότι η AI μπορεί να επιταχύνει την ανάπτυξη και την ενημέρωση συστημάτων», λέει ο Tokitake. «Αυτό που θέλουμε πραγματικά να καταλάβουμε είναι αν η ταχύτερη ανάπτυξη μεταφράζεται όντως σε αξία για τους πελάτες».

Το ερώτημα αυτό ώθησε την εταιρεία να αναπτύξει έναν δικό της δείκτη, μετατοπίζοντας τη βάση αξιολόγησης της επένδυσης στην AI από την ταχύτητα ανάπτυξης και τον όγκο χρήσης στην αξία για τον πελάτη.

Ο Tokitake εξηγεί: «Όταν χρησιμοποιούμε AI, μπορούμε να παρακολουθούμε το κόστος επιμέρους εργασιών, αλλά το συνολικό κόστος ενός ολοκληρωμένου έργου —της κυκλοφορίας μιας λειτουργίας— συχνά παραμένει αδιαφανές. Γι’ αυτό σχεδιάσαμε τη μέτρηση με μονάδα αναφοράς την κυκλοφορία κάθε λειτουργίας. Συνδέοντας την αξία που προσφέρει στον πελάτη με τις πραγματικές δαπάνες AI που απαιτήθηκαν, θέλουμε να αποτυπώνουμε με σαφήνεια και ακρίβεια την απόδοση της επένδυσης».

Η εταιρεία δημιουργεί τώρα τη ροή επεξεργασίας δεδομένων για τον υπολογισμό αυτού του δείκτη. Όταν ολοκληρωθεί, θα αναδεικνύει την πραγματική απόδοση της επένδυσης ως προς την αξία για τον πελάτη. Η LegalOn Technologies προχωρά πέρα από τη διαχείριση κόστους AI, συνδέοντας άμεσα τις τεχνολογικές επενδύσεις με την επιχειρηματική αξία.

Ο επόμενος στόχος είναι η ατομική τεχνογνωσία των μηχανικών λογισμικού στην AI να γίνει συλλογική ικανότητα του οργανισμού. Ως πρώτο βήμα, η εταιρεία σχεδιάζει μια βάση γνώσεων για τη συλλογή και την ανταλλαγή πρακτικής εμπειρίας. Θα καταγράφει γνώσεις, όπως τους καλύτερους συνδυασμούς μοντέλων για σχεδιασμό, υλοποίηση και έλεγχο, μετατρέποντας γρήγορα τις ατομικές επιτυχίες σε βέλτιστες πρακτικές για όλη την εταιρεία.

Οι αλλαγές αυτές, που πηγάζουν από την πρακτική εμπειρία των ομάδων, διαμορφώνουν επίσης την οργάνωση και τις προσλήψεις. Η αύξηση της παραγωγικότητας χάρη στην AI ωθεί την εταιρεία να επανεξετάσει ριζικά τον καταμερισμό εργασίας μεταξύ ανθρώπων και AI, αλλά και τον σχεδιασμό στελέχωσης. Ήδη δίνει έμφαση στις δεξιότητες AI κατά τις προσλήψεις, καθώς εξελίσσονται η επενδυτική στρατηγική και η οργανωτική δομή της.

Για να γίνει η υιοθέτηση της AI διαρκές ανταγωνιστικό πλεονέκτημα, χρειάζεται συνεχής βελτίωση της ισορροπίας μεταξύ διακυβέρνησης και ελευθερίας δράσης των ομάδων. Το AID CoE και η ομάδα ασφάλειας συνεργάζονται για τη βελτιστοποίηση επιδόσεων, κόστους και κινδύνου από πολλές πλευρές, δημιουργώντας ένα ευέλικτο πλαίσιο που στηρίζει τον πειραματισμό σε όλο τον οργανισμό.