Cloudflare Clef modeli predstavljeni su 1. oktobra kao otvoreni modeli za brzo donošenje ograničenih, strukturiranih odluka u softverskim tokovima. Cloudflare je objavio Clef i lakši Clef-flash na Workers AI platformi, a težine modela dostupne su i na Hugging Faceu pod Apache 2.0 licencom.
Prema zvaničnoj tehničkoj objavi Cloudflarea, cilj nije da modeli pišu duge odgovore kao opšti jezički modeli. Oni dobijaju ulaz, ponuđenu šemu odluke i vraćaju tipizirane rezultate sa verovatnoćama. Takav izlaz aplikacija može neposredno da koristi za rutiranje zahteva, eskalaciju incidenta ili izbor naredne akcije.
Šta su modeli odluke
Klasični klasifikatori obično zahtevaju unapred definisane kategorije i dodatno treniranje kada se poslovni problem promeni. Opšti LLM modeli nude fleksibilnost, ali su skuplji, sporiji i njihovi odgovori mogu biti nedeterministički. Model odluke pokušava da zauzme prostor između ta dva pristupa: prihvata različit kontekst, ali je rezultat ograničen šemom koju program može pouzdano da obradi.
Primer je korisnička podrška. Sistem može da pošalje poruku, listu timova i polje „hitno”, a Clef da vrati tim, ocenu hitnosti i verovatnoću. Aplikacija zatim primenjuje pravila: vrlo rizičan slučaj odmah prosleđuje čoveku, dok rutinski zahtev ide u automatski red. Važno je da verovatnoća nije dokaz tačnosti i da pragovi moraju biti testirani na stvarnim podacima.
Cloudflare Clef modeli i tehničke razlike
Clef ima vizuelni enkoder, pa uz tekst može da klasifikuje i slike. Cloudflare navodi kontekst od 64.000 tokena, dok je Clef-flash optimizovan za manju latenciju. Oba modela podržavaju Jev API format, što olakšava probu u postojećim tokovima. Kompanija je objavila i platformu za reinforcement learning fino podešavanje nad sopstvenim podacima.
U objavljenim merenjima Clef-flash ima medijalnu latenciju od 38,8 milisekundi, a Clef 209,3 milisekunde za sam model. Rezultati zavise od zadatka, mreže i celog toka. Cloudflare opisuje i test klasifikacije domena uz Browser Run: Clef je završio preuzimanje, renderovanje i klasifikaciju za 2,2 sekunde, naspram 4,7 sekundi za korišćeni opšti LLM.
Ne propustite ovo
Gde je ovakav model koristan
- usmeravanje tiketa pravom timu i određivanje prioriteta;
- klasifikacija domena i bezbednosnih događaja;
- izbor alata ili API operacije u agentskom toku;
- obrada računa i strukturiranih poslovnih dokumenata;
- odlaganje nejasnih slučajeva za ljudsku proveru.
Najveća korist je kada aplikaciji treba odluka, a ne slobodan tekst. Programer unapred određuje dozvoljena polja, vrednosti i pragove. Time se smanjuje potreba za parsiranjem prirodnog jezika. Ipak, otvorena licenca ne znači da je model automatski bezbedan za svaku industriju; finansije, zdravstvo i bezbednost zahtevaju dodatnu validaciju, kontrolu pristupa i evidenciju odluka.
Šta proveriti pre uvođenja
Prvi korak je sopstveni evaluacioni skup sa reprezentativnim i graničnim primerima. Pored prosečne tačnosti treba meriti lažno pozitivne i lažno negativne rezultate po kategoriji. Zatim se definišu pragovi za automatsku akciju, ručnu proveru i odbijanje odluke. Bez tih granica i brz model može samo brže da napravi pogrešnu akciju.
Treba proveriti i privatnost ulaza, lokaciju obrade, rok čuvanja logova i mogućnost lokalnog pokretanja. Apache 2.0 izdanje omogućava eksperimentisanje van hostovane usluge, ali lokalna instalacija donosi sopstvene troškove hardvera, ažuriranja i nadzora. Hostovana varijanta pojednostavljuje početak, dok lokalna može dati više kontrole nad podacima.
Za produkcioni pilot treba odvojiti skup podataka koji model nikada nije video tokom podešavanja. Rezultate zatim treba porediti sa jednostavnim pravilima i postojećim klasifikatorom, jer noviji model nije automatski bolji u svakom slučaju. Korisno je beležiti ulaz, izabranu kategoriju, verovatnoću, stvarni ishod i naknadnu ljudsku ispravku. Tako se otkrivaju kategorije u kojima sistem previše samouvereno greši. U stvarnoj produkciji, Cloudflare Clef modeli zaista imaju smisla tek kada njihova brzina i kvalitet popravljaju ceo proces, a ne samo pojedinačni benchmark.
Cloudflare Clef modeli nisu zamena za opšti LLM kada je potreban razgovor, objašnjenje ili otvoreno generisanje sadržaja. Oni su specijalizovani sloj za odluku unutar većeg sistema. Za širi bezbednosni kontekst pročitajte i naš tekst o tome kako NVIDIA Open Agent Safety Platform štiti AI agente. Zajednička poruka je da automatizacija mora imati merljive granice, proveru i mogućnost ljudske intervencije.
