Opera WebAI lokalni AI je od 27. oktobra dostupan kao rana, opciona proba lokalne veštačke inteligencije u Opera One pregledaču. Model radi na korisnikovom računaru, pa tekst stranice ne mora da se šalje spoljašnjem AI servisu. Prva verzija radi na 64-bitnom Windowsu sa Intel ili AMD procesorom i na Mac računarima sa Apple čipom.
Najvažniji detalj nije još jedan chatbot u bočnoj traci. Opera daje sajtovima i ekstenzijama tri programska alata za generisanje teksta, klasifikaciju i pronalaženje semantičkih veza. Korisnik mora ručno da uključi funkciju, preuzme model i odobri pristup konkretnim sajtovima.
Opera WebAI lokalni AI radi bez obaveznog slanja podataka u oblak
Uobičajena AI funkcija šalje upit udaljenom data centru, tamo pokreće model i vraća odgovor. Lokalno izvršavanje prebacuje taj posao na procesor, grafiku ili neuronski akcelerator u računaru. Prednost je veća kontrola nad sadržajem i mogućnost rada bez pretplate ili API ključa; nedostatak je to što brzina i kvalitet zavise od hardvera i izabranog modela.
Prema zvaničnoj objavi Opere, WebAI nije vezan za jednog proizvođača modela. Rana verzija može da koristi otvorene modele, uključujući Google Gemma, a na podržanim Mac računarima i Appleov model koji već radi na uređaju. Ništa se ne preuzima dok korisnik ne uključi opciju.
Šta sajt ili ekstenzija zapravo mogu da urade
Prompt API služi za generisanje teksta, Decision API za razvrstavanje podataka, a Semantic Embeddings API meri sličnost sadržaja. U praksi, ekstenzija može da označi oglase za posao koji odgovaraju korisnikovim interesovanjima, izdvoji najvažnije pasuse iz dugog teksta ili grupiše otvorene kartice bez slanja kompletnog sadržaja na tuđi server.
Opera je pripremila eksperimentalne dodatke, među kojima su alat koji bojom ističe relevantne pasuse, generator kratkog kviza i pretraga smisleno povezanog sadržaja. Kompanija naglašava da su to demonstracije mogućnosti, ne gotove funkcije koje svaki korisnik dobija uključivanjem jednog prekidača.
Kako da probate i gde su ograničenja
- Ažurirajte Opera One na verziju koja nudi rani WebAI pregled.
- Otvorite Settings, zatim Opera AI i uključite Enable Web AI API.
- Sačekajte preuzimanje kompatibilnog lokalnog modela.
- Instalirajte jednu od probnih ekstenzija i proverite dozvole pre upotrebe.
Linux, Windows na Arm čipovima i Mac računari sa Intel procesorom za sada nisu podržani. Funkcija će naknadno stići u Opera GX i Opera Neon, dok se tačan ritam distribucije može razlikovati. Pošto je ovo rana proba, korisnik treba da očekuje greške, veću potrošnju memorije i sporiji odgovor na slabijem računaru.
Lokalno ne znači automatski bezbedno. Sajt kome date dozvolu i dalje može da pošalje loš zahtev modelu, a ekstenzija može da traži širi pristup nego što joj je potreban. Razumno je instalirati samo dodatke iz pouzdanog izvora, pregledati dozvole i ne obrađivati lozinke, finansijske podatke ili poslovne tajne dok je funkcija eksperimentalna.
Za vlasnike starijih laptopova postoji i praktičan trošak: model zauzima prostor na disku, a duža obrada može da poveća potrošnju energije i zagrevanje. Opera još nije objavila jedinstven minimum memorije ili isti model za svaki uređaj. Pre uključivanja vredi proveriti slobodan prostor, zatvoriti zahtevne programe i uporediti odziv sa cloud alatom koji već koristite. Ako ventilator stalno radi ili pregledač uspori, funkcija može da se isključi bez posledica po obične kartice.
Zašto je ovaj standard zanimljiv
Ako sličan API prihvati više pregledača, mali razvojni timovi mogli bi da dodaju AI mogućnosti bez sopstvenih skupih servera. Korisnik bi birao model i dozvole, a aplikacija bi pozivala zajednički interfejs. To je privlačna ideja, ali još nije univerzalni web standard i ponašanje može da se promeni pre stabilnog izdanja.
Opera WebAI lokalni AI zato trenutno više liči na laboratoriju dostupnu široj publici nego na razlog da svi promene pregledač. Za radoznale korisnike i programere pruža konkretan pogled na web koji koristi modele sa računara. Za svakodnevni rad važnije je sačekati stabilnost, jasna pravila dozvola i poređenja potrošnje resursa. Naš raniji tekst o Opera Air pregledaču pokazuje kako Opera često prvo ispituje novu ideju u izdvojenom iskustvu.
