Kontrola modela na jednom mestu
KONEKT AI Gateway je sloj između vaših aplikacija i AI modela: lokalnih, sopstvenih i javnih — prema pravilima kompanije. Instalira se on-premise ili u private cloud-u.
Aplikacije i KONEKT Workspace komuniciraju sa Gateway-em preko sigurnog VPN + TLS 1.3 enkriptovanog tunela. Routing, budžeti, fine-tuning i bezbednosne politike ostaju pod vašom kontrolom.
Gateway u vašem data centru ili rack-u.
Gateway u vašem privatnom cloud okruženju.
3. Potpuna apstrakcija provajdera & Sopstveni Modeli
Jednostavna zamena modela u pozadini ili pokretanje namenski prilagođenih (fine-tuned) modela sa LoRA adapterima obučenim na terminologiji vaše kompanije.
Jedan interfejs za aplikacije
Aplikacije se povezuju na Gateway. Koji model radi u pozadini menja se politikom, bez prepisivanja poslovnog softvera.
Automatsko usmeravanje prema pravilima
Gateway dinamički procenjuje cenu, latenciju i bezbednosni nivo zahteva. Pored osnovnih alijasa, kreirate dodatne virtualne modele po odeljenju, poverljivosti, budžetu, vremenu ili fine-tuned modelu.
Dodatni virtualni modeli po vašim uslovima
Četiri osnovna alijasa (konekt-auto, konekt-fast, konekt-smart, konekt-private) su početak.
U Gateway konzoli pravite nove — aplikacija i dalje zove isto ime, a pravila se menjaju bez izmene koda.
pravni-smart, hr-private, it-coding
samo lokalno, maskirano ili javni model uz dozvolu
jeftiniji model posle limita, ili potpuna blokada
lokalni GPU ako je slobodan, inače drugi dozvoljeni put
radno vreme, noćni batch, hitni zahtevi
alijas ka internom modelu koji je prošao evaluaciju
Potpuna kontrola troškova, prava i modela
6. Privacy Politike
Automatska provera da li sadržaj sme ići na eksterni API ili mora biti zadržan isključivo u internoj mreži.
7. Budžeti po odeljenjima
Dodeljivanje mesečnih token i finansijskih kvota za HR, marketing, prodaju i pravnu službu uz alerte i blokade.
8. Rate Limiting
Zaštita od neželjenog zagušenja (RPM / TPM limiti) i obezbeđivanje prioriteta za kritične servise.
9. Detaljan Usage Tracking
Metrike potrošnje u realnom vremenu: prompt tokeni, completion tokeni, latencija i trošak po pojedinačnom pozivu.
10. KONEKT Console
Web administrativni panel za generisanje API ključeva, uvid u analitiku, revizorske logove i konfiguraciju servisa.
11. Privatni Modeli (GPU)
Integracija sa lokalnim vLLM modelima (DeepSeek, Llama, Mistral, Qwen, Kimi, MiniMax) koji se tretiraju kao ravnopravni endpointi unutar kataloga.
12. Stroga Fallback Pravila i Zaštita
Fallback pravila omogućavaju kontinuitet poslovanja kada cloud provajder ima prekid (prebacivanje na alternativni model iste klase).
Za model konekt-private važi apsolutna zabrana: nema prelaska na cloud!
