Otvorite sučelje
Open WebUI je dostupan na vašem računalu na http://localhost:3000.
AI ZA RAD S DOKUMENTIMA
Lokalni AI, vaši dokumenti, bez cloud AI servisa.
TihiKrov je instalacijski paket za pojedince i timove koji žele istraživati i raditi s dokumentima uz open-source AI, u vlastitom okruženju.
Odaberite dokumente iz baze znanja ili uključite web-pretragu.
ŠTO JE UNUTRA
Povezana konfiguracija za razgovor, pretraživanje vlastitih datoteka i weba.
Prozor od 8192 tokena predviđen je u konfiguraciji asistenta. Potrošnja memorije raste s duljim kontekstom i ovisi o računalu.
RAD U VLASTITOM OKRUŽENJU
AI model, embeddings i baza znanja predviđeni su za lokalni rad. Usluge nisu izložene javnom internetu.
Web-pretraživanje preko SearXNG-a treba internetsku vezu. To ne koristi cloud AI servis ni cloud AI API ključ.
KAD JE POSTAV POKRENUT
U sučelju Open WebUI možete povezati dokumente s pitanjem, a web-pretraživanje uključiti kad vam trebaju aktualni izvori.
Open WebUI je dostupan na vašem računalu na http://localhost:3000.
U Open WebUI izradite bazu znanja, učitajte dokument i pričekajte da obrada završi.
Odaberite bazu znanja u razgovoru i pitajte za podatak koji možete provjeriti u dokumentu.
U postavkama web-pretraživanja odaberite SearXNG. Za rezultate je potrebna internetska veza.
Ako odgovor ne koristi dokument, provjerite je li obrada datoteke dovršena, je li baza znanja priložena razgovoru te odgovaraju li embeddings indeksu. Nakon promjene embedding modela dokumente treba ponovno indeksirati.
Upute za RAGPrikazani su koraci za buduće lokalno korištenje. Ova stranica ne potvrđuje da je paket instaliran ili testiran na vašem računalu.
SLUŽBENA DOKUMENTACIJA
TIHIKROV
Želite saznati više o instalacijskom paketu za lokalni AI?
Javite se TihomKrovu