Inteligenta artificiala la tine in calculator fara internet

Salutare

Cred ca suntem multi care folosim chatgpt sau alte site-uri pentru AI.
O varianta gratuita ce se poate hosta in calculatorul vostru este Llammafile creata de Mozilla !

  1. Intrii pe https://github.com/Mozilla-Ocho/llamafile
  2. Descarci fisierul llava-v1.5-7b-q4.llamafile (4.29 GB) https://huggingface.co/Mozilla/llava-v1.5-7b-llamafile/resolve/main/llava-v1.5-7b-q4.llamafile?download=true
  3. Daca esti pe Windows atunci redenumesti fisierul cu extensia .llamafile in .exe (llava-v1.5-7b-q4.llamafile va deveni llava-v1.5-7b-q4.exe)
  4. Rulezi executabiul :smiley:

Daca folosesti linux atunci chmod +x llava-v1.5-7b-q4.llamafile si apoi rulezi cu ./llava-v1.5-7b-q4.llamafile

Se va deschide automat browserul cu adresa locala si jos puteti intreba ce doriti.

Succes

Aflasem de aici de posibilitatea asta de a hosta la tine un AI privat, dar pentru nevoile mele actuale sincer nu ma ajuta.
Nu am cochetat inca cu el.