Przejdź do głównej zawartości

Perplexica czyli lokalne AI poradnik

Jeśli masz ochotę to postaw kawę, będzie to motywacja do kolejnej pracy https://buycoffee.to/emilcsharp

## Zwiększ Produktywność z Perplexica – Twoja Nowa AI-Powered Wyszukiwarka! ☕

Masz ochotę na kawę? Postaw ją i przygotuj się do zwiększenia swojej produktywności dzięki Perplexica, innowacyjnej wyszukiwarce opartej na sztucznej inteligencji.  Perplexica pomoże Ci znaleźć informacje szybciej i efektywniej niż kiedykolwiek wcześniej!

**Jak to działa?** Perplexica wykorzystuje najnowsze modele językowe (LLM) do zrozumienia Twoich zapytań i dostarczania trafnych wyników. 

**Zacznij od Instalacji:**

1. **Docker – Podstawa Kontekstu:**  Perplexica działa najlepiej dzięki kontenerowi Dockera, który zapewnia izolowane środowisko dla aplikacji.
   * Pobierz i zainstaluj Dockera: [https://www.docker.com/](https://www.docker.com/)

2. **Wirtualizacja – Włączenie w Biosie:** Upewnij się, że wirtualizacja jest włączona w BIOSie komputera.  Zazwyczaj można to znaleźć w ustawieniach związanych z procesorem (CPU).

3. **Otwórz Projekt:** Przejdź na stronę projektu Perplexica: [https://github.com/BunsDev/Perplexica-Search-Engine-AI](https://github.com/BunsDev/Perplexica-Search-Engine-AI)

4. **Klonowanie Repozytorium:**
   * Pobierz najnowszą wersję Git dla Windows: [https://github.com/git-for-windows/git/releases/download/v2.53.0.windows.2/Git-2.53.0.2-64-bit.exe](https://github.com/git-for-windows/git/releases/download/v2.53.0.windows.2/Git-2.53.0.2-64-bit.exe)
   * Uruchom instalator i postępuj zgodnie z instrukcjami.
   * W terminalu (lub wierszu poleceń) wykonaj: `git clone https://github.com/ItzCrazyKns/Perplexica.git`

5. **Konfiguracja Perplexicy – Wybierz Model LLM:**
    * Przejdź do katalogu `Perplexica`.
    * Zmień nazwę pliku `sample.config.toml` na `config.toml`.
    * W pliku `config.toml` skonfiguruj następujące opcje (w zależności od tego, jakiego modelu LLM chcesz użyć):

      * **OPENAI:** Twój klucz API OpenAI (wymagany tylko jeśli używasz modeli OpenAI).
      * **OLLAMA:** Twój adres URL API Ollama (np. `http://host.docker.internal:11434`).  Upewnij się, że Ollama działa na wybranym porcie.
      * **GROQ:** Twój klucz API Groq (wymagany tylko jeśli używasz hostowanych modeli Groq).
      * **ANTHROPIC:** Twój klucz API Anthropic (wymagany tylko jeśli używasz modeli Anthropic).
      * **SIMILARITY_MEASURE:**  Pozostaw domyślne ustawienie, jeśli nie masz konkretnych preferencji.

6. **Uruchom Perplexicę z Dockera:**
   * Upewnij się, że jesteś w katalogu zawierającym plik `docker-compose.yaml`.
   * W terminalu (lub wierszu poleceń) wykonaj: `docker compose up -d`
   * Poczekaj kilka minut, aż konfiguracja zostanie zakończona.

7. **Dostęp do Perplexicy:** Otwórz przeglądarkę internetową i przejdź na adres [http://localhost:3000](http://localhost:3000).

**Gratulacje!  Twoja Perplexica jest gotowa do działania.**

**Dodatkowe Informacje:**

* **OLLAMA:** Pobierz i zainstaluj lokalny LLM z [https://ollama.com/download](https://ollama.com/download) – to kluczowy element dla wydajności Perplexicy.
* **Konfiguracja po uruchomieniu:** Możesz zawsze zmienić ustawienia w Perplexica z poziomu okna dialogowego.

**Życzymy udanej pracy!  Z Perplexicą produktywność osiągnie nowy poziom.**


### Getting Started with Docker (Recommended)

Vane can be easily run using Docker. Simply run the following command:

```bash
docker run -d -p 3000:3000 -v vane-data:/home/vane/data --name vane itzcrazykns1337/vane:latest
```

This will pull and start the Vane container with the bundled SearxNG search engine. Once running, open your browser and navigate to http://localhost:3000. You can then configure your settings (API keys, models, etc.) directly in the setup screen.

**Note**: The image includes both Vane and SearxNG, so no additional setup is required. The `-v` flags create persistent volumes for your data and uploaded files.

Do Perplexica w Ollama polecam llama3.1:8b-instruct-q6_K jako model językowy (chat), bo daje świetne w wynikach wyszukiwania i podsumowaniu źródeł. Jest to typowy sprzęt i dobrze radzi sobie z przypomnieniem.

Czat z modelkami Polecane

  • llama3.1:8b-instruct-q6_K – Najlepszy balans jakości i prędkości, polecany w testach do Perplexica.

  • mistral-nemo:12b-instruct-2407-q8_0 – Bardzo dobry do zapytania, nr 1 w niektórych testach.

  • qwen2:7b-instruct-q4_0 – Szybki i wielojęzyczny, dobry na słabszy sprzęt.

Osadzanie modelu (dodatkowy)

używa nomic-embed-text lub jina-embeddings-v2-base-en do przetwarzania wektorów wyszukiwania – Perplexica ich wymaga.

Jak przyjazny w Ollama

Ollama pull llama3.1:8b-instruct-q6_Który
w konfiguracji Perplexica wklej model w ustawieniach (ikona koła zębatego). Na Windowsie się dzieje, że Ollama działa jako serwis.



Ollama działa na porcie 11434 (adres 127.0.0.1:11434), co może sprawdzić otwarcie otwierające się na http://localhost:11434– przydatne „Ollama działa”. Jeśli port zostanie zmieniony, polecenia systemowe do weryfikacji.


  1. Sprawdź adres URL API Ollama: Upewnij się, że adres URL API jest prawidłowo ustawiony w menu ustawień.

  2. Zaktualizuj adres URL API na podstawie systemu operacyjnego:

    • Windows: Użyjhttp://host.docker.internal:11434

Komentarze

Popularne posty z tego bloga

Instalacja android TV na komputerze

Jeśli masz ochotę to postaw kawę, będzie to motywacja do kolejnej pracy https://buycoffee.to/emilcsharp Instrukcja instalacji Android TV z ISO i konfiguracji dual boot z Windows za pomocą Grub2Win Poniżej znajdziesz szczegółową, krok po kroku instrukcję, jak zainstalować Android TV obok Windows, korzystając z Grub2Win oraz wybranego obrazu ISO. 1. Pobranie obrazu ISO Android TV Pobierz plik ISO Android TV z poniższego linku na swój komputer: https://drive.google.com/file/d/1fE60copiNjOma89ZLNMyxWW45yN9S8fo/view 2. Instalacja Grub2Win Przejdź na stronę: https://grub2win.com/ Pobierz i zainstaluj program Grub2Win zgodnie z instrukcjami instalatora. 3. Przygotowanie partycji dla Android TV Otwórz zarządzanie dyskami w Windows (naciśnij Windows + X → „Zarządzanie dyskami”). Wybierz dysk o wystarczającej ilości wolnego miejsca. Zmniejsz wybrany wolumin lub użyj wolnego obszaru aby utworzyć nową partycję o rozmiarze minimum 30GB (system plików NTFS). Nadaj partycji unikalną nazwę np. ANDRO...

Instalacja sztucznej inteligencji lokalnie

Jeśli masz ochotę to postaw kawę, będzie to motywacja do kolejnej pracy https://buycoffee.to/emilcsharp ## Poradnik: Instalacja LM Studio i Konfiguracja Gemma-3N Ten poradnik przeprowadzi Cię przez proces instalacji LM Studio, popularnego interfejsu użytkownika do uruchamiania modeli językowych lokalnie, oraz konfiguracji modelu Gemma-3N. **Co to jest LM Studio?** LM Studio to aplikacja desktopowa umożliwiająca łatwe pobieranie i uruchamianie dużych modeli językowych (LLM) na Twoim komputerze, bez konieczności połączenia z internetem po początkowym pobraniu modelu. Oferuje prosty interfejs użytkownika, który ułatwia eksperymentowanie z różnymi modelami i ustawieniami. **Co to jest Gemma-3N?** Gemma-3N to seria modeli językowych od Google DeepMind, znanych ze swojej wydajności i otwartej dostępności. Jest to świetny wybór dla osób poszukujących modelu do eksperymentów lokalnych, oferujący dobrą jakość generowanego tekstu przy stosunkowo niskich wymaganiach sprzętowych. --- ### **Krok ...