Πώς να εκτελέσετε ένα τοπικό LLM ως AI βασισμένο σε πρόγραμμα περιήγησης με αυτήν τη δωρεάν επέκταση

Η ιδέα να ζητήσω ένα απομακρυσμένο LLM μου προκαλεί ένα μυρμήγκιασμα – και όχι με την καλή έννοια. Όταν χρειάζεται να κάνω κάποια έρευνα χρησιμοποιώντας AI, επιλέγω ένα τοπικό LLM όπως το Ollama.

Εάν δεν έχετε εγκαταστήσει ακόμα το Ollama, μπορείτε να διαβάσετε τον οδηγό μου για το πώς να εγκαταστήσετε το LLM στο MacOS (και γιατί να το κάνετε). Μπορείτε επίσης να εγκαταστήσετε το Ollama σε Linux και Windows, και δεδομένου ότι η επέκταση Firefox λειτουργεί και στις τρεις πλατφόρμες, μπορείτε να είστε σίγουροι ότι οποιοδήποτε λειτουργικό σύστημα επιτραπέζιου υπολογιστή που χρησιμοποιείτε θα λειτουργήσει.

Επίσης: Τα 5 αγαπημένα μου προγράμματα περιήγησης στο Web – Και γιατί το καθένα είναι ιδανικό

Η χρήση του Ollama από ένα παράθυρο τερματικού είναι στην πραγματικότητα αρκετά απλή, αλλά δεν σας δίνει τόσο προφανή πρόσβαση σε άλλες δυνατότητες (όπως η επιλογή LLM/προτροπών, η αποστολή εικόνων, η ενεργοποίηση/απενεργοποίηση της αναζήτησης στον ιστό και οι ρυθμίσεις).

Η δωρεάν επέκταση που θα αναφέρω λειτουργεί σε Firefox, Zen Browser (ένα από τα αγαπημένα μου) και άλλα.

Ας προχωρήσουμε σε αυτήν την επέκταση.

Πώς να εγκαταστήσετε την επέκταση Page Assist στον Firefox

Τι θα χρειαστείτε: Για να λειτουργήσει αυτό, θα χρειαστείτε εγκατεστημένο και τρέχον το Olama, καθώς και το πρόγραμμα περιήγησης Firefox. Αυτό είναι όλο. Ας δημιουργήσουμε λίγη μαγεία.

Πώς να χρησιμοποιήσετε το Page Assist

Πριν χρησιμοποιήσετε το Page Assist, πρέπει να βεβαιωθείτε ότι το Olama λειτουργεί. Εάν το έχετε ήδη εγκαταστήσει, μπορείτε να ξεκινήσετε το τοπικό LLM με αυτήν την εντολή:

olama τρέχει lama3.2

Εάν δείτε την προτροπή >>>, το LLM εκτελείται και είναι έτοιμο να δεχτεί αιτήματα.

Επίσης: Αυτή η εφαρμογή τερματικού χρησιμοποιεί τεχνητή νοημοσύνη για να σας βοηθήσει να κατανοήσετε τη γραμμή εντολών.

1. Ασφαλίστε την επέκταση

Το πρώτο πράγμα που θα έκανα είναι να καρφιτσώσω την επέκταση Page Assist στη γραμμή εργαλείων του Firefox. Για να το κάνετε αυτό, κάντε κλικ στο εικονίδιο του κομματιού του παζλ και, στη συνέχεια, κάντε κλικ στο εικονίδιο με το γρανάζι που σχετίζεται με το Page Assist. Από το αναπτυσσόμενο μενού, κάντε κλικ στην επιλογή Καρφίτσωμα στη γραμμή εργαλείων. Θα πρέπει τώρα να δείτε το εικονίδιο Page Assist στη γραμμή εργαλείων του Firefox (που μοιάζει με μια μικρή μπάλα σκέψης).

2. Ανοίξτε την επέκταση

Κάντε κλικ στο εικονίδιο Page Assist και θα ανοίξει μια νέα καρτέλα με τη διεπαφή χρήστη Olama.

3. Επιλέξτε το μοντέλο σας

Για να μπορέσετε να υποβάλετε το πρώτο σας αίτημα, πρέπει να επιλέξετε ένα μοντέλο. Κάντε κλικ στην αναπτυσσόμενη λίστα Select Model και επιλέξτε το εγκατεστημένο μοντέλο (για παράδειγμα, llama3.2:latest).

4. Εισαγάγετε το αίτημά σας

Τώρα μπορείτε να εισαγάγετε το αίτημά σας στην κάτω ενότητα που λέει “Εισαγωγή μηνύματος”. Πατήστε Enter στο πληκτρολόγιό σας ή κάντε κλικ στην επιλογή Υποβολή και ο Olama θα αρχίσει να δουλεύει.

5. Προσθήκη νέου μοντέλου

Μπορείτε επίσης να προσθέσετε νέα μοντέλα χρησιμοποιώντας το Page Assist. Για να το κάνετε αυτό, κάντε κλικ στο εικονίδιο με το γρανάζι στην επάνω δεξιά γωνία του παραθύρου Page Assist. Κάντε κλικ στην επιλογή “Διαχείριση μοντέλων” στην αριστερή πλαϊνή γραμμή και, στη συνέχεια, κάντε κλικ στην επιλογή “Προσθήκη νέου μοντέλου”. Στο αναδυόμενο παράθυρο, πληκτρολογήστε το όνομα του μοντέλου που θέλετε να προσθέσετε και κάντε κλικ στην επιλογή Εξαγωγή μοντέλου. Μια πλήρης λίστα με τα διαθέσιμα μοντέλα για την Ollama μπορείτε να βρείτε σε αυτή τη σελίδα.

Και με αυτόν τον τρόπο, φίλοι μου, μπορείτε να αλληλεπιδράσετε με το Ollama πιο εύκολα χάρη σε μια εύχρηστη επέκταση Firefox.