• AINAUTEN
  • Posts
  • 🤿 Deep-Dive: AI-Sprachmodelle ohne Internet kostenlos nutzen

🤿 Deep-Dive: AI-Sprachmodelle ohne Internet kostenlos nutzen

Der aktuell beste und einfachste Weg

Hi AInauten,

Willkommen zum Deep Dive für diese Woche. Heute steigen wir in ein super spannendes Thema ein: Sprachmodelle lokal auf dem Computer offline nutzen.

Das hat nicht nur den Vorteil, dass es kostenlos möglich ist. Auch wer Datenschutzbedenken hat, ist hier auf der sicheren Seite.

Das detaillierte Tutorial Video samt Linksammlung findest du unten im Post.

Legen wir los!

💻 AI-Sprachmodelle ohne Internet kostenlos nutzen

Wir erhalten immer wieder Fragen aus der Community, wie man am besten AI-Modelle bei sich lokal auf dem Computer nutzt.

Also 100 % datenschutzkonform, ohne Internet usw.

Wir haben bereits vor über einem Jahr darüber geschrieben und Wege aufgezeigt. Bevor wir dir jetzt den aktuell einfachsten Ansatz beschreiben, wie du es nutzen kannst, gibt es eine wichtige Voraussetzung:

AI braucht gute Hardware!

Ohne einen guten Computer wirst du nicht viel Spaß haben. Den unserer Meinung nach besten Deal, was Preis vs. AI-Power angeht, findest du ausgerechnet bei Apple:

Die günstigste Version des Mac Mini mit dem M4 Chip sollte für die meisten Ansprüche mehr als ausreichen. Das gibt dir unglaubliche Power für Sprach- oder auch Bildmodelle.

Und das zu einem sehr fairen Preis.

Kleine Sprachmodelle und auch Bildmodelle laufen aber auch auf deutlich älteren Computern. Daher probiere es ruhig einmal aus, bevor du investierst.

So kannst du schnell ein Sprachmodell lokal nutzen

Der einfachste, schnellste und auch kostenlose Weg aktuell ist über Ollama.

Du lädst einfach die kostenlose App herunter und installierst sie.

Dann öffnest du dein Terminal oder Console und gibst folgenden Befehl ein:

ollama run llama3.2

Damit wird automatisch das Modell Llama 3.2 heruntergeladen, und du kannst direkt in der Console sofort lokal und kostenlos damit chatten.

Das Modell nimmt mit knapp 2 Gigabyte auch nicht sehr viel Platz auf der Festplatte ein.

Auf der Ollama Webseite siehst du viele weitere Modelle, die du herunterladen und sofort nutzen kannst. Auch Mistral oder DeepSeek ist dabei, ideal für Programmierung, und es gibt viele, viele mehr.

So richtest du ein vernünftiges Chatinterface ein

Wer jetzt nicht so Bock hat, über die Console zu schreiben und stattdessen ein ChatGPT Style Tool sucht, der kann sich Chatbot Ollama oder Lobe Chat anschauen.

Beide sind Open Source und kostenlos. Wer technisch nicht so versiert ist, nutzt dafür am besten den Pinokio Browser. Damit sind die Tools in 2 Minuten installiert.

So funktioniert es Schritt-für-Schritt (Video)

🔒 Zugang nur für AInauten Premium Mitglieder

Werde jetzt VIP und hol dir AInauten Premium. Egal ob als Abo für kleines Geld und jederzeit kündbar, oder im Paket mit unseren anderen Kursen. Du wirst es lieben.

Bist du bereits ein zahlender Abonnent? Anmelden.

⭐️ Mitglieder erhalten unter anderem ⭐️:

  • • Wöchentlich neue Tutorials & Praxis-Videos
  • • Zugang zu Premium Posts & Videos
  • • Regelmäßige Live Workshops mit Q&A für Mitglieder
  • • Premium Deep Dive Analysen
  • • Monatliches Executive Summary
  • • Optional: Zugang zu allen unseren Trainings (auch zukünftige)