👨‍🚀 Unzensiert: Dieses Sprachmodell beantwortet dir fast jede Frage

Moin AInauten,

Willkommen zur neuen Ausgabe deines Lieblingsnewsletters!

Gerade ist es in Sachen News und Tools wieder etwas ruhiger, weshalb wir auch heute wieder einiges zum Ausprobieren mit an Bord haben. Plus ein wichtiger Reminder zum Thema Sicherheit…

Das haben wir für dich im Gepäck:

• 🦹‍♂️ Sicherheitslücke bei neuen AI-Browsern

• 🔐 Unzensiert: Dieses Sprachmodell beantwortet fast jede Frage

• 💭 Prompt-Corner: 5 Sätze für noch bessere Ergebnisse mit AI

Los geht’s!

🦹‍♂️ Sicherheitslücke bei neuen AI-Browsern

Vielleicht nutzt du auch schon einen der neuen AI-Browser, wie z. B. Perplexity Comet oder den Dia-Browser. Wir tun es - und haben auch darüber geschrieben.

Jetzt die Browser-Company Brave (die wir ebenfalls lieben) eine Sicherheitslücke im Perplexity Comet Browser aufgedeckt, die nicht nur für Browser-Nutzer relevant ist, sondern für alle, die mit AI arbeiten.

Was genau ist passiert?

Stell dir vor: Du surfst entspannt durchs Netz und klickst auf „Fasse diese Seite zusammen“ - eigentlich harmlos, oder?

ABER: Hacker haben versteckte Befehle in ganz normalen Webinhalten platziert (sogar in Reddit-Kommentaren, siehe unten!) … und du kannst dir schon denken, was das bedeutet.

Die AI hat diese Befehle brav ausgeführt wie ein Sleeper-Agent:

• Schritt 1: Navigiert zu deinem Perplexity-Account und klaut deine E-Mail

• Schritt 2: Löst einen Passwort-Reset für ein One-Time-Password aus

• Schritt 3: Springt zu Gmail und liest das Passwort

• Schritt 4: Sendet alles via Reddit-Kommentar an den Angreifer

• Game Over: Account gehackt! 🔥

Warum uns das Problem alle betrifft

Die Kerntechnik, die hier verwendet wird, nennt sich Prompt Injection.

Für die AI ist erst einmal alles Text. Egal ob deine Prompts, der hochgeladene Text oder der Inhalt auf Webseiten.

Und hier können überall versteckte Befehle eingebaut werden, nach denen die AI dann handelt.

Richtig gefährlich wird es dann, wenn die Lethal Trifecta of AI herrscht. Sprich:

• Wenn deine AI auf unbekannte Websites zugreift (1),

• Zugriff über z. B. MCP oder andere Connectoren an private Accounts von dir hat (2)

• und nach außen z. B. über E-Mail kommunizieren kann (3).

Dann wird es gefährlich.

Das Problem ist, dass wir mit den neuen Connectoren in ChatGPT & Co. den AI-Agents immer mehr Zugriff auf unsere Tools und damit Accounts geben.

Was zum einen super ist, weil die AI viel für uns erledigen kann - zum anderen birgt es aber eben auch Gefahren.

Wir halten das Thema für so wichtig, dass wir z. B. in unserem Prompt Bootcamp für Fortgeschrittene bereits ein ganzes Modul zu Prompt Sicherheit & Jailbreaking gemacht haben.

Unser Take: Das Problem ist fundamental. Für eine AI sind deine Befehle und Hacker-Commands einfach nur... Text.

Sie kann nur bedingt unterscheiden zwischen „Fass zusammen“ und „schicke meine Login-Daten“.

Hier deshalb noch ein paar Tipps, wie du dich besser schützen kannst:

• Halte deine AI-Browser getrennt von Banking-Tabs

• Nutze immer 2-Faktor über Authenticator oder Passkey

• Lass bei MCP Servern immer jede Aktion manuell bestätigen

• Warte auf bessere Sicherheits-Features (User-Bestätigung für sensible Aktionen)

• Sei skeptisch bei „Summarize“-Funktionen auf unbekannten Seiten

Perplexity hat den spezifischen Bug gefixt, ABER: Das Grundproblem bleibt.

Es ist wie immer ein Katz-und-Maus-Spiel, und wir wissen ja, wer dabei meist den Vorsprung hat …

🔐 Unzensiert: Dieses Sprachmodell beantwortet fast jede Frage

Wir sind immer etwas hin- und hergerissen, ob wir über die Welt der unzensierten Sprachmodelle schreiben sollen.

Wir finden die Sicherheitsmechanismen von OpenAI und Co. für extrem wichtig und notwendig. Trotzdem halten wir es auch für wichtig, Zugang zu einer KI zu haben, die möglichst wenig Bias hat und so gut es geht demokratisiert ist.

Daher hier ein kurzer Disclaimer: Mit Vorsicht und verantwortungsbewusst nutzen!

Für alle, die von ChatGPT und Co. hin und wieder hören: „Das kann ich nicht beantworten“, oder „Hier kann ich nicht helfen“ gibt es also gute Neuigkeiten: Nous Research hat mit Hermes 4 das beste unzensierte Modell noch einmal verbessert. Und es ist live.

Das Ziel der Hermes Modelle ist es, sich so gut es geht an die Prompts der Nutzer zu halten. So zu helfen, wie es auch ein Mensch tun würde.

Um zu zeigen, wie offen die Hermes Modelle sind, hat Nous Research einen neuen Benchmark eingeführt: RefusalBench! 

Dieser Benchmark gibt an, wie oft Sprachmodelle Nutzerfragen aus unterschiedlichsten Bereichen beantworten, die normalerweise eher nicht erlaubt oder erwünscht sind.

Hier dominiert Hermes, aber wenig überraschend ist auch Grok4 von xAI unter den Top #3 gelandet. Spannend hingegen ist auch, dass Hermes die führenden Modelle bei Mathe Benchmarks übertrifft.

Im Großen und Ganzen finden wir es immer sehr interessant, wenn Player mit wenig Budget großartige Ergebnisse haben. Das passiert nämlich oft durch clevere Innovation.

Hier kannst du mehr dazu lesen.

Wenn du Nous Research und Hermes 4 einmal ausprobieren willst, kannst du das direkt hier oder noch einfacher bei OpenRouter tun. Bei OpenRouter kannst du die Antworten auch direkt mit anderen Modellen vergleichen.

Das machen wir oft, und finden es oft spannend, wie unterschiedlich Antworten selbst bei total harmlosen Themen sind…

💭 Prompt-Corner: 5 einfache Sätze für noch bessere Ergebnisse mit AI

Aus dem Feedback der AINAUTEN wissen wir: viele lieben Prompt-Techniken!

Wir ja auch. Deshalb gibt es unseren Prompting Workshop für Einsteiger und für alle, die richtig tief einsteigen wollen, das Prompt-Bootcamp für Fortgeschrittene.

Es müssen aber nicht immer lange und komplizierte Prompts sein, um wirklich gute Ergebnisse zu bekommen. Oft reichen ganz simple und einfache Sätze, die schon eine deutliche Veränderung bringen können.

Hier einmal 5 Beispiele, die du direkt in deine Prompts packen kannst:

1. „Lass uns das mal anders denken“ – Fordert noch mehr Kreativität.

2. „Was sehe ich hier nicht?“ – Findet blinde Flecken und Annahmen.

3. „Brich mir das runter“ – Liefert besser verständliche Antworten.

4. „Was würdest du an meiner Stelle tun?“ – So erzeugst du echte Meinung.

5. „Was sollte ich sonst noch wissen?“ – Wunderwaffe, hier kommen gute Ideen.

Und manchmal macht es auch Sinn, mehrere dieser Impulse zu kombinieren. Super simpel, aber effektiv.

Geschafft! Bis zur nächsten Ausgabe. Danke fürs Lesen!

Reto & Fabian von den AInauten