AI-HOI und happy Weekend, liebe AInauten!

Vielleicht hast du letzte Woche nicht alle News, Tools & Hacks rund um das Thema AI mitgekriegt, oder bist erst seit Kurzem dabei.

Deshalb haben wir die wichtigsten Beiträge ausgewählt und alle Headlines aus dem Newsletter zusammen gestellt – damit hast du alles auf einen Klick!

Das waren alle Headlines der letzten Woche - ein Auszug untenstehend:

Du willst mehr? Dann schaue dir AInauten Premium und den Crashkurs an!

Stell dir vor, ChatGPT Voice hätte einen quirligen kleinen Bruder aus Frankreich - voilà, das ist Moshi Chat! Dieser neue AI-Plauderer vom französischen Startup Kyutai sorgt gerade für Aufsehen.

Wir sprechen hier nicht etwa von einem weiteren Chatbot, sondern von einer AI, die sprechen und zuhören kann – gleichzeitig, und das alles in Echtzeit. Und das Beste? Du kannst es selbst ausprobieren!

Wir haben einfach mal ChatGPT und Moshi über menschliche Emotionen quatschen lassen - und wie sie am besten einen Drachen besiegen können:

Zwei Dinge seien vorausgeschickt: Die Dialoge mit Moshi sind echt der Hammer noch nicht wirklich gut und kohärent. Aber das macht nichts, denn beeindruckend ist vor allem die kurze Latenzzeit und die Variabilität der Stimme.

Während OpenAI und Konsorten in ihren Glastürmen tüfteln und uns mit gut getimter Vaporware (=angekündigt, aber nicht/nie verfügbar) zu GPT-4o Voice bei Laune halten wollen, haben acht findige Forscher in nur sechs Monaten etwas Beachtliches auf die Beine gestellt.

Es gibt ein paar Dinge, die Moshi besonders machen.

Hier ein super cooles Retro-Beispiel, basierend auf einem finegetunedten Modell!

Moshi mag noch etwas holprig sein, aber die Idee dahinter ist schon seit GPT-4o Voice genial: Eine AI, die spricht, zuhört und Emotionen versteht – in Echtzeit.

Jetzt fragst du dich vielleicht: "Ist Moshi ein echter Konkurrent für GPT-4o von OpenAI?" Nein, bestimmt noch nicht. Der AI fehlen manchmal die Worte, und sie verfängt sich in Wiederholungsschleifen.

Aber hey, Rom wurde auch nicht an einem Tag erbaut, oder? Mit kontinuierlicher Verbesserung und Community-Support könnte Moshi bald auf Augenhöhe mit den großen Namen der AI-Szene stehen.

Moshi reiht sich ein in eine wachsende Liste französischer AI-Erfolgsgeschichten, wie Hugging Face oder Mistral (auch wenn die Regierung NVIDIA ans Bein pinkeln will).

Also, worauf wartest du noch? Hop auf moshi.chat, gib deine E-Mail ein, und fang an zu plaudern. Vive la révolution de l'IA!

P.S.: Noch ein Praxis-Tipp: Klicke nach dem fertigen Dialog ganz oben auf “Disconnect”, und dann das Video herunterladen (und konvertieren).

Heute werfen wir auch einen exklusiven Blick hinter die Kulissen von Claude. Dank eines kleinen Kniffs ist es jetzt möglich, Claudes internen Dialog zu “belauschen” - it’s not a bug, it’s a feature.

Dank cleveren Prompt-Reverse-Engineers kennen wir Teile des System-Prompts von Claude (hier ist übrigens das Prompt von ChatGPT) und wissen, dass intern ein "Scratchpad" genutzt wird.

Ein solcher digitaler Notizblock hilft dabei, die Gedanken zu ordnen, bevor geantwortet wird. Normalerweise bleibt dieser Prozess unsichtbar, aber mit einem einfachen Trick können wir diese Black Box öffnen. Um Claudes verborgene Gedanken zu sehen, verwende einfach diesen Prompt:

Ist es okay, in die "Privatsphäre" einer AI einzudringen? Ja, denn diese Einblicke geben uns ein tieferes Verständnis dafür, wie moderne AI-Systeme "denken". Das hilft uns dann auch dabei, präzisere Anfragen zu stellen und Hürden zu umgehen, wenn wir nicht die gewünschten Resultate erhalten.

Ein solcher Notizblock kann übrigens auch bei anderen Chatbots hilfreich sein. Hier ist ein Beispiel-Prompt, das wir in Kombination mit der praktischen Browser-Erweiterung Merlin im Einsatz haben, um Newsbeiträge zu analysieren. Super hilfreich!

Wenn der Prompt-Hack mit dem Trinkgeld nach hinten losgeht …

Damit unsere geliebten geschätzten AI-Modelle wie ChatGPT, Claude & Co. richtig schlau werden, müssen sie mit Daten und Wissen gefüttert werden.

Das holen sie sich natürlich aus dem Internet. Und wie? Indem kleine Roboter bzw. Bots durchs Netz surfen und dabei die Inhalte von allen Webseiten aufsaugen und abspeichern.

Das ganze nennt man Web-Scraping oder Crawling.

Soweit so gut. Jetzt kann man sich vielleicht auch vorstellen, dass das viele Webseiten Betreiber nicht so cool finden, wenn da einfach jemand die eigenen kreativen Schöpfungen zweckentfremdet.

Deshalb gibt es ja auch diverse Klagen gegen die AI-Unternehmen, oftmals angezettelt durch Medienunternehmen.

Wenn du also nicht willst, dass die eigene Website von den Scrapern abgespeichert wird, musst du selbst etwas dagegen tun.

Hier einmal eine Übersicht der aktivsten Bots:

Wie du siehst, sind die größten Datensauger ByteSpider (vom chinesischen Unternehmen ByteDance, zu dem auch TikTok gehört), Amazon-Bot, Claude-Bot und GPT-Bot.

Das Problem ist oft, dass nur einige große Anbieter OpenAI, Google etc. sich zu erkennen geben. Aber es gibt auch unzählige andere Bots, die sich als normale Webbrowser ausgeben.

Aktuell ist der einfachste Weg, um seine Webseite zu schützen, ein Service namens Cloudflare.

Cloudflare ist ein Anbieter für Webseiten-Sicherheit und bietet auch schnellere Ladegeschwindigkeiten. Es schützt bereits sehr gut vor verschiedenen Hacker Attacken, wie z. B. DDoS Angriffen etc.

Seit Neuestem kannst du bei Cloudflare nun auch mit einem Klick sämtliche AI-Bots blocken. Dahinter steht ein eigenes Machine-Learning-Model, das wohl auch die Bots aussperrt, die sich als Webbrowser ausgeben:

Als Webseiten Betreiber finden wir den Cloudflare-Service natürlich gut.

Als AI-Model Nutzer weniger. Cloudflare ist ein wirklich sehr weit verbreiteter Dienst, super einfach zu implementieren und bereits 80% der befragten Cloudflare Nutzer wollen Bots damit blocken.

Und dadurch fehlt es den neuen Modellen natürlich auch an neuen Daten.

Wie groß die Auswirkungen wirklich sein werden, bleibt abzuwarten. Vermutlich entsteht ein Katz-und-Maus-Spiel zwischen Scrapern und Webseitenbetreibern.

Zudem Lizenzieren ja viele AI-Anbieter auch bereits Inhalte von Medienhäusern und Online-Plattformen. OpenAI hat zum Beispiel Vereinbarungen mit Axel Springer, TIME, Reddit, Vox und vielen weiteren.

Oder man kann es machen wie Microsoft, die sich bereits 2018 für ein paar Milliarden aus der Portokasse einfach die Plattform GitHub gekauft haben…

So, nachdem du jetzt gelernt hast, wie du deine Webseite schützen kannst, sprechen wir noch kurz drüber, wie du Inhalte selbst scrapen kannst.

Zuerst aber: Warum ist das so wichtig?

Wir sprechen ja viel über Kontext. Sprich Beispiele und Informationen, die man in seine Prompts etc. integriert.

Je besser die AI-Modelle Bescheid wissen was du willst, umso besser die Antworten.

Gerade wenn man eigene GPTs bzw. Chatbots für spezifische Anwendungsgebiete trainieren will, muss man eigene Daten bereitstellen.

Wenn du zum Beispiel deine E-Mails beantworten lassen willst, ergibt es Sinn, deine bestehende E-Mail-Antworten zur Verfügung zu stellen.

Oder wenn du einen Chatbot bauen willst, der deinen Kundensupport erledigt, musst du ihn zuerst einmal mit all deinen Regeln und Daten füttern.

Kurz gesagt: Gute Daten und Beispiele stehen immer am Anfang eines jeden guten AI-Workflows.

Scraping an sich ist eine Wissenschaft und kann sehr komplex werden. Aber um zu starten haben wir dir hier 3 einfache Wege, wie du Daten scrapest und diese für deine AI nutzt:

Willst du Inhalte von ganzen Webseiten speichern, lieben wir Simplescraper!

Einfach eine URL eingeben, und der Scraper zieht sich alle Seiten und exportiert sie dir als strukturierte JSON-Datei.

Hinweis: Die kostenlose Version geht nur bis 159 Seiten. Bei größeren Webauftritten brauchst du eine bezahlte Version.

Ein extrem mächtiger und zugleich günstiger Scraper ist der Reader von Jina AI. Gerade wenn du nur eine einzelne Webseite oder nur die ersten fünf Ergebnisse einer Google Suche samt Inhalt abspeichern willst, ist Jina genial.

Für einzelne Webseiten packst du einfach folgenden Link vor die URL:

Hier ein Beispiel mit einem Artikel von uns:

Du erhältst dann die Seite als Markdown formatiert - perfekt geeignet für LLMs:

Ein weiteres cooles Feature ist, dass du mit Jina automatisch die Top 5-Google Ergebnisse einer Frage samt deren Inhalt ziehen kannst.

Dazu einfach folgende URL eingeben, gefolgt von deiner Frage:

Als Ergebnis bekommst du dann die Inhalte der ersten 5 Resultate der Google Suche, die du direkt als Kontext in das AI-Modell deiner Wahl geben kannst.

Wie eingangs schon erwähnt, kann Scraping sehr komplex und herausfordernd werden. Aber keine Sorge, auch für umfangreichere Projekte gibt es unzählige Tools.

Scraping ist eine der ältesten Disziplinen des World Wide Web, denn Google und Co. machen ja auch nichts anderes, wenn sie ihren Suchindex aufbauen.

Ein Tool, bei dem die Möglichkeiten nahezu unendlich sind, das aber trotzdem von Normalsterblichen bedient werden kann, ist Apify.

Das Coole an Apify ist, dass es schon sehr viele vorgebaute Scraper gibt.

Diese vortrainierten Scraper sind extrem nützlich, weil sie bereits die Struktur der zugehörigen Webseiten verstehen. Zudem kannst du Apify auch in deine Automatisierungen via API in Zapier, Make und Co. einbinden.

So, das waren jetzt drei einfache Wege, um an passende Daten zu kommen.

Falls dir das etwas zu schnell ging, gibt es für alle AInauten Premium Mitglieder ein neues Video zum Thema Scraping, wo wir durch die einzelnen Tools führen.

Falls du noch kein Premium-Mitglied bist, kannst du dir hier deinen Zugang holen. Weit über 60 Videos und viele Vorlagen und Prompts gibt es schon, und jede Woche kommen neue exklusive Praxis-Videos und Co. dazu.

Geschafft! Aber kein Grund zum traurig sein. Die AInauten sind schon bald wieder zurück, mit neuem Futter für dich.

Bis am Montag, mit einer frischen Runde News, Hacks und Insights für dich!

Deine AInauten
Fabian & Reto

P.S.: Folge uns auf den sozialen Medien - das motiviert uns, Gas zu geben 😁! Twitter, LinkedIn, Facebook, Insta, YouTube, TikTok