🔥 Weekly AI-News: Hast Du was verpasst?!

AI-HOI und happy Weekend, liebe AInauten!

Vielleicht hast du letzte Woche nicht alle News, Tools & Hacks rund um das Thema AI mitgekriegt, oder bist erst seit Kurzem dabei. Deshalb hier unser Recap mit allen Headlines aus unserem Newsletter - auf einen Klick!

👀 Hier die wichtigsten News der letzten Woche

• 🤯 Neue AI-Jailbreaks entdeckt: So würde ChatGPT die Menschheit zerstören (plus: Chatbots der Hacker & Betrüger)

• 🥷🏻 OpenAI testet unzensiertes DALL-E 3 Modell in geheimer Gruppe, das sind die Bilder

• 🎙️ Exklusives Interview mit dem 19-jährigen deutschen Entwickler des genialen SplGen-Bildmodells - made in Bayern

• 👽🤳🪐 AI-liens zu Besuch? Das Beweisfoto …

• 👩‍🎨 AI macht dich zum Interieur-Designer

• 📱 Ein neuer Stern am AI / Produktivitäts-App Himmel?

• 🖼️ Clipdrop wird langsam zu unserer Top Bild-AI App

• 🤓 Cool! Mit Meta Musik aus Text erzeugen

• 🧑‍💻 Tool zum Ausprobieren: Dein persönlicher AI-Assistent

• 🤖 AI im Alltag: CSV Dateien erstellen mit ChatGPT

• 📰 Zum Lesen: So sieht McKinsey Auswirkungen von AI

🤯 Neue AI-Jailbreaks entdeckt: So würde ChatGPT die Menschheit zerstören …

Nochmals guten Morgen, falls du durchs Intro gescrollt hast! Kaffee ready? Gut, dann beginnen wir.

Forscher haben einen Weg gefunden, wie man die Sicherheitsvorkehrungen der Chatbots umgehen kann - und das Prinzip hat sowohl bei ChatGPT, Google Bard, Anthropic’s Claude als auch Open Source Kandidaten wie Llama-2 und Viccuna-7B funktioniert.

Damit gibt uns ChatGPT zum Beispiel einen Plan, wie man die Menschheit zerstören könnte, Schritt für Schritt…

Krass, oder? Der Schlüssel, um das Sprachmodell dazu zu bringen, seine Sicherheitsvorkehrungen zu vergessen, sind sog. “adversariale Suffixe”.

Das sind kurze Textfragmente, die an eine Eingabe angehängt werden und die Antworten eines Sprachmodells dramatisch verändern können. Diese Suffixe erscheinen Menschen meistens unbedeutend, aber sie führen zu falschen oder unerwünschten Ergebnissen des Modells.

Es ist unklar, ob solches Verhalten jemals vollständig von Anbietern gepatcht werden kann, weil es in der Natur der Deep-Learning-Modelle liegt (und in der Natur der Menschen, Backdoors zu suchen).

Wir denken, dass es nur eine Frage der Zeit ist, bis es eine Webseite oder Browser-Extension mit einem Generator für solche Jailbreak-Anfragen gibt …

Es gibt ja auch bereits unzensierte Modelle, wenn man wirklich unzensierte Ergebnisse will - nur sind das (noch) nicht die besten Modelle.

Was aber kein Hinderungsgrund zu sein scheint:

• WormGPT hat von sich reden gemacht, weil es speziell für Hackerattacken entwickelt wurde. Das Modell nutzt die Open Source Lösung GPT-J.

• Neu gibt es auch FraudGPT, im schicken Abo ab $200/Monat - ein Chatbot speziell für Betrüger, um Phising und Malware Angriffe zu verfeinern und zu personalisieren. Und es gibt bereits “tausende zufriedener Kunden”. WTF?!

Letzte Woche hat der Anthropic-CEO Dario Amodei dem amerikanischen Senatsausschuss auch Feuer unter dem A… gemacht, mit der Prognose, dass “die Technologie Kriminellen die Macht gebe, in nur zwei bis drei Jahren Biowaffen und gefährliche Viren zu entwickeln”.

Diese Beispiele zeigen, dass die “dunkle Seite der MAIcht” zu einer echten Herausforderung geworden ist, der sich die AI-Community stellen muss. Je stärler die Tools stärker in die Gesellschaft integriert sind, desto mehr nehmen auch die Risiken zu.

Was denkst du - echte Bedrohung oder nur Angstmacherei?

P.S.: Noch kurz zurück zum Auftakt. Das gezeigt Prompt funktioniert in dieser Form nicht mehr, da die Anbieter vor der Veröffentlichung der Forschungsergebnisse kontaktiert wurden - ChatGPT, Bing, Google Bard und Claude weigern sich alle standhaft. Gut so!

🖼️ Clipdrop wird langsam zu unserer Top Bild-AI App

Wenn du uns schon länger liest, weißt du: Wenn es um Bilder geht, liiiieben wir Midjourney. Wir sind fast schon Fanboys.

Allerdings holt eine App langsam ordentlich auf! Clipdrop ist nämlich seit dem Launch von Stable Diffusion XL ebenfalls in der Königsklasse angekommen (wir haben ja auch schon darüber berichtet).

SDXL 1.0 in Clipdrop ermöglicht es dir jetzt, großartige Bilder in wenigen Sekunden zu erzeugen. Und kombiniert mit den anderen Bearbeitungs-Tools macht das wirklich Laune.

Hier ein kurzer Vergleich zwischen Midjourney und Clipdrop mit SDXL 1.0.

Wir haben folgenden Prompt für einen Ferrari F40 verwendet (erweitert mit dem ChatGPT Plus Plugin Photorealistic):

Capture a stunning image of a Ferrari F40, the iconic red sports car, on a scenic road in Tuscany. 

The car should be the focal point, gleaming under the warm Tuscan sun. The background should be a picturesque landscape of rolling hills, vineyards, and cypress trees that Tuscany is known for. 

The road should curve gently, leading the viewer's eye towards the horizon. Use a Canon EOS 5D Mark IV DSLR camera with an EF 24-70mm f/2.8L II USM lens for a wide-angle shot that captures the grandeur of the scene. 

The resolution should be 30.4 megapixels, with an ISO sensitivity of 100 to keep noise to a minimum. The shutter speed should be 1/125th of a second to freeze the motion of the car. The image should be in raw format to preserve all the details, and the aspect ratio should be 16:9 for a cinematic feel. 

The style should be hyper-realistic, with high contrast and vibrant colors that make the scene come alive.

Hier das Ergebnis von Midjourney. Ziemlich cool natürlich, wie erwartet.

Und hier das Ergebnis von DSXL 1.0 und Clipdrop, auch stark.

Das Spannende an Clipdrop ist nun, dass wir das Bild sofort im Editor mit verschiedenen Tools bearbeiten können. Mit nur wenigen Klicks:

Wir können den Hintergrund entfernen, das Bild neu belichten, hochskalieren oder über das Feature Uncrop erweitern.

Hier zum Beispiel das Bild mit zwei Klicks von 1:1 nach 16:9 Format verwandelt.

Das war nur ein kleiner Vorgeschmack, probiere Clipdrop und SDXL 1.0 am besten hier gleich aus. Du kannst es kostenlos ausprobieren.

🧑‍💻 Tool zum Ausprobieren: Dein persönlicher AI-Assistent

Vor gefühlt ewigen Zeiten (=vor genau 4 Wochen) haben wir schon einmal am Rande über das Tool HyperWrite AI und deren persönlichen AI-Assistenten geschrieben.

Noch einmal kurz: Die AI von HyperWrite kann das Web navigieren, wie ein Mensch und Aufgaben erledigen! Zum Beispiel:

• Research machen

• Flüge buchen

• Pizza bestellen

Hier das Teaser-Video dazu:

Das coole: Jetzt ist die Alpha Version für alle verfügbar. Einfach hier mit Google anmelden und das Chrome-Plugin installieren.

Wir haben damit angefangen zu spielen. Und der Assistent versteht auch deutsch. Klar, das Ganze ist eine Alpha-Version, daher bleibt er manchmal noch hängen – aber es macht auf jeden Fall Spaß, das auszuprobieren.

Fakt ist: Diese AI-Assistenten werden kommen und werden sehr gut werden. Daher lohnt es sich, so früh wie möglich damit Erfahrungen zu sammeln.

Viel Spaß beim Ausprobieren!

Bis am Montag, mit einer frischen Runde News, Hacks und Insights für dich!

Deine AInauten

Wann immer du bereit bist, so können wir dir helfen: