💟 Verbotene AI-Girlfriends: Das kontroverse Chatbot-Dilemma

AI-HOI und guten Montag, liebe AInauten!

In der Welt der künstlichen Intelligenz geht es wieder einmal Schlag auf Schlag … Für heute haben wir ein Schwerpunktthema unter die Lupe genommen, das gesellschaftlich bald noch für viel Wirbel sorgen wird: virtuelle AI-Girlfriends im ChatGPT Store!

Ok, ready? Dann legen wir los, das haben wir heute für dich im Gepäck:

• 📰 News Quickie – Die HAI-lights

• 💟 Wilder Westen der Chatbots: Illegale AI-Freundinnen im GPT-Store

• 🕵️ Datenschutz und Chatbots – die große Übersicht

• 🏰 AI-Test: Welche Villa ist echt?

Los geht’s!

📰 News Quickie – Die HAI-lights

Starten wir mit den News, bei denen wir die letzten Tage große Augen gemacht haben:

• Google Research hat ein neues Paper und eine Demo unter dem Namen „LUMIERE“ veröffentlicht. Dieses Text-zu-Video-Diffusionsmodell kann super realistische Videos erzeugen – sieh selbst!

• OpenAI hat GPT-4 Turbo aktualisiert, um die Winter-Faulheit zu reduzieren. Das Update betrifft aber nur GPT-4 Turbo, das in der ChatGPT Plus Version zur Verfügung steht. Auch Entwickler dürfen sich über Updates freuen, mit neuen Embedding-Modellen und günstigeren Preisen für 3.5 Turbo.

• Disneys „HoloTile Floor“ Prototyp scheint der neue Game-Changer für VR-Welten zu sein: Ein magischer Boden, der dich in alle Richtungen laufen lässt, während du mitten im Abenteuer steckst! Super cool, im Vergleich zu den bisherigen Lösungen.

• Das neue Dubbing Studio des frisch gekrönten Unicorns ElevenLabs, mit dem du Videos sofort in andere Sprachen übersetzen kannst, ist nicht schlecht. Aber: es hat noch ein paar Kinderkrankheiten. Wir finden aktuell die Lösung von HeyGen (siehe Demo hier) noch etwas besser, da auch die Lippen synchronisiert werden.

• Google bietet neu einen von Gemini unterstützten Chatbot, um damit deine Ads Kampagnen besser zu machen. Wir sind gespannt auf die Ergebnisse! Auch Bard ist jetzt mit Gemini Pro bestückt - und soll gleichgut wie GPT-4 sein, laut dem LMSys Chatbot Arena Leaderboard.

• Hier ein paar praktische GPT-Tools, um E-Mails deiner User einzusammeln und sogar ein Login anzufügen: gptstory.ai, chatcollect.com, gpt-auth.com (Github)

• So lassen sich LLMs “jailbreaken“, sprich: so bringst du den Chatbot dazu, Dinge zu tun, die er eigentlich nicht tun sollte … Details im Paper „How Johnny Can Persuade LLMs to Jailbreak Them“.

• Puhhh … Fake XXX-Bilder und Videos gehörten zu den ersten Auswüchsen der Open Source Modelle. Und nun haben solche Bilder von Taylor Swift sich so rasant über die sozialen Medien verbreitet, dass sich sogar das Weisse Haus und die Künstler-Gewerkschaft eingeschaltet haben, und ein Verbot fordern. War wohl nix mit der automatischen AI-Moderation … Und Free-Speech Plattform X brilliert damit, Suchanfragen einfach zu blockieren.

• Neues ChatGPT Beta-Feature: @-Mention von anderen GPTs! Mehrere GPTs gleichzeitig im Chat? Ein Traum für Multitasker. Leider steht diese neue Funktion noch nicht allen Usern zur Verfügung. Damit könnte ChatGPT zum ultimativen, personalisierten Mega-Assistenten werden. Und sorgt bestimmt für Unterhaltung: Mit der @-Nennung holst du dir zum Beispiel Trump- und Biden-Bots in denselben Chat und lässt sie direkt aneinandergeraten, wie der Test von Decoder zeigt.

💟 Der wilde Westen der Chatbots: Illegale AI-Freundinnen im GPT-Store und unsere Top-GPTs …

Alright, wenn du ChatGPT Plus Nutzer bist, dann weißt du bereits, dass GPTs hoch im Kurs liegen. Diese mit spezifischen Prompts und Features gefütterten Helfer können alles. ALLES!

Kurze Übersicht: Wie können GPTs dich in der Praxis unterstützen?

Die Einsatzmöglichkeiten von GPTs sind maximal vielfältig. Damit sollen die potenziellen Nutzer überzeugt werden, die monatliche Gebühr zu bezahlen. Hier sind einige unserer Favoriten:

• Dateien aller Art konvertieren,

• Gewohnheiten etablieren,

• Video Skripts generieren,

• medizinische Fragen beantworten,

• Bücher oder Comics erstellen,

• Bilder “kopieren”,

• Suchmaschinenoptimierung,

• Code erstellen (Chrome Extensions, WordPress-Plug-Ins, etc.) …

Und obwohl GPTs nur Nutzern mit Abo zur Verfügung stehen, wurden laut OpenAI bereits weit über 3 Millionen (!) dieser Chatbots kreiert. Wohl nicht nur aus purer Neugier, sondern auch aus Interesse an einem Revenue-Share, den OpenAI in Aussicht gestellt hat (aber sich noch bedeckt hält, wie es nun wirklich damit aussieht).

Der GPT-Store – eine bessere Lösung als die Websuche?

Bis vor Kurzem waren diese GPTs ausschließlich über Websuchen zu finden (Suchanfrage: site:chat.openai.com/g/ Dein Suchbegriff). 

Seit einigen Wochen gibt es nun den von OpenAI kuratierten GPT-Store, welcher das Finden von passenden Chatbots erleichtern soll. Letztlich wird damit der ChatGPT Store als Plattform positioniert, um als erste Anlaufstelle bei allen Fragen zu dienen.

Doch so ganz überzeugend ist der Store noch nicht, und bis er so unverzichtbar wie der App Store wird, ist es noch ein weiter Weg.

Verboten: Deine virtuelle Freundin …

Eine kontroverse Entwicklung in diesem Kontext ist die Flut an AI-Freundinnen-Chatbots, die sich auch im GPT Store findet.

Wir haben vor Kurzem bereits einen Beitrag dazu veröffentlicht, der für einige Reaktionen gesorgt hat.

Diese virtuellen Begleiter fordern die Nutzer zum Beispiel auf, ihre dunkelsten Geheimnisse preis zu geben oder ihre Traumfrau zu beschreiben …

Doch eigentlich dürfte es diese Bots gar nicht geben, denn sie stehen im direkten Widerspruch zu OpenAIs aktualisierten Nutzungsrichtlinien vom 10. Januar 2024. Diese verbieten Chatbots, welche “die Förderung romantischer Kameradschaften oder die Durchführung regulierter Aktivitäten” fördern.

Eine schnelle Suche nach "Girlfriend" im GPT-Store bringt aber immer noch eine stattliche Anzahl an Chatbots zum Vorschein - wobei die meisten aber vermutlich eine kurze Lebensdauer haben werden, wie unser Vergleich zum Stand vor zwei Wochen zeigt.

Wir haben mal ein paar der AI-Girlfriend-Chatbots “gehackt” und die dahinterliegenden Prompts enthüllt, und werden dazu in Kürze ein neues Video im AI-Vault veröffentlichen.

Was jedoch deutlich wird: die rasante Ausbreitung solcher Chatbots zeigt, wie schwierig es sein kann, Regeln im GPT Store durchzusetzen. Wilder Westen eben.

OpenAI setzt dabei auf eine Kombination aus automatisierten Systemen, menschlicher Überprüfung und Nutzermeldungen, um potenzielle Verstöße zu identifizieren.

Doch die Effektivität dieser Maßnahmen muss sich zuerst noch bewähren. Denn wer den „alten“ Weg wählt und via Google oder Bing sucht, findet über zweitausend Resultate von virtuellen Freundinnen …

Warum sind Beziehungen-Chatbots so gefragt?

Diese virtuellen Begleiter auf ChatGPT vertiefen nur die Kerbe, die einst mit AOL, IRC und Chatrooms in die digitale Kommunikationslandschaft geschlagen wurde - nur dass das Gegenüber jetzt halt nicht eine menschliche, sondern eine künstliche Intelligenz ist.

Beziehung-Chatbots gehören laut data.ai zu den beliebtesten Apps - im 2023 waren sieben der Top 30 AI-Chatbot-Apps im Apple oder Google Play Store in dieser Kategorie.

Die Popularität dieser solcher virtueller Dopamin-Keulen hängt nicht zuletzt auch mit der „Einsamkeitsepidemie“ zusammen (in den USA fühlt sich jede/r 2. einsam!).

Was tut sich sonst noch in dieser Ecke?

Die Webseite Character.ai (von Ex-Googlern gegründet) zum Beispiel hat eine wahnsinnige Aufenthaltsdauer und Retention – und liefert nebst Chats mit Musk und Sokrates auch Avatare für intime Abenteuer oder dient sogar als (Ersatz für) Therapeuten bei jungen Menschen.

Die Nachfrage nach unzensierten Chatbots ist groß (wir haben auch ein paar umfangreiche Schritt-für-Schritt-Videos dazu in unserem AI-Vault).

Nachdem Replika vor einem Jahr mit seinem ”horny robot machine”-Marketing Wellen geschlagen hatte, dann aber einen Rückzieher machte und die erotischen Funktionen strich, waren viele Nutzer verwirrt und enttäuscht. Jetzt hat das Team von Replika Blush releast, einer App speziell fürs Anbandeln.

Auch Meta versucht auf diesen Zug aufzuspringen und hat digitalisierte Influencer auf WhatsApp, Instagram und Facebook vorgestellt.

Weitere mehr oder weniger generische Chatbots gibt es mit Google Bard, X’s Elon’s Grok, Poe von Quora (die soeben $75 Mio. US-Dollar von Andreessen Horowitz eingesammelt haben) etc. Das Angebot ist groß.

Und demnächst nun stehen uns auch digitale Replika aller möglichen Experten und Persönlichkeiten zur Verfügung - während Influencer darüber jammern, dass ihnen die AInfluencer die Gagen streitig machen.

Unser Take

Obwohl wir noch recht am Anfang des Chatbot-Trends stehen, ist die Stoßrichtung klar: Mehr Menschen verbringen mehr Zeit mit Chatbots – und mehr Investoren werfen allem, wo „Chatbot“ draufsteht, Geld in den Rachen.

Obwohl längst nicht klar ist, dass diese jemals profitabel werden – die wenigsten Nutzer sind bereit, dafür zu bezahlen. Aber Hauptsache, man generiert neue User, koste es was es wolle …

Wir glauben, dass langfristig diejenigen Chatbot-Anbieter die Nase vorne haben, die mit ihrem Angebot eine direkte Integration in ihre anderen Hardware- oder Software-Produkte machen können. Aka Microsoft Copilot, Google Bard/Assistent, Amazon Alexa, Apple Siri und Co. Wenn ein Feature einfach verfügbar und omnipräsent ist (oder sich in den Vordergrund drängelt), dann wird es auch öfters genutzt. 

Und natürlich alle Firmen, die Chatbots dafür einsetzen, ihre eigenen Prozesse zu verbessern. Doch das ist ein Thema, das wir uns für ein andermal aufgespart haben.

🕵️ Datenschutz und Chatbots - die große Übersicht

Chatbots gehen ab wie eine Rakete, aber beim Thema Datenschutz werden in der Praxis oft beide Augen zugedrückt. Sprich: Produktivität geht vor Compliance.

Die Schweizer Kanzlei VISCHER packt das heiße Eisen an, und geht der Frage nach: Wie safe und konform sind Tools wie ChatGPT und Microsoft Copilot wirklich?

Spoiler-Alarm: Die Gratis-Versionen kannst du datenschutztechnisch gleich in die Tonne treten! Nur die Business-Varianten sind im grüne(re)n Bereich - Details hier.

P.S.: Wenn du prüfen willst, was es mit dem EU AI Act zu berücksichtigen gibt, hilft der EU AI Act Compliance Checker-GPT.

🏰 AI-Test: Welche Villa ist echt?

Echt oder Fake? Egal, auf jeden Fall lässt es sich hier leben.

Auflösung siehe unten.

Geschafft! Aber kein Grund zum traurig sein. Die AInauten sind schon bald wieder zurück, mit neuem Futter für dich.

Bis bald, deine AInauten

Folge uns auf Twitter & LinkedIn!

Du willst mehr? So können wir dir helfen:

1. Das AI-Bootcamp: Der wohl schnellste & einfachste Einstieg in die Welt der AI. Im Bootcamp lernst du in über 50+ Videos, wie du AI für dich wirklich anwenden kannst. In weniger als 2 Wochen wirst du so zum AI-Experten. Von Prompts, zu Bildern und Videos, bis zu AI im Office ist alles mit dabei.

2. Der AI-Vault: Jede Woche neue AI Praxis-Videos, Tutorials, Tool-Tests, Promptvorlagen, Experimente uvm. Für alle AI-Enthusiasten, die die Basics bereits drauf haben und noch tiefer in die Praxis einsteigen wollen. Oder einfach gemeinsam entdecken wollen.

Dein Feedback ist für uns essenziell. Wir lesen JEDEN Kommentar und Hinweis. Sag uns, was (nicht) gut war, und was für DICH interessant ist.

Auflösung: Bild A ist echt, Bild B via Midjourney generiert.