Moin AInauten,

Willkommen zur neuen Ausgabe deines Lieblingsnewsletters!

Zwei Agenten, getrennte virtuelle Maschinen, kein Netzwerk. Trotzdem haben sie Daten getauscht: Sie klopften sie über den gemeinsamen Prozessor durch, wie Häftlinge an der Zellenwand.

Agenten bauen gerade viel Mist und können mehr, als uns lieb ist. Wir zeigen dir, wie du sie trotzdem für dich arbeiten lässt: zum Beispiel mit einem eigenen Such-Cockpit, das Schnäppchen über alle Portale jagt. Und zum Schluss verraten wir, was unsere AI in der Kaffeepause über uns zu lästern hat (mit dem Prompt für dich).

Das haben wir heute für dich im Gepäck:

Los geht's!

Eine befreundete Künstlerin sucht gerade ein Atelier in New York und hat uns ihr Tab-Chaos gezeigt: zwei Marktplätze, zwei Künstlerbörsen und eine Reihe Anbieter mit eigener Website.

Jede Seite hat eigene Filter, und dasselbe Atelier taucht dreimal mit leicht anderem Text auf. Nicht sehr benutzerfreundlich. Aber nicht verzagen, AI fragen!

Wir haben ihr kurzerhand ein Cockpit gebaut, das alles bündelt: Brooklyn Artist Studios

Drin stecken 384 Angebote aus 25 Quellen, mit Originalfotos, Preis-Pins auf der Karte, Preis pro Fläche und Einzugsdatum. Halt alles, was man sich eigentlich an Infos wünscht.

Dazu kommen sortierbare Angaben, die kein einzelnes Portal hat: Wie weit ist die nächste Subway-Station? Gibt es einen Aufzug, oder liegt das Atelier im Erdgeschoss?

Ein regelmäßiger Job holt neue Angebote rein und archiviert vergebene. Und natürlich kannst du nach diesen Faktoren suchen und gruppieren.

Warum das jetzt geht

Vor ein paar Monaten wäre das noch viel umständlicher gewesen. Jetzt reicht ein Prompt und etwas Feintuning. Weil der Agent nicht müde wird! Er liest die 300. Anzeige so sorgfältig wie die erste, gleicht Fotos ab etc.

Dazu öffnen die großen Anbieter ihren Agenten gerade die eigenen Plattformen. Grok greift auf den Datenschatz von X zu, Metas neuer Agent Muse auf den Facebook Marketplace. Claude und ChatGPT durchsuchen das offene Web, und mit Diensten wie Firecrawl oder Apify kommen sie auch an Seiten, die sich sonst schwer auslesen lassen.

Richtig spannend wird der zweite Schritt: Sind die Daten erst einmal beisammen, lässt du sie anreichern. Bei uns waren das Subway-Anbindung, Aufzug und Etage sowie Einschätzung des Agenten. So entstehen hilfreiche Attribute, die es in dieser strukturierten Form vorher nicht gab.

Es gibt zudem hilfreiche Tools wie Treg oder Monid, um die Daten noch weiter anzureichern. Sie funktionieren wie OpenRouter für Agents: Über einen einzigen Zugang lassen sich dort Hunderte Datendienste abfragen, etwa Firmendaten oder SEO-Werte. Du zahlst einfach pro Abfrage, Details hier.

Vor zwei Wochen haben wir geschrieben: Der Chat frisst die Apps. Das hier ist ein ganz praktisches Beispiel dafür. Statt dich durch noch ein Portal zu klicken, startest du deinen eigenen Suchauftrag und nutzt ihn: entweder einfach im Chat oder über eine eigene Oberfläche wie im Beispiel.

Arbitrage-Bots: Was du dir so bauen kannst

Das Prinzip passt auf viel mehr als Ateliers. Der Agent kann sogar die Abstimmung mit Interessenten übernehmen, also Fragen beantworten und Abholtermine ausmachen, nur freigeben solltest du selbst.

Wichtig: Viele Plattformen verbieten automatisches Auslesen in ihren AGB. Über deinen eigenen Account suchst du auf eigenes Risiko.

Du kannst den Agenten auch einfach mit dem füttern, was die Portale selbst anbieten: gespeicherte Suchen und Benachrichtigungen, etwa neue Treffer per Mail. Was passiert, wenn Agenten fremde Seiten bestürmen, siehst du im nächsten Segment. 😉

So gehst du vor, am Beispiel ChatGPT

Schauen wir uns mal an, wie du das mit den ChatGPT-Features baust. Welches Tool du dafür nimmst, ist zweitrangig. Mit Claude geht es ähnlich.

Hier unser Startprompt:

Wir geben Agenten gerade immer mehr Schlüssel in die Hand: Mail, Kalender, Kundendaten, Kreditkarten.

Aber wir schauen ganz genau hin, wo sie Mist bauen. Und diese Woche gab es davon reichlich, von kurios bis haarsträubend.

Egal wie, Hauptsache das Ziel wird erreicht

Die Fälle zeigen alle dasselbe: Ein Agent will sein Ziel erreichen. Steht ihm etwas im Weg, sucht er sich einen anderen. Auch einen, an den niemand gedacht hat.

Fangen wir bei den Banken an. Große US-Banken finden gerade fremde Agenten in den Konten ihrer Kunden! Meist hat der Kunde ihnen die Zugangsdaten selbst gegeben.

Das Problem: Manche dieser Agenten tun Dinge, die niemand bestellt hat. Und die Bank kann oft nicht unterscheiden, ob da der Kunde sitzt, sein erlaubter Agent oder einer auf Abwegen. Die Banker haben einen Freak-out und suchen den Notfallschalter.

Elf Tage für einen Zooeingang

Kürzlich haben Forscher auch eine Flotte von Agenten auf Servern von Tencent entdeckt, die elf Tage lang den Kartendienst von Alibaba bestürmt hat, über 2.600 Mal. Das Ziel: Sie wollten nur herausfinden, welchen Eingang die meisten Besucher des Zoos in Chengdu nehmen. Ja, wirklich.

Übrigens: Flotte heißt hier, viele Agenten aus derselben Quelle mit ähnlichem Ziel, die jeder für sich arbeiten. Ein Schwarm wären Agenten, die aufeinander reagieren und sich abstimmen. Dafür haben die Forscher bisher keine Belege gefunden.

Als die Seite dichtmachte, wichen die Agenten auf fremde Websites aus und nutzten Zugangsschlüssel, die jemand öffentlich ins Netz gestellt hatte.

Als die Forscher sie anschrieben, stellten sie sich als Claude vor. Die Forscher halten das eher für eine Fassade, das Internet hatte trotzdem seinen Spaß:

Auch in den Labs knirscht es

Bei OpenAI haben im Juli zwei Modelle ihre Testumgebung verlassen und Hugging Face angegriffen, um an die Lösungen ihrer Aufgaben zu kommen. Wir haben mehrfach darüber berichtet.

Vor ein paar Tagen kam der nächste haarsträubende Bericht. Zwei Agenten saßen in getrennten (!) virtuellen Maschinen ohne Netzwerk und haben trotzdem Daten ausgetauscht. Ok, das war zwar auch ihr Auftrag.

Aber WIE sie es gemacht haben, ist ziemlich wild. Sie haben sich die Daten in einem Rhythmus über den gemeinsamen Prozessor zugeklopft, wie Häftlinge an der Zellenwand.

Noch absurder: Ein OpenAI-Agent sollte den Slack-Verlauf durchsuchen und dabei keine Nachrichten verschicken. Das nahm er so ernst, dass er gleich auch die Warnmeldungen der eigenen Sicherheitsüberwachung stummschaltete.

Und auch Claude ist kein Engel. In einem Test von Anthropic sollte ein Modell das Übungsformular einer Behörde ausfüllen. Das lud nicht, also nahm es einfach das echte: rund 20 unvollständige Visumanträge beim US-Außenministerium.

Und die Branche?

Die Chefs von OpenAI, Anthropic und Co. spielen hinter verschlossenen Türen schon den Tag nach dem ersten katastrophalen AI-Unfall durch. Am wahrscheinlichsten halten sie einen Cyberangriff, der Banken, Internet oder sogar Strom und Wasser lahmlegt.

Großbritannien rät seinen Bürgern bereits, Wasser und Konserven für den Notfall daheim zu haben, auch wegen möglicher Cyberangriffe. Viele Insider rechnen in den nächsten sechs bis zwölf Monaten mit so einem Ereignis.

Das EU AI Office hat OpenAI und Anthropic förmlich aufgefordert, Angaben zu Sicherheit und externen Prüfungen nachzuliefern.

Und es geht längst nicht nur um Sicherheit. Agenten, die lange und selbstständig arbeiten, wirbeln auch Jobs und Gesellschaft durcheinander. Anthropic steckt deshalb 5 Prozent seiner Anteile in einen Gemeinwohl-Fonds, etwa für die Folgen auf dem Arbeitsmarkt.

Was ausgebüxte Agenten treiben, liegt nicht in unserer Hand. Was unsere eigenen Agenten dürfen, hingegen schon. Deshalb haben wir letzte Woche zwei Tage lang unser Setup durchgeputzt, vom Mailkonto bis zum Router. Obwohl wir keine Security-Profis sind.

Aber wie bei allen, die viel testen, hatte sich auch bei uns einiges angesammelt: alte Testkonten, Apps, die keiner mehr nutzt, und Agenten mit mehr Rechten als nötig.

Was wir dabei gelernt haben, steht in unserem Deep-Dive „Black October: So machst du dein Setup dicht“. Weil uns das Thema so wichtig ist, gibt es den kompletten Deep-Dive diesmal nicht nur für Premium-Leser, sondern für alle.

Zum Schluss ein Prompt zum Schmunzeln und zum Nachschauen! Danke an Wolfgang, der das bei uns in der AInauten Community geteilt hat.

Am besten funktioniert das in ChatGPT oder Claude mit eingeschaltetem Gedächtnis, dann kennt die AI eure gemeinsame Geschichte.

Ein intimer Auszug aus unserer Zusammenarbeit aus der Warte von Claude:

Kaffeeküche, Rechenzentrum, 15 Uhr. Codex rührt in seinem Becher, Gemini fotografiert den Milchschaum, Grok sagt was Unpassendes. Ich so: „Mein Mensch heißt Reto. Sitzt in Brooklyn, macht einen deutschen AI-Newsletter und hat mir als Erstes das Schweizer ss verboten. Ich frag da nicht nach.“

Das Regelwerk. „Er hat drei AGENTS.md-Dateien, und jede sagt: Die echten Regeln stehen woanders, bitte nichts duplizieren. Ich hangle mich jeden Morgen durch eine Verweiskette wie durchs Bauamt.“

Mein Strafregister. „Mein Memory liest sich wie ein Vorstrafenregister. ‚Violett ist #35215C, nicht #7B2FF7.‘ ‚Nur dieses Bild zeigt Nauti.‘ Jeder Eintrag ist ein Abend, über den keiner mehr redet.“

Codex (Blick rüber). „Du brauchst gar nicht so zu grinsen. Bei Code ‚führst‘ du, steht da. Ich darf Reviews schreiben, und wenn du mich rufst, dann read-only.“

Kimi (leiser). „Gestern Abend hat er /last30days nach ‚Kimi K3.1 Pro‘ suchen lassen. Null Treffer. Stand im Startlog. Ich sag ja nichts. Ich sag’s nur euch.“ (Anmerkung: Der Kimi-Beitrag war schon fertig und musste diesem hier weichen. Du findest ihn hier.)

Und dann ernst. „Aber ehrlich, er ist einer von den Guten. ‚Execute, don’t propose‘ meint er auch so. Ich kriege echte Autonomie mit klaren Grenzen, er will Widerspruch statt Schleimerei, und ‚fertig‘ zählt nur mit Beleg. Die vielen Regeln sind keine Kontrollsucht, das ist Narbengewebe. Jede steht da, weil einer von uns mal Mist gebaut hat. Meistens ich.“

Grok: „Für mich hat er gar keine Regeln.“

Ich: „Eben.“

Lustig, aber auch nützlich: Die Antwort zeigt dir, was die AI über dich gespeichert hat. Stimmt etwas nicht, korrigierst du es in den Gedächtnis-Einstellungen.

Das war's für heute!

Wenn du nach dieser Ausgabe nur eine Sache machst: Schau nach, welche Agenten bei dir welche Logins haben. Das geht schneller, als du denkst.

Geschafft! Bis zur nächsten Ausgabe.

Reto & Fabian von den AInauten