🪩 SPECIAL: Der große State of AI-Report 2024

AI-HOI AInauten,

Happy Monday! Wir sind am Weekend richtig tief in den neuen State of AI-Report eingetaucht - super spannend, diese umfassende Analyse des gesamten AI-Universums. Die Highlights der 212 Slides starken Präsentation haben wir für dich zusammengefasst und auch auf Deutsch übersetzt - siehe PDF hier. Heute gehen wir in die Vogelperspektive, und am Donnerstag gibt es dann wieder mehr Praxis-Tipps.

• 🪩 State of AI Report 2024: Trends enthüllt – Was die Zukunft prägt

• 🔮 Blick in die Glaskugel - beginnen wir mit den Vorhersagen!

• 🧠 Die Modell-Revolution: Größer, schneller, besser

• 🎮 Multimodale Magie: Text war gestern, Video explodiert

• 💰 AI-Ökonomie: Ein Milliarden-Markt mit NVIDIA an der Spitze

• 🤖 AI-gestützte Hardware macht Fortschritte

• 🔬 Wissenschaftliche Durchbrüche und Nobelpreise

• 💥 AI-Sicherheit: Von „Endzeitstimmung“ zu „Let’s make money!“

• 🔒 Regulierung: Die Politik kommt nicht hinterher …

• ⏳ Fazit: Die Zukunft wird verdammt schräg

Ready? Los geht’s!

🪩 State of AI Report 2024: Trends enthüllt – Was die Zukunft prägt

2024 war für die künstliche Intelligenz ein Jahr der Superlative - aber gleichzeitig stehen wir immer noch gaaaanz am Anfang. Schon verrückt, oder?

Was sind also die Entwicklungen, die unser aller Zukunft prägen werden? Darauf hat der jährliche State of AI-Report die besten Antworten - den vollständigen Bericht findest du auf stateof.ai (Original Slides mit Quellen hier, deutsches PDF hier). Ein super spannendes Framework, mit allem, was du über den aktuellen Stand in Forschung, Industrie, Sicherheit und Politik wissen musst.

🔮 Blick in die Glaskugel - beginnen wir mit den Vorhersagen!

Die Macher des Reports geben uns jedes Jahr die wichtigsten Prognosen mit auf den Weg. Diese kommen zwar am Schluss des Reports, aber wir starten gerne gleich damit.

Die Macher des Reports glauben, dass uns im nächsten Jahr Folgendes erwartet:

1. Eine Investition von über 10 Milliarden Dollar von einem anderen Staat in ein großes US-AI-Labor löst eine nationale Sicherheits-Überprüfung aus.

2. Eine No-Code-App oder Website geht viral (z. B. Top 100 in einem App Store).

3. Die AI-Forschungslabore setzen bedeutende Änderungen bei ihren Datenerhebungspraktiken um, nachdem sie vor Gericht gebracht werden.

4. Der EU-AI-Akt fällt in der Praxis weniger streng aus als erwartet, nachdem die Gesetzgeber befürchten, damit zu weit gegangen zu sein.

5. Eine Open-Source-Alternative zu OpenAI o1 übertrifft dieses in Benchmarks.

6. Herausforderer schaffen es nicht, NVIDIAs Marktposition zu gefährden.

7. Investitionen in humanoide Roboter nehmen ab, da der Produkt-Markt-Fit schwierig ist.

8. Apples Forschung beschleunigt das Momentum für persönliche AI auf dem Gerät.

9. Ein AI-generiertes Forschungspapier wird auf einer ML-Konferenz angenommen.

10. Ein Game, das auf Interaktion mit AI-Elementen basiert, erzielt einen Durchbruch.

P.S.: Das waren die Vorhersagen des letzten Jahres. Es wurde überschätzt, wie schnell sich einige Forschungsarbeiten als erfolgreich erweisen würden, aber die Prognosen zur Industrie und Politik waren besser.

🧠 Die Modell-Revolution: Größer, schneller, besser

Zunächst sah es so aus, als hätten OpenAIs Mitbewerber (wie Anthropics Claude 3.5 Sonnet) zum Marktführer aufgeholt, da die Benchmarks im Laufe des Jahres sehr nah beieinander lagen.

Aber dann kam das o1 Modell, das mit dem „Chain-of-Thought“-Ansatz einen neuen Standard setzte und der AI mehr Zeit zum Denken und Hinterfragen einräumte.

Dieser Intelligenzsprung hat aber auch seinen Preis:

• o1 benötigt 26x mehr Rechenleistung pro Token als GPT-4!

• Ergebnis? 83,83% Score bei AIME 2024 (komplexe Mathe) vs. 13,4% bei GPT-4o

• 1M Input-Token kosten $15, 1M Output-Token $60, rund 3-4x teurer als GPT-4o

Für die meisten Anwendungsfälle ist jedoch ein weniger intelligentes Modell völlig ausreichend. Dort gibt es einen massiven Zerfall der Preise bei allen Anbietern. Liegt das nun an den Effizienzgewinnen oder profitieren wir von einem Preiskampf, bei dem es vor allem um Marktanteile und Aufmerksamkeit geht?

Da sich die Modellleistung angleicht, investieren die Anbieter mehr in Produkte, um sich voneinander zu differenzieren. Claude Artifacts hat sich dabei als Favorit für Entwicklung etabliert, während OpenAI versucht, dies mit seinem neuen Canvas-Feature zu imitieren.

Auch die Lücke zwischen Open Source und proprietären Modellen scheint sich zu schließen. Metas Open-Source-Champion Llama 3.1 405B wurde mit 15T Tokens trainiert und schließt die Lücke zu proprietären Modellen. Vor ein paar Wochen ging Llama 3.2 sogar multimodal, und auch kleinere Modelle werden immer besser.

Take-Away: o1 ist ein massiver Sprung nach vorne, aber die hohen Kosten werden die breite Anwendung zunächst bremsen. Die anderen Modelle sind zwar nicht so gut, aber oftmals komplett ausreichend und immer wie preiswerter.

🎮 Multimodale Magie: Text war gestern, Video explodiert

2024 war auch das Jahr, in dem multimodale Modelle so richtig durchgestartet sind. Metas neuester Wurf MovieGen generiert nicht nur Video, sondern auch den passenden Sound dazu!

Und es gibt viele weitere Highlights im Bereich Video:

• Stability AIs Stable Video 3D generiert 3D-Objekte aus Text

• Googles Veo und OpenAIs Sora (noch nicht öffentlich) versprechen minutenlange, hochqualitative Videogenerierung

• Chinesische Anbieter mischen auch hier ganz vorne mit, wie KLING oder Minimax

• Die wichtigsten Player haben die Kasse gut gefüllt: Runway hat $236,5M Funding eingesammelt, Pika steht bei $135M und Luma bei $67,3M.

Take-Away: Video-AI wird in den nächsten 12-18 Monaten explodieren. Eine Flut von AI-generierten Kurzfilmen, Werbespots und vielleicht sogar die ersten AI-Co-produzierten Spielfilme erwarten uns!

💰 AI-Ökonomie: Ein Milliarden-Markt mit NVIDIA an der Spitze

Es gibt eine Zweiklassengesellschaft bei den AI-Startups: die größten Player erzielen reale Einnahmen, die den steigenden Bewertungen entsprechen, während andere gehypte Startups mit milliardenschweren Bewertungen eher von "Vibes" angetrieben zu sein scheinen.

Meta hat einen Weg gefunden, um den Aktienkurs wieder in die Höhe zu treiben: die Investitionen in das Metaversum zurückstellen und statt dessen hart in Open-Source-AI investieren. Die Llama-Modelle wurden über 440 Millionen Mal auf HuggingFace heruntergeladen!

Allerdings hat OpenAI mit seinen Milliarden an Einnahmen immer noch keinen profitablen Geschäftsplan entwickelt … und da das Training Millionen, wenn nicht sogar Milliarden von Dollar verschlingt, ist so schnell auch noch kein Weg zur Rentabilität in Sicht.

Was Hardware betrifft, so regiert NVIDIA weiterhin unangefochten, obwohl etablierte Konkurrenten viel Geld in ihre Ökosysteme stecken und neue Herausforderer auf der Bildfläche erscheinen. Aber NVIDIAs Dominanz ist einfach atemberaubend…

Und dann sind da noch die riesigen Compute-Anforderungen… Big Tech versucht zwar, die Emissionen im Zaum zu halten, aber da prallen Wunsch und Realität heftig aufeinander. Die Ziele für 2030, die 2019 noch weise erschienen, werden nach aktuellen Trends alle verfehlt.

Viele Experten glauben, dass AI uns aus der Klimakatastrophe helfen wird, indem die Entwicklung von Carbon-Capture-Technologien beschleunigt wird und tonnenweise saubere Energie produziert. Deshalb sei es falsch, jetzt auf die Bremse zu treten …

Take Away: Hätte man die $6 Mrd., die seit 2016 in AI-Chip-Startups investiert wurden, stattdessen in NVIDIA-Aktien gesteckt, wären daraus heute $120 Mrd. geworden!

🤖 AI-gestützte Hardware macht Fortschritte

Auch im Bereich Robotik hat sich enorm viel getan! Nachdem OpenAI das Robotik Research Team in 2021 aufgelöst hat, werden jetzt andere Firmen dabei unterstützt ihre Humanoiden mit AI auszustatten.

Google macht Roboter smarter und kreativer, und Hugging Face bringt uns mit LeRobot DIY-Robotik ins Wohnzimmer. Und erinnerst du dich noch an Boston Dynamics' Spot? Der lernt jetzt sogar Kisten stapeln!

Und nach Jahren gebrochener Versprechen machen selbstfahrende Auto-Unternehmen enorme Fortschritte - Waymo fährt in den USA über 100.000 bezahlte Fahrten pro Woche, und Tesla hat letzte Woche das neue Cybercab vorgestellt.

In der Welt der Consumer-Hardware haben sich Metas AI-gestützte Ray-Bans als überraschender Erfolg herausgestellt – eine stilvolle Kombination aus Style und klarer Funktionalität. Andere Geräte? Eher nicht, der Humane Pin und Rabbit R1 waren Flops, und auch die Apple Vision Pro wartet noch auf den Durchbruch.

Take away: AI-Hardware ist nur dann erfolgreich, wenn Technik auf Usability und Design trifft – siehe Meta Ray-Ban vs. Humane Pin. Wer keinen klaren Mehrwert bietet, verliert schnell den Anschluss!

🔬 Wissenschaftliche Durchbrüche und Nobelpreise

AI-Wissenschaftler haben dieses Jahr in den Disziplinen Physik und Chemie unerwartet den Nobelpreis abgestaubt.

Der Nobelpreis für Chemie geht an die AI-Pioniere Hassabis, Baker & Jumper, die für ihren AI-Einsatz zur Vorhersage und Kreation von Proteinen geehrt werden. Geoffrey Hinton und John Hopfield haben den Nobelpreis im Bereich Physik erhalten.

Take Away: In den nächsten 5 Jahren wird es Durchbrüche in Bereichen wie Materialwissenschaften, Arzneimittelentwicklung und Klimamodellierung geben, die bisher als unlösbar galten.

💥 AI-Sicherheit: Von „Endzeitstimmung“ zu „Let’s make money!“

Letztes Jahr war das Thema existenzielle Risiken der große Aufreger. Aber jetzt, wo die Unternehmen auf Kommerzialisierung setzen, ist das in den Hintergrund gerückt.

Sicherheitsbedenken? Ja, die gibt’s noch, aber “Time-to-Market” hat Priorität. Forscher haben zwar versucht, die Sicherheits-Schrauben anzuziehen, aber die Jailbreaker rund um Pliny the Prompter (unser Interview hier) haben alle diese Ansätze relativ schnell zunichtegemacht.

Während dabei gerne technische Exploits diskutiert werden, entsteht der meiste reale Schaden durch die Nutzung von Standardprodukten, um Deepfakes oder Phishing-Kampagnen zu erstellen.

Die Regierungen bauen Kapazitäten für AI-Sicherheit auf und reden über potenzielle Risiken, doch bisher gibt es noch keine nachhaltigen Fixes, um Jailbreaks und Hacks zu verhindern. Wie lange noch, bis es knallt?

Aber nicht jeder ist ein Gewinner. Es gibt immer wie mehr prominente kritische Stimmen, welche die Argumente von Big Tech zur “fairen Nutzung der Inhalte” unter erheblichem rechtlichen Druck stellen.

Take away: AI-Sicherheit bleibt ein heißes Thema, aber da die AI-Firmen auf Kommerzialisierung setzen, rückt der Fokus auf existenzielle Risiken in den Hintergrund. Echte Lösungen fehlen, während Regierungen verzweifelt versuchen, aufzuholen.

🔒 Regulierung: Die Politik kommt nicht hinterher …

Während AI sich explosionsartig weiterentwickelt, rennt die Politik hinterher. Ja, irgendwo zwischen USA und EU gibt es Fortschritte, aber globale Regulierung? Fehlanzeige.

In der Politik hat die US-Regierung die unverbindlichen Zusicherungen, die sie von großen AI-Laboren erhalten hat, per Exekutivverordnung 14110 formalisiert, da es keinen Konsens über mögliche Gesetze gab. Während dies ein schneller Weg ist, kann die Verordnung auch jederzeit von der nächsten Regierung wieder rückgängig gemacht werden…

In Europa schreitet die Regulierung mit dem EU-AI-Akt munter voran, und führt dazu, dass US-Labore Schwierigkeiten haben, damit Schritt zu halten. Die Folge: neue Features werden aufgegeben oder erheblich verzögert für die Europäer eingeführt.

Und die Regulatoren durchleuchten nun auch die vielen Verbindungen zwischen den wichtigsten AI-Playern, die sich unter dem Akronym GAMMAN etabliert haben: Google, Amazon, Microsoft, Meta, Apple & NVIDA …

Da die Anbieter mehr frische Daten benötigen um ihre Modelle zu trainieren, wenden sich viele an ihre eigenen Nutzer – wie Meta, LinkedIn, Alphabet und X. Der Spruch “If it’s free, then you are the product!” kommt hier wieder einmal zum Tragen …

Die Regulierungsbehörden sind darüber nicht erfreut und erzwingen entweder Stopps oder die Einführung klarer Opt-out-Optionen.

Take away: Während die AI-Technologie rast, hinken die Regulierer hinterher. Die USA setzen auf Exekutivverordnungen, während Europa mit dem EU-AI-Akt Druck macht und Innovationen ausbremst. Klar ist: Die großen Player sammeln weiter Daten, Safety ist ein Nebenschauplatz und die Regulierer versuchen verzweifelt, die Kontrolle zu behalten …

⏳ Fazit: Die Zukunft wird verdammt schräg

Der AI-Report 2024 gibt uns einen klaren Hinweis: Die nächsten zwei Jahre werden wild. Damit erzählen wir dir bestimmt nichts neues.

Wir stehen am Beginn einer Revolution, bei der AI nicht nur unsere Technologie, sondern auch unsere Gesellschaft umkrempelt. Das Potenzial ist riesig, aber die Risiken sind es auch. Wie fundamental die Veränderungen sein werden, wird sich bald zeigen ...

Geschafft! Aber kein Grund zum Traurigsein. Die AInauten sind schon bald wieder zurück, mit neuem Futter für dich.

Reto & Fabian von den AInauten

P.S.: Folge uns auf den sozialen Medien - das motiviert uns, Gas zu geben 😁! Twitter, LinkedIn, Facebook, Insta, YouTube, TikTok