DXPLR0028: Skalare, Vektoren, Token und die Inferenz
Die Geschichte von Aufstieg und Fall der FLOPS
19.11.2024 65 min
Zusammenfassung & Show Notes
In dieser Episode geht es um Rechnungen mit Unbekannten. Kerstin und Wolfgang erörtern, warum KI nicht gleich KI ist, was Großrechner damit zu tun haben und wie Forschung funktioniert – bzw. eben nicht. Im Besonderen geht es um die besonderen Anforderungen generativer KI bzw. dazu benötigter neuronaler Netze oder großer Sprachmodelle, Simulation, causal inference und warum GPUs dafür wenig taugen.
Zur Geschichte des Rechnens:
- Cray-Cyber.Org
- Das Computer History Museum (Vom Kernspeicher zur KI)
- Zeitreise durch die Computergeschichte
Große Sprchmodelle und eine LPU (Tensor-Stream-Prozessor von Groq):
- Website des Unternehmens
- GroqChat - eine generative KI
- Artikel zu Groq auf datadisrupted.tech
- 🦙 (Large language model ai von Meta)
Auch interessant:
- Ein kurzer Ausflug in die Welt der Quanten mit data://disruped®
- GenAI oder der Stochastische Papagei – erklärt für das WTF-Projekt der der Sächsischen Landeszentrale für politische Bildung
- Wissenschaftliche Kritik an KI und LLM
- Mindestens mittelfristig unabdingbar: Der Mensch im Zirkel (Human in the Loop)
- Weder Dys- noch Utopie – KI aus der Sicht eines Hochschulprofessors (Podcast-Episode vom Deutschlandfunk)
Neue Anwendungsfälle für alte Rechner – die Kausale Inferenz und der DAG:
- Das Modeling (Phase 1)
- JAMA Guide to Statistics and Methods (Ari M. Lipsky, Sander Greenland)
- Directed Acycled Graph (blog post by Hazelcast)
Unsere Buchempfehlungen:
- KI für Einsteiger, eine Graphic Novel
- Eine Einführung in kausale Inferenz von Judea Pearl und sein Book of Why (bei Amazon)
🧑🏻🦱 and 👩🏼 🫶🏻 🤖:
Diese Episode wurde inspiriert von Dr. Hatem Mousselly-Sergieh (Senior Data Scientist bei Deutsche Telekom) und seinem Vortrag während des Month of AI.
Diese Episode wurde inspiriert von Dr. Hatem Mousselly-Sergieh (Senior Data Scientist bei Deutsche Telekom) und seinem Vortrag während des Month of AI.
________________________________________________________________
- Lest Artikel in unserem Online-Magazin.
- Abonniert uns via Bluesky, Facebook, Mastodon, LinkedIn, RSS-Feeds oder YouTube.
- Hört mehr Podcast mit data://express und Release.Patch.Repeat.
- Folgt Stiefkind und FrauStief auf Bluesky.
- Unterstützt uns mit einem Kaffee ☕️ – oder Tee 🫖.