data://explore

data://disrupted® spricht mit und über Unternehmen, Technologie und Trends

DXPLR0028: Skalare, Vektoren, Token und die Inferenz

Die Geschichte von Aufstieg und Fall der FLOPS

19.11.2024 65 min

Zusammenfassung & Show Notes

In dieser Episode geht es um Rechnungen mit Unbekannten. Kerstin und Wolfgang erörtern, warum KI nicht gleich KI ist, was Großrechner damit zu tun haben und wie Forschung funktioniert – bzw. eben nicht. Im Besonderen geht es um die besonderen Anforderungen generativer KI bzw. dazu benötigter neuronaler Netze oder großer Sprachmodelle, Simulation, causal inference und warum GPUs dafür wenig taugen.

Zur Geschichte des Rechnens:
Große Sprchmodelle und eine LPU (Tensor-Stream-Prozessor von Groq):
  • Website des Unternehmens
  • GroqChat - eine generative KI
  • Artikel zu Groq auf datadisrupted.tech
  • 🦙 (Large language model ai von Meta)
Auch interessant:
Neue Anwendungsfälle für alte Rechner – die Kausale Inferenz und der DAG:
Unsere Buchempfehlungen:

🧑🏻‍🦱 and 👩🏼 🫶🏻 🤖:
Diese Episode wurde inspiriert von Dr. Hatem Mousselly-Sergieh (Senior Data Scientist bei Deutsche Telekom) und seinem Vortrag während des Month of AI.



________________________________________________________________