Think Different. Think AI. podcast

Token Budget

0:00
56:35
15 Sekunden vorwärts
15 Sekunden vorwärts
Wie viel darf KI kosten, und woran erkennt man, dass sich der Verbrauch lohnt? Mark und Jens sind wieder vollständig am Tisch, Jens ist nach einer Krankheit zurück. Sie sprechen darüber, wie schnell Abo-Kontingente aufgebraucht sind, warum der Umstieg auf die API-Abrechnung teuer werden kann und weshalb der Verbrauch allein noch nichts über die Qualität eines Ergebnisses sagt. Ein Thema ist der Begriff Token Maximizing, mit dem Entwickler am Verbrauch gemessen wurden, und das Wechseln zwischen mehreren Abos, sobald eines leer ist. Berichten zufolge haben manche Konzerne die Tagesbudgets für ihre Entwickler gesenkt. Ist ein Token teurer geworden, oder leisten die Modelle schlicht mehr? Welche Aufgabe braucht wirklich das größte Modell? Schnelle Varianten kosten mehr, und nur weil einem ein Ferrari in die Garage gestellt wird, fährt man nicht effizient. Der zweite Teil dreht sich um Apple. Mark hat auf seinem iPhone einen eigenen Agenten namens Hermes gebaut, mit einem notizbuchartigen Interface statt eines Chatfensters, Morgenbriefings aus Kalender und Mails und einer Frage an Apples Private Cloud Compute: Wie weit trägt der Datenschutz? Ob die kostenlosen Kontingente bleiben, ist offen. — Think Different. Think AI. mit Mark Zimmermann und Jens Scharnetzki. Hören: Apple, Spotify, YouTube, RSS https://think-ai.podigee.io Neue Folge zuerst im WhatsApp-Kanal https://whatsapp.com/channel/0029VbDJ4ZlGufIrpquad004 Wenn euch die Folge was gebracht hat: einmal bei Apple bewerten. Das entscheidet, ob jemand Neues uns findet. https://podcasts.apple.com/de/podcast/think-different-think-ai/id1828021699 Feedback und Gäste: über die Show-Seite.

Weitere Episoden von „Think Different. Think AI.“