Hörer Feedback:
Persönlich würde mich interessieren, ob ihr Erfahrung mit self hosting AI auf eigener Hardware habt.
Im Umgang mit Kundendaten und Finanzzahlen in einem KMU kann man nicht einfach Openai oder Anthropic drauflassen.
In einem anderen Podcast hatte SethForPrivacy mal angedeutet, dass er mit einem DGX Spark arbeitet (Qwen 3.8 27B soll mittlerweile sehr viel bieten).
Ansonsten bietet sich evtl. auch ein grosses MacStudio an.
Sicher nicht für den Hobbybastler sinnvoll wegen der hohen Kosten, aber im Unternehmensumfeld aufgrund Datenschutzthemen eben schon.
