{"type":"rich","version":"1.0","title":"Bitter21 wrote","author_name":"Bitter21 (npub1r3…sv4ls)","author_url":"https://yabu.me/npub1r3ygtd4cxy7wvpfwmwq09wqpn307rd9pc6suhhwpvrt7nd4lw4psysv4ls","provider_name":"njump","provider_url":"https://yabu.me","html":"Hörer Feedback:\nPersönlich würde mich interessieren, ob ihr Erfahrung mit self hosting AI auf eigener Hardware habt. \nIm Umgang mit Kundendaten und Finanzzahlen in einem KMU kann man nicht einfach Openai oder Anthropic drauflassen.\nIn einem anderen Podcast hatte SethForPrivacy mal angedeutet, dass er mit einem DGX Spark arbeitet (Qwen 3.8 27B soll mittlerweile sehr viel bieten).\nAnsonsten bietet sich evtl. auch ein grosses MacStudio an.\n\nSicher nicht für den Hobbybastler sinnvoll wegen der hohen Kosten, aber im Unternehmensumfeld aufgrund Datenschutzthemen eben schon."}
