non ho detto questo, mi limito a constatare che usare un modello non ti obbliga al training, e prendo atto di una realtà dove modelli piccoli per i quali non possiamo rimettere nei buchi della presa la corrente usata per il training, sono disponibili su huggingface, per essere utilizzati su macchine locali (anche laptop ben carrozzati) con software libero (OpenWebUI e Ollama). Per calcolare quali modelli sono compatibili con il tuo hardware c'è questo tool:
https://huggingface.co/spaces/Vokturz/can-it-run-llm
Carlo Gubitosa :nonviolenza:
npub1wp…6xf2h
2026-07-01 08:01:02 UTC
in reply to nevent1q…pt4e
Author Public Key
npub1wpvw7pga7v8n6cdnd5ru9552zd77rpnskgg306cvztl4qwpsztfsh6xf2hSeen on
wss://relay.momostr.pinkPublished at
2026-07-01 08:01:02 UTCEvent JSON
{
"id": "c8a153529365d9f56b9b7795c2eceffdd5ce53c76904cb94ce515e8ecd1c744e",
"pubkey": "7058ef051df30f3d61b36d07c2d28a137de18670b21117eb0c12ff50383012d3",
"created_at": 1782892862,
"kind": 1,
"tags": [
[
"p",
"014fefd9772354631be41e00707d043d80158e3de808e9a7990f0d84d21a175d"
],
[
"p",
"fdf59c819b28bb241e53596e4d4f79730d9587094b30e27d0306e3f51a9b6af3"
],
[
"p",
"7058ef051df30f3d61b36d07c2d28a137de18670b21117eb0c12ff50383012d3"
],
[
"e",
"e8ddfb5743263d209facaf5fafc9da0f9cd0bd50a2a96d79fad9f3dbb9f4d3d3",
"",
"root",
"7058ef051df30f3d61b36d07c2d28a137de18670b21117eb0c12ff50383012d3"
],
[
"e",
"b0ca46bda3a482924d0a3aaed1731168ba6481c56058fec3a0abdd5ec5bdbf22",
"",
"reply",
"fdf59c819b28bb241e53596e4d4f79730d9587094b30e27d0306e3f51a9b6af3"
],
[
"proxy",
"https://sociale.network/@gubi/116843666624830297",
"web"
],
[
"proxy",
"https://sociale.network/users/gubi/statuses/116843666624830297",
"activitypub"
],
[
"L",
"pink.momostr"
],
[
"l",
"pink.momostr.activitypub:https://sociale.network/users/gubi/statuses/116843666624830297",
"pink.momostr"
],
[
"-"
]
],
"content": "non ho detto questo, mi limito a constatare che usare un modello non ti obbliga al training, e prendo atto di una realtà dove modelli piccoli per i quali non possiamo rimettere nei buchi della presa la corrente usata per il training, sono disponibili su huggingface, per essere utilizzati su macchine locali (anche laptop ben carrozzati) con software libero (OpenWebUI e Ollama). Per calcolare quali modelli sono compatibili con il tuo hardware c'è questo tool:\n\nhttps://huggingface.co/spaces/Vokturz/can-it-run-llm",
"sig": "711104b334ec7a626c58f5b2ecb99bf4371006ad5601755d744a6f518cb2ce45cabc1c25d19d2d68ada30272bfd68b88a05db1dfc713cf4c0976760769b4e435"
}