ゆうひまわり on Nostr: LM ...
LM studioでいろいろLLMモデルを試したけど、英語に限定すれば、結構実用レベルだね。7Bモデルであれば、うちのVRAM 12GBでも良い速度が出るし、回答の質も悪くない
Published at
2024-04-28 11:30:37Event JSON
{
"id": "bc136c34fbc6f9f6cbabc78905f3eff6a011925151e45edf06b8573403e34c4c",
"pubkey": "269e6f57aa9a200c814e6b98721819dde038ca60c0390b87b658d300ab6d0d04",
"created_at": 1714303837,
"kind": 1,
"tags": [],
"content": "LM studioでいろいろLLMモデルを試したけど、英語に限定すれば、結構実用レベルだね。7Bモデルであれば、うちのVRAM 12GBでも良い速度が出るし、回答の質も悪くない",
"sig": "d9d93fca37c915624c6ba217f27a46970c21dab1a881b8d4061a7635d70d5e2db03fd5b2595f378c6a6f0bf20e38a84a8b37a6b99e7ca11f1034723db0e6dbda"
}
