Gate 广場「創作者認證激勵計畫」優質創作者持續招募中!
立即加入,發布優質內容,參與活動即可瓜分月度 $10,000+ 創作獎勵!
認證申請步驟:
1️⃣ 打開 App 首頁底部【廣場】 → 點擊右上角頭像進入個人首頁
2️⃣ 點擊頭像右下角【申請認證】,提交申請等待審核
立即報名:https://www.gate.com/questionnaire/7159
豪華代幣獎池、Gate 精美周邊、流量曝光等超過 $10,000 的豐厚獎勵等你拿!
活動詳情:https://www.gate.com/announcements/article/47889
發生了什麼
Tether Data推出了QVAC Fabric LLM,這是一種邊緣優先的大型語言模型(LLM)推理運行時,結合了一種通用的LLM低秩適應(LoRA)微調框架。該技術支持現代AI模型在包括GPU、智能手機、筆記本電腦和服務器等異構平台上高效運行。該框架使得設備上的AI處理成爲可能,旨在優化資源使用並提高對需要LLM能力的應用程序的推理速度。
上下文
QVAC Fabric LLM的發布與行業內更廣泛的趨勢相一致,強調在邊緣進行AI計算——數據在用戶設備上本地處理,而不是集中在雲服務器上——以增強隱私、減少延遲並節省帶寬。LoRA微調是一種技術,允許模型通過更新較小的參數子集來適應新任務,從而減少計算資源的需求,使其適用於廣泛的設備。Tether Data,一家公司