欧美日韩亚洲国产精品_97无码免费人妻超级碰碰夜夜日本伊人色综合网_国产伦理一区二区_久久精品国产亚洲精品_久久精品国产网红主播

推理模型 QwQ-32B 上線青云 AI 算力云

QwQ-32B,僅 320 億參數(shù),卻能與 6710 億參數(shù)的 DeepSeek – R1 相媲美,現(xiàn)已正式上線青云科技旗下 AI 算力云服務(wù)——基石智算CoresHub 模型廣場(chǎng)。

QwQ-32B 在數(shù)學(xué)推理的 AIME 評(píng)測(cè)集、代碼能力評(píng)估的 LiveCodeBench 中表現(xiàn)出色,在 LiveBench、IFEval 評(píng)測(cè)集、BFCL 測(cè)試中得分甚至超越了 DeepSeek – R1,同時(shí)集成了與 Agent 智能體相關(guān)的能力,能在使用工具時(shí)進(jìn)行批判性思考,并根據(jù)環(huán)境反饋調(diào)整推理過(guò)程。

基石智算致力于打造技術(shù)領(lǐng)先的 AI Infra 平臺(tái),將 AI 算力云與模型開(kāi)發(fā)部署服務(wù)完美融合,通過(guò)模型廣場(chǎng)實(shí)現(xiàn)云端一鍵部署,讓用戶(hù)更便捷地根據(jù)自身需求進(jìn)行個(gè)性化的模型調(diào)用和管理,按需使用算力。

本文將介紹如何通過(guò)基石智算模型廣場(chǎng)使用 QwQ-32B。


第一步?

注冊(cè)并登錄基石智算(coreshub.cn)。進(jìn)入“AI 算力云服務(wù)”-“模型廣場(chǎng)”,選擇 QwQ-32B 模型。點(diǎn)擊“模型部署”按鈕。

第二步?

點(diǎn)擊模型部署后,選取對(duì)應(yīng)的算力資源,建議選擇?4?卡?4090?資源。


第三步

點(diǎn)擊“創(chuàng)建”按鈕,進(jìn)入推理服務(wù)詳情頁(yè)面,在服務(wù)信息頁(yè)簽內(nèi),獲取外網(wǎng)訪問(wèn)地址和 API 密鑰。

第四步

模型調(diào)用。

方法一:臨時(shí)調(diào)用

將外網(wǎng)訪問(wèn)鏈接中的 inference 字段修改為 inference-web。例如,外網(wǎng)連接為:http://ai.coreshub.cn/xb2a/inference/usr-5hy8cbjf/inf-gmqpqccv/修改為:http://ai.coreshub.cn/xb2a/inference-web/usr-5hy8cbjf/inf-gmqpqccv/瀏覽器中輸入修改后的外網(wǎng)鏈接,即可直接使用。

方法二:直接使用 Curl 手動(dòng)調(diào)用

1.模型部署完成后,用戶(hù)可打開(kāi)本地電腦終端。

2.執(zhí)行命令,直接發(fā)送 HTTP POST 請(qǐng)求。

方法三:使用第三方客戶(hù)端調(diào)用(以 CherryStudio 為例)

1.下載安裝好 CherryStudio,點(diǎn)擊設(shè)置-模型服務(wù)。

2.在彈出添加提供商窗口中,配置各項(xiàng)參數(shù),點(diǎn)擊確定。

3.新添加的提供商已顯示在列,配置相應(yīng)的?API 密鑰和?API 路徑,并點(diǎn)擊【管理】可識(shí)別出模型 。API 密鑰:即模型部署完成后,服務(wù)信息頁(yè)面獲取到的?API 密鑰,需根據(jù)實(shí)際情況進(jìn)行修改。API 地址:即模型部署完成后,服務(wù)信息頁(yè)面獲取到的外網(wǎng)訪問(wèn)地址,需根據(jù)實(shí)際情況進(jìn)行修改。注意,CherryStudio 平臺(tái)填寫(xiě)路徑時(shí)需忽略 v1 版本,故僅填寫(xiě)模型服務(wù)的外網(wǎng)訪問(wèn)地址即可,去掉末尾“/”。

4.識(shí)別出模型后點(diǎn)【+】即可添加成功。

5.選擇添加的模型,即可與模型對(duì)話。

基石智算提供 NVIDIA 全系列、主流國(guó)產(chǎn)芯片等多元算力資源,提供包括 QwQ-32B、DeepSeek-R1、DeepSeek-V3 在內(nèi)的文本處理、文生圖、文生視頻、語(yǔ)音轉(zhuǎn)換等多種類(lèi)型的模型,支持模型的一鍵啟動(dòng)、一鍵部署以及在線微調(diào),助力用戶(hù)打造專(zhuān)屬 AI 應(yīng)用。

熱門(mén)標(biāo)簽
Ubuntu
邊緣計(jì)算
飛騰
教育
超融合
云易捷
數(shù)據(jù)
存儲(chǔ)
U10000
云服務(wù)器
RadonDB
數(shù)據(jù)庫(kù)
復(fù)制成功