近日,中國長城旗下長城科技推出長城AIGC一體機(jī)。該款一體機(jī)基于長城擎天GF7280 V5 AI服務(wù)器和國產(chǎn)GPU,可應(yīng)用于大模型和傳統(tǒng)AI等場景,具有設(shè)計(jì)性能優(yōu)異、性價(jià)比高的特點(diǎn)。 大模型場景 01 技術(shù)創(chuàng)新 單臺支持70B-180B開源大模型FP16精度的私有數(shù)據(jù)微調(diào),常規(guī)70B以上模型微調(diào)需要2-3臺8卡滿配80G顯存的GPU才能完成,長城通過顯存擴(kuò)容方案,解決模型“放不下”問題,微調(diào)成本降低60%。 本地私有微調(diào)后,即可在原配置上推理,真正做到訓(xùn)推一體,在金融、新聞、政務(wù)、醫(yī)療、工業(yè)等專業(yè)性要求高的垂直領(lǐng)域,模型性能要求高(70B以上規(guī)模模型效果好),且對專業(yè)知識理解能力強(qiáng)(私有數(shù)據(jù)微調(diào)),長城訓(xùn)推一體給出了完美解決方案。 02 兼容主流生態(tài) 支持主流框架(Pytorch、Tensorflow、PaddlePaddle、ONNX Runtime、DeepSpeed、Colossal-AI),支持主流開源模型(LLama2、...
9月24日至25日,2024世界計(jì)算大會在湖南長沙舉辦。本次大會以“智算萬物·湘約未來——算出新質(zhì)生產(chǎn)力”主題,匯聚了國內(nèi)外計(jì)算領(lǐng)軍人物、權(quán)威專家及頭部企業(yè)代表,共同探討計(jì)算科學(xué)的未來發(fā)展。中國長城憑借技術(shù)實(shí)力和前瞻性的產(chǎn)品布局,受邀亮相創(chuàng)新成果展,展示在計(jì)算領(lǐng)域的最新產(chǎn)品及研發(fā)成果。公司總裁戴湘桃出席計(jì)算產(chǎn)業(yè)鏈對接專場并發(fā)表主題演講,高級副總裁譚敬軍參加活動(dòng)。 創(chuàng)新成果展 在這場科技盛會上,中國長城攜多款高性能桌面終端解決方案、A4黑白激光一體機(jī)M3300X等辦公外設(shè),全面展示了在計(jì)算終端領(lǐng)域的深厚積累與創(chuàng)新能力,還展出了輕型融合終端,憑借其輕量化設(shè)計(jì)、高度集成與強(qiáng)大的計(jì)算能力,為移動(dòng)辦公與邊緣計(jì)算場景提供了前所未有的便捷與高效。 在服務(wù)器展區(qū),擎天RF6260 V5、擎天RK6260 V5以及擎天GF7280 V5三款服務(wù)器產(chǎn)品的集中展示,充分展現(xiàn)了中國長城在高性能計(jì)算、云計(jì)算、大數(shù)據(jù)處理...