GPU案例集|Tesla備受青睞，竟有這么多500強(qiáng)選擇了TA！
現(xiàn)今，先進(jìn)的AI服務(wù)愈加受到市場(chǎng)青睞，其中包括圖像和語音識(shí)別、自然語言處理、視覺搜索和個(gè)性化推薦。與此同時(shí)，數(shù)據(jù)集不斷擴(kuò)大，網(wǎng)絡(luò)也變得越來越復(fù)雜，用戶期望的延遲要求也愈發(fā)嚴(yán)格。GPU已被證明是加速深度學(xué)習(xí)和AI工作負(fù)載的最佳解決方案，不少行業(yè)領(lǐng)頭羊都在使用NVIDIA GPU技術(shù)加速AI推理。
在NVIDIA Clara 平臺(tái)和NVIDIA GPU 技術(shù)的助力下，12 Sigma Technologies的σ-Discover/Lung 系統(tǒng)能夠自動(dòng)檢測(cè)圖像中小至0.01% 的肺結(jié)節(jié)，對(duì)惡性腫瘤的分析準(zhǔn)確率超過90%，并可為放射科醫(yī)生提供決策支持工具。在利用NVIDIA T4 集群進(jìn)行優(yōu)化后，該系統(tǒng)的運(yùn)行速度提升18 倍。
Alibaba每天要處理83 億個(gè)翻譯請(qǐng)求，來支持國(guó)際商業(yè)貿(mào)易。使用神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯(NMT) 顯著改善了翻譯質(zhì)量，但增加了延遲和計(jì)算成本。為補(bǔ)其不足并加速NMT在線服務(wù)，Ali部署了NVIDIA Tesla GPU，處理的請(qǐng)求數(shù)量增加3倍的同時(shí)，響應(yīng)速度縮短到原來的1/3。
語音翻譯幫助游客、企業(yè)、學(xué)生等群體克服了語言障礙。科大訊飛希望擴(kuò)展其普通話的語音服務(wù)，支持多種口音和方言。該公司將其推理運(yùn)算遷移到Tesla GPU和TensorRT，擴(kuò)大了對(duì)GPU的采用。科大訊飛現(xiàn)可處理的并發(fā)請(qǐng)求數(shù)量已增加為原來的10倍，準(zhǔn)確率提高了20%，而且TCO運(yùn)營(yíng)成本也已降低20%。
網(wǎng)絡(luò)視頻流量不斷增加，這就要求運(yùn)營(yíng)企業(yè)加大監(jiān)控力度，以過濾不當(dāng)內(nèi)容。京東在Tesla P40 GPU上使用NVIDIA DeepStream SDK 和TensorRT 來識(shí)別和過濾全高清直播視頻的1000 個(gè)頻道。該公司在使用推理來過濾視頻內(nèi)容時(shí)，吞吐量已增至20倍，而搭載Tesla的每個(gè)服務(wù)器則可同時(shí)處理20個(gè)視頻。
作為一家用戶規(guī)模約達(dá)10億的中國(guó)社交媒體領(lǐng)先平臺(tái)，微信希望提升其語音轉(zhuǎn)文本服務(wù)。但在部署新的聲學(xué)模型時(shí)，其CPU-only服務(wù)器卻無法有效運(yùn)行新版本。于是微信部署了搭載Tesla P4 GPU推理加速器的服務(wù)器，由此將語音推理吞吐量提高2.5 倍，模型內(nèi)準(zhǔn)確率提升20%，同時(shí)仍將延遲估算保持在較低水平。
定制優(yōu)化GPU解決方案
實(shí)現(xiàn)高效精準(zhǔn)模型推理
寬泛科技作為英特爾、英偉達(dá)等芯片及品牌廠商的堅(jiān)實(shí)合作伙伴，NVIDIA潛力AI公司加速計(jì)劃成員，攜手專注為人工智能提供硬件解決方案及相關(guān)服務(wù)，已成為國(guó)內(nèi)過萬家企業(yè)、院校及研究機(jī)構(gòu)的信息化解決方案供應(yīng)商。
旗下Cloudhin?云軒支持Deep learning和高性能計(jì)算服務(wù)器定制，針對(duì)主要深度學(xué)習(xí)框架（如TensorFlow、Caffe 2、Theano或Torch）進(jìn)行了優(yōu)化和設(shè)置，在桌面上即可提供強(qiáng)大的深度學(xué)習(xí)功能。
NVIDIA Tesla A100接受預(yù)定中，A100由NVIDIA Ampere優(yōu)化軟件提供支持：包括CUDA 11；50多個(gè)CUDA-X?庫的新版本；多模式對(duì)話式AI服務(wù)框架NVIDIA Jarvis；深度推薦應(yīng)用框架 NVIDIA Merlin；RAPIDS?開源數(shù)據(jù)科學(xué)軟件庫套件；NVIDIA HPC SDK，其中內(nèi)含編譯器、庫和軟件工具，可最大程度地提高開發(fā)者的工作效率以及HPC應(yīng)用的性能和可移植性。
憑借這些功能強(qiáng)大的軟件工具，開發(fā)者們能夠構(gòu)建并加速HPC、基因組學(xué)、5G、數(shù)據(jù)科學(xué)、機(jī)器人學(xué)等領(lǐng)域的應(yīng)用。
Cloudhin?云軒GS4288-P4采用Intel C612最高速芯片組，性能穩(wěn)定，把握十足。其支持兩顆E5-2600 v4/v3（24核48線程），內(nèi)存最大支持3TB內(nèi)存。
最高可搭載8個(gè)NVIDIA圖形處理器，RTX 2080/S/TI、RTX TITAN/V、TESLA T4/P100/V100，均支持按需定制。它可以讓你輕松應(yīng)對(duì)分子動(dòng)力學(xué)模擬、排序，生命科學(xué)與醫(yī)療分析、石油天然氣勘探、GPU虛擬化服務(wù)器，是復(fù)雜模型計(jì)算的理想選擇。
專業(yè)勤修，銳意進(jìn)取。云軒技術(shù)工程師畢業(yè)于NVIDIA深度學(xué)習(xí)研究所，豐富經(jīng)驗(yàn)，值得信賴。更多定制方案請(qǐng)聯(lián)系客服，我們將實(shí)時(shí)響應(yīng)您的定制需求。
如果您有合作需求或?qū)氋F建議，歡迎來信。
郵箱：hezuo@kuanfans.com
合作熱線：400-610-1360轉(zhuǎn)375899
