“有用”的算力“不好用”？

【导语】国产算力芯片以“能用、好用”为评价标杆，但“高性能”与“易用”间似存鸿沟。业内人士指出，国产算力为提升使用率，在软件栈设计上“有意”平衡，既要简化操作降低用户(hù)成(chéng)本(běn)，又(yòu)因(yīn)场(chǎng)景(jǐng)多(duō)样(yàng)、代(dài)际(jì)和(hé)异(yì)构(gòu)差(chà)异(yì)面(miàn)临(lín)挑(tiāo)战(zhàn)，实(shí)现(xiàn)“更(gèng)好(hǎo)用(yòng)”仍(réng)需(xū)突(tū)破(pò)。

对(duì)于(yú)国(guó)产(chǎn)算(suàn)力(lì)芯(xīn)片(piàn)来(lái)说(shuō)，“纸(zhǐ)面(miàn)上(shàng)的(de)指(zhǐ)标(biāo)不(bù)重(zhòng)要(yào)，真(zhēn)正(zhèng)能(néng)用(yòng)、好(hǎo)用(yòng)才(cái)重(zhòng)要(yào)”，几(jǐ)乎(hu)成(chéng)为(wèi)业(yè)界(jiè)默(mò)认(rèn)的(de)评(píng)价(jià)标(biāo)准(zhǔn)。然(rán)而(ér)，近(jìn)日(rì)记(jì)者(zhě)从(cóng)产(chǎn)业(yè)活动中了解到，算力的“高性能”和“易用”之间似乎存在着一道“看不见的鸿沟”。

好算力不易用，厂商有意为之？

“好用和用得好似乎是天然的矛盾。”摩尔线程联合创始人首席技术官张钰勃表示。对于用户而言，“好用”首先意味着使用和迁移成本低。要实现“好用”，让用户先在自己的平台上“用起来”，算力芯片企业就得将自己的计算平台包装得非常简单，非常标准化，甚至做得跟CUDA一模一样。“这样开发者确实不需要做太多的额外学习，能够最小化学习和迁移成本。”张钰勃说。

国产算力芯片用(yòng)于(yú)数(shù)字(zì)人

然而，单纯与国际主流保持一致，国产算力的创新性如何体现？国产卡又如何真正实现在诸多应用场景的部署，成为“有用”算力呢？

针对这一问题，北京硅基流动科技有限公司创始人、首席执行官袁进辉解释道：算力芯片中往往会设计很多细节，存在很多复杂的结构和功能，充分调用其功能需要一定的经验和技巧。如果想让更多的人尽快地用起来，芯片就要尽可能地把细节隐藏起来，用简单而抽象的指令，尽可能让使用的方式简单一些。也就是说，把软件接口做简单，使用户能“傻瓜式”地把芯片用起来，便实现了芯片的“好用”。

但算力芯片应用的场景是多样化的，场景覆盖AI、图形处理、科学计算等等诸多类型，每一种任务(wu)的(de)工(gōng)作(zuò)负(fù)载(zài)不(bù)尽(jǐn)相(xiāng)同(tóng)，对(duì)底(dǐ)层(céng)芯(xīn)片(piàn)的(de)使(shǐ)用(yòng)方(fāng)式(shì)也(yě)各(gè)不(bù)相(xiāng)同(tóng)。在(zài)不(bù)同(tóng)的(de)场(chǎng)景(jǐng)中(zhōng)，工(gōng)程(chéng)师(shī)如(rú)果(guǒ)发(fā)现(xiàn)了(le)需要解决的问题，需要从上到下，逐层把一些工作负载细化、分解，以匹配硬件上的规格。

因此，所谓算力芯片“好用的没用”“有用的不好用”的争论，其实一定程度上是算力芯片企业为提升本品牌芯片使用率，“有意为之”的结果。

“好用不好用”，软件栈很重要

为了使用户先“用起来”而故意隐藏部分信息，既反映出算力芯片企业对(duì)用(yòng)户(hù)的(de)重(zhòng)视(shì)，也(yě)反(fǎn)映(yìng)出(chū)用(yòng)户(hù)习(xí)惯(guàn)仍(réng)然(rán)在(zài)国(guó)产(chǎn)算(suàn)力(lì)芯(xīn)片(piàn)普(pǔ)及(jí)化(huà)过(guò)程(chéng)中(zhōng)扮(ban)演(yǎn)着(zhe)相(xiāng)当(dāng)重(zhòng)要(yào)的(de)角(jiǎo)色(sè)。软(ruǎn)件(jiàn)栈(zhàn)的(de)成(chéng)熟(shú)度(dù)和(hé)“好(hǎo)用(yòng)”程(chéng)度(dù)，也(yě)很(hěn)大(dà)程(chéng)度(dù)上(shàng)决(jué)定(dìng)了(le)开(kāi)发(fā)者(zhě)对(duì)算(suàn)力(lì)芯(xīn)片(piàn)品(pǐn)牌(pái)的(de)信(xìn)赖(lài)度(dù)。

当(dāng)前(qián)，用(yòng)户(hù)期(qī)待(dài)算(suàn)力(lì)基(jī)础(chǔ)设(shè)施(shī)能(néng)够(gòu)承(chéng)载(zài)包(bāo)括(kuò)大(dà)规(guī)模(mó)训(xun)练(liàn)、推(tuī)理(lǐ)在(zài)内(nèi)的(de)诸(zhū)多(duō)职(zhí)能(néng)。与(yǔ)此(cǐ)同(tóng)时(shí)，国(guó)产(chǎn)算(suàn)力(lì)芯(xīn)片(piàn)存(cún)在(zài)代(dài)际(jì)迭(dié)代(dài)，超(chāo)智(zhì)融(róng)合(hé)的(de)算(suàn)力(lì)中(zhōng)心(xīn)还(hái)存(cún)在(zài)异(yì)构(gòu)情(qíng)况(kuàng)。上(shàng)述(shù)这(zhè)些(xiē)需(xū)求(qiú)，都(dōu)对(duì)底(dǐ)层(céng)软(ruǎn)件栈的稳定性带来很大的挑战。

“我们期待的状态是，上层应用跑得好。”启元实验室助理研究员王豪杰在接受采访时表示。英伟达的芯片之所以受到欢迎，稳定、高效且简易的软件栈发挥了很大的作用。王豪杰举例，一个在A100芯片上训练的模型，可以部署在4090显卡上，整个过程非常顺利，不需要对软件做任何修改。“这是英伟达好用的本质核心。”王豪杰说。

国产算力用于远程作业平(píng)台(tái)

反观国产芯片生态：一方面，同一品牌的产品存在代际差异；另一方面，不同品牌之间、底层软件栈之间也存在差异。在某一款产品上进行训练，再到另一款算力芯片上推理，模型在不同(tóng)的(de)软(ruǎn)件(jiàn)和(hé)底(dǐ)层(céng)硬件迁移之后，精度损失会非常严重。甚至可能出现，某些接口在一款产品上适配了，但在另一款产品上没有适配，模型跑不起来的可能。

“在单点算力不足的情况下，为了满足算力规模(mó)需(xū)求(qiú)，我(wǒ)们(men)需(xū)要(yào)调(diào)用(yòng)异(yì)构(gòu)算(suàn)力(lì)。底(dǐ)层(céng)软(ruǎn)件(jiàn)的(de)是(shì)支(zhī)撑(chēng)实(shí)现(xiàn)这(zhè)一(yī)切(qiè)的(de)基(jī)础(chǔ)。”王(wáng)豪(háo)杰(jié)称(chēng)。

基(jī)于(yú)此(cǐ)，国(guó)产(chǎn)算卡要实现“更好用”，就得使任务能够轻易地调用不同品牌的算力卡。如果存在严格的适配机制和验证机制，能够通过中间层统一的架构，保障在上层代码不作修改的情况(kuàng)下(xià)，任(rèn)务(wu)也(yě)能(néng)够(gòu)在(zài)不(bù)同(tóng)品(pǐn)牌(pái)的(de)算(suàn)力(lì)芯(xīn)片(piàn)上(shàng)运(yùn)转(zhuǎn)起(qǐ)来(lái)，便(biàn)能(néng)推(tuī)动(dòng)我(wǒ)国(guó)智(zhì)能(néng)算(suàn)力(lì)进(jìn)一(yī)步(bù)朝(cháo)着(zhe)产(chǎn)业(yè)化(huà)、规(guī)模(mó)化(huà)方(fāng)向(xiàng)拓(tà)展(zhǎn)。