学生党一卡难求,深度学习研究如何应对显卡短缺困境?
作为一名学生党,我深深地感受到了什么叫“一卡难求”,我们课题组主要从事深度学习领域的研究,尤其是CV、NLP方向,不少的任务对硬件的要求极高,特别是高端显卡。
目前课题组只有几张“老爷卡”,而项目需求却日益增长。每次进行模型训练时,师兄弟们都得排队等候,甚至不得不放弃一些复杂的实验设计,因为现有的“老爷卡”根本无法支撑起高计算量的任务。而且,这些显卡的使用频率极高,几乎24小时不间断地运行,经常处于高负荷状态,导致它们的稳定性也大打折扣。
面对显卡不足的情况,师兄弟们不得不开始四处寻找解决方案。首先,我们尝试联系其他课题组看是否有闲置的显卡可以借用。但遗憾的是,大多数课题组都和我们一样,显卡资源同样紧张。接着,我们又将目光转向了跳蚤市场,如闲鱼、京东等平台,希望能淘到一些性价比高的二手显卡。然而,由于市场上显卡价格波动大且供不应求,我们很难以合理的价格购得所需的显卡。
在寻找过程中,我们还发现了一些提供GPU显卡租赁的云服务平台,如并行科技的容器云等。我们发现,并行容器云是以云服务的形式提供GPU显卡的租赁,用户可以在云端进行模型训练。虽然需要支付一定的费用,但相比购买硬件,成本还是低了很多。而且,该平台还提供丰富的镜像资源和一键部署功能。
扫码注册,领取100元试算券
进入九月份了,又是开学季,但老师再也不用担心课题组“老爷卡”的分配问题。正好,近期并行容器云在开学季面向我们这些学生党也推出了福利活动,新用户扫码可以免费100元试算券,我计算了一下,如果是4090,可以免费试用53个小时,如果是3090,可以免费试用63个小时,可谓诚意满满,而且后续租赁的价格也低于市场上其它云平台,并且充值还额外返5%的超算券。
另外,据并行官网显示,并行科技还是国内首家算力服务上市企业,技术势力和服务能力更是业界翘楚,作为学生党,简直是闭眼入啦。