“陈默,泽明,你们有没有想过,”夏冬终于开口了,目光扫过两位技术大拿,“为什么我们堆了那么多顶配的CPU,算力依然捉襟见肘?我们的算法,到底在让这些CPU干什么活?”
陈默皱着眉头想了想:“主要就是神经网络的层级计算,里面全是大规模的矩阵乘法。”
“对,问题就出在这里。”
夏冬停止敲击桌面,“CPU的架构设计初衷是什么?是处理复杂的控制逻辑,它里面有大量的分支预测、指令调度单元。”
“打个比方,CPU就像是一个精通微积分的大学老教授。你让他解多复杂的数学题他都会。”
为了让非纯技术的苏晚晴也能听懂,夏冬顿了顿,摊开双手继续说道:“但是,我们推荐算法需要的,是极其海量、极其枯燥的简单矩阵乘法。”
“这等于你雇了一万个大学老教授,每天让他们坐在办公室里算一加一等于几。”
陈默和吴泽明愣了一下。
“他们能算,”夏冬一针见血地指出,“但是效率极低,而且成本高得离谱。大炮打蚊子,从根源上就错了。”
两位顶尖的技术大拿对视了一眼,脑子里仿佛劈过一道闪电。
陈默喃喃自语:“所以……通用的CPU,从硬件物理架构上就不适合跑我们的算法?”
The content is not finished, continue reading on the next page