2025-11-11 05:27:50
AI用显卡是因为显卡有好多小处理器,一起干活快。训练大模型要算好多数学题,显卡的并行计算比电脑的CPU强十倍八倍。比如训练一个聊天机器人,用显卡能少花三天时间。
为啥显卡这么牛?因为GPU专门设计来同时处理几百个任务,像几百个工人同时搬砖头。而CPU就像一个工人,搬一块砖要等前头的人搬完。数据说NVIDIA A100显卡算力是CPU的100倍,功耗才多两倍。比如训练GPT-3用了300张A100,要换CPU得用3000台服务器。而且显卡有专门做浮点运算的单元,处理小数快得飞起。就像炒菜用高压锅,普通锅烧一锅饭要半小时,高压锅只要十分钟。所以AI训练必须用显卡,省时省电还高效。模拟效果:“因为显卡有好多小处理器一起干活快所以AI训练都用它,GPU算力是CPU百倍功耗才多两倍比如A100”
本题链接: