hb1

近几年来关于AI的应用非常广泛,遍布在各个领域,从早期的键盘、鼠标到触屏,到如今可以通过语音识别等技术实现跟机器人自然交互,或者说我们正处在一个AI的时代。

人工智能的研究由来已久,早期时候更多是依靠专家,根据他们自己的经验来告诉机器,机器在定义好的规则里做一些搜索。这个是依赖专家的经验。2006年以后,随着数据量和硬件计算能力的大幅度提升,人们开始尝试直接将数据交给计算机,让计算机自己在里面做搜索。算法是核心,硬件和数据是基础。

深度学习作为人工智能的核心技术,通过模仿人类大脑的神经机制来分析和解释数据,例如图像、声音、文本。但是人的大脑本身并没有成熟的规则,这一切是通过神经元触发实现的。DNN、CNN、RNN是目前常用的几种神经网络算法分类,TensorFlow、Caffe是几种常用的深度学习框架。

神经网络包含输入层、输出层和隐藏层,每层都包含若干个神经元,神经元之间通过权重参数进行计算,如同形成了一个巨大的神经网络。用一个简单的例子说明一下深度学习训练和预测过程,这是一个图像识别,我们的目标是构建一个神经网络的模型,来实现对图片信息的准确识别。预测是我们最终目的,为了实现最终目的,我们需要数据,将数据做上标签,经过神经网络的前向计算,产生类别,将这个类别与标签的类别做比较,将结构反推给神经网络,如此反复。

下面聊一下AI芯片。大家知道非常著名的摩尔定律,每隔18个月相同成本下,芯片的晶体管数量会翻一番,相应的计算性能也将提升1倍。随着晶体管的体积逐渐接近物理极限,或许在将来摩尔定律会面临失效。在AI领域随着数据量和计算量暴增,我们对计算性能有了更高的追求,于是大家开始寻找计算之外的,比如GPU、FPGA、AISC。GPU没有那么多的控制器件,取而代之的是大量的计算核心,GPU有了远超CPU的大规模数据运算能力。FPGA和CPU、GPU不同,功耗也比GPU要低,ASIC性能提升是以牺牲通用性为代价。有关异构平台广泛存在,大到数据中心,小到手机、平板、可穿戴设备。用CPU+来描述异构平台,CPU+GPU、CPU+FPGA、CPU+TPU等。

最后说一下计算平台的选择,从现阶段看,受益于各个框架对GPU的良好支持,我们对GPU的需求也从最初的单机单卡发展到单机多卡到现在的多机多卡。Inference端会选择CPU+GPU或者CPU+FPGA/ASIC,FPGA同时拥有流水线并行和数据并行,ASIC兼具高吞吐量、低延迟、低功耗的特性。

就分享这么多,谢谢大家。

关注中国IDC圈官方微信:idc-quan 我们将定期推送IDC产业最新资讯

查看心情排行你看到此篇文章的感受是:


  • 支持

  • 高兴

  • 震惊

  • 愤怒

  • 无聊

  • 无奈

  • 谎言

  • 枪稿

  • 不解

  • 标题党
2024-01-09 16:53:00
市场情报 中兴通讯分布式存储+ DPU,加速数据中心转型
存储技术在不断地创新、完善、加速演进,以更好地满足业务的存储需求,但同时也使得存储协议和文件系统越来越繁重。 <详情>
2023-11-17 10:35:56
26亿!普洛斯中国首支数据中心基金完成募集 AI驱动算力资产升温
2025-04-07 16:10:47
科智咨询:寒冬将尽,春山可望!AI引领中国IDC市场进入新一轮增长周期
2025-04-03 12:04:48
原创|中国智算中心建设“过剩论”的另一面
2025-04-02 11:38:00
AI重塑云基础设施 亚马逊云科技获评IDC全球IaaS评估报告双第一
2025-04-01 19:48:00
中信集团在港成立人工智能科创中心 助力香港发展新质生产力
2025-04-01 19:36:00
普洛斯中国首支数据中心基金完成募集,投资规模约26亿人民币
2025-04-01 18:19:39
投资20亿元、2000P,华池中科超级云智算中心一期项目开工
2025-04-01 14:13:15
“全球重点区域算力产业考察年度行”活动之——走进张家口:把脉算力新高地
2025-04-01 14:11:08
联想AI服务三大品牌首次集中亮相 覆盖三大客群全面抢滩AI服务
2025-03-31 17:51:00
预估1.2亿 中国电信芜湖大数据中心A1楼机电建设招标
2025-03-31 14:06:38
追踪AI算力领域热点产业资讯|《算力产业核心内刊》企业Pro版正式发布!
2025-03-31 14:02:37
方榕出任中兴通讯董事长
2025-03-31 13:50:16
DeepSeek引爆AI革命!2025中国生成式AI大会终极议程公布,50+位大咖学者聚首畅言
2025-03-30 11:23:00
存力同样重要:OpenAI筹划自建存储型AI数据中心
2025-03-28 11:53:46
新华网x华弘数科联合发布AI新物种:全液冷智算一体机
2025-03-27 18:28:00