摘要：
AI推理部署解决方案厂商清昴智能完成了数千万元Pre-A+轮融资，启赋资本、达晨财智领投，老股东奇绩创坛跟投。此前，清昴智能已获得某世界500强科技巨头公司的千万元战略投资。据了解，资金将主要用于人才梯队组建，产品研发和市场落地。公司成立于2022年10月，通过提供AI模型的神经网络。
...
●ω●
AI推理部署解决方案厂商清昴智能完成了数千万元Pre-A+轮融资，启赋资本、达晨财智领投，老股东奇绩创坛跟投。此前，清昴智能已获得某世界500强科技巨头公司的千万元战略投资。据了解，资金将主要用于人才梯队组建，产品研发和市场落地。公司成立于2022年10月，通过提供AI模型的神经网络。
6月2日消息，英伟达在Computex(台湾国际电脑展)上宣布推出一项AI模型推理服务NVIDIA NIM。全球2800万英伟达开发者可以通过NIM将AI模型部署在云、数据中心或工作站上，轻松地构建copilots、ChatGPT聊天机器人等生成式AI应用，所需时间从数周缩短至几分钟。本文源自金融界A是什么。
6 yue 2 ri xiao xi ， ying wei da zai C o m p u t e x ( tai wan guo ji dian nao zhan ) shang xuan bu tui chu yi xiang A I mo xing tui li fu wu N V I D I A N I M 。 quan qiu 2 8 0 0 wan ying wei da kai fa zhe ke yi tong guo N I M jiang A I mo xing bu shu zai yun 、 shu ju zhong xin huo gong zuo zhan shang ， qing song di gou jian c o p i l o t s 、 C h a t G P T liao tian ji qi ren deng sheng cheng shi A I ying yong ， suo xu shi jian cong shu zhou suo duan zhi ji fen zhong 。 ben wen yuan zi jin rong jie A shi shen me 。
＞▽＜
推理的开源千亿MoE 大模型。据介绍，本次开源的Skywork-MoE 模型隶属于天工3.0 的研发模型系列，是其中的中档大小模型(Skywork-MoE-Medium),模型的总参数量为146B,激活参数量22B,共有16 个Expert,每个Expert 大小为13B,每次激活其中的2 个Expert。天工3.0 还训练了75后面会介绍。
￣□￣｜｜
2024年6月3日，昆仑万维宣布开源2 千亿稀疏大模型Skywork-MoE , 性能强劲， 同时推理成本更低。Skywork-MoE 基于之前昆仑万维开源的Skywork-13B 模型中间checkpoint 扩展而来，是首个完整将MoE Upcycling 技术应用并落地的开源千亿MoE大模型，也是首个支持用单台4090 服务等我继续说。
RDNA 4架构的推理性能提升幅度达到了35倍，而MI350与英伟达B200计算卡相比，内存容量提升了50%,而AI算力也高出了20%,至于到了2026年，AMD更是会推出“RDNNA Next”架构，看起来也是一年一更新的节奏。在AI领域，除了需要有强大的硬件算力之外，软件与OEM厂商的设备兼容还有呢？
北京商报讯(记者张君花)5月30日，华孚时尚在投资者互动平台表示，公司上虞AIGC智算中心项目建设采购推理型服务器为主，主要满足客户推理测算力需求，公司阿克苏城市公共算力平台项目定位为满足训练测算力需求，两大算力中心集群项目将形成数据联动和服务响应协同。
∩０∩
金融界5月29日消息，有投资者在互动平台向星宸科技提问：董秘你好：公司的AI芯片与英伟达的AI芯片差距有多大，为什么贵公司的没有英伟达的火爆。谢谢。公司回答表示：公司主要专注于端侧AI和边缘侧AI推理芯片的研发和销售，英伟达产品主要集中在数据中心和云端，且在算法模型训练上是什么。
∩﹏∩
智通财经APP获悉，国金证券发布研报称，23年是AI训练的元年，24年将是AI推理的元年，主要归因于海外有望持续推出包括Sora在内的AI应用产品，叠加国内国央企发力AI应用，这将有力带动AI推理的需求。芯片领域，该行认为算力和存储是两个率先受益的领域，特别是在当前国产化大趋势下，等我继续说。
快科技5月29日消息，摩尔线程与国内领先的数据智能服务商滴普科技共同宣布，摩尔线程“夸娥”(KUAE)千卡智算集群与滴普企业大模型Deepexi v1.0已完成训练、推理适配，获得产品兼容互认证明。基于摩尔线程夸娥千卡智算集群，滴普科技成功完成了LLaMA2 700亿参数大语言模型的神经网络。
∪ω∪
和ARC-C(科学推理)榜单还上超越了Llama3。举个例子，在求解一道中文数学题目时，源2.0-M32能够用中文进行完整、准确作答，而Llama3虽然能理解中文题目，但回答时还是用了英文。而且看一下Llama3的答案，虽然前面的过程也没什么问题，但最终得到的结果错得离谱，硬生生把一堆整数是什么。
发表评论