年红帽剑用,解构大AI推理元题指企业级使模型布置难

当时,推理AI浪潮席卷全球,元年用解特别是红帽在以大模型为代表的技能范式深入重塑各行各业的布景下 ,企业关于怎么有用使用这些强壮的剑指级使AI才能 ,完结事务立异与数字化转型 ,企业正面对着史无前例的模型重视与应战 。

近来,布置红帽举行媒体交流会,难题红帽全球副总裁兼大中华区总裁曹衡康与红帽大中华区计划架构部总经理王慧慧 ,推理向媒体共享了其最新推出的元年用解红帽AI推理服务器(Red Hat AI Inference Server),一起也介绍了红帽在我国商场环绕AI生态构建的红帽本地化战略布局 。


↑红帽全球副总裁兼大中华区总裁 曹衡康 。剑指级使


↑红帽大中华区计划架构部总经理 王慧慧 。企业

曹衡康在会上明确指出,模型混合云架构是布置企业有用布置和使用AI大模型 、从而完结数字化转型的要害根底设施  。他着重,红帽可以在简化布置 、构建渠道、自动化办理 、保证安全以及扩展才能这五个中心环节 ,为企业供给坚实支撑。

谈及我国商场战略,曹衡康特别说到 ,2025年红帽在国内拟定了三大中心开展战略 ,其间第一条便是“打造AI生态开展引擎”,这直接点明晰红帽在AI年代  ,尤其是大模型使用浪潮中的中心定位。

在技能立异层面,红帽近期发布的RHEL 10操作体系版别 ,就处处表现了对AI大模型年代需求的呼应 。该版别引进的“镜像形式”,经过容器技能革新了传统操作体系维护方法,完结了秒级更新,为需求安稳运转AI大模型使用的根底环境供给了极大便当 。更有目共睹的是其“AI加持”特性 ,嵌入了Lightspeed功用,将生成式AI直接集成到渠道办理中 ,用户可以经过自然语言指令完结杂乱的服务器办理使命 。

这背面 ,是红帽数十年堆集的Linux知识库在支撑,如同为每台服务器装备了一位专家,极大地降低了企业大规模布置和办理Linux服务器的门槛。此外 ,RHEL 10在安全方面的新打破,如反量子安全解密技能,也为承载敏感数据和杂乱AI模型的体系供给了更强的防护 。

红帽在OpenShift虚拟化渠道上的开展效果,也折射出商场对高效承载和运转AI使用需求的增加。该渠道客户数量、集群数量及办理虚拟机数量的快速增加,以及与很多职业抢先企业的协作 ,都标明其构建的云原生渠道可以很好地支撑包含AI大模型在内的杂乱使用 。王慧慧说到,OpenShift的成功源于其“做大生态”的理念,这与AI大模型使用落地高度依靠生态协同的特色不约而同 。

业界称2025年将是AI推理元年,大模型厂商与下流使用方都将愈加聚集推理环节 。红帽针对推理面对的硬件本钱与分布式构建两大难题 ,推出了AI推理服务器等一系列解决计划 。

展望未来,曹衡康和王慧慧都表达了红帽将继续整合AI、云原生、自动化及操作体系等资源 ,经过构建AI原生的敞开根底设施,赋能企业更自在、高效地使用开源技能 ,享用企业级服务,从而在AI驱动的数字化新年代赢得先机 。红帽正以其在开源范畴的深沉堆集和对AI开展趋势的精准掌握,成为推进我国企业智能化转型的重要力气。

发表我的评论
取消评论
表情 签到
流汗坏笑撇嘴大兵流泪发呆抠鼻吓到偷笑得意呲牙亲亲疑问调皮可爱白眼难过愤怒惊讶鼓掌

Hi,您需要填写昵称和邮箱!

<#longshao:bianliang3#>