企业如何快速实现AI应用落地?红帽给出“三步走”AI部署路径

【TechWeb】11月4日消息,过去两年,全球资本大举投入AI基础建设,目前AI的基础架构已经基本完善,但许多企业应用仍未落地。不少企业曾尝试用大模型提升效能,但发现大模型不适合生产场景,因为一点小错就可能带来风险。

在2024红帽论坛上,企业级开源解决方案提供商红帽公司展示了其如何用开放混合的AI和开源方法加速企业AI应用。红帽全球副总裁兼大中华区总裁曹衡康表示,用混合开放的模式来开发AI已成为一个必然趋势,红帽在基础架构上采用混合云模式,支持本地数据中心、公有云和边缘计算环境的运行,并支持开源和闭源模型,从而为企业提供灵活选择。

在过去几年,红帽提出了“小模型”概念,即专属模型(faithful purpose),让企业的数据驱动AI模型的生成,确保模型稳定、安全,并符合企业的特定需求。同时还引入“社区版”小模型,通过合成数据大幅减少对真实数据的需求,将数据量降至原来的千分之一。这种方式不仅降低了算力需求,节约了成本,能耗也大幅减少,对环境更加友好。

场景应用是ISV(独立软件开发商)和应用供应商最擅长的领域。由于许多企业和行业都有各自的特点,红帽加速了与本土ISV及方案开发商的合作,这合作涵盖芯片和软件等方面,同时也确保红帽的开源路线在国内得到更多本土化支持。红帽大中华区资深市场总监赵文斌透露,红帽最近与NVIDIA等全球合作伙伴开展了新项目,特别是在加速场景应用落地方面。

值得一提的是,实际应用中,企业在AI预算方面非常谨慎,通常需要看到效果后才会进一步投入。对此,曹衡康表示,红帽的混合云理念鼓励客户在合适的场所部署算力,比如公司内部数据中心、公有云,甚至跨多云环境。去年红帽推出了“Unlock”理念,就是希望避免客户被锁定在特定云上,开源架构为客户提供更多弹性和自由度。

具体来看,红帽提出了“分步实施”的策略,即企业AI应用三步曲。第一步,客户可以在最小资源配置下试用开源模型和工具,比如在笔记本电脑上用CPU试跑,而不需要额外的GPU卡。

如果第一步测试效果满意,客户可以进入第二步,通过云租用算力进行进一步扩展。红帽平台几乎可在任何云上运行,客户可以选择公司数据中心或外部公有云资源,这样在确认模型适合需求后,才进入第三步的大规模部署。

第三步,红帽的架构支持跨云混合部署。例如,客户可以在中国使用阿里云,在美国使用AWS,这种多云方案既灵活又经济。我们的目标是帮助客户实现最佳的投资回报率(ROI),并在每一步提供适配的支持。

红帽大中华区方案架构部总经理王慧慧介绍称,自2019年IBM成为红帽母公司以来,IBM在开源方面的投入愈发积极,在工作方式和平台选择上越来越倾向开源。IBM将其最初的Watson平台(现称Watson X)逐步开源,接下来IBM和红帽将共同致力于维护开源模型的持续迭代。

领取最新网赚项目,免费带项目 添加 微信:sjzqb999  备注:项目

本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 414165875@qq.com 举报,一经查实,本站将立刻删除。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注