人工智能已成為引領數(shù)字化轉型的重要力量。紅帽作為開源領域的先驅,深知開放與協(xié)作對AI技術進步的至關重要性。
紅帽公司堅信,AI技術的持續(xù)進步離不開開放與協(xié)作。鑒于當前AI在封閉體系中發(fā)展存在的隱憂,開源成為了有效的解決方案。紅帽期待開源AI的繁榮,以推動技術向著更開放、更安全的方向發(fā)展。為此,紅帽與IBM攜手合作,計劃推出基于Apache 2.0的開源模型和工具,旨在降低AI技術的門檻。通過新產(chǎn)品RHEL AI,紅帽致力于幫助企業(yè)更輕松地應用AI技術,期望與各方共同構建一個開放、融合的AI生態(tài),引領AI開源新時代。同時,紅帽還觀察到云與AI之間的緊密聯(lián)系,并呈現(xiàn)出混合態(tài)勢。公有云承載著AI應用,而在混合云模式下,私有云和邊緣站點也為AI提供了廣闊的發(fā)展空間。這充分展現(xiàn)了現(xiàn)代IT架構的靈活性,無論是公有云、私有云還是邊緣計算,都是推動AI技術發(fā)展的關鍵載體。
在近日召開的“2024紅帽媒體Open講”上,紅帽全球副總裁兼大中華區(qū)總裁曹衡康表示,紅帽的企業(yè)級AI戰(zhàn)略與服務始終貫徹開放生態(tài)的理念,將開源精神與開放創(chuàng)新實踐深度結合,并緊密銜接開放混合云戰(zhàn)略。紅帽的全方位服務范圍從AI應用層延伸至基礎設施層,致力于為企業(yè)提供安全、高效、創(chuàng)新的AI解決方案。
紅帽全球副總裁兼大中華區(qū)總裁曹衡康
在AI應用層面,紅帽專注于為企業(yè)提供跨開放混合云的賦能服務,以確保企業(yè)能夠最大化利用AI技術,進而驅動業(yè)務創(chuàng)新;對于AI模型層,紅帽提供多樣化的模型選擇,包括Granite、Webhook和Customer 360等,旨在滿足各類企業(yè)需求,并優(yōu)化AI創(chuàng)新的投資回報率;在AI平臺方面,紅帽推出的Enterprise Linux AI和OpenShift AI等平臺,不僅功能卓越,更便于部署與管理,可助力企業(yè)安全、高效地運營AI模型與應用;針對AI基礎設施層,紅帽為企業(yè)提供穩(wěn)固、可擴展的基礎設施及自動化解決方案,以保障AI模型和應用的穩(wěn)定運行,并降低運維成本。
此外,RH Services系列,包括Open Innovation Labs及咨詢、實施、賦能服務,為企業(yè)提供全面的AI創(chuàng)新支持,以加速AI創(chuàng)新的落地并實現(xiàn)業(yè)務目標。
總之,紅帽憑借其開放、創(chuàng)新、高效的企業(yè)級AI戰(zhàn)略與服務,為企業(yè)提供了一站式的AI解決方案,以推動企業(yè)在數(shù)字化時代邁向更大成功。
AI與開源創(chuàng)新成果矚目
在5月初舉辦的“紅帽全球峰會”上,紅帽宣布了一系列新產(chǎn)品和進展,展示了其在AI和開源領域的持續(xù)創(chuàng)新。
首先,紅帽推出了OpenShift AI和Linux AI產(chǎn)品,這些已經(jīng)可以使用的產(chǎn)品將進一步推動企業(yè)AI應用的發(fā)展。同時,紅帽還介紹了InstructLab,這是一個開源項目,它的工具能夠簡化整個建模過程。相較于過去需要龐大參數(shù)建模的情況,InstructLab僅需十億至二十億的參數(shù)即可完成建模,資源消耗大幅降低,這一突破性的進展引起了熱烈反響。
此外,紅帽還推出了Podman,這款工具使得用戶在小型環(huán)境,如筆記本電腦上就能進行建模和運行AI,極大地提升了便捷性。
在OpenShift和Ansible方面,紅帽也有新的進展。Ansible的Lightspeed功能去年就已宣布,而今年則進一步在OpenShift和Linux上進行了整合。這一功能通過自然語言指令的AI方式,提升了自動化效率。同時,紅帽還推出了新的鏡像模式,使部署更加迅速。
值得一提的是,紅帽擁有龐大的生態(tài)合作伙伴網(wǎng)絡。全球硬件合作伙伴超過5000家,軟件合作伙伴約4000家。這一強大的生態(tài)支持,使得紅帽在新產(chǎn)品適配方面具有顯著優(yōu)勢。英特爾、NVIDIA、AMD等知名企業(yè)都是紅帽的合作伙伴。在今年的重點領域中,“軟件定義汽車”備受關注。紅帽在這一領域扮演著重要角色,與眾多合作伙伴共同推動新能源汽車的創(chuàng)新發(fā)展。
構建企業(yè)AI應用的三步走策略
紅帽大中華區(qū)解決方案架構部高級總監(jiān)王慧慧表示,為了幫助企業(yè)高效構建AI應用,紅帽推薦采用以下三步走策略。這一策略提供了從初步開發(fā)到生產(chǎn)部署的明確路徑,確保企業(yè)在AI應用的每個階段都能得到全面支持。
第一步:桌面初步開發(fā)與調(diào)優(yōu)
在桌面環(huán)境下,開發(fā)人員可以利用小數(shù)據(jù)集進行初步的實驗性訓練。借助即將集成到Podman Desktop中的InstructLab工具,開發(fā)人員能夠在筆記本或PC工作服務器上,以容器化的方式輕松開發(fā)AI應用。此外,通過使用InstructLab,開發(fā)人員可以建立和調(diào)優(yōu)自己的模型,這是在過去小設備上難以實現(xiàn)的突破。
第二步:生產(chǎn)級模型訓練與驗證
完成初步驗證和模型調(diào)優(yōu)后,開發(fā)人員可以將應用推送至Enterprise Linux AI(RHEL AI)平臺。該平臺提供全面的數(shù)據(jù)生成技術和先進的“教師、學生模型”訓練方法,以支持生產(chǎn)化的模型訓練。一旦模型達到一定的可讀性和可使用性標準,即可進入下一個環(huán)境。
第三步:分布式集群環(huán)境下的生產(chǎn)部署
在分布式集群環(huán)境下,模型將繼續(xù)進行生產(chǎn)級的訓練,利用Kubernetes進行擴展、自動化,并實現(xiàn)MLOps的全部功能。若企業(yè)用戶希望從小規(guī)模開始嘗試,可以從Podman和InstructLab入手。當用戶滿意并準備進行更大規(guī)模的測試時,可以將應用推送至RHEL AI進行進一步驗證。最終,當應用完備并準備投入生產(chǎn)時,用戶可以將其部署到OpenShift AI上,這是一個完全集群化、分布式的大型環(huán)境,專為運行模型和AI應用而設計。
OpenShift AI:全方位的AI解決方案
OpenShift AI不僅是一個高級的AI平臺,更提供了一套全面的解決方案,專注于解決MLOps和AI應用的DevOps兩大核心問題。
在MLOps領域,OpenShift AI提供了一站式服務,涵蓋模型的創(chuàng)建、調(diào)整、服務化以及監(jiān)控。用戶可以輕松地將重要的基礎大模型,例如LLaMA2或IBM的Granite,導入到OpenShift AI中。同時,該平臺支持在企業(yè)內(nèi)部安全地準備和存儲所有必要的訓練數(shù)據(jù),以確保數(shù)據(jù)的合規(guī)性和安全性。完成數(shù)據(jù)準備后,用戶可以利用平臺上的GPU資源進行模型的調(diào)優(yōu)訓練。值得一提的是,無論GPU卡來自哪個廠商,OpenShift AI都能靈活地進行資源調(diào)度,以滿足用戶的異構計算需求。
模型訓練完成后,OpenShift AI還提供了便捷的模型部署和應用調(diào)用功能。得益于OpenShift AI的混合特性,模型可以輕松地部署在數(shù)據(jù)中心、公有云、私有云,甚至工控設備等終端上。
此外,OpenShift AI還是一個強大的AI應用DevOps平臺,使用戶能夠在平臺上完成AI應用的開發(fā)、測試、調(diào)整、上線及運行,從而實現(xiàn)應用和模型的統(tǒng)一管理。這種集成化設計使OpenShift AI成為企業(yè)內(nèi)部包括應用管理、模型管理和資源控制在內(nèi)的全方位解決方案。
RHEL AI:基礎模型管理平臺
RHEL AI不僅提供了模型訓練和調(diào)優(yōu)的支持,更是一個全面的基礎模型管理平臺。它專注于管理模型的創(chuàng)建、“對齊”、優(yōu)化及整個生命周期,使得用戶能夠更高效地控制和使用模型。此外,RHEL AI還內(nèi)置了IBM開發(fā)、紅帽推動開源的Granite大語言模型,為用戶提供更多選擇和便利。
同時,紅帽提供了InstructLab這一創(chuàng)新的模型對齊工具。它利用少量數(shù)據(jù)和系統(tǒng)合成數(shù)據(jù),結合人工反饋,實現(xiàn)模型與特定需求的低成本對齊。紅帽鼓勵開源,并邀請用戶為InstructLab貢獻力量,經(jīng)審核后將納入新版開源模型,共同推動模型的進步。
多元化AI工具與平臺
除RHEL AI和OpenShift AI外,紅帽還提供了豐富的AI相關工具和平臺:Podman AI Lab作為Podman Desktop的擴展,專注于AI應用開發(fā),為本地開發(fā)者提供流暢的工作流與模型微調(diào)功能。同時,Lightspeed作為一款基于紅帽內(nèi)部代碼與客戶自動化腳本訓練的高準確率代碼生成工具,將被無縫集成至OpenShift、RHEL及Ansible等產(chǎn)品中。
這些工具和平臺的推出,旨在簡化AI環(huán)境的復雜性,提升開發(fā)效率,并推動企業(yè)界AI技術的廣泛應用。
引領開源與云原生新潮流
憑借三十年的開源技術積淀,紅帽不僅在通信和制造業(yè)推動了開源的廣泛應用,更在工控設備領域開創(chuàng)了開源與云原生的新紀元。展望未來,紅帽將繼續(xù)融合AI技術,打造繁榮的AI生態(tài)圈,優(yōu)化整合GPU等計算資源,并持續(xù)開發(fā)更多應用,以開源之力推動AI在企業(yè)的普及,引領智能制造等行業(yè)的創(chuàng)新浪潮。
關于企業(yè)網(wǎng)D1net(m.r5u5c.cn):
國內(nèi)主流的to B IT門戶,同時在運營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。旗下運營19個IT行業(yè)公眾號(微信搜索D1net即可關注)。