人工智能、無(wú)所不在的計(jì)算、無(wú)處不在的連接、從云到邊緣的基礎(chǔ)設(shè)施是驅(qū)動(dòng)創(chuàng)新與變革的四大超級(jí)力量。OpenVINO? 的最新長(zhǎng)期支持(LTS)版本了嗎?無(wú)論你身處 AI 編程之旅的何處,如果你想快速輕松地開(kāi)發(fā)或?qū)W習(xí)如何開(kāi)發(fā)世界級(jí)的 AI 應(yīng)用程序,并將深度學(xué)習(xí)推理工作負(fù)載從邊緣部署到云端,你都會(huì)想了解這個(gè) AI 推理工具套件的最新更新!
LTS 版本和其它版本的區(qū)別是什么?
在軟件行業(yè)中,LTS 版本的重點(diǎn)是擴(kuò)展或整合同一產(chǎn)品的先前版本中已經(jīng)引入的功能,并保證對(duì)這些功能的長(zhǎng)期支持。從正式發(fā)布之日起,它為 AI 開(kāi)發(fā)者提供了一年的 Bug 修復(fù)和兩年的安全補(bǔ)丁。
盡管為這種穩(wěn)定性和壽命付出的代價(jià)是,此類版本在其整個(gè)生命周期內(nèi)沒(méi)有額外的功能,但好消息是,OpenVINO? 今年引入的所有新功能都將包含在 2022.3 LTS 版本中。這些功能包括動(dòng)態(tài)輸入、自動(dòng)批處理、性能優(yōu)先、AUTO 插件以及對(duì)英特爾新的獨(dú)立顯卡(英特爾® 銳炫? 和 Flex 系列)以及第6代至第13代英特爾® 酷睿? 處理器的支持。
LTS 版本還包括新的 API 2.0,它于今年早些時(shí)候在 OpenVINO 2022.1 中引入,旨在使 AI 開(kāi)發(fā)者更容易采用和維護(hù)代碼。
OpenVINO? 2022.3 LTS 中有哪些新特性?
除了集成、穩(wěn)定且經(jīng)過(guò)良好測(cè)試的 2022 工具套件更新版本外,OpenVINO 2022.3 LTS 還支持更多的深度學(xué)習(xí)模型和設(shè)備。
AI 開(kāi)發(fā)者將發(fā)現(xiàn)更廣泛的對(duì)于基于 transformer 的自然語(yǔ)言處理(NLP)模型的支持,如 GPT 和 OpenAI Whisper,以及其它模型的支持,如 Stable diffusion(圖1);改進(jìn)了可移植性和性能提升;與 Hugging Face Optimum 集成;加入了新 Jupyter notebook 示例教程,如 YOLOv7、樣式轉(zhuǎn)換(圖2)和 3D 點(diǎn)云分割(圖3)的;以及更多。
圖1. Stable diffusion 基于文本提示生成復(fù)雜的藝術(shù)圖像。
例如,蝴蝶部分在雪山上。
圖2. 給定圖片運(yùn)行樣式轉(zhuǎn)換
圖3. 使用 OpenVINO? 以消耗點(diǎn)云數(shù)據(jù)
并執(zhí)行推理 3D 分割可視化
這個(gè)版本提供哪些硬件支持?
在硬件方面,簡(jiǎn)而言之,OpenVINO 2022.3 LTS 在更多 GPU 上運(yùn)行得更快、更智能。這里面完整的故事是關(guān)于所有受支持的 CPU 和 GPU 的性能提升,與自動(dòng)設(shè)備發(fā)現(xiàn)和負(fù)載平衡、動(dòng)態(tài)推理并行性以及添加到 AUTO 功能中的計(jì)算模式選擇攜手并進(jìn),使多個(gè)加速器(例如,多個(gè)英特爾® Data Center GPU Flex 系列)能夠同時(shí)使用,以最大化推理性能。
最重要的是,很高興與大家分享 OpenVINO 2022.3 LTS 正式完全支持英特爾® 獨(dú)立顯卡!
為什么支持英特爾® 獨(dú)立顯卡是大新聞?
這是 OpenVINO? 首次為在英特爾獨(dú)立顯卡上運(yùn)行推理工作負(fù)載提供黃金級(jí)支持。憑借五年多在英特爾® 圖形處理器(或“ iGPU ”)上優(yōu)化、測(cè)試和部署推理的經(jīng)驗(yàn),這只是漫長(zhǎng)旅程中的最后一步,它成功地將 OpenVINO? 帶到了可廣泛適用于臺(tái)式機(jī)、筆記本電腦和服務(wù)器的許多價(jià)格合理的 GPU 上去運(yùn)行 AI 推理。
OpenVINO? 2022.3 LTS 會(huì)破壞你現(xiàn)有的 AI 代碼嗎?
如果該代碼已編寫(xiě)或已移植到新的 API 2.0,則不會(huì)。
如果您計(jì)劃在 2023年升級(jí)到 OpenVINO? 的未來(lái)版本以利用新功能,請(qǐng)記住,這些功能和優(yōu)化不會(huì)被移植到2022.3 LTS版本。對(duì)于生產(chǎn)部署,建議保持最新的OpenVINO 2022.3 LTS 版本,直到2023年的新功能在明年的LTS中穩(wěn)定下來(lái)。
什么時(shí)候升級(jí)以及最佳的升級(jí)方式是什么?
建議希望快速開(kāi)發(fā)和部署高性能 AI 應(yīng)用程序的每個(gè)人都使用 OpenVINO 2022.3 LTS。但是,無(wú)論出于何種原因,如果這是不可能的,并且您不想或不需要利用全年發(fā)布的所有優(yōu)秀的功能,則上一個(gè) LTS 版本 OpenVINO 2021.4 LTS 將在 2024 年之前獲得安全補(bǔ)丁的支持。
在決定時(shí),非常重要的一點(diǎn)是要記住,LTS 版本是在很長(zhǎng)一段時(shí)間內(nèi)通過(guò) dot 版本提供官方錯(cuò)誤修復(fù)和安全補(bǔ)丁的唯一版本。