NVIDIA NeMo Anga

Whakatakotoranga

• Ingoa Hua: Anga NVIDIA NeMo
• Paearu kua pangia: Windows, Linux, macOS
• Putanga kua Paa: Nga putanga katoa i mua i te 24
• Whakaraeraetanga Haumarutanga: CVE-2025-23360
• Tatauranga Tuake Aromatawai Morearea: 7.1 (CVSS v3.1)

Nga Tohutohu Whakamahi Hua

Tautanga Whakahou Haumarutanga:
Hei tiaki i to punaha, whai i enei mahi:

1. Tikiake i te putanga hou mai i te NeMo-Framework-Launcher Releases page i GitHub.
2. Haere ki NVIDIA Hua Haumarutanga mo etahi atu korero.

Taipitopito Whakahou Haumarutanga:
Ko te whakahoutanga haumarutanga e whakatika ana i tetahi whakaraeraetanga i roto i te NVIDIA NeMo Framework ka arahi ki te mahi waehere me te raraunga tamppaenga.

Whakapai ake i te Rorohiko:
Mena kei te whakamahi koe i te tukunga peka o mua ake nei, e taunaki ana kia whakahou ake ki te tuku manga hou hei whakatika i te take haumarutanga.

Ka mutuview

Ko te NVIDIA NeMo Framework he anga whakahiato AI me te kapua-maori i hangaia mo nga kairangahau me nga kaiwhakawhanake e mahi ana. Tauira Reo Nui, Multimodal, me Korero AI (hei tauira Whakaaetanga Korero Aunoa a Kuputuhi-ki-Korero). Ka taea e nga kaiwhakamahi te hanga, te whakarite, me te tuku i nga tauira AI whakahiato hou ma te whakamahi i nga waehere o naianei me nga tohu tirotiro tauira kua whakangungua.

Tohutohu Tatūnga: Tāutahia te Anga NeMo

Nga Tauira Reo Nui me nga Tauira Tauira Maha
Ka whakaratohia e NeMo Framework te tautoko mutunga-ki-mutunga mo te whakawhanake i nga Tauira Reo Nui (LLM) me nga Tauira Multimodal (MM). Ka whakarato i te ngawari ki te whakamahi i runga-whare, i te pokapū raraunga, me to kaiwhakarato kapua e pai ana ki a koe. Ka tautoko hoki i te mahi i runga i nga taiao SLURM, Kubernetes ranei.

Te Raraunga Raraunga
NeMo Kaitiaki [1] he whare pukapuka Python kei roto he huinga o nga waahanga mo te keri raraunga me te whakaputa raraunga waihanga. Ka taea te tauine me te arotau mo nga GPU, he mea pai mo te tiaki i nga raraunga reo maori hei whakangungu, hei whakatika pai ranei i nga LLM. Ma te NeMo Curator, ka taea e koe te tango i nga tuhinga kounga teitei mai i te mata whanui web puna raraunga.

Whakangungu me te Whakaritenga

Ka whakarato a NeMo Framework i nga taputapu mo te whakangungu pai me te whakaritenga o Nga LLM me nga tauira Multimodal. Kei roto ko nga whirihoranga taunoa mo te tatūnga huinga huinga, te tango raraunga, me te tauira hyperparameters, ka taea te whakatika ki te whakangungu i nga huingararaunga me nga tauira hou. I tua atu i te whakangungu o mua, ka tautoko a NeMo i nga tikanga e rua mo te Tirotiro-Whakatika (SFT) me te Parameter Efficient Fine-Tuning (PEFT) penei i te LoRA, Ptuning, me etahi atu.

E rua nga whiringa e waatea ana ki te whakarewa i nga whakangungu i NeMo - ma te whakamahi i te atanga API NeMo 2.0 ranei me te NeMo Run.

• Me te NeMo Run (Tautohu): Ka whakarato a NeMo Run i tetahi atanga hei whakamaarama i te whirihoranga, te mahi me te whakahaere i nga whakamatautau puta noa i nga momo taiao rorohiko. Kei roto i tenei ko te whakarewatanga o nga mahi i runga i to teihana mahi i te rohe, i runga ranei i nga tautau nunui - e rua nga SLURM kua whakahohea me nga Kubernetes i roto i te taiao kapua.
  • Whakangungu i mua me te PEFT Tere Tere me te NeMo Run
• Ma te whakamahi i te NeMo 2.0 API: He pai te mahi o tenei tikanga me te tatūnga ngawari e uru ana ki nga tauira iti, mena kei te pirangi koe ki te tuhi i a koe ake kaikawe raraunga ritenga, whakangungu whakangungu, huri paparanga tauira ranei. Ka whaiwari ake koe ki te whakahaere i nga whirihoranga, ka ngawari ki te whakawhānui me te whakarite i nga whirihoranga i runga i te kaupapa.
  • Trai te Tīmata Tere me te NeMo 2.0 API
  • Heke mai i NeMo 1.0 ki NeMo 2.0 API

Tirohanga

• NeMo-Whakariterite [1] he kete taputapu tauineine mo te whakatikatika tauira pai. Kei te kete taputapu he tautoko mo nga huringa whakahoa tauira hou penei i a SteerLM, DPO, Ako Whakakaha mai i te Urupare Tangata (RLHF), me te maha atu. Ko enei algorithms ka taea e nga kaiwhakamahi te whakahāngai i nga tauira reo kia pai ake te haumaru, te kino, me te awhina.
• Ko nga waahi tirotiro NeMo-Aligner katoa he hototahi ki te punaha kaiao NeMo, ka taea te whakarite ake me te tuku whakatau.

Rere-ma-taahiraa o nga wahanga e toru o te RLHF i runga i tetahi tauira GPT-2B iti:

• Whakangungu SFT
• Te whakangungu tauira utu
• whakangungu PPO

I tua atu, e whakaatu ana matou i te tautoko mo etahi atu tikanga whakatikatika hou:

• DPO: he hātepe tirohanga ngawari ki te RLHF me te mahi mate ngawari ake.
• Takaro Whaiaro Whakapaipai (SPIN)
• SteerLM: he tikanga i runga i te here-SFT, me te whakaputanga ka taea te whakahaere.

Tirohia nga tuhinga mo etahi atu korero: Tuhinga Whakaritenga

Tauira Multimodal

• E whakarato ana a NeMo Framework i nga raupaparorohiko kua arotauhia hei whakangungu me te hora i nga tauira hou-a-toi-a-toi puta noa i nga waahanga maha: Tauira Reo Maha, Turanga-Reo Matakite, Tauira Kuputuhi-ki-Whakaahua, me tua atu o te Whakatupuranga 2D ma te whakamahi Neural Radiance Fields (NeRF).
• I hangaia ia waahanga ki te whakatutuki i nga hiahia motuhake me nga ahunga whakamua i roto i te mara, te whakamahi i nga tauira tapahi-mata hei hapai i te whānuitanga o nga momo raraunga, tae atu ki nga tuhinga, whakaahua, me nga tauira 3D.

Te Whakamahi me te Whakatau
Ka whakarato a NeMo Framework i nga huarahi rereke mo te tohu LLM, e whakatutuki ana i nga ahuatanga whakatakotoranga rereke me nga hiahia mahi.

Tukuna me NVIDIA NIM

• Ko te NeMo Framework he pai te whakauru ki nga taputapu whakatakotoranga tauira taumata hinonga ma NVIDIA NIM. Ko tenei whakaurunga e whakakahangia ana e NVIDIA TensorRT-LLM, e whakarite ana i te pai o te whakaaro me te tauineine.
• Mo etahi atu korero mo NIM, tirohia te NVIDIA webpae.

Hoatuhia me TensorRT-LLM, vLLM ranei

• Ka tuku a NeMo Framework i nga tuhinga me nga API ki te kaweake tauira ki nga whare pukapuka e rua kua tino arotauhia, TensorRT-LLM me vLLM, me te tuku i te tauira kaweake me te NVIDIA Triton Inference Server.
• Mo nga ahuatanga e hiahia ana kia pai ake te mahi, ka taea e nga tauira NeMo te whakamahi i te TensorRT-LLM, he whare pukapuka motuhake mo te whakatere me te arotau i nga tohu LLM i runga i nga GPU NVIDIA. Ko tenei tukanga ko te huri i nga tauira NeMo ki te whakatakotoranga hototahi ki te TensorRT-LLM ma te whakamahi i te nemo.export module.
  • Kua Mutu te Whakamahinga LLMview
  • Hoatuhia nga Tauira Reo Nui a NeMo me NIM
  • Hoatuhia nga Tauira Reo Nui a NeMo me TensorRT-LLM
  • Hoatuhia nga Tauira Reo Nui a NeMo me te vLLM

Tauira Tautoko

Tauira Reo Nui

Tauira Reo Nui

Tauira Reo Nui	Whakangungu o mua me te SFT	PEFT	Tirohanga	Whakangungu Whakangungu FP8	TRT/TRTLLM	Tahuri Ki & Mai i te Awhi Mata	Aromātai
Llama3 8B/70B, Llama3.1 405B	Ae	Ae	x	Āe (kua manatoko wāhanga)	Ae	E rua	Ae
Whakaranu 8x7B/8x22B	Ae	Ae	x	Ae (kaore i manatoko)	Ae	E rua	Ae
Nemotron 3 8B	Ae	x	x	Ae (kaore i manatoko)	x	E rua	Ae
Nemotron 4 340B	Ae	x	x	Ae (kaore i manatoko)	x	E rua	Ae
Baichuan2 7B	Ae	Ae	x	Ae (kaore i manatoko)	x	E rua	Ae
KōreroreroGLM3 6B	Ae	Ae	x	Ae (kaore i manatoko)	x	E rua	Ae
Gemma 2B/7B	Ae	Ae	x	Ae (kaore i manatoko)	Ae	E rua	Ae
Gemma2 2B/9B/27B	Ae	Ae	x	Ae (kaore i manatoko)	x	E rua	Ae
Mamba2 130M/370M/780M/1.3B/2.7B/8B/ Hybrid-8B	Ae	Ae	x	Ae (kaore i manatoko)	x	x	Ae
Phi3 paku 4k	x	Ae	x	Ae (kaore i manatoko)	x	x	x
Qwen2 0.5B/1.5B/7B/72B	Ae	Ae	x	Ae (kaore i manatoko)	Ae	E rua	Ae
StarCoder 15B	Ae	Ae	x	Ae (kaore i manatoko)	Ae	E rua	Ae
StarCoder2 3B/7B/15B	Ae	Ae	x	Ae (kaore i manatoko)	Ae	E rua	Ae
BERT 110M/340M	Ae	Ae	x	Ae (kaore i manatoko)	x	E rua	x
T5 220M/3B/11B	Ae	Ae	x	x	x	x	x

 

Nga Tauira Reo Matakite

 

Whakamau Tauira

 

Nga Tauira Turanga o te Ao

Tuhipoka
Kei te tautoko hoki a NeMo i te whakangungu-a-mua mo nga hoahoanga whakamaarama me nga hoahoanga autoregressive text2world tauira turanga.

Korero AI

Ko te whakawhanake i nga tauira korero AI he tukanga uaua ka uru ki te tautuhi, te hanga, me te whakangungu tauira i roto i nga waahanga motuhake. I te nuinga o te wa ka hiahiatia e tenei tukanga etahi whitiwhitinga kia eke ki te taumata teitei o te tika. I te nuinga o te wa ka uru ki te maha o nga whitiwhitinga ki te whakatutuki i te tino tika, te whakatikatika i runga i nga momo mahi me nga raraunga motuhake-a-rohe, te whakarite i nga mahi whakangungu, me te whakarite tauira mo te tuku whakatau.

He tautoko a NeMo Framework mo te whakangungu me te whakaritenga o nga tauira Speech AI. Kei roto i tenei ko nga mahi penei i te Whakaaetanga Korero Aunoa (ASR) me te whakahiato Kupu-Ki-Krero (TTS). He pai te whakawhiti ki te whakatakotoranga whakangao taumata hinonga me NVIDIA Riva. Hei awhina i nga kaiwhakawhanake me nga kairangahau, kei roto i te NeMo Framework nga waahi-a-toi kua oti te whakangungu i mua i te whakangungu, nga taputapu mo te tukatuka raraunga korero korero, me nga waahanga mo te torotoro tauwhitiwhiti me te tātaritanga o nga huingararaunga korero. Ko nga waahanga o te Anga NeMo mo te Korero AI e whai ake nei:

Whakangungu me te Whakaritenga
Kei roto i te Anga NeMo nga mea katoa e hiahiatia ana hei whakangungu me te whakarite tauira korero (ASR, Whakaraupapa Korero, Te Whakaaetanga Kai-Korero, Te korero korero, a TTS) i roto i te tikanga whakaputa.

SOTA Nga Tauira Whakangungu-a-mua

• Ko te NeMo Framework e whakarato ana i nga tohutao hou-a-toi me nga waahi tirotiro i mua i te whakangungu o etahi ASR a TTS tauira, me nga tohutohu mo te utaina.
• Utauta Korero
• Ka whakaratohia e NeMo Framework he huinga taputapu whai hua mo te whakawhanake i nga tauira ASR me TTS, tae atu ki:
  • Tirohanga Whakahenga NeMo (NFA) mo te whakaputa tohu-, kupu- me te wahanga-waa taumataamps o te korero i roto i te ororongo ma te whakamahi i nga tauira Whakaaetanga Korero Aunoa a NeMo a CTC.
  • Tukatuka Raraunga Korero (SDP), he kete taputapu hei whakangawari i te tukatuka raraunga korero. Ka taea e koe te whakaatu i nga mahi tukatuka raraunga i roto i te whirihora file, te whakaiti i te waehere boilerplate me te tuku i te reproducibility me te tiritiri.
  • Tuwhera Raraunga Korero (SDE), he Pīhono-e hāngai ana web tono mo te torotoro tauwhitiwhiti me te wetewete i nga huingararaunga korero.
  • Utauta hanga Raraunga Raraunga e whakarato ana i te taumahinga ki te whakahāngai i te ororongo roa files me nga tuhinga e rite ana, ka wehewehea ki nga wahanga poto ake e tika ana mo te whakangungu tauira Ahumahi Korero Aunoa (ASR).
  • Utauta Whakataurite mo nga Tauira ASR hei whakataurite i nga matapae o nga tauira ASR rereke i te tika o te kupu me te taumata whakahua.
  • Kaiarotake ASR mo te arotake i te mahinga o nga tauira ASR me etahi atu ahuatanga penei i te Tirohanga Mahi Reo.
  • Utauta Whakarite Kuputuhi mo te huri i te kuputuhi mai i te puka tuhi ki te puka korero me te huri ke (hei tauira, “31st” vs “toru tekau tuatahi”).
• Ara ki te Tukunga
• Ko nga tauira NeMo kua whakangunguhia, kua whakaritea ranei ma te whakamahi i te NeMo Framework ka taea te whakatika me te whakamahi me NVIDIA Riva. Ka whakarato a Riva i nga ipu me nga tūtohi Helm i hangaia hei whakaaunoa i nga hikoi mo te tuku patene pana.

Ētahi atu Rauemi

GitHub Repos

• NeMo: Ko te putunga matua mo te Anga NeMo
• NeMo–Rere: He taputapu hei whirihora, whakarewa me te whakahaere i o whakamatautau ako miihini.
• NeMo-Whakariterite: Utauta tauineine mo te whakatikanga tauira pai
• NeMo-Kaitiaki: Raraunga whakaineine i mua i te tukatuka me te kete taputapu mo nga LLM

Te Tiaki Awhina
Whakauru atu ki te hapori NeMo, patai nga paatai, tiki tautoko, ripoata nga pepeha ranei.

• Nga Matapakinga NeMo
• Nga Take NeMo

Nga Reo Papatono me nga Anga

• Python: Ko te atanga matua ki te whakamahi NeMo Framework
• Pytorch: Ko te Anga NeMo kei runga ake o PyTorch

Raihana

• Kua raihanatia a NeMo Github repo i raro i te raihana Apache 2.0
• Kua raihanatia a NeMo Framework i raro i te NVIDIA AI PRODUCT AGREEMENT. Ma te toia me te whakamahi i te ipu, ka whakaae koe ki nga tikanga me nga tikanga o tenei raihana.
• Kei roto i te ipu Anga NeMo nga rauemi Llama e whakahaerehia ana e te Whakaaetanga Raihana Hapori Meta Llama3.

Kupuwaewae
I tenei wa, ko te tautoko a NeMo Curator me NeMo Aligner mo nga tauira Multimodal he mahi kei te haere tonu, a ka watea mai.

FAQ

P: Me pehea e taea ai e au te tirotiro mena ka pangia taku punaha e te whakaraeraetanga?
A: Ka taea e koe te tirotiro mena ka pangia to punaha ma te manatoko i te putanga o te NVIDIA NeMo Framework i whakauruhia. Mena kei raro iho i te putanga 24, ka whakaraerae pea to punaha.

Q: Na wai i korero te take haumarutanga CVE-2025-23360?
A: Ko te take haumaru i tukuna e Or Peles - JFrog Security. Ka mihi a NVIDIA ki ta raatau takoha.

P: Me pehea taku whiwhi whakamohiotanga panui haumarutanga a meake nei?
A: Tirohia te whaarangi NVIDIA Hua Haumarutanga ki te ohauru ki nga panui panui haumaru me te noho mohio mo nga whakahoutanga haumarutanga hua.

Tuhinga / Rauemi

NVIDIA NeMo Anga [pdf] Aratohu Kaiwhakamahi Anga NeMo, NeMo, Anga

Tohutoro

• Pukapuka Kaiwhakamahi