Pred nekaj dnevi Red Hat je objavil, z objavo v spletnem dnevniku je predstavil svojo novo distribucijo Linuxa "Red Hat Enterprise Linux AI" (RHEL AI), ki je zasnovan posebej za naloge strojnega učenja.
RHEL AI poenostavlja ustvarjanje strežniških rešitev, ki uporabljajo velike pogovorne modelesy ponuja izbor orodij in ogrodij za strojno učenje. tudi vključuje gonilnike za različne pospeševalnike strojne opreme proizvajalcev AMD, Intel in NVIDIA ter komponente, ki izkoriščajo zmogljivosti strežnikov, optimiziranih za AI proizvajalcev Dell, Cisco, HPE, Lenovo in SuperMicro.
O RHEL AI
RHEL AI je zasnovan za razvoj, testiranje in izvajanje sistemov strojnega učenja temelji na velikem jezikovnem modelu Granite, ki lahko obravnava do 4 tisoč žetonov in pokriva 7 milijard parametrov pri generiranju besedila.
Za interakcijo z modelom Granite, distribucija vključuje InstructLab, ki podpira metodologijo LAB (Large Scale Alignment for ChatBots) za prilagoditev in optimizacijo modelov ter dodajanje dodatnega znanja in implementacijo novih veščin vnaprej usposobljenim modelom.
RHEL AI vključuje skupno razvite, odprtokodne licenčne, visoko zmogljive modele jezika in kode Granite iz skupnosti InstructLab, ki jih v celoti podpira in odškodnina Red Hat. Ti modeli Granite so licencirani pod Apache 2 in zagotavljajo pregleden dostop do podatkovnih virov in uteži modelov.
Uporabniki lahko ustvarijo svoj LLM po meri z usposabljanjem osnovnih modelov z lastnimi veščinami in znanjem. Lahko se odločijo, da bodo izurjen model in dodane spretnosti in znanje delili s skupnostjo ali pa jih ohranili zasebne. Več o tem v naslednjem razdelku.
V oglasu je navedeno, da glavni cilj RHEL AI in projekta InstructLab je usposabljanje strokovnjakov v domeni, tako da z znanjem in veščinami neposredno prispevajo k velikim jezikovnim modelom. to omogočajo strokovnjakom na tem področju učinkovitejše ustvarjanje aplikacij, ki temeljijo na AI (kot chatboti). RHEL AI vključuje vse, kar potrebujete:
- Izkoristite inovacije skupnosti z odprtokodnimi modeli ter odprtokodnimi veščinami in znanjem za usposabljanje.
- Zagotovite nabor programske opreme in orodij za potek dela, ki je enostaven za uporabo in je namenjen strokovnjakom na področju brez izkušenj s podatkovno znanostjo ter jim omogoča izvajanje usposabljanja in prilagoditev.
- Pakiranje programske opreme in operacijskega sistema z optimizirano strojno opremo AI.
Poslovna podpora in nadomestilo za intelektualno lastnino
Poleg tega je omenjeno, da platforma se lahko uporablja za razvoj aplikacij AI za potrebe podjetij in izvajanje storitev za ustvarjanje vsebine, ustvarjanje sistemov za dialog in integracijo virtualnih pomočnikov v aplikacije.
Te aplikacije lahko opravlja naloge kot je odgovarjanje na vprašanja v naravnem jeziku, reševanje matematičnih problemov, generiranje smiselnega besedila na določeno temo, pisanje povzetkov vsebine, popravljanje napak v besedilih, prepisovanje z drugimi besedami, pomoč pri pisanju kode v različnih programskih jezikih ter generiranje pisem in dokumentov z uporabo predlog .
Po drugi strani pa velja omeniti tudi to Red Hat je predstavil novost način za ustvarjanje in upravljanje sistemskih slik, ki temeljijo na Red Hat Enterprise Linux: the "slikovni način". Ta način vam omogoča uporabo orodij in tehnologij, ki se uporabljajo za ustvarjanje in izvajanje vsebnikov aplikacij v uvedbi vašega operacijskega sistema.
Nova način obravnava monolitne sistemske slike, ustvarjen z rpm-ostree in posodobljen atomsko, ne da bi bil razdeljen na ločene pakete. Zgradbe je mogoče generirati kot slike v različnih formatih, kot so OCI (uporablja se v Dockerju), ISO, QCOW2, med drugimi formati, vsebina slike pa se izbere z urejanjem datoteke vsebnika.
Za ustvarjanje in upravljanje slik je mogoče uporabiti standardna orodja za upravljanje vsebnikov, kot sta Podman in OpenShift Container Platform. Za namestitev slik lahko uporabite standardni namestitveni program Anaconda ali graditelj bootc-image-builder, ki vam omogoča pretvorbo slike vsebnika v sliko zagonskega diska. Bootc se uporablja za posodabljanje zagonskih slik vsebnika, ki vključujejo jedro Linuxa in se lahko zaženejo na enak način kot običajne gradnje sistema.
Končno, če ste zanima več o tem, podrobnosti lahko preverite v naslednja povezava.