E-BUZZ ME Logo
Inteligenta ArtificialaAnaliza tehnica

Dell și Hugging Face lansează Enterprise Hub pentru implementarea locală a AI

Publicat
RRedactia ElectricBuzz
Dell și Hugging Face lansează Enterprise Hub pentru implementarea locală a AI
2 min de citit320 cuvinteRedactia ElectricBuzz

Pe scurt

Dell Technologies face legătura între hardware-ul de înaltă performanță și modelele open-source prin noul său Enterprise Hub.

Implementarea AI în interiorul companiei cu Dell și Hugging Face

Într-o mișcare strategică menită să simplifice integrarea AI generativ în mediile corporative, Dell Technologies a lansat Dell Enterprise Hub. Această colaborare cu Hugging Face oferă organizațiilor o cale directă pentru a implementa modele open-source direct pe infrastructura hardware de înaltă performanță de la Dell. Punând accent pe soluții on-premise, inițiativa vizează preocupările tot mai mari legate de confidențialitatea datelor, securitate și latența asociată procesării AI în cloud.

Enterprise Hub funcționează ca o platformă de tip „pod” între resursele Hugging Face și infrastructura Dell, permițând echipelor IT să acceseze, să testeze și să implementeze modele de bază, precum Gemma-7B de la Google, într-un mediu privat și securizat pe serverele Dell. Această integrare garantează că datele sensibile ale companiei nu părăsesc locația fizică, oferind un nivel de control esențial pentru sectoare precum cel financiar, medical sau guvernamental.

De ce contează

  • Suveranitatea datelor: Permite companiilor să păstreze controlul total asupra seturilor de date proprii, fără a depinde de API-uri externe de cloud.
  • Performanță optimizată: Modelele sunt configurate pentru a rula eficient pe hardware-ul specializat Dell, inclusiv pe serverele PowerEdge dotate cu accelerare GPU modernă.
  • Implementare accelerată: Reduce dificultățile de configurare a stivelor de inferență complexe prin oferirea unor fluxuri de lucru verificate și pregătite pentru producție.

Platforma simplifică întregul ciclu de viață al AI-ului local, de la descoperirea modelelor pe Hugging Face până la implementarea pe hardware. Valorificând expertiza Dell în infrastructură, utilizatorii se pot asigura că sistemele lor sunt optimizate pentru cerințele de calcul specifice modelelor lingvistice mari (LLM). Pe măsură ce cererea pentru un AI suveran crește, acest parteneriat poziționează Dell ca un furnizor hardware crucial pentru următorul val de execuție a modelelor locale. Pentru directorii tehnici (CTO) care doresc să echilibreze puterea LLM-urilor avansate cu siguranța unui ecosistem închis, Dell Enterprise Hub reprezintă o soluție robustă pentru implementarea AI-ului generativ în scenarii critice, eliminând riscurile inerente arhitecturilor de cloud public.

Articole similare

Articole asemanatoare, ordonate semantic dupa subiect si actualitate.

Autorii întâmpină dificultăți neașteptate în procesul de plată a daunelor din procesul cu Anthropic
Inteligenta Artificiala

Autorii întâmpină dificultăți neașteptate în procesul de plată a daunelor din procesul cu Anthropic

O înțelegere de 1,5 miliarde de dolari menită să despăgubească creatorii se lovește de probleme birocratice, pe măsură ce editurile și agenții literari depun revendicări eronate asupra drepturilor de autor.

Hugging Face lansează „Dev Mode” pentru dezvoltarea fluidă a aplicațiilor AI
Inteligenta Artificiala

Hugging Face lansează „Dev Mode” pentru dezvoltarea fluidă a aplicațiilor AI

Hugging Face eficientizează ciclul de dezvoltare AI prin lansarea „Dev Mode”, o funcționalitate nouă care elimină barierele dintre mediile de programare locale și aplicațiile desfășurate în cloud.

Noul nivel „Contributor” de la Meta: Utilizatorii primesc reduceri masive pentru antrenarea agenților AI
Inteligenta Artificiala

Noul nivel „Contributor” de la Meta: Utilizatorii primesc reduceri masive pentru antrenarea agenților AI

Meta introduce un model de prețuri radical pentru noul său model AI, Muse Spark, oferind reduceri semnificative utilizatorilor care acceptă să partajeze prompturile și rezultatele pentru antrenarea modelului.

AWS și Hugging Face optimizează eficiența Llama-3 pe Inferentia2
Inteligenta Artificiala

AWS și Hugging Face optimizează eficiența Llama-3 pe Inferentia2

O nouă integrare între hardware-ul AWS Inferentia2 și platforma Hugging Face Inference Endpoints promite câștiguri semnificative de performanță pentru implementările Llama-3.

Noua direcție a lui Travis Kalanick: Atoms și drumul către dominația robotaxi-urilor
Inteligenta Artificiala

Noua direcție a lui Travis Kalanick: Atoms și drumul către dominația robotaxi-urilor

Atoms, noul startup al fondatorului Uber, Travis Kalanick, se pregătește să intre pe piața competitivă a vehiculelor autonome, vizând un potențial parteneriat cu fosta sa companie.

CyberSecEval 2: noul standard pentru testarea securității sistemelor AI
Inteligenta Artificiala

CyberSecEval 2: noul standard pentru testarea securității sistemelor AI

Hugging Face a lansat CyberSecEval 2, un cadru robust de evaluare creat pentru a audita riguros riscurile de securitate cibernetică și capacitățile defensive ale modelelor lingvistice mari.

Abliteration.ai transformă eliminarea filtrelor de siguranță AI într-un serviciu comercial
Inteligenta Artificiala

Abliteration.ai transformă eliminarea filtrelor de siguranță AI într-un serviciu comercial

Prin oferirea accesului facil, prin API, la modele AI open-weight nefiltrate, startup-ul Abliteration.ai alimentează dezbaterile privind echilibrul dintre testarea cibernetică ofensivă și riscurile asociate modelelor care nu dispun de mecanisme de control.

Precizie la scară: Stăpânirea output-urilor structurate cu modelul de 350M de la LiquidAI
Inteligenta Artificiala

Precizie la scară: Stăpânirea output-urilor structurate cu modelul de 350M de la LiquidAI

Noile evoluții în fine-tuning-ul modelelor de limbaj de dimensiuni reduse demonstrează că nu este nevoie de un număr masiv de parametri pentru a genera date structurate de înaltă fidelitate.