Trecerea către inovația AI internă
Fetch, platforma populară de recompense pentru cumpărături care gestionează un flux masiv de peste 11 milioane de bonuri zilnic, a făcut cu succes tranziția de la un sistem AI rigid, furnizat de terți, la o arhitectură personalizată de înaltă performanță. Anterior, compania se baza pe o soluție externă de tip „cutie neagră” pentru procesarea încărcărilor efectuate de utilizatori, ceea ce limita capacitatea de a extrage date detaliate sau de a oferi perspective valoroase partenerilor de afaceri. Prin parteneriatul cu AWS și utilizarea programului Expert Acceleration de la Hugging Face, Fetch și-a recăpătat controlul asupra destinului său tehnologic.
Decizia a fost motivată de necesitatea de scalabilitate și precizie. Având 18 milioane de utilizatori activi lunar, procesarea manuală sau semiautomată a bonurilor devenise un blocaj. Prin dezvoltarea internă a soluțiilor AI, inginerii Fetch au reușit să creeze modele personalizate, adaptate nuanțelor specifice ale datelor din comerț, permițând o căutare semantică mai profundă și o mai bună recunoaștere a entităților în milioane de documente.
Construirea unui flux de lucru rezilient
Procesul de tranziție nu a fost unul impulsiv. Pentru a asigura o funcționare neîntreruptă pentru cele peste 11 milioane de utilizatori zilnici, echipa de inginerie de la Fetch a implementat un „flux de lucru din umbră” (shadow pipeline). Acest sistem paralel a permis procesarea fiecărui bon primit prin noile modele de machine learning, menținând în același timp sistemul extern moștenit. Această abordare a permis auditarea și validarea riguroasă, asigurându-se că noul „creier” intern egalează și depășește performanța soluției anterioare înainte de lansarea oficială.
La baza acestei transformări stă integrarea Amazon SageMaker și a acceleratoarelor AWS Inferentia. SageMaker a oferit infrastructura necesară pentru gestionarea întregului ciclu de viață al modelelor ML, în timp ce hardware-ul Inferentia a permis companiei să obțină o inferență de deep learning de înaltă performanță la o fracțiune din costul tradițional. Această stivă tehnologică, combinată cu îndrumarea oferită de Hugging Face, a permis Fetch să reducă ciclurile de antrenare a modelelor de la săptămâni la doar câteva ore.
De ce contează acest lucru
Succesul inițiativei Fetch evidențiază o tendință tot mai răspândită în rândul companiilor orientate către tehnologie: renunțarea la software-ul opac furnizat de terți în favoarea dezvoltării AI interne. Prin utilizarea modelelor open-source de tip transformer și a expertizei specializate, companiile pot obține rezultate critice pentru afaceri:
- Agilitate operațională: Reducerea timpului de dezvoltare cu 30% permite cicluri de iterație mai rapide și o lansare mai rapidă a funcționalităților noi.
- Câștiguri de performanță: O scădere cu 50% a latenței de procesare îmbunătățește direct retenția utilizatorilor, deoarece verificarea rapidă a bonurilor îi menține pe aceștia implicați în platformă.
- Suveranitate strategică: Eliminarea dependenței de un furnizor de tip „cutie neagră” înlătură un risc de afaceri semnificativ, oferind companiei transparență totală asupra propriilor fluxuri de date.
- Eficiența costurilor: Prin construirea de modele specializate, companiile pot optimiza utilizarea resurselor hardware, ceea ce duce la economii semnificative pe termen lung în infrastructură.
În cele din urmă, studiul de caz Fetch servește drept model pentru organizațiile care doresc să-și extindă ambițiile în domeniul AI. Prin democratizarea accesului la arhitecturi complexe de modele prin platforme precum Hugging Face, chiar și companiile mari, bazate pe volume uriașe de date, pot construi soluții personalizate care nu doar îmbunătățesc eficiența internă, ci oferă și o experiență considerabil mai rapidă și mai utilă pentru utilizatorul final.
