ILLA home page
  1. Hugging Face Endpoint

Huijaus Face Inference Endpoints, voit helposti ottaa käyttöön Transformers, Diffusers tai mikä tahansa malli omistautunut, täysin hallinnoitu infrastruktuuri. Klikkaa tästä luodaksesi päätepisteen.

Luo hugging Face endpoint -resurssi

On olemassa kaksi tapaa lisätä halauksen Face Endpoint -resurssi.

  1. Syötä ILLA Builder >> Klikkaa Resources -välilehti >> Klikkaa Create New >> Valitse Hugging Face Endpoint >> Määritä yhteystiedot ja napsauta Save Resource
  2. Syötä muokkaussivu >> klikkaa + Uutta toiminta-luettelossa >> Valitse Hylkivä Face Endpoint >> Määritä yhteystiedot tai napsauta + Uusi resurssi lisätäksesi uusia yhteystietoja

Määritä yhteystiedot

OminaisuudetPakollinenKuvaus
NimivaadittuMääritä resurssin nimi, jota käytetään näytettäväksi ILLA:ssa
Endpoint URLvaadittuluo Endpoint täältä: https://ui.endpoints.huggingface.co/new ja hanki URL.
PääsymerkkivaadittuOrganisaatio merkitty. Voit saada sen https://huggingface.co/settings/tokens.

Luo Toiminnot

Syötä muokkaussivu >> klikkaa + Uutta toiminta-luettelossa >> Valitse Hugging Face Endpoint >> Valitse olemassa oleva resurssi tai lisää uusi resurssi

Määritä toiminnot

OminaisuudetPakollinenKuvaus
Parametrin tyyppivaadittuPäätepisteen parametrin tyyppi. Esimerkiksi, jos Endpoint tarvitsee tekstin syötteen, valitse täytä “syötteet” parametri tekstillä. Jos Endpoint tarvitsee JSON syötteen, valitse täytä “syötteet” parametri JSON tai avain-arvo.
ParametrivaadittuSyötä parametri. Käytä {{ componentName.value }} komponenttien tietojen käyttämiseen.

Käytä laatikkoa

Olemme ottaneet käyttöön openai/whisper-base, joka saa äänitiedoston syötteen ja muuntaa tekstiksi. Se sopii kokousminuutteja, podcasteja tekstiin, jne. Seuraavaksi esittelemme miten käyttää tätä mallia rakentaaksemme sovelluksen ILLA Cloudiin.

Vaihe 1: Rakenna etupään käyttöliittymä komponentteihin

Olemme rakentaneet käyttöliittymän käyttäen komponentteja, kuten tiedoston lataus ja painike, seuraavasti.

Vaihe 2: Lisää hugging Face -resurssi

Täytä alla näkyvät kentät viimeistelläksesi resurssiasetukset. Luo Endpoint ja hanki Endpoint URL. Ja hanki organisaation API-tunniste profiilin asetukset.

Vaihe 3: Toiminnon määrittäminen

Valitse parametrin tyyppi ensin. Ota openai/whisper-base esimerkkinä, tämä malli vaatii binääritiedoston syötteen, jotta muutamme parametrin Binary.

Asettaa binäärin, joka voidaan siirtää malliin tiedostoon ladatun tiedoston komponentin avulla. Esimerkiksi {{upload1.value[0]}}

Vaihe 4: Yhdistä komponentit ja toiminnot

Lisää tapahtuman käsittelijä nappiin käynnistääksesi sen toiminnon, kun painiketta napsautetaan. Ja aseta tekstin komponentin arvo arvoksi {{whisper.data[0].text}} näyttääksesi muunnostuloksen tekstinkomponentilla.

Kun edellä mainitut vaiheet on määritetty, sovellus luodaan ja käynnissä olevat tulokset ovat seuraavat.