🔨 Integrace
Hugging Face je Github z komunity strojového učení se statisíce předškolených modelů a 10 000 datových souborů, které jsou v současné době k dispozici. Můžete volně přistupovat k modelům a datovým souborům, které sdílejí ostatní odborníci z oboru nebo hostovat a nasazovat své modely na Hugging Face.
Mezi příklady modelů dostupných v knihovně Hugging Face patří:
V Hugging Face je přes veřejné API, které můžete zdarma použít a vyzkoušet na https://huggingface.co/models. Kromě toho, pokud potřebujete řešení pro scénáře výroby, můžete použít Hugging Facebook Inference Endpoints, které lze použít a zpřístupnit na https://huggingface.co/docs/inference-endpoints/index.
ILLA Builder poskytuje desítky běžně používaných front-end komponentů, díky nimž můžete rychle vytvářet různá rozhraní na základě vašich specifických potřeb. ILLA zároveň nabízí spojení s Hugging Face, umožňuje vám rychle se připojit k API, odesílat žádosti a přijímat vrácená data. Připojením rozhraní API a front-end komponenty, můžete implementovat požadavek, aby uživatelé mohli vložit obsah přes přední konec a odeslat jej do API. API vrátí vygenerovaný obsah, který se zobrazí na frontové straně.
Vlastnosti | Požadováno | L 343, 22.12.2009, s. 1). |
---|---|---|
Název | vyžadováno | Definujte název zdroje, který bude použit pro zobrazení v ILLA |
Token | vyžadováno | Uživatelský přístup nebo API token. Můžete to získat v https://huggingface.co/settings/tokens. |
Vlastnosti | Požadováno | L 343, 22.12.2009, s. 1). |
---|---|---|
ID modelu | vyžadováno | Hledat modely: https://huggingface.co/models |
Typ parametru | vyžadováno | Typ parametru vašeho koncového bodu. Například, pokud váš koncový bod vyžaduje textový vstup, vyberte parametr „inputs“ s textem. Pokud váš koncový bod vyžaduje JSON vstup, zvolte možnost vyplnit parametr “vstupy” pomocí JSON nebo klávesové hodnoty. |
Parametr | vyžadováno | Zadejte svůj parametr. Pomocí {{ componentName.value }} můžete použít data komponentů. |
Na základě očekávaného scénáře používání, který jste popsali, vytvořte front-end rozhraní. Například můžete použít vstupní údaje a komponenty obrázku, pokud váš produkt převezme text a výstupy obrázku. Pokud váš produkt převezme text generovaný textem a výstupy, můžete použít vstupní a textové komponenty.
Následující obrázek je ukázkou front-end stránky pro produkt, který odpovídá na otázky založené na kontextu.
Klikněte + Nový v seznamu akcí a vyberte API pro odstranění závady.
Vyplňte formulář pro připojení k vaší Hugging Face:
Jméno: jméno, které bude zobrazeno v ILLA
Token: Získejte si hugging Face nastavení profilu
Potvrďte informace o modelu v Hugging Face před nastavením akcí:
Vyberte model v Hugging Face Model Page
Použijme jako příklad deepset/roberta-base-squad2. Zadejte stránku podrobností > klikněte na Deploy > Click Inference API
Parametry za “inputs”
jsou tím, co byste měli vyplnit ILLA.
V Editoru ILLA bychom měli vyplnit ID modelu a parametr. Vezměte výše uvedený model jako příklad “inputs"" je pár hodnot klíčů, takže jej můžeme vyplnit klíčovou hodnotou nebo JSON.
A také podporujeme textové vstupy a binární vstupy, které mohou splňovat všechna připojení API Hugging Face Inference.
Chcete-li předat přední vstup uživatele do API, můžete použít {{ pro načtení dat zadaných do komponenty. Například vstup 2 je složkou pro zadání otázky a vstup 1 je složkou vstupního kontextu, můžeme vyplnit question
a kontext
klíčem a vyplnit {{ input.value }}
v hodnotě:
{
"question": {{input2.value}},
"context": {{input1.value}}
}
Před zobrazením výstupních dat akce v přední složce bychom měli potvrdit, do kterého pole jsou umístěny výstupy různých modelů. Stále si jako příklad bereme hluboké/roberta-base-squad2
výsledky jsou následující:
Takže odpověď můžeme získat pomocí {{ textQuestion.data[0].answer }}
(textQuestion
je název akce).