- Hugging Face Endpoint
🔨 Ενσωματώσεις
Hugging Face Endpoint
ContributeHugging Face Endpoint
Με το Hugging Face Inference Endpoints, μπορείτε εύκολα να αναπτύξετε Transformers, Diffusers ή οποιοδήποτε μοντέλο σε αφοσιωμένη, πλήρως διαχειριζόμενη υποδομή. Κάνε κλικ εδώ για να δημιουργήσεις ένα τελικό σημείο.
Δημιουργία πόρου άκρου προσώπου Hugging
Υπάρχουν δύο τρόποι για να προσθέσετε έναν πόρο Τελικού Σημείου Προσώπου Hugging.
- Εισάγετε το
ILLA Builder>> Κάντε κλικ στην καρτέλαResources>> Κάντε κλικ στο κουμπίΔημιουργία Νέου>> ΕπιλέξτεΑγνοώντας το Τελικό ΣημείοΠροσώπου >> Ρυθμίστε τις πληροφορίες σύνδεσης και κάντε κλικ στο κουμπίΑποθήκευση πόρων - Εισάγετε τη σελίδα επεξεργασίας >> κάντε κλικ στο
+ Newστη λίστα ενεργειών >> ΕπιλέξτεΑγνοώντας το Τελικό Σημείο>> Ρυθμίστε τις πληροφορίες σύνδεσης ή κάντε κλικ στο+ Νέος πόροςγια να προσθέσετε νέες πληροφορίες σύνδεσης
Ρύθμιση πληροφοριών σύνδεσης
| Ιδιότητες | Απαιτείται | Περιγραφή |
|---|---|---|
| Όνομα | απαιτείται | Ορίστε ένα όνομα πόρου που θα χρησιμοποιηθεί για την εμφάνιση στο ILLA |
| Endpoint URL | απαιτείται | δημιούργησε το Endpoint εδώ: https://ui.endpoints.huggingface.co/new και πάρε το URL. |
| Διακριτικό | απαιτείται | Ο οργανισμός token. Μπορείτε να το βρείτε στο https://huggingface.co/settings/tokens. |
Δημιουργία Ενεργειών
Εισάγετε τη σελίδα επεξεργασίας >> κάντε κλικ στο + New στη λίστα ενεργειών >> Επιλέξτε Αγνοώντας το Τελικό Σημείο >> Επιλέξτε έναν υπάρχοντα πόρο ή προσθέστε έναν νέο πόρο
Ρύθμιση ενεργειών
| Ιδιότητες | Απαιτείται | Περιγραφή |
|---|---|---|
| Τύπος παραμέτρου | απαιτείται | Ο τύπος παραμέτρου του τελικού σας σημείου. Για παράδειγμα, αν το τελικό σημείο σας χρειάζεται μια είσοδο κειμένου, επιλέξτε συμπληρώστε την παράμετρο “inputs” με κείμενο. Αν το τελικό σημείο σας χρειάζεται μια είσοδο JSON, επιλέξτε συμπληρώστε την παράμετρο “inputs” με JSON ή τιμή κλειδιού. |
| Παράμετρος | απαιτείται | Εισάγετε την παράμετρο σας. Χρησιμοποιήστε {{ componentName.value }} για να χρησιμοποιήσετε τα δεδομένα των εφαρμογών. |
Περίπτωση χρήσης
Έχουμε αναπτύξει openai/whisper-base το οποίο παίρνει μια είσοδο αρχείου ήχου και μετατρέπει σε κείμενο. Είναι κατάλληλο για λεπτά συνάντησης, podcasts σε κείμενο, κλπ. Στη συνέχεια θα παρουσιάσουμε πώς να χρησιμοποιήσετε αυτό το μοντέλο για να δημιουργήσετε μια εφαρμογή στο ILLA Cloud.
Βήμα 1: Τοποθέτησε τη διεπαφή πρόσθιου άκρου με εξαρτήματα
Έχουμε χτίσει μια διεπαφή χρησιμοποιώντας τα στοιχεία όπως το ανέβασμα αρχείων και το κουμπί, ως εξής:
Βήμα 2: Προσθέστε έναν πόρο προσώπου Hugging
Συμπληρώστε τα πεδία που εμφανίζονται παρακάτω για να ολοκληρώσετε τη διαμόρφωση των πόρων. Δημιούργησε ένα Τελικό Σημείο και πάρε το URL του Τελικού σημείου. Και πάρτε τον οργανισμό API token στις ρυθμίσεις προφίλ.
Βήμα 3: Ρυθμίστε μια ενέργεια
Επιλέξτε πρώτα έναν τύπο παραμέτρου. Πάρτε το αρχείο openai/whisper-base ως παράδειγμα, αυτό το μοντέλο απαιτεί είσοδο δυαδικού αρχείου, ώστε να αλλάξουμε την παράμετρο σε Binary.
Ορίστε το δυαδικό που θα περάσει στο μοντέλο όπως τα δεδομένα αρχείου που μεταφορτώνονται από το στοιχείο μεταφόρτωση αρχείου. (Automatic Translation) Για παράδειγμα, {{upload1.value[0]}}
Βήμα 4: Συνδέστε τα εξαρτήματα και τις ενέργειες
Προσθήκη ενός χειριστή συμβάντος στο κουμπί για να ενεργοποιήσετε την εκτέλεση της ενέργειας όταν πατηθεί το κουμπί. Και όρισε την τιμή του στοιχείου κειμένου σε {{whisper.data[0].text}} για να εμφανίσεις το αποτέλεσμα μετατροπής στο στοιχείο κειμένου.
Αφού ρυθμιστούν τα παραπάνω βήματα, δημιουργείται η εφαρμογή και τα αποτελέσματα που εκτελούνται είναι τα εξής.
