Tranformers ilə NLP
Təlim proqramında siz irəli səviyyədə NLP metod və alqoritmlərini istifadə edərək kompyuterə mətnləri anlamağı və yaratmağı öyrədə biləcəksiniz. Maşın öyrənməsinin yaratdığı imkanlarla inkişaf edən dünyada CHATGPT kimi mətnləri anlayıb, özü ağıllı formada mətn məlumatları yarada bilən həllər bütün biznes və dövlət qurumlarının, o cümlədən bütün insanların vacib köməkçisinə çevrilmişdir. Bu təlim proqramı NLP sahəsində sizə fundamental anlayışları, qabaqcıl texnikaları və praktik tətbiqləri asanlıqla tədris edəcək. Təlimdən sonra siz ya öz startapınızı yarada bilər, ya da hansısa şirkətdə NLP mütəxəssisi kimi işləməniz üçün lazım olan bütün texniki biliklərə sahib olacaqsınız. Maşın Öyrənməsinin sehrli dünyasına töfhə verən alimlər sırasına qoşulmaq üçün bu təlim sizin üçün ideal başlanğıc rolunu oynayacaqdır.
Təlim Cədvəli
Təlim haqqında məlumat
Süni İntellekt və Maşın Öyrənməsinin sürətlə yayıldığı dünyada kompyuterlərə mətnləri anlama və yaratmağı öyrədən NLP alqoritmləri son illərdə satış tibb, və ya istənilən sahədə özü cavab verə bilən botların istifadəsi, sentiment analizi ilə sosyal medyaya nəzarət, xəbərlər, məqalələr, müqavilələr və digər tipli böyük həcmli mətn məlumatlarından mənalı nəticələrin çıxarılması və s. kimi sahələrədə geniş şəkildə tətbiq edilməyə başlanılıb. Transformers ilə NLP təlim proqramında siz NLP üçün irəli səviyyə anlayışlar, Transformer modelləri, Cümlələrin vektorlara çevrilməsi, sual-cavab modelləri, semantik (məna əsaslı) axtarış sistemləri, BERT, ChatGPT və CLIP modelləri və metodologiyalarını tətbiq edərək öyrənəcəksiniz. Müştəri rəylərində sentiment (ruhiyyə) analizi, sual-cavab sistemləri, çatbot qurma, mətndə axtarış sistemi və sözlərdən şəkilləri tapan axtarış sistemləri qurmaqla NLP-ni real keyzlərə tətbiq edərək öyrənəcəksiniz. Python vasitəsilə siz transformers, Pytorch, Keras və Tensorflow kitabxanalardan istifadə edərək NLP alqoritmlərini tətbiq etmək bacarığı qazanacaqsınız.
Bu təlim kimlər üçündür?
- Tələbələr
- Proqram təminatçıları
- Data Elmi mütəxəssisləri
- Dilçilər
- Süni intellekt həvəskarları
- Tədqiqatçılar və akademiklər
Sertifikat
Təlimi müvəffəqiyyətlə bitirən şəxslərə Certified Data Scientist və digər şəxslərə isə iştirakçı sertifikatı təqdim ediləcək. Sağ tərəfdə nümunə sertifikatı görə bilərsiniz.
Transformatorlar (Maşın Öyrənmə Modeli) nədir?
Transformatorlar (Maşın Öyrənmə Modeli) nədir?
IBM Technology
Burada maşın öyrənmə modeli haqqında danışırıq və bu videoda Martin Keen transformatorların nə olduğunu, nə üçün yaxşı olduğunu və bəlkə də... nəyə görə o qədər də yaxşı olmadığını izah edir.
Sillabus
Sessiya 1
- Encoder-Decoder Attention, Self-Attention, Multi-head Attention və Positional Encoding.
- Transformer Heads, Dot-Product Attention və Bidirectional Attention.
- Scaled Dot-Product Attention və Prebuilt Flair Modelləri.
- Transformers ilə Sentiment Modellərinə giriş və BERT üçün Tokenization.
- Windows ilə iri həcmli mətnlərin klassifikasiyası və PyTorchda Window metodu.
Case Study 1
Transformer ilə müştəri rəyləri sentiment analizi
Sessiya 2
Open Domain and Reading Comprehension
Retrievers, Readers, and Generators
SQuAD 2.0 datası
Q&A Modeli qurmaq və performansını qiymətləndirmək
ROUGE Metricə giriş və tətbiqi
Recall, Precision və F1
Case Study 2
Open-Domain Reading Comprehension xəbərlərdən sual-cavab sisteminin qurulması
Sessiya 3
Retriever-Reader və Haystack - Giriş
Haystackda Elasticsearch və Sparse Retrievers
BM25, FAISS və DPR tətbiqi
Retriever-Reader Stack və Cümlə Vektorlarının çıxarılması
Cosine Similarity və Sentence-Transformers ilə Similarity
Case Study 3
Haystack ilə dokument Axtarış və Oxuma Sisteminin qurulması
Sessiya 4
BERT Pretraining üçün vizual yönləndirmə
Pretraining kod üçün BERTə giriş
BERT Pretraining - Masked-Language Modeling (MLM) və Next Sentence Prediction (NSP)
MLM məntiqi və Pre-training
NSP məntiqi və NSP ilə Pre-training
Setup the NSP Pre-training Training Loop
MLM və NSP məntiqi və Pre-training
Case Study 4
Mahnı sözlərində növbəti cümləni təxmin etmək
Sessiya 5
ChatGPT API - Giriş
ChatGPT API History Tutor
ChatGPT API History Tutor - İkinci hissə
Whisper API - Giriş
Whisper API - Audio prosessinqi
Case Study 5
ChatGPT API vasitəsilə chatbot yaratmaq
Sessiya 6
Multimodal generation - maraqlı bir macəra
CLIP modelinin istifadə edilməsi
Generative transformer modelinin qurulması
Optimizasiya üçün latent space parameterləri
CLIP modeli ilə tekstin və şəklin encode edilməsi
Latent space-də nöqtələr arasında interpolasiya
Davinci Sfumato
Case Study 6
CLIP modeli vasitəsilə mətn sorğusu ilə əks şəkil axtarışı