What is Wav2Vec2-BERT? Wav2Vec2-BERT is a successor of the popular Wav2Vec2 Model, a pre-trained model for Automatic Speech Recognition (ASR). Wav2Vec2-BERT is a 580M-parameters audio model that has been pre-trained on 4.5M hours of unlabeled audio data covering more than 143 languages. Following the basic architecture of Wav2Vec2, with increased pretraining data and slighly different training objectives, various models (XLSR, XLS-R and MMS) with pretrained checkpoints were released.
Wav2Vec2-BERT pretrained model was introduced in the SeamlessM4T Paper by Meta in August 2023.
[Read More]
Indian Languages and Text Normalization: Part 1
This is a two part article. The first part will cover how the normalization routine in the popular ASR engine Whisper, removes essential characters like vowel signs in Indian languages while evaluating the performance. The second part (yet to be written) will cover various existing libraries and the approaches needed to perform proper normalization in Indian languages. Text Normalization Text Normalization in natural language processing (NLP) refers to the conversion of different written forms of text to one standardised form.
[Read More]
Call me Dr. Kavya ๐คฉ
I was awarded doctoral degree by APJ Abdul Kalam Technological University, Kerala, India.
You can read my thesis ‘Linguistic challenges in Malayalam speech recognition: Analysis and solutions’ here.
Pics from the graduation ceremony hosted by College of Engineering Trivandrum and APJ Abdul Kalam Technological University.
Live Dictation: Malayalam speech to text using subword tokens
The research carried out as part of my PhD was centred around the linguistic challenges in Malayalam speech recognition. One of the biggest chellenges associated with recognizing speech in morphologically complex languages is centred around how granular should be the text tokens.
Classical ASR with Word tokens In the classical architecture of Automatic Speech Recognition (ASR) with word tokens, the acoustic model identifies fundamental sound units, the pronunciation lexicon maps sounds to words, and the language model predicts word sequences to convert speech to text.
[Read More]
An Open Framework to Build Malayalam Speech to Text System
It was indeed a pleasure to present my paper on An openframework to develop Malayalam Speech to text Systems at the 35th Kerala Science congress held during 10th-14th of February, 2023 at Kuttikkanam, Kerala India. The work was presented in the category of Scientific Social Responsibility and recieved the best oral presentation award in that category.
The presentation was all about how I ensured openness and transperancy in the development process of speech recognition system for Malayalam done as part of my PhD work Linguistic Challenges in Malayalam Speech Recognition: Analysis and Solutions.
[Read More]
How to create a Malayalam Pronuciation Dictionary?
What is a phonetic lexicon? A pronunciation dictionary or a phonetic lexicon is a list of words and their pronunciation described as a sequence of phonemes. It is an essential component in the training and decoding of speech to text (STT) and text to speech (TTS) systems. A pronunciation dictionary is slightly different from a simple phonetic transcription. It should contain delimiters between phonemes, space is usually the default choice.
[Read More]
Mlphon: A Multifunctional Grapheme-Phoneme Conversion Tool Using Finite State Transducers
The Mlphon tool I had been working on, for the past couple of years was extensively expanded as part of my research work at College of Engineering Trivandrum. A detailed presentation of the phonemic features of Malayalam, their incorporation as a sequential ruleset in the form of finite state transucers, a quantitative evaluation of the applications of the tool are now available in the article, published by the open access journal, IEEE Access.
[Read More]
เดฎเดจเตเดทเตเดฏเดญเดพเดท, เดฏเดจเตเดคเตเดฐเดฌเตเดฆเตเดงเดฟ
เดถเดพเดธเตเดคเตเดฐเดเดคเดฟ (เดเตเตบ 2022) เดชเตเดฐเดธเดฟเดฆเตเดงเตเดเดฐเดฟเดเตเด เดฒเตเดเดจเด
เดเดฎเตเดเด เดฎเดจเตเดทเตเดฏเตผเดเตเดเต เดจเตเดธเตผเดเตเดเดฟเดเดฎเดพเดฏเตเดณ เดเดฐเต เดเดดเดฟเดตเดพเดฃเต เดญเดพเดท. เดเตเดเตเดเตเดเตเดเตพ เดเดคเต เดญเดพเดทเดฏเตเด เด
เดตเดฐเตเดเต เดชเดฐเดฟเดธเดฐเดเตเดเดณเดฟเตฝ เดจเดฟเดจเตเดจเตเด เดธเตเดตเดพเดญเดพเดตเดฟเดเดฎเดพเดฏเดฟ เดจเตเดเดฟเดฏเตเดเตเดเตเดเตเดจเตเดจเต. เด เดถเตเดทเดฟ เดเดฐเต เดเดฎเตเดชเตเดฏเตเดเตเดเดฑเดฟเดจเต เดเตเดตเดฐเดฟเดเตเดเดพเตป เด
เดคเตเดฐ เดเดณเตเดชเตเดชเดฎเดฒเตเดฒ. เดธเดฟเดจเดฟเดฎเดพเดเดฟเดเตเดเดฑเตเดฑเต เดฌเตเดเตเดเต เดเตเดฏเตเดฏเดพเดจเตเด, เดญเดเตเดทเดฃเด เดเตผเดกเตผ เดเตเดฏเตเดฏเดพเดจเตเด, เดฎเตเดฏเดฟเดฒเดฏเดเตเดเดพเดจเตเด, เด
เดฒเดพเดฑเด เดตเตเดฏเตเดเตเดเดพเดจเตเดฎเตเดเตเดเต เดเดเดเตเดฒเตเดทเต เดญเดพเดทเดฏเดฟเตฝ เดชเดฑเดเตเดเดพเตฝ เดเตเดฏเตเดฏเดพเตป เดเดดเดฟเดฏเตเดจเตเดจ เดกเดฟเดเดฟเดฑเตเดฑเตฝ เด
เดธเดฟเดธเตเดฑเตเดฑเดจเตเดฑเตเดเดณเตเดเตเดเต เดเดจเตเดจเตเดฃเตเดเต. เดเดคเดฟเดจเตผเดคเตเดฅเด เดฏเดจเตเดคเตเดฐเดเตเดเตพ เดญเดพเดทเดพเดถเตเดทเดฟ เดเตเดตเดฐเดฟเดเตเดเตเดตเตเดจเตเดจเดพเดฃเต? เดฎเดฒเดฏเดพเดณเดฎเตเตพเดชเตเดชเตเดเตเดฏเตเดณเตเดณ เดฎเดฑเตเดฑเต เดญเดพเดทเดเดณเตเด เดเดฎเตเดชเตเดฏเตเดเตเดเดฑเตเดเตพเดเตเดเต เดตเดดเดเตเดเตเดฎเต? เด
เดคเดฟเดจเต เดเตเดคเตเดฐเดฟเดฎเดฌเตเดฆเตเดงเดฟ เดเดตเดถเตเดฏเดฎเตเดฃเตเดเต? เด เดตเดฟเดทเดฏเดเตเดเดณเตเดเตเดเต เดชเดฐเดฟเดถเตเดงเดฟเดเตเดเตเดเดฏเดพเดฃเต เด เดฒเตเดเดจเดคเตเดคเดฟเตฝ.
เดฏเดจเตเดคเตเดฐเดเตเดเตพเดเตเดเต เดธเตเดตเดฏเด เดชเด เดฟเดเตเดเดพเดจเดพเดเตเดฎเต? เดเตเดฑเตเดฑเตเดชเดพเดเตเดฎเตเดณเตเดณ เดถเดฌเตเดฆเดเตเดเตพ เดชเดฟเดเดฟเดเตเดเตเดเตเดเตเดเดพเดจเตเดณเตเดณ เดเดชเดเดฐเดฃเด เดเดฒเตเดฒเดพ เดซเตเดฃเตเดเดณเดฟเดฒเตเดฎเตเดฃเตเดเต. เด เดถเดฌเตเดฆเดคเตเดคเดฟเตฝ เดจเดฟเดจเตเดจเตเด เดธเดเดธเดพเดฐเด เดตเตเตผเดคเดฟเดฐเดฟเดเตเดเต, เดชเดฑเดเตเดเดคเตเดจเตเดคเตเดจเตเดจเต เดคเดฟเดฐเดฟเดเตเดเดฑเดฟเดฏเดพเดจเตเดณเตเดณ เดธเดเดตเดฟเดงเดพเดจเด เดชเดฒ เดญเดพเดทเดเดณเดฟเดฒเตเด เดเดจเตเดจเต เดธเดพเดงเตเดฏเดฎเดพเดฃเต.
[Read More]
Mozhi Malayalam TTS powered by Mlphon and Mlmorph
Krishna Sankar recently developed a Malayalam - English bilingual Text to Speech System, Mozhi. Check the web demo page and play around with your choice of words and listen to the natural speech it produces. Krishna has set a future goal of understanding the emotional content of the text and read it out accordingly. This is expected to make the application suitable for audio books. Generating audio for arbitrary speaker with very few training samples is another area he plans to work on.
[Read More]
Publishing Malayalam Speech Recognition Model
Malayalam speech recognition model trained on various openly available speech and text corpora using Kaldi toolkit is now released here. It is now available for testing on the Vosk-Browser Speech Recognition Demo website. This Malayalam model can be used with Vosk speech recognition toolkit which has bindings for Java, Javascript, C# and Python.
A speech recognition architecture that works best in scenarios of limited speech data availability is called a pipeline model, where it is composed of an acoustic model, a language model and a phonetic lexicon.
[Read More]