I mean in langdata_lstm https://github.com/tesseract-ocr/langdata_lstm/tree/main/ben every language has its own unicharset file.
On Thursday, 14 September, 2023 at 6:35:29 pm UTC+6 zdenop wrote: > unicharset is created automatically (by official training procedure > https://github.com/tesseract-ocr/tesstrain) > > > Zdenko > > > št 14. 9. 2023 o 13:56 Ali hussain <mdalihu...@gmail.com> napísal(a): > >> I have faced in my own trianed_text this normalization error. I think the >> main problem is * ্য *in these words. and i did't find* ্য* in >> ben.unicharset file. I think this is the reason for the show error. >> if I create a unicharset for * ্য *and add in ben.unicharset file it >> will work? >> I don't know how to create a unicharset for this * ্য * like look at >> these words you can understand better. thx >> >> ব্যাটারির >> র্যাবের >> র্যাঙ্কিংয়েও >> হ্যাকাররা >> >> *This is the main error.: * >> Extracting unicharset from plain text file data/ben/all-gt >> Invalid start of grapheme sequence:D=0x981 >> Normalization failed for string 'পারে মটোরোলার গবেষকেদের তৈরি বিশেষ এ >> উলকি ত্বকের ওপর আঁঁকা এক ধরনের সার্কিটের মতো এতে কোনো ব্যাটারির প্রয়োজন >> পড়ে না' >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence:H=0x9cd >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence:H=0x9cd >> Normalization failed for string 'হবে এসব স্থানে মোটরসাইকেল নিয়ে ও হেঁটে >> র্যাবের দল টহল দেবে র্যাবের পোশাকধারী সদস্যের পাশাপাশি সাদা পোশাকে >> গোয়েন্দা' >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence:H=0x9cd >> Normalization failed for string 'র্যাবের এক বিজ্ঞপ্তিতে এ তথ্য জানানো >> হয় রমজান মাসে আর্থিক লেনদেন বেড়ে যাওয়ায় ছিনতাই চাঁদাবাজির মতো সন্ত্রাসী >> কর্মকাণ্ড রোধে' >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence:H=0x9cd >> Normalization failed for string 'কার্যক্রম জোরদার করা হবে এ ব্যাপারে >> র্যাবের গণমাধ্যম শাখার পরিচালক উইং কমান্ডার এ টি এম হাবিবুর রহমান প্রথম >> আলো' >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence:H=0x9cd >> Normalization failed for string 'বড় ব্যবধানে হারানোর পর এখন বিশ্বকাপ >> জয়ের স্বপ্নে বিভোর ব্রাজিলের সমর্থকেরা ফুটবলে ব্রাজিলিয়ান উত্থানের >> প্রতিধ্বনি শোনা যাচ্ছে ফিফার র্যাঙ্কিংয়েও' >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence: H=0x9cd >> Normalization failed for string 'নয় নম্বরে গত বছরের জুলাই থেকে শুরু >> হয়েছিল ফিফা র্যাঙ্কিংয়ে ব্রাজিলের অবনমন স্বাগতিক হওয়ার সুবাদে বিশ্বকাপ >> বাছাই পর্ব খেলতে' >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence: H=0x9cd >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence: H=0x9cd >> Normalization failed for string 'এসব পদক্ষেপ নিয়েছে র্যাব নিরাপত্তা >> পরিকল্পনার অংশ হিসেবে অন্য আইনশৃঙ্খলা বাহিনীর পাশাপাশি র্যাবও নিজস্ব >> দায়িত্বপূর্ণ এলাকায় তিন ধাপে' >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence: H=0x9cd >> Normalization failed for string 'ঠেকাতে র্যাবের পদক্ষেপের কথা উল্লেখ >> করেন উইং কমান্ডার হাবিবুর রহমান এ ব্যাপারে তিনি বলেন বাস রেল লঞ্চ কাউন্টার >> ও' >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence: H=0x9cd >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence: H=0x9cd >> Normalization failed for string 'নিয়ন্ত্রণে রাখতে অন্যবারের মতো এবারের >> রমজান মাসেও দেশজুড়ে বাড়তি নিরাপত্তা ব্যবস্থা নিয়েছে র্যাপিড একশন >> ব্যাটালিয়ন র্যাব আজ বৃহস্পতিবার' >> Invalid start of grapheme sequence: M=0x9be >> Invalid start of grapheme sequence: M=0x9be >> Invalid start of grapheme sequence: M=0x9be >> Normalization failed for string 'ফিশিং এটাক বলে এ ছাড়া ডিকশনারি এটাক বা >> সহজে অনুমান করা যায় এমন শব্দনির্ভর পাসওয়াার্ডগুলো দিয়েও আক্রমণ করে >> হ্যাকাররা গবেষকেরা' >> Dropping isolated joiner: 0x200c >> Invalid start of grapheme sequence: H=0x9cd >> Normalization failed for string 'ফাইনালে ব্রাজিলের কাছে হেরে কনফেডারেশনস >> কাপের শিরোপাটা অধরা থেকে গেলেও ফিফা র্যাঙ্কিংয়ের শীর্ষস্থানটা হারাতে >> হয়নি স্পেনকে ১৫৩২ পয়েন্ট নিয়ে' >> >> -- >> You received this message because you are subscribed to the Google Groups >> "tesseract-ocr" group. >> To unsubscribe from this group and stop receiving emails from it, send an >> email to tesseract-oc...@googlegroups.com. >> To view this discussion on the web visit >> https://groups.google.com/d/msgid/tesseract-ocr/0fa2828c-0791-4f2f-9c69-a772cc688bean%40googlegroups.com >> >> <https://groups.google.com/d/msgid/tesseract-ocr/0fa2828c-0791-4f2f-9c69-a772cc688bean%40googlegroups.com?utm_medium=email&utm_source=footer> >> . >> > -- You received this message because you are subscribed to the Google Groups "tesseract-ocr" group. To unsubscribe from this group and stop receiving emails from it, send an email to tesseract-ocr+unsubscr...@googlegroups.com. To view this discussion on the web visit https://groups.google.com/d/msgid/tesseract-ocr/e9022ef5-0fd3-40a9-949a-d22d58ca40a4n%40googlegroups.com.