Releases: langmaninternet/VietnameseTextNormalizer
Update Readme
Version 1.9.5
Thêm hỗ trợ 1 số kiểu gõ sai vị trí dấu
Version 1.9.4
Bỏ việc sửa y và i vì không cần thiết
Version 1.9.3
Thêm hỗ trợ kiểu gõ sai chính tả miền nam
Version 1.9.2
Fix vài bug nhỏ
Version 1.9
Hỗ trợ build trên MAC OSX
Version 1.8
Thêm tool để fix epub
Version 1.7
Hỗ trợ tách từ dính vào nhau khi typing
Version 1.6
Hỗ trợ GCC version 4
Version 1.5
Chuẩn hóa mô hình, bỏ 1 số model ko dùng đến
Version 1.4
Cập nhập Makefile để linh động với các môi trường khác nhau
Version 1.2
Bổ xung thêm 1 số token trong văn nói và cập nhập hệ số với 1 số token trong văn nói
Version 1.1.0
Thêm Combining Tone đặc biệt của Ư
Version 1.0.0
Thư viện chuẩn hóa text Tiếng Việt cho python, có 1 số tính năng sau :
Chuẩn hóa dấu về kiểu phổ thông. Ví dụ : [hoà] -> [hòa]
Chuẩn hóa các dấu dạng Combining Tone và các encode đặc biệt khác về dạng phổ thông. Ví dụ : 0x301 Combining Acute Accent
Xóa các kí tự đặc biệt của HTML còn sót lại . Ví dụ : dấu cách đặc biệt 0x200B Zero width space
Điền nốt kí tự và dấu còn thiếu nếu chắc chắn. Ví dụ : tôi làm việ ở ban công ngệ FPT, tôi là người viêt nam -> tôi làm việc ở ban công nghệ FPT, tôi là người việt nam
Chuẩn hóa i ngắn y dài đối với tên các địa danh trong nước. Có mức chuẩn hóa cho ASR theo độ phổ thông của từ và perplexity của câu
Viết hoa 1 số tên địa danh phổ thông ở Việt Nam
Sửa lại việc viết sai chính tả ở 1 số vùng miền như : sự việc xẩy ra (Miền Bắc), xe ô tô bổn chỗ (Miền Trung), ...
Không làm lỗi cú pháp có sẵn của text
Tự động sửa 1 số lỗi khác............
Code viết bằng C++, Wraper lại cho à python, chạy rất nhanh. 3MB text Utf-8 chỉ cần 0.01s để xử lý (không tính I/O)
Note : Tiêu chí sửa của mình là chỉ sửa khi chắc chắn. Vì thế nên không thể cover được tất cả các trường hợp nhưng sẽ update dần dần.