Skip to content

Releases: langmaninternet/VietnameseTextNormalizer

Update Readme

10 Jun 16:09
ac5cede

Choose a tag to compare

Version 1.9.5
Thêm hỗ trợ 1 số kiểu gõ sai vị trí dấu

Version 1.9.4
Bỏ việc sửa y và i vì không cần thiết

Version 1.9.3
Thêm hỗ trợ kiểu gõ sai chính tả miền nam

Version 1.9.2
Fix vài bug nhỏ

Version 1.9
Hỗ trợ build trên MAC OSX

Version 1.8
Thêm tool để fix epub

Version 1.7
Hỗ trợ tách từ dính vào nhau khi typing

Version 1.6
Hỗ trợ GCC version 4

Version 1.5
Chuẩn hóa mô hình, bỏ 1 số model ko dùng đến

Version 1.4
Cập nhập Makefile để linh động với các môi trường khác nhau

Version 1.2
Bổ xung thêm 1 số token trong văn nói và cập nhập hệ số với 1 số token trong văn nói

Version 1.1.0

Thêm Combining Tone đặc biệt của Ư
Version 1.0.0

Thư viện chuẩn hóa text Tiếng Việt cho python, có 1 số tính năng sau :

Chuẩn hóa dấu về kiểu phổ thông. Ví dụ : [hoà] -> [hòa]

Chuẩn hóa các dấu dạng Combining Tone và các encode đặc biệt khác về dạng phổ thông. Ví dụ : 0x301 Combining Acute Accent

Xóa các kí tự đặc biệt của HTML còn sót lại . Ví dụ : dấu cách đặc biệt 0x200B Zero width space

Điền nốt kí tự và dấu còn thiếu nếu chắc chắn. Ví dụ : tôi làm việ ở ban công ngệ FPT, tôi là người viêt nam -> tôi làm việc ở ban công nghệ FPT, tôi là người việt nam

Chuẩn hóa i ngắn y dài đối với tên các địa danh trong nước. Có mức chuẩn hóa cho ASR theo độ phổ thông của từ và perplexity của câu

Viết hoa 1 số tên địa danh phổ thông ở Việt Nam

Sửa lại việc viết sai chính tả ở 1 số vùng miền như : sự việc xẩy ra (Miền Bắc), xe ô tô bổn chỗ (Miền Trung), ...

Không làm lỗi cú pháp có sẵn của text

Tự động sửa 1 số lỗi khác............

Code viết bằng C++, Wraper lại cho à python, chạy rất nhanh. 3MB text Utf-8 chỉ cần 0.01s để xử lý (không tính I/O)

Note : Tiêu chí sửa của mình là chỉ sửa khi chắc chắn. Vì thế nên không thể cover được tất cả các trường hợp nhưng sẽ update dần dần.