Перекодировать текст из Big5 ↓
Китайская письменность существует в двух формах. В континентальном Китае с 1950-х годов используются упрощённые иероглифы, а на Тайване, в Гонконге и Макао сохранились традиционные, полные формы. Для традиционного письма была создана своя кодировка, Big5, которая долгие годы оставалась основной на Тайване и в Гонконге. Её название, "Большая пятёрка", связано с пятью крупными тайваньскими компаниями, для совместного проекта которых она была создана в 1984 году.
Big5 устроена похоже на GBK. Символы ASCII записываются одним байтом, а иероглифы двумя. Кодировка содержит около 13 тысяч традиционных иероглифов, а также знаки препинания, японскую азбуку, кириллицу и различные символы. Иероглифы разделены на две группы: часто употребляемые и редкие. Внутри каждой группы они упорядочены по количеству черт, а затем по ключам, как в традиционных китайских словарях.
Кодировка так и не стала официальным государственным стандартом, и это привело к появлению множества вариантов. Разные производители добавляли в неё свои символы, и тексты, созданные в разных программах, иногда отображались по-разному. В Гонконге появилось собственное расширение HKSCS, добавившее иероглифы кантонского языка и имена собственные. В Windows кодировка известна как кодовая страница 950.
У Big5 есть известная проблема с обратной косой чертой. Второй байт иероглифа может совпадать с кодом обратной косой черты из ASCII, а многие программы и языки программирования используют этот символ как служебный. В результате некоторые иероглифы, например распространённые "許" и "功", вызывали ошибки в программах: часть иероглифа воспринималась как обратная косая черта и удалялась или обрабатывалась особым образом. Эта проблема была настолько известна, что на Тайване её называли по самым частым из таких иероглифов: "許功蓋".
Путаница между Big5 и GBK особенно коварна. Обе кодировки двухбайтовые и используют похожие диапазоны байтов, поэтому текст в одной из них, прочитанный в другой, превращается в другие иероглифы, а не в набор значков. Фраза "這是測試", то есть "это тест" в традиционном написании, при чтении в GBK превращается в "硂琌代刚". В обратную сторону упрощённое "这是测试" при чтении в Big5 становится "涴岆聆彸". Человек, не знающий китайского, такую ошибку не заметит, а носитель языка увидит бессмыслицу.
Если же Big5 прочитать в европейской кодировке, получится набор латинских букв с акцентами и символов. Фраза "這是測試" в Windows-1252 выглядит как "³o¬O´ú¸Õ". В таком тексте встречаются и обычные латинские буквы, поскольку второй байт иероглифа может совпадать с кодом буквы ASCII.
Сегодня сайты Тайваня и Гонконга в основном работают в UTF-8, где есть и традиционные, и упрощённые иероглифы. Но Big5 по-прежнему встречается в старых документах, базах данных, субтитрах и программах. Если традиционный китайский текст превратился в бессмысленные иероглифы или набор символов, укажите Big5 исходной кодировкой и преобразуйте текст в UTF-8.