Исправление и изменение кодировок MySQL

Nightmare

Разработчик
#1
В связи с тем, что довольно много людей обращается с просьбой помочь исправить проблему с кодировками MySQL, представляем вам статью с описанием, как «лечить» наиболее часто встречающиеся случаи. За что огромное спасибо

Please Login or Register to view hidden text.


В статье описывается не то, как первоначально правильно настроить кодировки MySQL (об этом уже довольно много написано), а о случаях, когда есть довольно большие таблицы с неправильными кодировками и нужно всё исправить.

Самое плохое в неправильно настроенных кодировках — то, что зачастую проблему сложно обнаружить, и с первого взгляда может казаться, что сайт работает правильно, и никаких проблем нет.

Небольшое отступление. Sypex Viewer

В какой-то момент надоело отправлять людей в громоздкий phpMyAdmin, и была написана крошечная утилитка Sypex Viewer. Она представляет собой один PHP-файл, использует современные Web 2.0 технологии AJAX, JSON и другие. Основные задачи, которые ставилась при создании — минимальный вес, и максимальное удобство и скорость работы. В дальнейшем в примерах будут скриншоты из неё, но все те же действия можно сделать и в phpMyAdmin.

Данные в cp1251 таблицы в latin1

Наверное, самая популярная проблема. Когда данные в кодировке cp1251 (Windows-1251), а у таблиц указана кодировка по умолчанию latin1. Такие ситуации возникают в следующих случаях:
при неграмотном обновлении с версии MySQL меньше 4.1 на более новые;
очень часто возникает в «буржуйских» скриптах, которых вполне устраивает кодировка по умолчанию, и они «забывают», что неплохо бы указывать кодировку, как таблиц, так и соединения;
также бывают случаи, когда переезжают с одного сервера (у которого установлена дефолтная кодировка cp1251, в частности, так сделано в Денвере) на другой (у которого стоит стандартная кодировка latin1).

В результате на сайте вроде как всё нормально, но если посмотреть в Sypex Viewer, то русские символы будут выглядеть как «кракозябры» (как их обычно называют пользователи).

Для преобразования нам понадобится Sypex Dumper.
  • На вкладке «Экспорт» выбираем нужные таблицы.
  • Кодировка должна быть auto (остальные параметры неважны, можно комментарий добавить, например, «Дамп перед исправлением кодировки»).
  • Нажимаем «Выполнить». Теперь у нас есть бэкап (его в любом случае желательно делать при любых преобразованиях базы данных).
  • Переходим на вкладку «Импорт»
  • Выбираем только что сделанный файл бэкапа.
  • Выбираем кодировку cp1251 и помечаем опцию «Коррекция кодировки».
  • Нажимаем «Выполнить».
Вот и всё заходим в Sypex Viewer, чтобы убедиться, что русские символы выводятся корректно.



Данные и таблицы в utf8, но кодировка соединения latin1

Теперь рассмотрим более запущенный случай. Набирающая популярность в последнее время проблема, в связи с повальным увлечением UTF-8. Создатели софта стали переводить свои детища на UTF-8, но и тут не всё так гладко, как хотелось бы.

Возникает проблема в основном в случае, когда у таблиц указана кодировка UTF-8, данные в UTF-8, но кодировка соединения установлена по умолчанию latin1 (типичный пример, vBulletin 4, хоть там и есть в конфигах настройка кодировки соединения, но она закомментирована по умолчанию).

В результате в MySQL присылаются данные в UTF-8, но поскольку указана кодировка соединения latin1, то MySQL пытается преобразовать данные из latin1 в UTF-8. В итоге русские символы выглядят так:


Ситуация более запущенная, но исправляется проблема почти также, как в первом случае, только в пункте 2 нужно выбрать кодировку latin1, а в пункте 6 нужно выбрать utf8 кодировку.

Изменение кодировки

Также часто встречающаяся проблема преобразования кодировки из cp1251 в UTF-8. До выполнения этого шага обязательно убедитесь, что русские символы у вас правильно показываются в Sypex Viewer или phpMyAdmin, если это не так, то предварительно исправьте кодировку.
Итак, опять заходим в Sypex Dumper.
Во вкладке «Экспорт» выбираем нужные таблицы.
Устанавливаем кодировку, в которую хотите преобразовать таблицы, в данном случае utf8.
Нажимаем «Выполнить».
После чего заходим в «Импорт» и выбираем нужный файл.
Выставляем кодировку utf8 и опцию «Коррекция кодировки».
Нажимаем «Выполнить».
Вот и всё таблицы в UTF-8. Не забываем, что нужно еще установить кодировку соединения, сконвертировать ваши скрипты и шаблоны в UTF-8, выставить правильную кодировку в заголовках.

Кодировка соединения

Не забываем, что после исправлений кодировки, нужно убедиться, что ваши скрипты используют правильную кодировку соединения (в принципе, это будет сразу видно, они будут неправильно показывать русские символы без нужной кодировки соединения). У некоторых она выставляется в настройках, в некоторых придется добавить самостоятельно.

Для чего достаточно пройтись поиском по файлам, и найти где вызывается функция mysql_connect (или mysqli_connect). После этой строки нужно добавить строку которая укажет кодировку соединения.

Код:
mysql_query("SET NAMES 'cp1251'");
Где вместо cp1251, указать нужную кодировку соединения.

Немного о Sypex Dumper Pro

В платной версии Sypex Dumper Pro постарался еще больше упростить процесс «лечения» кодировок.
Достаточно зайти в «Сервисы», выбрать таблицы и в «Дополнительно» нажать «Исправить кодировку». После чего выбрать нужную кодировку и нажать «Выполнить».


Аналогично делается преобразование кодировки в UTF-8, только в «Дополнительно» нужно выбрать «Изменить кодировку».

Не забывайте перед преобразованиями кодировок делать бэкап, тут как с презервативами, лучше пусть он будет и не понадобится, чем когда понадобится — его не будет.
 

Вложения

Nightmare

Разработчик
#3
Да, sypex dumper не только упрощает работу, но и сокращает время ее проведения. Сделать бекап или перенести базу на другой сервер буквально в течении нескольких минут, в отличии от phpmyadmin.