Сначала нужно установить репозиторий EPEL

Extra Packages for Enterprise Linux (EPEL) - этот репозиторй (см http://fedoraproject.org/wiki/EPEL) поставляет пакеты программ для EL4 и EL5, его так-же ставят на CENTOS 5.4, для установки более свежих версий PHP (5.3) и mySQL.

Эти пакеты никоим образом не на заменяют системные пакеты. В многих случаях не рекомендуется его применять, с целью поддержки совместимости пакетов вашей версии OS.
В этих целях нужно использовать плагин yum Priorities если вы , все-же используете его, который позволяет избежать смешивания пакетов.