Это действительно восклицательный знак. Но не обычный: он описывает щёлкающий звук в языках койсанской группы (Африка) и потому является буквой с написанием слева направо. Настоящий же восклицательный знак приспосабливается к направлению окружающего текста.