Заводим стек. Последовательно рассматриваем вводимые скобки. Если скобка открывающаяся - добавляем её в стек, иначе - если предыдущая была ей соответствующая - удаляем предыдущую и идём дальше, иначе - последовательность неправильная. Если в конце ввода в стеке ни одного элемента не осталось, последовательность правильная, иначе - нет.