Динамика по длине, аналогично рекурсивной формуле для чисел Каталана.
Первой скобке соответствует некоторая. При этом она может быть круглой, либо квадратной.
Если скобка квадратная, то и снаружи и внутри может стоять любая ПСП, удовлетворяющая условию задачи.
Если скобка круглая, то внутри могут стоять только круглые, т.е. внутри стоит ПСП из одного вида скобок. Снаружи стоит любая корректная в рамках задачи.
Посчитать количество таких ПСП из двух видов скобок, что внутри пары круглых скобок нет ни одной квадратной.