Ответ задачи вычисляется по формуле N²*(N-1)²* ...*(N-K+1)²/K!. Действительно, первую ладью можно поставить в любую из N² клеток - при этом она побьет 2*(N-1)+1 клеток. Соответственно, вторую ладью можно поставить N²-(2*(N-1)+1)= (N-1)² способами. И так далее до K-й, которую можно поставить в любую из (N-K+1)² еще не битых клеток. А поскольку порядок выставления ладей не существенен, то надо поделить полученное произведение на количество способов перенумеровать K ладей, т.е. K!.

В данной задаче ограничения подобраны так, что все вычисления не выходят за пределы стандартных целочисленных типов.