Попробуйте с помощью maxima посчитать обратную матрицу к
2
sqrt(2 B + 2) -sqrt(B - 1) + B + 1
2
sqrt(2 B + 2) sqrt(B - 1) + B + 1
Результат вас приятно удивит) maxima 5.33
Ни ratsimp, ни trigsimp (да, в ответе вылезают синусы/косинусы) не улучшают ситуацию
Моя же конечная задача в взятии экспоненты от матрицы
-1 k+1
-(k+1) k^2+2k
, B = (k^2+2k-1)/2
Впрочем, если ручками повозиться с заменами переменных и удачно подгадать, то можно привести к виду, который maxima сумеет обратить.