Как доказать, что f(x,y)=1/x+1/y выпуклая на (х>0,y<0 & х<-y)
Это один из вариантов возможной выпуклости. Но как раз в этом случае затык у меня.
или как доказать обратное? что во II и IV квадранте функция не выпукла?
Доказать надо исходя из условия випуклости:
f (a * x1 + (1-a) * x2) <= a * f (x1) + (1-a) * f (x2)