диалог [No/Yes], умолчания

Для самого Qt приложения можно в сорцах. Глобально - вроде нет.

Кстати, ещё стоит помнить, что Yes | No в диалогах, как и OK | Cancel на разных системах будут в разном порядке отображаться. В Windows вроде Cancel | OK, в Linux’ах и macOS – OK | Cancel (но это не точно).

В GTK приложение само может установить, какая кнопка выбрана в диалоге. Многие так делают специально. Так что в GTK на уровне тулкита ты не можешь надёжно этот вопрос решить.

Насколько надёжен вариант с gtk_widget_grab_focus или gtk_window_set_focus?

Если ты про QMessageBox, то попробуй setDefaultButton.

Стоит ещё отметить, что setAutoDefault() у кнопки наверное следует тоже отключать.

https://stackoverflow.com/a/24579216

Но я бы посмотрел исходники Qt, есть ли внутри явного вызова setDefaultButton() вызов setAutoDefault(). Что-то закрадывается у меня подобное предположение.

Кстати, ещё стоит помнить, что Yes | No в диалогах, как и OK | Cancel на разных системах будут в разном порядке отображаться. В Windows вроде Cancel | OK, в Linux’ах и macOS – OK | Cancel (но это не точно).

Что-то мне помнится, что в разных средах не только разный порядок, но и разные кнопки «по-умолчанию». В одной среде может быть по-умолчанию активна Ok, а в другой Cancel.

Насколько я знаю, наоборот: в Windows OK | Cancel, в Linux (точней, GTK), следуя гномовскому HIG'у, Cancel | OK.