ANativeWindow_getFormat возвращает (int)5, которого нет в enum

1, 2, 4 ... битовая маска?

То есть 5 - поддержка RGBA_8888 и RGBA_565? Проверил экспериментально, похоже, что так и есть.

По поводу битовой маски, «Return the current pixel format of the window surface. Returns a negative value on error.» - ни слова о битовой маске. Для меня загадка, как текущий сурфейс может быть сразу двух типов.

Функция ANativeWindow_getFormat(ANativeWindow) дергает ANativeWindow::query(...). Можно посмотреть, что там в сорцах.

Гугель же сказал так:
«FWIW, the problem can be solved by calling ANativeWindow_setBuffersGeometry() with the desired pixel format when detecting that Android has silently switched pixel formats.»

Для меня загадка, как текущий сурфейс может быть сразу двух типов

Разумно.

displayWindow = android_createDisplaySurface();
windowFormat = ANativeWindow_getFormat(displayWindow);

Программу же удалось запустить на устройстве, указав что 5 это тот же WINDOW_FORMAT_RGBA_8888.

Я делаю как-то так:

EGLDisplay display = eglGetDisplay(EGL_DEFAULT_DISPLAY);
eglChooseConfig(display, attribs, &config, 1, &numConfigs);

EGLint format;
eglGetConfigAttrib(display, config, EGL_NATIVE_VISUAL_ID, &format);

ANativeWindow_setBuffersGeometry(app->window, 0, 0, format);

EGLSurface surface = eglCreateWindowSurface(display, config, app->window, nullptr);

EGLContext context = eglCreateContext(display, config, nullptr, attribList);

eglMakeCurrent(display, surface, surface, context);

А app->window как получаешь?

А app->window как получаешь?

Если кратко, то приходит из void onNativeWindowCreated(ANativeActivity* activity, ANativeWindow* window)