Вопрос про современные нейронные сети

Для того, чтобы генерить эти архитектуры, нужно глубокое понимание данных. В данный момент нет таких методов, которые бы позволяли это делать

Не уверен, что вы имеете ввиду, но возможно это IGNG (Инкрементальный растущий нейронный газ).

На аватарке Mr. Peanutbutter?

Да, это он

What it is? A cross-episode?!

Есть довольно много. Самый известный - AutoML. А вообще гуглить в сторону meta learning.

Если нет - почему?

В жизни редко используется, ибо затратно по вычислениям. Да и чаще типовые архитектуры адаптируют под задачу.