История изменений

Крайне любопытно, спасибо.

Надо думать что «прилипание» к текущей архитектуре и попытки увеличивать кол-во нейронов вызваны к жизни тем фактом что всё это дело хорошо считается на сегодняшних видеокартах.

Добавление вентилей и новых типов взаимодействий вероятно будут требовать других вычислений (как например та же KAN-архитектура), можно предполагать что и энергозатраты будут расти.

Кроме того у нас сейчас (если верно понимаю) два этапа работы с сетью: тренировка и собственно работа. И тренировка жрёт энергию как известно (нес па?).

В то время как в живых организмах тренировка - часть работы. И посредством тренировки по сути сеть меняет в том числе свою архитектуру (в некоторых пределах разумеется).

Пока мне кажется не похоже чтобы сегодняшние подходы позволяли о чём то таком хотя бы помышлять (даже без оглядки на энергозатраты).

Хотя, конечно, использование технологии будет расти как на дрожжах. В том числе и в упомянутом сегменте политтехнологий. Это мне кажется на данный момент неоспоримым. Наконец-то научат роботов раскладывать конфеты в коробки, кстати.

Но может я не верно вижу ситуацию..

Крайне любопытно, спасибо.

Надо думать что «прилипание» к текущей архитектуре и попытки увеличивать кол-во нейронов вызваны к жизни тем фактом что всё это дело хорошо считается на сегодняшних видеокартах.

Добавление вентилей и новых типов взаимодействий вероятно будут требовать других вычислений (как например та же KAN-архитектура), можно предполагать что и энергозатраты будут расти.

Кроме того у нас сейчас (если верно понимаю) два этапа работы с сетью: тренировка и собственно работа. И тренировка жрёт энергию как известно (нес па?).

В то время как в живых организмах тренировка - часть работы. И посредством тренировки по сути сеть меняет в том числе свою архитектуру (в некоторых пределах разумеется).

Пока мне кажется не похоже чтобы сегодняшние подходы позволяли о чём то таком хотя бы помышлять (даже без оглядки на энергозатраты).

Но может я не верно вижу ситуацию..