История изменений
Исправление red75prim, (текущая версия) :
Что хорошо в таких мнениях, так это то, что проще подождать немного, чем спорить.
Реальный аргумент - это то, что обучение упёрлось в объем доступных текстовых данных, а transfer learning(1) не работает, поэтому ожидать ничего потрясающего не стоит.
Но и с этим аргументом есть проблема: при увеличении размера сети выше определённого предела transfer learning начинает работать, а уж доступных видео - просто завались. Ну и хватает новых техник, которые не требуют новых данных: внутренний монолог, обучение с самоподкреплением и т.п.
- то есть в данном случае улучшение показателей на текстовых задачах при дополнительном обучении на нетекстовых данных (изображениях, видео).
Исходная версия red75prim, :
Что хорошо в таких мнениях, так это то, что проще подождать немного, чем спорить.
Реальный аргумент - это то, что обучение упёрлось в объем доступных текстовых данных, а transfer learning(1) не работает, поэтому ожидать ничего потрясающего не стоит.
Но и с этим аргументом есть проблема: при увеличении размера сети выше определённого предела transfer learning начинает работать, а уж доступных видео - просто завались.
- то есть в данном случае улучшение показателей на текстовых задачах при дополнительном обучении на нетекстовых данных (изображениях, видео).