разработка программы по удалению фона с изображения

Ни что за редактор (десктоп? мобильный? браузерный?), ни бюджета. Ни разработки - «нужен человек для подбора архитектуры». Wtf?..

Ни что за редактор (десктоп? мобильный? браузерный?)

Там питон в тегах. Так что в принципе пофиг: я так понимаю, требуется саму либу обеспечить.

Редактор браузерный Бюджет по часовой ставке, её определяет разработчик Подбор архитектуры предполагал написание модели. Сейчас у нас есть некая модель. Её нужно обучить на сете.

Модель есть, датасет есть, нужен просто человек, который скажет model.fit()?

Блин, теперь всё написанное выше выглядит логично, но как-то реально сложно было понять что вам был нужен ML Engineer с опытом решения конкретной задачи чтоб сказал «ML-ную часть этой задачи нужно делать вот так» :).

Предыдущий разработчик передал некую модель с сетом и написал следующее «Есть модель, архитектура одна из новейших. Модель имеет хороший потенциал, но необходимо её правильно обучить, а это достигается только долгим подбором параметров обучения. Основная сложность заключается в выборе и написании хорошей функции ошибки. Модель выдаёт три изображения: trimap, острые углы trimap, alpha image, так что необходимо поподбирать различные функции ошибок и должно работать. Из технологий обучения нужен semi-supervised learning.»

Почему он не захотел дальше обучать, тут я затрудняюсь ответить:

• возможно задача оказалась сложнее чем он предполагал
• нет времени возможно и то и другое.

Возможно потому что эта часть работы, которую он уже «сделал», сама по себе ничего не стоит. Работа собственно и заключается в поиске/подготовке датасета, а архитектура/модели под него потом перебираются десятками (либо берется первая попавшаяся u-net и она уже неплохо работает).

Про выбор функции ошибки тоже дичь какая-то написана. Обычно просто кросс-энтропию оптимизируют. Вопрос над чем, да, но кажется что для background removal вариантов не так много (один?).

возможно, могу скинуть модель и датасет если интересно

Насколько я понял он выбрал самую лучшую u-net , и пытался её переписать для дообучения. И вроде что-то переписал, но не прокатило. Например из такой картинки http://prntscr.com/1t41xuo

получается http://prntscr.com/1t41zzi

такую проблему решить не удалось.

Не говоря о том эта изначальная u-net тоже не идеально обрабатывала объекты и людей.

А возможно ничего и не переписывалось, просто была выбрана библиотека типа rembg https://github.com/danielgatis/rembg он её протестил и собрал какой-то датасет.