Легально ли ddos'ить свой vps?

vps не твой, вот и ответ.

Помешает. Хостер просто отключит твою vps и сделает правильно.

Законно.
Хостер засуспендит. Это тоже законно.

Бонусные баллы начисляются за использование одной из своих vps для сканирования/атаки другой.

Абсолютно законно, если у тебя на колокации собственный юнит, ибо твоё железо - твои правила.

А вот именно по VPS следует копать законы непосредственно страны, в которой стоит датацентр. Но заранее можно сказать, что в РФ это полностью законно, если использованные инструменты принадлежат тебе.

Использование ботнета и прочих примочек точно незаконно. Поймают на подобных экспериментах и\или заказах у сторонних людей - гарантированно покарают.

Зачем использовать свою, если в интернете для этого полно бесплатных чужих?

Но, разумеется, такие надо уметь искать

Суть вопроса ТС, может ли он поиграть в кулхацкера используя *свои* vps.
Ответ: конечно может, и я даже помню прецедент где IDS хостера поймала экспериментатора на горячем.

Забыл только, рефанд ему дали на выходе, или нет. Данные забрать не дали точно.

Почитай договор с хостером что там написано по поводу преднамеренного забивания их канала. :)