Raspberry Pi и LiveUSB - возможно ли это?

Так может стоит взять нормальную флешку, у меня на Rpi крутятся сервера для 3d принтеров и Rpi с osmc, и на них ничего не отваливается.

нет, оно с USB грузиться не умеет

На raspbian можно в read only замонтировать корень, а тот же home например в tmpfs и при загрузке разворачивать туда архив со всякими настройками пользователей... Когда надо поменять какие-либо настройки, делаешь remount,rw меняешь.

где было, как можно грузить rpi и по сети и с usb, но все равно нужен начальный загрузчик на sd карте.

Вот тут описано, как грузиться с флешки: https://www.raspberrypi.org/documentation/hardware/raspberrypi/bootmodes/msd.md

Да, для начальной загрузки нужна карта, но данные на нее не пишутся, поэтому нагнуться после обрыва питания не должна:

Before a Raspberry Pi 3 will boot from a mass storage device, it needs to be booted from an SD card with a config option to enable USB boot mode. This will set a bit in the OTP (One Time Programmable) memory in the Raspberry Pi SoC that will enable booting from a USB mass storage device. Once this bit has been set, the SD card is no longer required.

И еще, эта штука работает только на RPi 3:

Will it be possible to boot a Pi 1 or Pi 2 using MSD?

Unfortunately not. The boot code is stored in the BCM2837 device only, so the Pi 1, Pi 2, and Pi Zero will all require SD cards.
However, I have been able to boot a Pi 1 and Pi 2 using a very special SD card that only contains the single file bootcode.bin. This is useful if you want to boot a Pi from USB, but don’t want the possible unreliability of an SD card. Don’t mount the SD card from Linux, and it will never get corrupted!