как увеличить количество loop-девайсов?

AFAIK указывается при компилляции ядра.

Точнее не скажу, мне двух всегда хватало.

А чтобы ядро не перекомпиливать?

если loop вкомпайлен в ядро, то при загрузке указать параметр max_loop=100 (для 100 loop-девайсов) если loop в виде модуля, то грузить его с таким параметром

If you compiled loop.o as module see output of `modinfo loop`. If not as module may be ( check doumentation :)) by changing kernel command line at boot time.

PS
For example I have the following output of `modprobe loop`:
filename:    /lib/modules/2.4.21-ac4/kernel/drivers/block/loop.o
description: <none>
author:      <none>
license:     "GPL"
parm:        max_loop int, description "Maximum number of loop devices (1-256)"

So if you have loopback comipled in kernel you can add to your kernel command line
something like max_loop=256