По порядку:
1. Как сделать, чтоб главы не нумеровались, но включались в содержание, например для введения, вступления и т.п. (\chapter*{} тут ясень пень не канает)
2. Существует ли стиль (и ели да то как называется) для создания пояснений к формулам (расшифровка значений переменных, описание что откуда взялось и т. п.), в серьезных книгах это делается шрифтом с иным кеглем и другими абзацными отступами.
3. Последний вопрос про маргиналии (абзацы или заметки на полях). Как я понял в них можно печатать только текст, а мне бы хотелось вставить изображение (как это делается во многих книгах - например абзацы требующие особого внимания, содержащие дополнительную информацию и т. п.) - существует ли для этого какой-нибудь стиль? Или придется ограничиваться простым текстом?