Рисую на бумажке. Со временем бумажка становится не нужна.

Твоя задача в целом поставлена неверно.
Твоей целью является не запоминание протокола, а общее развитие памяти.

По сабжу - mind map + запоминание. Больше ничего не использую.

Нарисовать диаграмку состояний конечного автомата? Хоть на листочке, хоть в специальном софте из которого потом код этогшо автомата сгенерируется.

Кто как решает похожие задачи?

At one point in the project I could not get an overall viewpoint for the operation of the entire system. It really was too much for my brain to keep all the subtle aspects and processing nuances clear so I could get a processing and design overview. After struggling with this problem for a few weeks, I decided to use a little acid to see if it would enable a breakthrough, because otherwise, I would not be able to complete the project and be certain of a consistent overall design.

While stimulated by the LSD I was able to get the entire system wholly in my mind at the same time.

https://www.maps.org/news-letters/v18n1/v18n1-MAPS_24.pdf

Ну что-то вроде state machine будет наглядно, думаю. Возьми бумажку побольше, типа А0, нарисуй на ней аккуратненько все связи, повесь на стенку и помедитируй. Это если протокол реально сложный, а не так, что на сообщение A ответ Б, на сообщение В ответ Г и так далее, в этом случае и анализировать то нечего.

Правило 7

Разбей 30 типов сообщений на 5+ групп по ~7 сообщений. Групп может быть больше в зависимости от ситуаций, но всего конечных значений должно быть не более 7.

Если ты готов плавить мозг, то кол-во эл-тов можно расширить до 10-12.

Расширить сознание... ну, ты понимаешь

вместо майндмапа можно попробовать UML с диаграммами классов, процессов и другими ништяками (рекомендую MagicdrawUML)

Лучше не надо протокол в голову помещать...
Мне один раз приснилось, что я TCP/IP стек какой-то операционки.
Мля, я тех пор свой роутер на ночь выключаю...

расскажи поподробнее :)