max_heap_table_size – максимальный размер любой таблицы на MEMORY, tmp_table_size – максимальный размер временной таблицы, не может быть больше, чем max_heap_table_size.
Эти параметры были прописаны, и всё равно мониторинг орёт, что в директорию /var/mysql-tmp, мускул периодически пишет/удаляет временные файлы сверх этого лимита.
А причём тут ibtmp1?
Суммарный размер не отконтролировать, потому что тогда непонятно, что СУБД вообще должна делать, когда ей нужна материализация. Отказываться выполнять запрос? Падать?
Ищи причину того, почему так много временных таблиц делается. Возможно, соединения без индексов или ещё что.
Данная машинка находится в репликации, в слэйве, может поэтому столько дерьма навалило. Отдельный каталог под /tmp создан на 30Gb, но всё равно постоянно орёт мониторинг, что забивает место на 95% то отпускает
и посмотри как поменяется нагрузка на этого слейва и сколько он теперь будет создавать этих тмп таблиц в количестве и вообще помониторь что изменится в его поведении.