Не знаю как в версии 2, но в 1.5 можно в товаре указать минимальное количество, и тогда этого товара нельзя заказать меньше, чем указанное количество.
Минимальное количество:
Указание минимального количества в заказе
Вот есть такое поле. Я думаю во второй версии оно тоже есть. То есть вам нужно изменить для товаров из этой категории.
Чтобы ручками не клацать, можно просто выполнить несколько SQL запросов, для 1.5.5.1.2 он бы выглядел как-то
UPDATE product SET minimum = 5 WHERE product_id IN (SELECT product_id FROM product_to_category WHERE category_id = id_нужной_категории);
И так вставляете нужную категорию, и нужное минимальное количество для заказа товара из данной категории и выполняете такие запросы.