Окошко, меняющее размеры в зависимости от содержимого

В конструкторе вашего наследника QDialog надо добавить эту строку:

// make the dialog adjust to its layout
layout()->setSizeConstraint(QLayout::SetFixedSize); // <- this does the trick!

Страница на QtC
Ещё один вариант