Ну если он действительно сильно должен изменяться от фрагмента к фрагменту то да
Оффтоп: делал приложение с общим тулбаром на весь главный экран. Огрёб очень сильно по следующим причинам:
1) Дизайн был очень занимательный, на разных экранах в тулбаре были спиннеры, сабтайтлы, аватарки и т.д.
2) Взаимодействие с активити: стали появляться "полноэкранные" фрагменты, с другим фоном и всё подобное. На всё это приходилось добавлять соответствующие методы..
3) Потребовалось реализовать скрытие тулбара при скроле. При этом в одном из фрагментов был ViewPager с табами, а на тот момент support имел много косяков, связанных с CoordinatorLayout. В итоге все костыли в виде кастомных поведений стали глобальными, и понеслось...
Сделал для себя вывод: даже если в приложении будет всего несколько экранов, то всё равно буду использовать toolbar внутри фрагмента.