Докерфайл, это файл сборки. Он описывает как собирать тот или иной сервис, что монтировать или копировать внутрь. Композер файл, это описание самих сервисов: какой использовать, или не использовать докерфайл, какой пользовать образ, какие пути монтировать к образу, как назвать образ, какие порты прокидывать итп. Более высокий уровень описания сервиса