Zabbix может и pull, и push, любую модель получения данных.
Prometheus работает по модели push. Что в него кинут, то и будет хранить.
Zabbix может сжимать старые данные, как пример, в целом эффективнее хранит данные в внешней базе.
Prometheus не занимается хранением, для него это внешнее дело.
Zabbix может интерпретировать данные. Не просто показать что дали, а кто нибудь запроцессить, как до сохранения, так и после.
Zabbix имеет нордический пользовательский интерфейс.
Prometheus даёт ui на внешний откуп. Какую нибудь grafana к нему нужно.
Алертинг есть и там, и там. В zabbix из коробки, в Prometheus в виде расширения.
Prometheus более cloud-frendly.
В многом они похожи, есть шаблоны под типовые задачи, есть расширения.