День Техдира в Санкт-Петербурге 3 сентября:  оффлайн встреча профессиональных техдиров, руководителей разработки, девопс, тестирования и тимлидов.

CEO, продакты и тимлиды, общающиеся с технарями, - мы ждём вас!

Посещение бесплатное, но важно предварительно зарегистрироваться (чтобы на всех пива взяли 🍻):  https://cto-day.ru/

Лайк & repost, если хотите, но не можете:
https://www.facebook.com/ctorecords/posts/10156134640242504

​​Артём Лысак пишет: Недавно общался с человеком который работал с таким персонажем. В реальности он устроился уборщиком, и назначил себя руководителем отдела безопасности через месяц)

П.С. Картинка утащена у Димы Кирноценского из фб

Константин Юревич пишет про «Я запилю сам!»

«Ни одна из коробочных CRM нам не подходит» - жалуется маркетолог, не разобравшись с настройками первой попавшейся на глаза CRM-системы, даёт разработке задачу пилить, прошло 2 года, а бизнес так и не смог выстроить эффективный маркетинг.

«Мы развернём свой ClickHouse и будем экономить $200 на BigQuery» - доказывает воодушевленный техдир после конференции Яндекса, через полгода при непонятных обстоятельствах наебнулся сервер со всеми данными, и никто не знает, как их восстановить.

«Я напишу свою атрибуцию и систему а/б-тестирования» - с горящими глазами питчит юный физтеховец-аналитик, полгода пилит что-то на питоне, а директор по маркетингу даже не может проверить, что он написал, приходится верить. За год ROI от рекламы ухудшился в полтора раза, списали на сезонность.

«Я напишу свой фреймворк, ведь те что есть - говно» - предлагает юный программист своему СТО и полгода пишет то, что 20 раз написано, в то время, как конкуренты улучшают свои продукты.

Но больше всего в этой ситуации жалко руководителей, которые в силу технической неподкованности соглашаются на подобное, доверяя своим инициативным джуниорам. Именно они потом будут отхватывать пиздюлей, в то время как прошарившийся немного в теме джуниор пойдёт на новую работу. Уже мидлом, ведь опыт есть опыт 🙂 не важно, кто за него заплатил.

Коллеги из СПб (и не только)! Мы ищем  докладчиков на https://cto-day.ru/, который пройдёт 3 сентября в СПб вечером!

Формат доклада - блиц на 10-15 минут. Основные темы связаны с острыми проблемами, с которыми сталкиваютя руководители разработки во всех сферах - от спд и оборудования, до софт-скиллов и общения с бизнесом.

Для чего вообще делать доклады? Чтобы не только изложить, что вообще говоря оттачивает мысль, но  обсудить с аудиторией эту мысль, - проверить её на прочность и скорректировать своё картину мира, придав ей больше адекватности и актуальности! Ну и конечно это пиар, после которого можно свои решения за счёт отрощенного авторитета активнее внедрять!

Даже если вы не техдир, но у вас есть тема откровенного наброса, - велком! Буду рад обсудить с любым из вас предложения по докладам! в личке!

​​Решения для виртуализации

https://www.youtube.com/watch?v=PgyX4lkTwhA
На День Техдира согласилась выступить Татьяна Гаврилова!

Она классная! Она знает всё про систематизацию знаний, учит аналитиков и всё понимает про визуализацию.

Для чего это всё нужно? Для построения мостика между бизнесом и технической командой. Благодаря именно такому мостику, беклоги получаются равномерными, работа спокойной, а результаты ошеломляющие!

Всех, кто хочет узнать от Татьяны, как это, ждём на Дне Техдира 3 сентября в СПб в офисе Селектела! https://cto-day.ru/

https://www.youtube.com/watch?v=X49i3btnegs
На День Техдира прийдет Кирилл Малеванов, техдир Selectel

Это будет  обзорный доклад для руководителей команд разработки про развитие сетей передачи данных (спд). Для нас же связь между серверами - это довольно примитивно: по айпишнику сервера видно и норм. А реально там под капотом куча всего интересного спрятано, о чём мы не то что не слышали, а даже не догадываемся!

- Масштабирование сети - много стоек, много клиентов, много серверов;
- Разные архитектуры под разные проекты;
- Выделенные серверы - WAN, LAN, IPMI;
- Резервирование сетевой инфраструктуры;
- Облачные серверы;
- Связь разных проектов и дата-центров;
- Защита от DDoS;
- «Хочу, чтобы всё работало»



Кирилл расскажет: Что? Как? И почему? История про то, на что мы опираемся в разработке каждый день, но абсолютно не представляем, насколько оно интересно устроено.

Участие бесплатно, но требуется зарегистрироваться: https://cto-day.ru/

Ольга Павлова пишет про... Назовём это «эффектом Зализняка», пока нет термина поточней.
Суть: ты не можешь сделать круто, если не пользуешься первоисточниками.

Андрей Анатольевич Зализняк, если кто не знает (а никто и не обязан знать) — это был такой академик-лингвист. Он много что сделал, но особенно крут и известен был благодаря работе с берестяными грамотами.

И там была такая история. Сначала он эти грамоты в глаза не видел. И работал с тем, что лаборанты и кто там ещё от руки срисовали. Прям вот работал-работал, лекции читал, много чего.

А потом его почти принудительно подвели к артефактам. Кора там древняя, раскопки, вот это всё материальное.

И оказалось (он был умный, а иначе б и не оказалось), что оригиналы от копий отличаются прям сильно. Что в этих копиях полно не то чтобы ошибок… Но полно таких неточностей, которые к ошибкам и непоняткам приводят. Что наука на основе рисуночков — и не наука вовсе.

Что ж, надо было быть академиком, да не абы каким, чтобы понять простую вещь: хочешь изучать берестяные грамоты — изучай (сюрприз!) берестяные грамоты?

Выходит, что надо. Потому что, похоже, в те далёкие времена (многие присутствующие уже родились, но под стол пешком ещё вполне проходили) учёные брезговали контактом с первоисточником. Пусть научная обслуга в земле копается, а мы уж как-нибудь в чистеньких кабинетах силой разума истолкуем их картинки в пользу лингвистики.

И вот человек: не хотел возиться, но подумал — и передумал. И столько благодаря этому натворил крутого, что теперь фамилия «Зализняк» стоит рядом со словами «берестяные грамоты», как «Пушкин» — с поэтом, яблоко — с фруктом, а курица — с птицей.

Мне теперь очень интересно смотреть на затейников больших проектов и великих дел. Хоть бы даже и в IT.

Есть такие, что не брезгуют в саппорте поработать на первой линии. А есть другие. Они людей «трафиком» называют.

И вроде и там, и там есть успешные. А всё-таки, всё-таки…

#УправленческаяЗадачка Опередил

Успешный тимлид устроился на работу к своему приятелю, Генеральному директору небольшого, но очень известного успешного стартапа, настойчиво приглашавшему его к себе на работу, его Техническим директором. Были обсуждены условия оплаты труда (оклад + процент с оборота).

Полгода Техдир получал только оклад (это примерно одна треть от обещанных условий). Его работа не вызывала нареканий со стороны директора и даже несколько раз директор его публично благодарил за отличные результаты. Были открыты и укомплектованы отделы, руководители которых были подобраны лично Техдиром. Работа шла успешно. Все три отдела качественно удовлетворяли потребности Девопс, Бекенд и Фронтенд все компании.

Техдир стал настойчиво задавать директору вопросы о недоплачиваемой премии. В разговоре с Исполнительным директором ему стало известно, что и тому задерживается премия уже четыре месяца. Техдиру становится известно, что генеральный директор за его спиной стал часто встречаться с Руководителем Девопс и Тимлидом Бекенда, который претендует сам на повышение. И вот генеральный директор вызывает к себе Техдира и говорит: «Ну что, я решил тебя уволить. Работаешь плохо. Так и люди говорят…»

Роли и интересы

Генеральный директор — уволить техдира, не дожидаясь, когда тот сам напишет заявление, настроить против него персонал, создать алиби для объяснения своего решения другим топами. Ничего не выплачивать, т. к. денег нет, все уходит на погашение кредита, взятого для приобретения оборудования, с помощью которого компания получит преимущество перед конкурентами.

Техдир — остаться в компании или уйти из нее, но при этом обязательно получить обещанные премиальные за полгода. Не хватает денег на оплату ипотеки.

Исполнительный директор — хочет тоже получить свои премиальные, но без силового давления на директора.

Руководитель Девопс — чувствует в себе силы, чтобы занять место Техдира, но учитывая, что тот пригласил его работать в эту компанию, не хотел бы считаться неблагодарным.

Тимлид Бекенд — ощущает себя в очень сложном положении — перечить Директору не хочется, но и увольнения Техдира — нежелательное событие. Этот человек многое сделал для него в трудную минуту.

ЗАДАЧА:
Важно понимать, что в реальной жизни вы можете оказаться на любой из ролей и защищать надо уметь опять же каждую. Выберите со своим коллегой последовательно каждую из ролей и попробуйте обосновать свою позицию.

Юлия Миронова Про женское мнение

Есть забавный феномен, который возникает из-за того, что изначально женский ум ни во что не ставят. Если же ты на совещании мужиков осилила родить умную идею, которая никому в голову не пришла, и она реально сработала - всё меняется с точностью до наоборот. К тебе начинают относится как, ну к говорящей кошке. Представьте, что вдруг ваша кошка заговорила и дала вам реально умный совет.
Разумеется, вы всё равно не сможете с ней начать разговарить как с равной, вместо этого вы будете считать, что это сакральная кошка, у которой есть доступ к мистическим знаниям, недоступным вам лично.

https://www.youtube.com/watch?v=1ofz4Q34g0M
Мы уговорили прийти на День Техдира великого и очень доброго Нила Подольского, который 30 лет в бизнесе!

Нил расскажет про выгорание, о котором он знал ещё до того, как это стало трендом! Это не выдумка лентяев, а реально существующая психофизиологическая проблема, опасность которой часто недооценивается как руководителями, так и работниками. Существует чёткое определение и оно подчиняется понятным законам!

Приходите на День Техдира, чтобы узнать про то, какие именно это законы. Участие бесплатно, но требуется зарегистрироваться: https://cto-day.ru/

Очень уважаемый мной доцент секретарь диссертационного совета МехМата ЮФУ Вадим Донатович Кряквин опубликовал вакансию преподавателя математики и/или информатики в школе в Ростове-на-Дону:

Ростовской на Дону средней школе номер тридцать один требуется учитель математики и/или информатики на ставку (или около того). Ставка - 18 часов в неделю. За эту работу учитель будет получать 8 тысяч 621 рубль в месяц. Но это еще не все! Плюс за проверку тетрадей 15 процентов от ставки, молодому специалисту 30 процентов, за классное руководство 15 процентов. Итого может набежать 13500. Плохая новость в том, что из этой суммы вычтут 13 процентов налога. Но останется ведь что-то! Зато вы получите неоценимый опыт работы, общение с нашими замечательными детьми, то есть закалку на всю жизнь, и сами (вместо них) выучите математику и/или информатику (и многое другое).

С чего начинается демотивация

Демотивация начинается с невнимательности руководителя, его распущенности, необязательности и неаккуратности.

Как только это происходит, команда теряет бодрость, точность в исполнении и в работе появляетя расхлябанность.

Виноват всегда начальник. Начинайте с него.

https://www.youtube.com/watch?v=eS006xkP9WI
Мы затащили в СПб на День Техдира Deputy CTO самой Агимы!!! Прекрасный Ваня Михеев расскажет про работу "пожарником":

1. Как потерять трёх руководителей и понять, что без них может быть лучше
2. KPI - не всегда адекватный аргумент к повышениям
3. Если ресурсов не хватает, может помочь реорганизация текущих мощностей
4. Универсальные лайфхаки для решения наиболее популярных проблем.

Несмотря на мегаскромность Вани мы честно признаемся - он удивительный и потрясающий! Приходите на День Техдира его послушать или можете считать, что жизнь прошла зря! Участие бесплатно, но требуется зарегистрироваться: https://cto-day.ru/

https://www.youtube.com/watch?v=lxWc54L5Fv0
На День Техдира в Санкт-Петербурге 3 сентября приглашаются ВСЕ, а не только техдиры!

Коллеги! Мы ждём на День Техдира всех! Участие абсолютно бесплатное, но нужно оставить заявку на сайте https://cto-day.ru

Можно ли обучить CTO?

Сразу несколько заявок на https://cto-day.ru/ пришло с текстом вида "можно ли вырастить cto из собственного сотрудника?" Ответам на этот и подобный вопросы и посвящён День Техдира!

Николай Шарапов пишет, что в Стелленбосском университете, расположенном в ЮАР, появилось объявление, текст которого не стыдно было бы разместить в каждом учебном заведении мира в качестве напоминания о том, насколько важно образование:

"Уничтожение любой нации не требует атомных бомб или использования ракет дальнего радиуса действия. Требуется только снижение качества образования и разрешение обмана учащимися на экзаменах.
Пациенты умирают от рук таких врачей. Здания разрушаются от рук таких инженеров. Деньги теряются от рук таких экономистов и бухгалтеров. Справедливость утрачивается в руках таких юристов и судей.
Крах образования - это крах нации."

Закрытый техдирский клуб достиг отметки 75 технических директоров со всего СНГ, включая главных разработчиков некоторых известных языков и баз данных.

Основной принцип клуба заключается в том, что каждая фраза всех имеющих право писать в этом чате точно подтверждена его опытом.

Заявки на вступление слать сюда: https://docs.google.com/forms/d/1gdBF6I34SnAxPELNS94YvH6cg6G1m23WFZxmXRgqT9o/edit

Я буду изредка публиковать выдержки из диалогов закрытого техдирского клуба.

ЛОГИ
Топик-стартер: поделитесь, кто чем логи доставляет? Суть задачи, есть несколько десятков датацентров разбросанных по всему миру, там работает куча сервисов которые активно генерят логи в невероятном объеме, хочется все эти логи собрать в одном месте для удобного поиска и анализа. Суммарный рейт логов примерно 450K в секунду. Пока у меня вырисовывается схема Rsyslog -> Kafka -> Clickhouse.
Не elastic, потому, что логов дохрена, Clickhouse дает сжатие почти в 10 раз, elastic наоборот увеличивает хранимый объем раза в полтора. Диски они тоже денег стоят :). К kafka вообще вопросов нет.
Главное слабое звено Rsyslog пока, devops-ы постоянно жалуются на него, то ограничение на преобразование формата, то на количество коннекций, то на размер сообщения. Но вроде все остальное, судя по обзорам сильно хуже, Logstash ресурсы жрет как не в себя, fluentd это вроде вообще руби и про многопоточность можно забыть и т.п. Вообщем что хочется, вход: syslog, stdin, файл. Внутри буффер (датацентры иногда отваливаются) и параллельное сохранение в файлы (конвертация формата, хорошо но не критично). На выходе kafka.
Ещё раз подчеркну, что логи пишутся из разных датацетров, а в датацентрах куча машин и мой главный вопрос про их доставку. И да, компрессия при доставке нужна.

1 Сжатие
Владелец и технический руководитель своего проекта: сlickhouse прекрасен, чего уж тут. Насчет кафки у меня тоже есть вопрос. Вы каким-то сислогом сливаете в кафку и оттуда в кликхаус? Почему не лить сразу в кликхаус каким-то сислогом?
Топик-стартер: сразу лить не получается так как нормального сжатия не получается. Пробовали доставлять RELP-ом и жать SSH тунелем но уперлись в производительнось :(

2 Доставка
2.1 hadoop
Технический директор фото-сервиса: ради такой задачи придумали hadoop. Хадуп без обвеса и есть система поиска по логам. Ты просто в него кладешь файлы логов, и все. Его иммено ради этого и написал амазон.
Co-founder стартапа:
·  Например, вот так: https://www.facebook.com/notes/facebook-engineering/looking-at-the-code-behind-our-three-uses-of-apache-hadoop/468211193919/
·  Вот описание: http://hadooptutorial.info/log-analysis-hadoop/

2.2 graylog
Топик-стартер: насколько мне известно, для хранилища graylog использует elastic со всеми вытекающими, описанными выше :(

2.3 kafka
Топик-стартер: По поводу кафки, на тестах она единственная показывает себя идеально. Она не требовательна к ресурсам, ведет себя крайне предсказуемо и идеально масштабируется
И у кафки хороший набор компрессий которые здорово жмут поток. Перед ней много что пробовали, включая RELP через SSH тунель Ж)
Специалист по запуску сложных финтех стартапов: как из kafka в CH планируешь забирать? Реализация kafka-storage не очень, лучше свой загрузчик написать (благо там работы не много).

Продожение следует...

Продолжение обсуждения про ЛОГИ

2.4 fluentbit
Специалист по запуску сложных финтех стартапов: посмотри на fluentbit. Он попроще и сильно быстрее fluent. Теоретически вместо kafka можно оставить тот же fluentbit на стороне агрегатора и через свой простой обработчик кидать в CH. Получается тоже вполне норм, хотя нужно будет думать про балансировку.

2.5 rsyslog
Тимлид большой соцсети: Rsyslog ужасен в плане документации. Это одна из причин почему на него многие плюются.
Если вариативность источников большая (системные логи/приложений/скриптов итд) с ним будет проще так как syslog умеют «все» и уже скорее всего туда пишут.
Из него далее можно слать и в CH и в Kafka и в /dev/null
В плане пересылки мы сталкивались только с одной проблемой.
- Если очередь на rsyslog накопилась большая (получатель был недоступен, а очередь мы задрали) то по восстановлению rsyslog флашит очередь в рамках одной TCP сессии, а это не балансируется (возможно проблема именно само output модуля).  
С препроцессингом (форматированием, парсингом) на нём конечно сложнее, но возможно.
Интересные посты по теме (правда уже немного устаревшие):
https://labs.spotify.com/2016/02/25/spotifys-event-delivery-the-road-to-the-cloud-part-i/
https://labs.spotify.com/2016/03/03/spotifys-event-delivery-the-road-to-the-cloud-part-ii/
https://labs.spotify.com/2016/03/10/spotifys-event-delivery-the-road-to-the-cloud-part-iii/

2.6 собственное решение
Тимлид SRE в банке: Мы такое сами пишем. Задачка не очень сложная. Надо просто хитрый конфиг файл к JVM написать.
Очень просто взять нормальный язык программирования и написать как именно надо их доставлять, чем мучиться с опенсорсным гавном для админов. И будет вам и сжатие, и переподключения, и метрики какие вам нужны.
И буферизация, и вообще любые выкрутасы, и очень удобный минимальный конфиг ибо под себя напишете или даже отсутствие конфига. Автодетект и всё.

3 Промежуточная обработка
3.1 splunk
Специалист по запуску сложных финтех стартапов: И если перед CH стоит свой обработчик, то на него можно вешать всякие полезные штуки типа автоподсчета скользящих метрик или отправки части потока для, например, СБ в другую систему (наши Спланк любили). И прочую полезную логику, которую хочется делать онлайн (а еще у нас там была третья линия проверки на просочившиеся в логи PANы)