ST
А вообще, может быть может кто-то подсказать, какие вообще есть хорошие практики при обслуживании тяжеловесных моделей? Только GPU 24/7?
увеличивающийся куда, вверх или в сторону?
Size: a a a
2020 August 28
SZ
увеличивающийся куда, вверх или в сторону?
Вверх
ST
тогда наверное sagemaker какой, у меня чисто p3 скейл группы для tensorflow в кубе, в целом все модели по ресурсам едят одинаково, увеличивается лишь их количество, вверх не делал такого
AP
Вот изначально в сторону SageMaker'a и смотрела, на самом деле, но в первую очередь стоял вопрос снижения цены. Встречались примеры архитектур, в которых были использованы лямбды как триггеры для обработки запросов
Они подходят, но когда нет gpu. Вам же пользователю нужен быстрый ответ. А пока лямбда вызовет и поднимет кого-то с gpu ...
вот если бы без gpu, то lambda хороший вариант
вот если бы без gpu, то lambda хороший вариант
SZ
Они подходят, но когда нет gpu. Вам же пользователю нужен быстрый ответ. А пока лямбда вызовет и поднимет кого-то с gpu ...
вот если бы без gpu, то lambda хороший вариант
вот если бы без gpu, то lambda хороший вариант
Хорошо, поняла. Тогда стоит начать с sagemaker'a и elastic inference, верно?
AP
Хорошо, поняла. Тогда стоит начать с sagemaker'a и elastic inference, верно?
Самый простой способ:
Sage maker + elastic inference сделают многие вещи автоматом
Самый дешевый способ:
Ec2 spot + elastic inference + auto scaling group + application load balancer это блоки из которых можно собрать хорошую конструкцию самому
Sage maker + elastic inference сделают многие вещи автоматом
Самый дешевый способ:
Ec2 spot + elastic inference + auto scaling group + application load balancer это блоки из которых можно собрать хорошую конструкцию самому
SZ
Самый простой способ:
Sage maker + elastic inference сделают многие вещи автоматом
Самый дешевый способ:
Ec2 spot + elastic inference + auto scaling group + application load balancer это блоки из которых можно собрать хорошую конструкцию самому
Sage maker + elastic inference сделают многие вещи автоматом
Самый дешевый способ:
Ec2 spot + elastic inference + auto scaling group + application load balancer это блоки из которых можно собрать хорошую конструкцию самому
Ага, еще раз благодарю
V
всем привет,
via email-smtp.eu-west-1.amazonaws.com; Reason - Expected response code 250 but got code "552", with message "552 5.3.4 Message is too long."
у aws ses есть где изменить оазмер отправляемого письма?
via email-smtp.eu-west-1.amazonaws.com; Reason - Expected response code 250 but got code "552", with message "552 5.3.4 Message is too long."
у aws ses есть где изменить оазмер отправляемого письма?
MV
Привет!
А у CFN параметров есть опция по типу - покажи мне в дропдауне список каких то ресуров, чтобы можно было выбрать один из (к примеру в виде arn)?
А у CFN параметров есть опция по типу - покажи мне в дропдауне список каких то ресуров, чтобы можно было выбрать один из (к примеру в виде arn)?
АП
нашел ответ)
Поделись им.
RU
@RinatUzbekov глянь пожалуста, я все верно говорю, и не ввожу человека в заблуждение?
Все верно говоришь.
V
AS
спасибо большое!
задавайте ваши ответы
4
когда доллар по 90?
LK
Привет!
А у CFN параметров есть опция по типу - покажи мне в дропдауне список каких то ресуров, чтобы можно было выбрать один из (к примеру в виде arn)?
А у CFN параметров есть опция по типу - покажи мне в дропдауне список каких то ресуров, чтобы можно было выбрать один из (к примеру в виде arn)?
что-то типа такого
https://aws.amazon.com/ru/blogs/devops/using-the-new-cloudformation-parameter-types/
List<AWS::EC2::Subnet::Id> ?https://aws.amazon.com/ru/blogs/devops/using-the-new-cloudformation-parameter-types/
AS
когда доллар по 90?
да хоть щас могу продать
4
если рубли то беру
MV
что-то типа такого
https://aws.amazon.com/ru/blogs/devops/using-the-new-cloudformation-parameter-types/
List<AWS::EC2::Subnet::Id> ?https://aws.amazon.com/ru/blogs/devops/using-the-new-cloudformation-parameter-types/
thanks!