Dmitry Yurkin@d_yurkin
ну справедливости ради облака вообще противоречат изначальным принципам интернета. Но зато дешевые, и можно не замарачиваться и оставить все по-умолчанию )
2025-10-20 09:36:59
mdXm@AngelofSorrow
Дешевые?)
2025-10-20 09:37:05
Dmitry Yurkin@d_yurkin
ну относительно развертывания на своем железе на потенциально пиковые нагрузки, администрирование и тд -- конечно дешевле выходит
2025-10-20 09:37:53
mdXm@AngelofSorrow
На начальном этапе да. А потом нюансы.)
2025-10-20 09:37:59
Dmitry Yurkin@d_yurkin
да, но там уже подсели и зачем что-то менять, замарачиваться и т.д. )
2025-10-20 09:38:25
mdXm@AngelofSorrow
Все так да
2025-10-20 09:39:52
Anton Borisov@antonborisov
я тут на спотах с GPU гонял LLM-ки, получилось дорого, но всё равно дешевле, чем у себя в квартире ферму собрать)
2025-10-20 09:38:44
Dmitry Yurkin@d_yurkin
облака максимальный эффект дают на работе с пиковыми нагрузками, особенно если у вас пики не прогнозируемы, то возможность быстро масштабировать систему с помощью облака -- это огонь, и собственно это и было движущей силой развития облаков. С llm тоже норм кейс, т.к. ресурсы нужны ограниченное кол-во времени.
Сейчас правда их используют/пытаются воткнуть вообще для всего, ну видимо это уже маркетинг работает.
2025-10-20 11:07:26
Husteln@Husteln
Если пики не прогнозируемы, то в сферическом случае система всё равно упадёт. А как именно делается масштабирование ПОСЛЕ инцидента (пика) - вопрос десятый
2025-10-20 09:44:47
Mentat@alexeysetevoi
если сделать правильно - она немного сдеградирует, те латенси вырастет, но потом поправится со скейлингом.
2025-10-20 09:45:22
Husteln@Husteln
сообщение удалено
2025-10-20 09:45:40
Mentat@alexeysetevoi
Делайте правильно, неправильно не делайте!))
2025-10-20 09:47:46
mdXm@AngelofSorrow
Золотые слова.)
2025-10-20 09:47:52
Dima@ell198805
Что такое быстро вопрос очень открытый. Тот же амазон не очень то гарантирует что у него будут нужные конфиги виртуалок в требуемом регионе в нужном количестве в момент нагрузок.
А если делать контракт на гарантию то часто дешевле это железо в лизинг купить.
2025-10-20 09:55:55
Dmitry Yurkin@d_yurkin
сообщение удалено
2025-10-20 10:38:31
Dima@ell198805
Говоря про LLM Ради интереса можно вон попробывать например 100 H100 карт взять в каком то регионе без контракта сходу и посмотреть будут ли они гарантированны в любой момент времени. (Спойлер, их там не будет)
2025-10-20 09:59:50
Anton Borisov@antonborisov
вот как после FidoNet вошли не в ту дверь, так и понеслась))
2025-10-20 09:37:30