Для входа на форум нажмите здесь
Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года

15.10.2024 10:00
#1
Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Илон Маск и команда xAI совершила инженерное чудо — супер кластер с сотней тысяч ГПУ NVIDIA H200 Blackwell был собран всего за 19 дней. Глава NVIDIA Дженсен Хуанг назвал данное свершение "сверхчеловеческим" и сообщил, что в обычных обстоятельствах на всю проведенную работу потребовалось бы около 4 лет. Причем три года из четырех ушли бы исключительно на планирование проекта, а еще год на сборку.

При этом команда xAI спланировала, собрала и протестировала свой супер кластер всего за 19 дней. А еще Дженсен отметил, что интеграция разом 100 000 ГПУ H200 в столько короткие сроки, вероятно, не будет повторена никем в ближайшие годы.



#2
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Скорее всего, они просто такой кластер уже собирали до этого :D
#3
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сборка кластера- это воткнуть видюху в рамку и подключить пару кабелей?
#4
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
совсем с ума сошел чел?
#5
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
А на какую работу расчитан этот кластер?
#6
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от Согласен:
А на какую работу расчитан этот кластер?
всё ради ИИ
#7
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
В комментах сразу собрались специалисты по сборке кластеров на 100к плат, всё то у них просто и банально. Ведь так легко масштабироваться от домашнего компа с одной картой до 100к.
Хотелось бы озвучить простую математику: в 19 днях всего 27к минут (если брать 24 часовой рабочий день без выходных). А в это время, если верить хуангу, вошла логистика, настройка софта и тестирование.
#8
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Что подтверждает теорию что Маск инопланетянин )
#9
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от Efemische:
всё ради ИИ
все ради уничтожения человечества

Что подтверждает теорию что Маск инопланетянин )

Сообщение от TERMINATOR:
Что подтверждает теорию что Маск инопланетянин )
не пали создателя
#10
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от Dopebat2:
В комментах сразу собрались специалисты по сборке кластеров на 100к плат, всё то у них просто и банально. Ведь так легко масштабироваться от домашнего компа с одной картой до 100к.
Хотелось бы озвучить простую математику: в 19 днях всего 27к минут (если брать 24 часовой рабочий день без выходных). А в это время, если верить хуангу, вошла логистика, настройка софта и тестирование.
а че не так, а сделать процессор это просто напоять транзисторов
#11
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от ухожу:
все ради уничтожения человечества
останутся только роботы и котики
#12
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Причем вроде как одна такая плата стоит 35 000$.
#13
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
А вы все ждете 5090 Их будет кот наплакал. Тут вон новая золотая жила у Хуанга.

Добавлено через 59 секунд

5090 тоже все скупят ради ИИ. Как Китайцы наскупали 4090 и 4090D пачками, что даже у нас они стоят 2.5К$

Добавлено через 1 минуту

При чем 2.5 тысячи баксов они стоят не только в ДНС, но и на Озоне.

Последний раз редактировалось Theory III; 15.10.2024 в 12:17. Причина: Добавлено сообщение
#14
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Чтобы рассчитать первый полет на Марс , клуб самоубийц торопит наверное .
#15
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от Dopebat2:
В комментах сразу собрались специалисты по сборке кластеров на 100к плат, всё то у них просто и банально. Ведь так легко масштабироваться от домашнего компа с одной картой до 100к.
Хотелось бы озвучить простую математику: в 19 днях всего 27к минут (если брать 24 часовой рабочий день без выходных). А в это время, если верить хуангу, вошла логистика, настройка софта и тестирование.
у него одна только стоимость железа вышла в 3+ миллиарда баксов!
при таких расходах на железо нет никаких проблем нанять хоть несколько тысяч белых гетеросексуельных мужиков, чтобы те все собрали работая посменно.
тут можно даже нанять сотни топ-моделей, чтобы они в бикини подносили эти видеоускорители мужикам
#16
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от elDen:
у него одна только стоимость железа вышла в 3+ миллиарда баксов!
при таких расходах на железо нет никаких проблем нанять хоть несколько тысяч белых гетеросексуельных мужиков, чтобы те все собрали работая посменно.
тут можно даже нанять сотни топ-моделей, чтобы они в бикини подносили эти видеоускорители мужикам
Такая стоимость железа у всех, кто делает крупные дата-центры. Но почему-то у них, в отличие от Маска, находятся проблемы с наймом всех вышеперечисленных и процесс занимает не только месяцы, но и годы.
#17
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от Dopebat2:
Такая стоимость железа у всех, кто делает крупные дата-центры. Но почему-то у них, в отличие от Маска, находятся проблемы с наймом всех вышеперечисленных и процесс занимает не только месяцы, но и годы.
про годы - ****еж для возвеличивания маска.
годы займет только в государственных организациях и большую часть времени там займет планирование и согласования, что кстати и написано в новости.
также в этих гос организациях будут максимум экономить и никогда не будут нанимать толпу людей ради того чтобы ускорить процесс - наоборот, они наймут как можно меньше и вообще они никуда не спешат, ведь у них никогда не ставится задач максимально быстро собрать.

и вот с другой стороны макс:
- который спокойно заливает деньгами все свои хотелки
- у которого уже есть опыт создания подобных вещей - он как бы один из сооснователей openai
- у которого уже собрана команда и есть все наработки на руках
#18
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
4 года? лол
#19
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
ИИ еще даже не пытался захватить мир, но от него все равно пострадали обычные люди.
#20
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Деньги есть, может себе позволить. С такими мощностями можно обучать передовые модели LLM, которые с легкостью смогут нагнуть уже существующие. Весь вопрос в выборке и формировании дата-сета на обучение и его правке, а это на 80% работа человека.
Надо Маску написать письмо, что бы он создал ЛЛМ чисто для РП, без цензуры и морально-этических норм, а то файн-тьюн модели не всегда все могут, слишком много в них блоков зашито от разрабов, а с нуля создать модель, мощности не позволяют у умельцев.
#21
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от Согласен:
А на какую работу расчитан этот кластер?
Рисование ии картинок с котятками и дональдом трампом
#22
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от elDen:
у него одна только стоимость железа вышла в 3+ миллиарда баксов!
при таких расходах на железо нет никаких проблем нанять хоть несколько тысяч белых гетеросексуельных мужиков, чтобы те все собрали работая посменно.
тут можно даже нанять сотни топ-моделей, чтобы они в бикини подносили эти видеоускорители мужикам
а ты бы бросил работу, что на маска неделю поработать?_ таких вдолгую нанимают, а не на разовые работы
#23
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от Dagoth Ur:
Рисование ии картинок с котятками и дональдом трампом
Не думаю, скорее всего он в кратчайшие сроки хочет догнать ChatGPT, Claude, WizardLM и LLama создав свою LLM, а зная фанатичность Маска, 2-3 месяца и на УлыбающемсяЛичике мы увидим форк его нейронки.
#24
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от Diavator:
скорее всего он в кратчайшие сроки хочет догнать ChatGPT, Claude, WizardLM и LLama создав свою LLM, а зная фанатичность Маска, 2-3 месяца и на УлыбающемсяЛичике мы увидим форк его нейронки
Тот самый илон, который хотел сконструировать гиперлуп, а в итоге прокопал туннель для машинок с пропускной способностью в 50 человек в час?
#25
Re: Илон Маск собрал супер кластер с 100 000 Nvidia H200 за 19 дней. Дженсен Хуанг говорит, что остальным на это нужно 4 года
Сообщение от Dagoth Ur:
Тот самый илон, который хотел сконструировать гиперлуп, а в итоге прокопал туннель для машинок с пропускной способностью в 50 человек в час?
Это, господин хейтер, два разных проекта. Гиперлуп в трубе с вакуумом строился за городом для больших расстояний, а туннели - внутригородская тема, для которой главная загвоздка - это бюрократия.