Ну, 500 лямов и лярд зеленых - одного порядка величины (одинаково астрономические для всех, здесь пристывающих). Так что я вполне верно отметил, что отнюдь не стойки с видюхами занимают львиную долю в затратах. Хотя, конечно, затраты и на эту статью расходов для рядового индивидуального пользователя неподъемны.
Что касается выложенных в открытый доступ моделей, которые ты считаешь топовыми, то у тебя просто нет оборудования, чтобы лично убедиться, насколько они уступают реально топовым с доступом через инет за деньги. Даже если связаны с одним колектиовм разработчиков и имеют какие-то общие слова в названиях. Алексмар расхваливал представителя именно последней названной категории. Ни за что ни поверю, что будь у тебя даже лямы баксов на оборудование, ты сможешь достичь аналогичных результатов дома, запустив любую модель, наличествующую в открытом доступе. Хотя, возможно, после того как самостоятельно проучишь ее лет двадцать на примерах из целевой области, прием с умом, что-то путное и выйдет
Иначе бы любая мелкая шарашка, заинтересованная в ИИ-контенте, вкладывала бы деньги в железо, а не в эти ваши токены. Ибо при потоковом производстве это в итоге было бы гораздо дешевле. На деле же все почему-то платят корпорациям, которые можно по пальцам.
А, вполне очевидно, к по-настоящему передовым ИИ у сторонних людей просто отсутствует (даже за деньги), так что простым смертным можно только гадать, что они могут. Не исключено, даже решить проблему Вектора полностью
Но рядовому пользователю куда проще решать подобные проблемы применением бесплатного ЕИ, расположенного в собственной голове.
Предупреждение!
Публикация сообщений.
1.3 При размещении сообщений придерживайтесь основной темы обсуждения. Сообщения не соответствующие тематике дискуссии (оффтоп) могут быть удалены без предупреждения.
Вход
Регистрация
FAQ
Поиск
Обученных моделей разного уровня с открытыми весами выложено в сеть достаточно и официально и не очень. А основная проблема для желающих попользоваться дома или у себя в офисе как раз в железе. Поскольку, что бы запустить локально например Kimi 3.1 Pro надо скромных ~2 Тб VRAM. Что обойдется до 5 млн долл за стойку.
