Все категории

Модели

вы модель/фотомодель? вас ищут в этом разделе!

4 164 объявления найдено за последние 3 дня

Здесь показаны примеры поиска клиентов недельной давности.

Подписывайся, чтобы получать информацию обо всех новых клиентах в режиме реального времени!

Если вайб-кодинг это гусеница, а харнесс это куколка, то что дальше? Я называю следующую стадию имаго-кодингом (имаго: взрослая бабочка).Гусеница жадно жует все подряд: даешь промпт, опционально указываешь скилл, получаешь код и надеешься, что результат окажется тем, что тебе нужно. Куколка строит вокруг модели каркас из инструментов, тестов и циклов проверки, и полученный харнесс превращает модель в агента. А бабочка это модель, которая уже сама стала частью проекта: знает его данные, его конвенции и документацию и использует те же привычки в разработке.Давайте посмотрим, как моя система разработки дошла до имаго.Пенетрация ИИ-моделью процессов разработки: холст, масло, слезы разработчиков и обманутые ожидания.Вначале я делал так же, как все: брал нейросеть и встраивал в существующие процессы разработки. Сначала это были чаты, затем плагины для IDE, затем собственный плагин под любимую IDE с MCP/SKILLS/TOOLS/AGENTS и локальной моделью, первые попытки написать харнесс, появление общедоступных харнессов и переход на них, дальнейшее улучшение харнесса плагинами. Раз за разом я вносил разные изменения, которые скорее ускоряли, чем улучшали один и тот же этап, а сам процесс разработки, сложившийся еще на заре вайб-кодинга, оставался прежним.В конечном итоге качество перестало расти, а скорость перестала быть целевой метрикой для улучшения. Тогда я понял, что для того, чтобы двигаться дальше, придется переосмыслить и поменять весь жизненный цикл разработки, от постановки задачи до сопровождения: этапы, их порядок и мою роль в них как человека. Так, от постоянных попыток улучшить старый процесс (вайб-кодинг/харнесс) я начал менять сам процесс разработки (имаго-кодинг).Многочисленные исследования подтверждают то, к чему многие уже и так пришли: ИИ работает как усилитель, сильные процессы он ускоряет, а слабые делает заметнее вместе с их узкими местами. Скорость разработки растет, и вместе с ней растет технический долг, т.к. у разработчиков остается все меньше времени разбирать лапшу, которую написал ИИ. Это в свою очередь бьет по безопасности поставки продукта, т.к. так же быстро и качественно принимать результат работы ИИ еще не научились, а обмазывание тестированием со всех сторон, конечно, полезно, но скорее маскирует проблему, чем исправляет ее.Почему фронтирная модель не подходитИТ-разработчик в процессе: экран, платные токены, неполный контекст, усредненное решение.Проблема не в том, что большие модели глупые. Они отлично пишут типовой код и знают почти все. Проблема в другом: они не знают моего проекта. Не знают, что в этих логах время хранится в локальной зоне заказчика, что колонка в таблице после миграции означает другое, что мы договорились считать метрики только на временном отложенном срезе, что у нас есть свой слой абстракции со своими примитивами и бизнес-сущностями. Каждый раз я тратил большую часть промпта на объяснение контекста, а модель все равно срывалась на «среднепопулярное» решение.В моем случае проблема стоит наиболее остро, потому что я ML-разработчик, и на задачах машинного обучения это особенно заметно. В 2024 году, когда вышел бенчмарк MLE-bench (75 соревнований Kaggle), сильная на тот момент модель в связке с харнессом AIDE получала хотя бы бронзовую медаль лишь примерно в 17% случаев. За два года результат вырос: специализированные агентные системы сообщают уже о 65-70% (бронза означает попадание в top 40%). Но это публичные, хорошо описанные задачи с чистой постановкой, и высокий балл на них мало говорит о том, справится ли модель с закрытым проектом, где нет готовых решений и описанного контекста. Корень проблемы не в общей силе модели, а в том, что она не знает именно этот конкретный проект.Есть и вторая причина, чисто правовая. Я работаю с данными предприятий, а там почти всегда есть либо коммерческая тайна, либо персональные данные, либо и то и другое. Отправлять такие данные в зарубежное облако уже чревато огромными штрафами. Моя система за одну задачу делает сотни запросов, и в каждом могут оказаться куски реальных данных. Проще устроить все так, чтобы данные вообще не покидали контур. Локальная модель это позволяет: код, схемы, логи и обучающие выборки остаются на моих машинах или в контуре заказчика.Как я до этого дошелОзарение диффузорами: раздумья, когнитивные искажения, LoRA-адаптацияСначала имаго-кодинга не было вовсе, была обычная практика. Я заметил, что почти на каждом проекте дообученная модель в проде показывает результат лучше, чем такая же недообученная, даже если ей дать хороший промпт. Это неудивительно: я занимаюсь относительно узкими задачами с одной и той же структурой данных, а именно такие задачи выигрывают от дообучения. Но дальше я задал себе простой вопрос: если дообучение помогает модели в проде, почему я не делаю то же самое с моделью, которая эти системы пишет?К этому моменту у меня уже был индивидуальный RAG под каждый проект: харнесс собирал статьи и документацию, а модель их использовала. Но, в отличие от модели заказчика, полноценное обучение собственной модели для разработки под каждый проект не выглядело здравой идеей по затраченному времени. В одном из проектов я работал с диффузными моделями для генерации изображений из шума, где, помимо прочего, необходимо было создать адаптеры для генерации изображений в определенном стиле и с определенными элементами. И тут меня накрыло озарение: LoRA изначально создавали для языковых моделей, но массовое распространение она получила в адаптации diffusers-архитектур, где сдвигает генерацию в нужную сторону. Так почему бы не вернуть ее в transformers и не создать адаптер для генерации кода, который будет смещать знания LLM в нужную проекту сторону?Таким образом, LoRA стала следующим шагом. RAG стал приносить строителю (системе разработки) знания о проекте, а адаптер должен был принести привычки. Это два крыла имаго-кодинга, необходимые для полета: без RAG адаптеру не за что зацепиться, а без адаптера строитель каждый раз заново учится писать так, как принято в конкретном проекте или отрасли. Почему все говорят о харнессе и RAG, но не об адаптации модели, ведь у многих разработчиков уже есть достаточные GPU-мощности для этого? Я считаю, что это еще одно когнитивное искажение, ведь рисовать картинки и генерировать слова внешне абсолютно разные действия и архитектуры, хотя внутри те же слои, нейроны и веса.Меня уже спрашивали, не является ли имаго-кодинг вариантом spec-driven development, то есть разработки, ведомой спецификациями, которая сейчас набирает популярность вместе с харнессами. Это не так, главное отличие в том, что именно дорабатывается. SDD улучшает запрос: агент общего назначения получает подробное структурированное описание того, что нужно сделать. Имаго-кодинг улучшает исполнителя: меняется сама модель и ее представление о том, как в этой теме решают задачи.Схема строителя: харнесс, RAG, LoRAНепорочное зачатие модели-строителя: заметки в Obsidian, LLM-критик, сотни тестовПервый слой это харнесс, который собирает знания. Он берет тему проекта, ходит на arXiv, скачивает свежие статьи, режет их на осмысленные куски и складывает в векторный индекс для следующего слоя. Туда же попадают документация проекта, схемы данных и история коммитов.Второй слой это RAG. При его построении я использую контекстуальный чанкинг с векторными эмбеддингами, BM25 и RRF. Эту идею я подсмотрел у Anthropic.Третий слой это LoRA/QLoRA. Веса модели-строителя класса 27-35B замораживаются, обучаются только небольшие добавки к матрицам. При таком подходе число обучаемых параметров можно сильно сократить на выбранном спектре задач, поэтому дообучение под каждый проект стало доступным индивидуальному разработчику без большого GPU-кластера (в моем случае достаточно 48GB). Обучающие пары я беру из истории самого проекта и родственных проектов, например из GitHub-репозиториев. Идею я заимствовал у разработчиков OctoCoder, которые придумали, как превращать историю публичных Git-репозиториев в источник размеченных учебных данных.Раньше каждое правило проекта, которое я указывал в промпте, оплачивалось токенами в каждом запросе и съедало окно контекста. По аналогии с дистилляцией моделей я перешел на дистилляцию контекста: после дообучения модель ведет себя так, будто инструкция у нее перед глазами, а окно остается свободным для реальной работы.Совместная работа этих слоев и есть имаго-кодинг. LoRA обучается не отдельно от RAG, а вместе с ним: примеры уже содержат найденные куски контекста. Так модель учится не только «писать как я», но и пользоваться найденным, в том числе игнорировать лишнее. Этот подход я взял из развития идеи RAFT, где модель обучали на вопросах вместе с релевантными и отвлекающими документами. К этой схеме я пришел далеко не сразу, перебрав и протестировав несколько десятков различных идей и методик.Самое сложное в имаго-кодинге это правильный сбор датасета для модели-строителя, и здесь я напрыгался на граблях когнитивных искажений.Первое большое искажение, на преодоление которого ушло огромное количество времени, касалось размера датасета. Оказалось, что больше не значит лучше. В первых версиях я собирал выборку по принципу «взять все, что есть»: вся история репозиториев, все статьи и ноутбуки, все сгенерированные примеры и т.д. Строитель от этого только ухудшался, а мне казалось, что данных просто недостаточно. Выяснилось, что небольшой набор хороших данных дает больше, чем большой набор усредненных.С тех пор я вычищаю несколько вещей. Во-первых, примеры, которые учат фактам, а не привычкам (почему это важно, расскажу ниже). Если ответ опирается на знание, которого у модели нет, такой пример я либо убираю, либо перевожу в RAG. Во-вторых, код, который не прошел тесты или проверку на реальной версии языка. В-третьих, повторы: коммиты вида «поправил опечатку» и десять его копий слишком сильно учат одному и тому же. В-четвертых, старые решения, которые я сам уже считаю плохими: адаптер закрепит их с той же уверенностью, что и хорошие. В-пятых, утечку между обучением и проверкой: если задачи для проверки строителя пересекаются по времени с обучающими коммитами, я делю их по дате. И в-шестых, я обязательно слежу за балансом по типам задач. Если семьдесят процентов выборки это мелкие правки, строитель отлично правит мелочи и теряется, когда нужно спроек...

25 сентября 01:28

25 сентября 08:40

24 сентября 18:44

24 сентября 21:39

25 сентября 05:37

🥂🔥 ИЩЕМ МОДЕЛЕЙ В КОМАНДУ 🔥🥂 Многие девушки спрашивают, как проходит сотрудничество с нашим агентством и что происходит после первого сообщения. Поэтому решила коротко рассказать, как всё устроено на самом деле👇 ━━━━━━━━━━━━━━━━━━ 🤍 ШАГ 1 — ЗНАКОМСТВО🤍 Сначала мы просто общаемся Отвечаем на все ваши вопросы, обсуждаем цели, пожелания и комфортные границы. Никакого давления — только честный разговор и понимание, подходим ли мы друг другу ━━━━━━━━━━━━━━━━━━ 🚀 ШАГ 2 — РАБОТА КОМАНДЫ 🚀 После старта вы занимаетесь созданием контента, а мы берём на себя продвижение аккаунта, привлечение аудитории, аналитику и продажи Наша задача — не просто привести подписчиков, а выстроить систему, которая будет помогать аккаунту стабильно расти и увеличивать доход ━━━━━━━━━━━━━━━━━━ 💸 ШАГ 3 — РОСТ ДОХОДА💸 Когда растёт ваш результат — растёт и наш Именно поэтому мы сопровождаем моделей на каждом этапе, а не работаем по принципу «запустили и забыли» ━━━━━━━━━━━━━━━━━━ 🤝 ПОЧЕМУ МНОГИМ КОМФОРТНО С НАМИ? ✔️ Всегда остаёмся на связи. ✔️ Уважаем ваши границы и мнение. ✔️ Не создаём лишнего давления. ✔️ Работаем на долгосрочный результат. ━━━━━━━━━━━━━━━━━━ 💌 Хочешь узнать подробнее? Напиши в личные сообщения — с удовольствием расскажу обо всех условиях сотрудничества и отвечу на любые вопросы 🤍

25 сентября 05:05

25 сентября 09:05

24 сентября 07:35

Москва

Подписывайся, чтобы получать информацию обо всех новых клиентах в режиме реального времени!

Попробовать бесплатно