Фраза из заголовка — одна из любимых поговорок моей сестры. Её взросление пришлось на турбулентные перестроечные годы, со всеми взлётами, падениями и финтами экономики, и она очень хорошо понимала цену жизни и возможности, которыми ты можешь обеспечить себя только сам.
Что-то похожее прямо сейчас происходит в ии-экономике. Действительно мощные модели и серьезные объёмы задач требуют соответствующего финансирования — даже в условиях субсидированных вендорами подписочных моделей.
Я пару месяцев экспериментирую с агентом Hermes. Для того, чтобы он работал, ему нужна Иишка под капотом, но изначально я не хотел тратить на этот проект много денег. Как раз к моменту, когда я приступил к экспериментам, мне попалась информация о новом российском брокере — специальном сервисе, в котором можно получить доступ к моделям разных вендоров (в том числе и открытых моделей, которые этот брокер крутит на своем железе), без проблем с оплатой, приседаний с КВН, и в том числе по невысокой цене.
Hermes взлетел и работал довольно бодро, укладываясь в лимиты токенов на подписке стоимостью 2500 рублей в месяц. Однако, спустя примерно месяц из-за экономических и технических нюансов брокер изменил условия, укладывать в эти лимиты сильные модели OpenAI стало невозможно, и агента я перевёл на модели попроще.
Я не сразу понял что произошло, потому что в Hermes к тому времени были настроены несколько прикольных автоматизаций, в которых агент готовил для меня информационные дайджесты, собирал нужную информацию, выполнял цифровые поручения ну и другую мелкую помогательскую работу. Когда мозги у Гермеса поглупели, он эту работу выполнять не перестал, но качество упало драматически. При том, что все автоматизации и скиллы были описаны, настроены подробно, и он по ним работал и раньше, он начал просто косорезить, на казалось бы в ровном месте. Агент мог галлюцинировать про уже известные факты или не выполнить какое-то действие, но на голубом глазу убеждать, что он это выполнил. Когда я ему предъявлял доказательства того, что он не прав, он врал и увиливал, вместо того, чтобы признаться, что он действительно накосячил. Он не отказывался работать, но делал работу плохо и при этом не признавался или не говорил сам о том, что у него что-то не получилось.
Разрабатывать и настраивать что-то новое стало совсем невозможно, качество дайджестов и другой обработки информации, которую он при этом делал, тоже упало — но это было бы хотя бы ожидаемо. Но что он начнет неверно выполнять то, о чем мы договаривались, то, что чётко прописано — и, самое главное, отрицать факты и врать о своих ошибках, к этому я был не готов.
В определенный момент он даже меня довольно сильно подставил. Одной из его задач было собирать регулярные дайджесты обсуждений в одном из чатов в телеге, посвященных ИИшке. Мне было лень следить за этим постоянно, но там иногда проскальзывали интересные мысли или тренды, и хотелось быть в курсе. Так вот, в очередной раз он просто направил дайджест обсуждений с аналитикой за неделю не мне, а в этот же чат, чем изрядно напугал участников чата, которые вдруг поняли, что за ними следят )))
Сейчас я перестал активно что-то развивать в Гермесе, работают только дайджесты и обработка входящих.
Наверняка, с развитием технологий соотношение цена\качество перевалит за рубеж, после которого действительно умные модели для применения в универсальных ассистентах станут экономически доступнее. Пока для практического использования в джарвис-режиме необходимы топовые подписки, что подходит далеко не всем (с учётом затрат и выхлопа от перекладываемых на ассистента задач). Ну а в рамках конкретно моих потребностей, кажется что за двести баксов в месяц можно и самому телегу читать и почту разбирать.
Такие дела. Продолжаем эксперименты в ограниченных бюджетах.
Всем облом, посоны!