В эту пятницу расскажем об одной из самых горячих тем в ИИ — автономных агентах. Я покажу как автономные агенты могут помогать и даже полностью автоматизировать сложную работу: от анализа ситуации на финансовых рынках до управления корп аккаунтами в соцсетях или проведения научных исследований за вас. Рассмотрим как они работают, из каких элементов состоят и где можно начать ими пользоваться бесплатно и без смс. Так же поговорим о кейсах применения в разных индустриях.

Но это не все! Еще один спикер на примере библиотеке Langchain покажет как вы можете сами сделать своего собственного автономного агента с произвольным функционалом прямо во время семинара. Базовые знания программирования полезны, но не обязательны.

Тема бесконечно глубокая и именно на основе этих простых технологий и принципов сегодня строятся стартапы, которые поднимают десятки миллионов долларов. Так что будем говорить про неё ещё наверное не один семинар. А пока — на картинке ниже (или выше) — sneak peak того из чего типичный ИИ-агент состоит.

Про эту тему пока не рассказывают ни на одном курсе про ИИ, даже платном. Поэтому буду рад если поделитесь приглашением со своими друзьями, коллегами, каналами и группами — потому что для них это может стать окном в огромный новый дивный мир.

Запись, как всегда, тут (если не пускает - включите VPN). Вход открыт для всех. Донейшен приветствуется. Можно криптой.

Все смешалось в мире ИИ. С одной стороны, на прошлой неделе вышла новая классная модель Claude 2 с контекстом в 100к токенов и своим классным, понятным, не машинным стилем. А вчера была вторая LLaMa от Меты, которая распространяется бесплатно и показывает почти что х2 результаты по сравнению с прошлой версией.

Одновременно с этим вышла статья, которая формально доказывает то, что мы все подозревали и так: GPT провели лоботомию.за последние месяцы существенно снизился уровень интеллекта модели. В некоторых задачах с 97% успешности до 2%. Модель теперь чаще отказывается отвечать на вопросы, не объясняя причин. У неё стали значительно хуже математические и логические способности.

Сложно сказать почему. Но это показывает нестабильность любого бизнеса и продукта, который зависит от OpenAI API. Я думаю, что такая турбулентность в производительности моделей продлится и дальше.

Продолжая тему с рефлексией…

Если отбросить эмоции, то, конечно же, количество денег которые ты зарабатываешь это всего лишь отражение того, сколько денег ты позволяешь себе зарабатывать. Думать, что любой кто разбогател (даже на токенах) — мошенник, — это просто страх, зависть и злость.

Наверное, нам кажется что мы должны быть «хорошими» мальчикам и девочками, не наглеть и делать то, что от нас ожидают. Отсюда и вытекает нелюбимая работа или недостаток чего-либо. Но никому, кроме этого внутреннего строгого наблюдателя, мы ничего не должны.

А еще, про деньги, мне больше всего запомнился твит Навала что, мол, богатство — это обладание уникальной и глубокой экспертизой, которая нужна многим. Звезда кино, предприниматель, ультра-талантливый инвестор.

В это связи очень, кстати, разумно заниматься генеративным ИИ: в мире есть десятки тысяч реальных и сотни тысяч самопровозглашенных экспертов по токеномике или блокчейн-разработке, но нет вообще никого кто умеет выстраивать ИИ-стратегию в этом бешеном стремительно меняющемся рынке. А рынок сам больше, потому что технология применима и дает реальный экономический эффект для примерно 90% бизнесов на планете.

Кстати, записывайтесь на вебинар в пятницу — расскажу о том что такое и как сделать автономных ИИ агентов для себя и своего бизнеса.

Не прошло недели, а в ChatGPT выкатили новую фичу. По сути, это просто возможность задать системный промт внутри чата. Как работает системный промпт мы обсуждали на втором семинаре codex.town. Скорость доставки команды OpenAI впечатляет. Делать по фиче в неделю в продукте на 200М MAU это тебе не стартап пилить.

Тем не менее, для сложных кейсов, в которых генеративный ИИ заменяет или значительно автоматизирует работу высокооплачиваемых сотрудников не будет достаточно чата. Вместо это будут нужны сложные workflow и циклы из многих LLM агентов.

Как бы вы не плевались мол «Auto-GPT ничего внятного не умеет», но самом деле агенты это очень круто и это не хайп. Просто, если целью является автоматизировать работу всех джуниор разработчиков, маркетологов или юристов в мире, то странно ожидать что первая версия продукта, созданная за три недели, сразу же решит эту проблему. Но все будет. Технология уже на это способна, а продукты не заставят себя ждать.

Завтра на вебинаре я расскажу о том что такое автономные агенты и на что они способны. А еще мы попробуем своими руками сделать примитивного агента. А на следующей неделе будет делать более сложных и функциональных агентов на Langchain.

А еще, согласно вашим голосам в канале, следующей темой будет «как делать fine-tuning open source моделей». Мы обучим бесплатную LLaMa 2 на ваших данных под ваш юзкейс.

Закончился Париж (EthCC). Результатом стало несколько крупных анонсов от лидера рынка. Компании, у которых есть пользовали (UNI, 1INCH, AAVE, GNO) чувствуют себя хорошо, а остальные скорбят.

Я знаю, что огромное количество подписчиков канала сейчас в Париже, поэтому буду рад от вас услышать что же обсуждалось на сайд-эвентах.

Формальные результаты красиво суммированы тут:
— Новый Uniswap, с агрегатором дексов и своим собственным 1inch Fusion
— Евро-криптовая карточка от Gnosis (😘)
— Lens сделал профили аккаунтами через 6551
— Chainlink запустил мост

…плюс запуски новых проектов и классический трындеж на тему того, что Account Abstraction это круто, zkSync лучшие, а Polygon переименовал токен.

Что я пропустил?

В преддверии сегодняшнего вебинара (17:00 CET), AI сочинил, спел и сделал арранжировку гимна нашего проекта

Агенты захватывают мир

Выкладываю запись последнего, и одного из самых классных, уроков codex.town, где мы поговорили о том как работают автономные агенты, для чего они нужны, что они умеют и куда будут развиваться дальше. А на воркшопе мы делаем нашего первого автономного агента, который мы дообучаем на наших данных, учим его искать информацию в интернете и делать сложные логические выводы.

Пока мы разговаривали, легендарный особняк то ли в Милбрей, то ли в Бернингейме, полчаса на Сан-Франа, собрал в себе умнейших и талантливейших на хакатоне про автономных агентов от AGIHouse. Вот что это из этого вышло:

— RealChar, агент, который находит в реальном времени информацию о человеке и его голосом озвучивает ответы на вопросы (победитель)
— High Flyers, агент, который автоматически регистрируется в 90+ программах frequent fliers за пользователя
— KubeGPT, агент-девопс, который разворачивает и управляет инфраструктурой контейнеров в вашем бизнесе
— BookGraph, агент, который делает визуальное представление всех тем и их связей из любой книги
— Lumos, агент, который занимается закупками, сравнением цены и планированием продаж для малого бизнеса (второе место)
— Better Domain, агент, который придумывает за вас домены (третье место)
— Create your own food, агент, который говорит вопросы (а не ответы) про ваши данные
— SyncMate, агент, который находит наиболее интересных/релеватных людей из больших публичных чатов под ваш запрос (на основе умений, личности, веры
— FormBlaster, агент, который автоматически подается в сотни акселераторов и фондов с вашим стартапом
— M&A Auto redline, агент-редлайнер, который находит странности и узкие места в больших юридических документах
— Skateboard, агент, который умеет добавить новый функционал в существующий большой репозиторий (например, заменить весь OpenAI на Langchain)
— Medscribe, агент, который записывает текстом то, что говорит врач и дает рекомендации что делать дальше (например, выписывает рецепт на препарат)
— Moonshot, агент, который анализирует рынок акций и генерирует правильные стратегии для трейдинга
— CampAIgn, агент, который находит целевых участников для доната политическим компаниям и общается с ними

Пока участники хакатона заняты тем что отбиваются от назойливых a16z, которые пытаются все-таки уговорить их взять денег, мы продолжаем строить агентов.

На следующей неделе на вебинаре будем делать более сложные агентов, которые умеют использовать несколько инструментов, создавать своим собственные функции и другое. Записывайтесь тут (VPN). Оставляя донейшен, вы помогаете и дальше делать эти вебинары регулярными, публичными и бесплатными. Если вы видите ценность — consider donating.

Об основании стартапов

Придумать идею для продукта легко, учитывая квадриллион нерешенных проблем в мире, интернете, веб3 и, особенно, в ИИ. Итерациями, общением с клиентами и здравым смыслом (когда ты строишь не то что нравится тебе, а твоего клиенту) от идеи можно дойти до работающего продукта.

Но ни то, ни другое не является основанием для создания стартапа. Допустим, у меня есть знания, умения и даже валидация от рынка на тему того как и какой именно продукт построить. Скажем, ИИ-тьютора или генеративную игру или Автономного агента для бизнеса. Ничего ничего из этого не является разумным и внятным основанием делать компанию. Запилить такой продукт может любой дурак. Итерировать value prop и найти правильную позицию, PMF может любой, кто это делал хотя бы раз. А создать лидера на рынке сможет только один из тысяч аналогичных как под копирку компаний.

Потому что мобильная игра это не в меньшей мере про performance marketing чем про геймплей, SaaS это не меньше про sales organization чем про сокращение костов клиентам, коммерция это не меньше про саппорт и логистику чем про выбор товаров и цену. И именно соединение этих абсолютно необходимых вещей это самое сложное.

Ты можешь быть единственным в мире, абсолютно гениальным билдером и продуктологом, но без умения конвертировать миллионы долларов бюджета (тысячи - легко) в ROI-positive user acquisition ты не сможешь делать успешную компанию с конмьюмерским приложением. Обратное тоже верно. Но делая «средненько, нормально так» результат будет нулевой. Бизнес - мир непропорционально чувствительных к изначальным параметрам функций.

То же самое в принципе касается и солопринерства. Это красивый миф, но на деле либо ты инфоцыганишь с фотками успешного успеха, либо понимаешь необходимость создания все-таки нормальной компании.

Помните мы тут угорали по SSI?
С ним все хорошо, но вот забава…

Одним из value props SSI казался тот факт, что у юзера в его персональном data store будут лежать все его данные и автоматически оттуда браться при заполнении форм. Так, что пользователю больше никогда в жизни не придется заполнять форму онлайн.

А реальности же, в отличии от этого формата, где требуется стандартизация и интеграция как от поставщиков, так и от потребителей данных, мы получили более простую и мощную систему: AI-ассистентов, которые так же имеют достаточно к персональным данным (think on-device Apple-GPT) и сами заполняют и отправляют формы. Но интеллектуальные помощники могут так же понять куда какие данные вставлять или как им поменять пол формат формы.

Играл с Клодом, случайно придумал новый юзкейс для LLM. Отправляешь ему книгу на какую-то тему — в данном случае книжка про Product Management от фаундера Intercom — и просишь его рассказать что делать. На удивление, Клод секунды за 4 очень хорошо понимает основные идеи книги и пересказывает их, перекладывая на твою собственную задачу.

Результат как будто поговорил с Des Traynor, только бесплатно и он глубоко вник в суть моей гениальной ИИ-идеи (на скриншоте).

Пишете книги? Пишите так, чтобы LLM было удобно их читать. В данном случае, главное ограничение в том что Claude берет файлы до 10 мб и не понимает mobi/epub формат.

Кстати, записывайтесь на очедной воркшоп по созданию автономных агентов, который пройдет в эту пятницу!

Сегодня за утро несколько раз подряд столкнулся с очень похожими проблемами у тех кто строит ИИ-приложения. Я вижу очень часто, что получив новые технологии, люди пытаются применить их везде где нужно и где не нужно.

В частности, сегодня крайне распространена идея про то что, мол, если хочешь сделать LLM приложение умнее — используй векторные эмбединги. Или даже хуже: что векторные базы данных это каким образом способ сделать LLM умнее. Но это не так. Это просто способ хранить и искать по данным, используя семантику, а не лексику. То есть, когда мне нужно найти в тексте определенную мысль или смысл, но я не знаю какими конкретно словами (или на каком языке) она там сформулирована.

Эмбединги не расширяют контекст модели и не помогают ей знать больше, чем она знает и так. И в 95% случаев вам вообще не нужна векторная база данных, потому что релевантные данные у вас уже и так лежат с постгресе, в архиве почты или на сайте. Вам просто нужно взять их и передать в контекст LLM в качестве инпута. Берем информацию из базы данных, скармливаем в контекст, задаем вопрос, повторяем. База данных стоит в ~100 раз дешевле, работает быстрее, геморроя меньше, инструментов для работы больше. Чем не профит?

То же самое верно для операций на основе ответа LLM. Допустим, Лама сказала что вам нужно пойти в спортзал чтобы похудеть. Можно конечно пытаться триллионом промтов добиться чтобы она в нужный момент напомнила, не забыла свои собственные слова и логику рассуждений. А можно просто выгрузить результат в типизированном и заранее строго отформатированном виде и затем работать с ним, как с любыми другими данными в рамках классической строго детерминированной парадигмы, где вы четко понимаете что ожидать на входе и на выходе. Никаких стохастических неожиданностей. И проще в тысячу раз.

Кстати, записывайтесь на очередной воркшоп по созданию автономных агентов, который пройдет в эту пятницу!

Возможно, вы забыли что за пределами ИИ и веб3 есть реальный мир, но там тоже происходит кое-что интересное. Вчера вышла статья, которая взорвала интернет: учёные из Кореи впервые в истории смогли создать сверхпроводник, который работает при комнатной температуре.

Пишут, что они смогли создать материал практически из говна и палок, используя пылесос и печь. Если все правда, то это открывает какие-то фантастические перспективы от создания массовых квантовых компьютеров и ненагревающихся классических чипов (то есть, в разы более эффективных процессоров). Так же это значит, что можно будет в промышленном масштабе создать систему распределения электроэнергии без потерь в процессе передачи на длинные расстояния (триллионы киловатт-часов ежегодно в мире). А так же в разы более дешевые поезда на магнитной подушке и МРТ.

Короче, пушка, будем наблюдать. Авторы заверяют, что это прорыв не меньше чем ИИ.

День unsolicited и неаргументированных мнений по поводу веб3:

1. Слишком много проектов делают инфраструктуру, но спроса на неё такого пока нет. ZkSync & Optimism вполне хватит для вашего аппчейна. Blockspace проблема на ближайшие годы решена. Агрегации ликвидности — пока нет.

2. Можно подводить итоги войны чейнов. Биткоин и эфир, очевидно победили. Централизованные чейны (TON, LUNA) погибают. «Убийцы» эфира (AVAX, NEAR, DOT) имеют очень интересные моменты в технической реализации но не показали зачем они нужны. Cosmos экосистема кажется единственной где есть реальная активность, но встраивание ее в EVM мир вопрос времени.

3. Веб3 развивается быстрее чем когда-либо. Лучшие предприниматели кого я знаю начинают делать веб3 проекты. В подавляющем случае без токенов — токенов там нет и не планируется в ближайшем будущем. Именно у таких проектов, которые решают огромные боли, самые высокие шансы на успех. Смотрите как Твиттер прекрасно решил проблему борьбы с дезинформацией (community notes) или вознаграждением авторов (вы получаете процент от рекламы, показанной рядом с вашими твитами). И без токенов. И это только начало.

4. Самая большая возможность в крипте остаётся той же, что была в 2015 — создание нецензурируемой надгосударственной и значительно более дешевой системы сохранения и денежных переводов.

Напоминаю, что сегодня пройдёт очередной воркшоп по автономным ИИ-агентам, где мы сделаем своего собственного умного помощника по дому, научимся структурировать данные и построим ботов, которые сами умеют декомпозировать и приоритизировать сложные задачи.

Запись: Lu.ma/codextown

Запись вебинара: https://youtu.be/WJs5RuMbgb0

На следующей неделе будем учиться запускать бесплатные модели, типа LLaMa через пользовательский интерфейс и дообучать модель, чтобы сделать её более токсичной. Навыков программирования не нужно.

Регистрация и детали тут: https://lu.ma/codextown (может требоваться VPN)

Результат первого дня отпуска:

Залог счастливой и успешной жизни — это тонкий баланс дисциплины и умения отъебаться от себя.

В эту пятницу пройдёт легендарный вебинар codex.town для тех, кто хочет профессионально научиться использовать LLM для бизнеса (навыков программирования не требуется).

Мы научимся использовать визуальный интерфейс для запуска сотен других моделей - проигрывающих или превосходящих GPT. Например, это нужно если вы не хотите платить за токены OpenAI, натренировать свою собственную модель или работать с приватными данными, типа медицинских или ответа на личные сообщения и почту. Рассмотрим 6 различных бесплатных инструментов для этого: text-generator-ui, h2o-llmstudio, fastchat gpt4all, lmstudio, MLCChat. Научимся дообучать эти нейронки с помощью механизма LoRA и оценивать результат.

Воркшоп проведет Майк Fluff — он реально очень круто шарит в этой теме и запустил уже не один довольно крутой продукт в области генеративных сетей. Регистрация, как обычно, тут: https://lu.ma/codextown (если не работает, значит включите VPN)

Забавно: пока лучшие лаборатории мира пытаются повторить эксперимент LK-99, анон из твиттера с аниме-аватаркой живущий в России рассказал что у него получилось и показал как. Это еще не доказательство повторяемости эксперимента, но отличный пример как работает наука в век твиттера.

На рынке предсказаний Manifold вероятность повторимость синтеза LK-99 превысила 50% (последние несколько дней была на уровне 20-30%). Это некий crowd wisdom сигнал, что последние эксперименты были вполне реальными, обстоятельными и независимыми.

Тут интересен сам феномен рынков предсказаний. Я считаю, что это наиболее недооцененный продукт в крипте и его полезность нам только предстоит раскрыть. Мы увидим сотни очень умных и классных применений и тысячи хитрых стратегий трейдинга. Которые, в отличии от большинства токенов, дают теоретико-игровой net benefit самому рынку и тем, кто использует эти данные.

Кстати, на днях наткнулся на очень крутой пример рынка предсказаний (Wingman), который делает основатель AppInTheAir Байрам Аннаков. В этом продукте вы можете купить акции вероятности того что некоторый рейс прилетит вовремя или будет задержан. Крутая штука и для гемблеров-трейдеров и для путешественников. Почитать об истории создания продукта можно тут. (Это не реклама, Байрам действительно архи-крут)