Для тех, кому интересно что такое эффективный акселлерационизм, почему это важно, на каких принципах это работает и куда это движется, рекомендую видео Беффа Джезоса. Сама презентация идет первые 15 минут, а дальше просто ответы на вопросы.

https://x.com/BasedBeffJezos/status/1756483543960891493?s=20

Виталик: причина почему блокчейн заполонили дегены вместо сайферпанков в том, что при цене транзакции $50, дегенство — это единственное что имеет экономический смысл.

Читаю литературу и все больше убеждаюсь, что LLM и RAG скоро (типа 3-6 мес) станут одним. Вместо запихивания в промт чанка из PDF, сама модель сможет на лету обратиться к дополнительному, уже fitted, контексту.

Я бы очень хотел инвестировать в продукт, который:
— имеет свою или использует SoTA OSS ллмку
— умеет в прямом эфире (аки pplx-online-7b) тренировать отдельные "куски памяти" для горячего замена в зависимости от запроса пользователя
— в итоге дает продукт, который генерирует текст (или мультимодальный) с динамическим использованием дополнительного контекста в миллионы/миллиарды токенов
— все это без RAG, не съедая контекст и не страдая от деградации окна контекста

Кто такое делает?

P.S. тут технически я кое-что неверно написал, но продуктовая суть, думаю, понятна, а нам, гуманитариям, не стыдно

Сегодня VanEck, один из крупнейших и старейших фондов и инвестиционных компаний США, опубликовал репорт о децентрализованном ИИ. Они ожидают выручку на этом рынке в $10 млрд в год в течении пяти лет. (Я думаю, сильно больше)

Конечно, о crypto x AI за последние пару недель не писал только ленивый: Виталик Бутерин, 1kx (один из топовых фондов в крипте), вездесущая Секвойа, Delphi Digital (тоже сильнейший фонд билдеров из веб3), ну а первым, конечно же, был самый скромный в мире телеграм-канал Gershuni e/acc (шучу). Но VanEck очень консервативные и институциональные ребята, от них это слышать неожиданно.

Я уже дописал и скоро опубликую большой тезис, который в отличии от всех этих ребят, будет посвящен первым принципам и строительным блокам кибер-экономики (крипта для рынков, ии для участников рынков).

Позавчера написал пост про кино с помощью ИИ. Было много комментариев, мол, все ерунда, ИИ пальцы не умеет рисовать и буквы писать. Кина не будет.

А тут вам и видео, и пальцы и даже длинные тексты с помощью Stability Cascade. Все эти «ИИ не умеет Х» в нашем мире справедливы от силы три дня.

Кто не понял, все видео из поста выше сгенерированы просто по текстовому промту.

Сегодня мы проснулись в мире, большая часть которого по умолчанию является симуляцией.

Большая часть текста в интернете в 2024 сгенерирована ИИ; любой голос склонирован с реального человека или сгенерирован; музыка и картинки созданы по промту; и вот, наконец, пал бастион фотореалистичных видео.

Кстати, прочитайте от корки до корки репорт про Сору, там много примеров, таких как video2video, где на существующем видео можно заменить любой объект на любой другой. Сегодня у OpenAI — завтра в опенсорсе у любого школьника.

Ничего из того что вы читаете, видите, слышите и даже ощущаете больше не может считаться правдой. Буддисты пришли к этому 5 тысяч лет назад, в теперь пришла пора и бумерам приспособиться.

API → Intents

Вы наверняка слышали про дичайший хайп с интентами в блокчейне. По сути, это значит что пользователь может отправить в сеть не точную транзакцию, а некоторую задачу, например «хочу поменять токены по цене не ниже Х» или «готов подписать транзакцию, но от отправителя с репутацией не ниже Y». Дальше такие вот пространные запросы собираются вместе, мэтчатся и уже из них формируется точная транзакция с конкретными контрактами, участниками и суммами.

Это действительно удобно и упростит UX, но, мне кажется, эта идея куда шире и применима в других системах, особенно учитывая развитие LLM.

LLM имеет уникальную способность точного распознавания запроса, даже если в запросе пользователя были ошибки, неточности, недостаточно информации. Агент всегда может уточнить что-то, понять естественную речь или даже предложить действие на основе доступа к данным (агент знает что у вас вылет через 3 часа и сам закажет убер вовремя).

Так вот, в достаточно широкой, децентрализованной и стандартизованной сети автономных агентов общение этих агентов совсем не требует наличие жестко структурированного и типизированного API. Скорее, это будет напоминать интенты из Эфириума.

Пользователь говорит: «хочу велосипед не дороже Х и с фичами k, l, m». Его личный ассистент кладет этот запрос в общий мемпул запросов, в котором множество агентов представляющих других пользователей, бизнесы и даже real-world MEV боты находят сделки и матчат их между собой. И фундаментом этого будет скорее естественный язык и вероятностная природа, чем строгий POST запрос.

Это не обязательно про покупки, а про любые транзакции в экономике: от найма или инвестиций до брони отеля и заказа доставки. Обмен всего на все, в эффективном программируемом мире, без посредников, с интерфейсом понятным 3-х летнему ребенку — это и есть легендарная DeFi матрица Балажи.

Про Сору все забыли, новый хит недели — Groq. Команда сделала кастомный ASIC для LLM, который позволяет генерировать ~500 токенов в секунду. Для сравнения, GPT в среднем даёт 30 т/с.

Возможность мгновенно и условно-бесплатно читать, анализировать и генерировать несколько десятков страниц текста улучшает производительность ИИ систем. Чтобы было понятно, думайте о метрике "LLM запросы на одну задачу пользователя" (LLM requests per user task):

— классический чат-бот делает один запрос и один ответ
— простенький RAG делает 2-3 запроса (поиск, reasoning, генерация ответа)
— сложные chain of / tree of thoughts могут делать по 10 запросов (уточнить вопрос пользователя, принять решение о стратегии ответа, сгенерировать кандидатов ответов, выбрать лучший)

Теперь, благодаря кастомным чипам (не забудьте про $7 триллионов Сэма и про $100B которые под ИИ чипы собрал Масаёши Сон) это количество может вырасти до сотен или даже тысяч логических шагов, внутренних проверок, уточнений фактов — при этом сохраняя время ответа меньше одной секунды.

Попробовать можно тут: https://groq.com/