О (потенциально) самом большом проекте одновременно в крипте и ИИ

Расскажу о проекте, которому пророчат стать больше чем Биткоин и Эфир вместе взятые. Я много месяцев копаю децентрализованный ИИ, и пора уже поговорить о конкретных протоколах. Один из таких — Bittensor. Расскажу как он работает, зачем нужен, как на этом бешено озолотиться * и почему это важно для человечества. * *

Bittensor решает проблему децентрализации интеллекта. Не видеокарт, не моделей, не сбора данных, а именно ускорения развития и снижение риска централизации цифрового интеллекта (intelligence).

Почему и зачем?

- Блокчейн это система программируемых наград (programmable incentives), но в случае биткоина это награждение впустую потраченной энергии (перебора nonce), а в случае Эфира это награждение экономического риска оператора ноды. Но это может быть куда более полезная и изощренная работа в области ML разработки.

- Инновации возможны благодаря конкуренции на рынке. Но это медленно: регуляция занимает годы, создание новых компаний многие месяцы. p2p экономика позволяет ускорить конкуренцию, валидацию идей. По сути, ускоряет капитализм. Ускорение ИИ = решение почти все остальных проблем человечества.

- Bittensor предлагает награду сравнимую с з/п OpenAI или потенциальной прибылью от стартапа для фаундеров, инженеров, исследователей, MLOps’ов, владельцев железа и операторов сервисов, но в форме ДАО. То есть, открыто для всех, никем жестко не ограничено, не иерархично.

- В отличии от остального open source, в ML производство софта очень дорогое (OpenAI тратит десятки миллионов $ на одну модель), поэтому в одиночку в гараже, как гугл, не создать. Для этого нужна сеть, которая агрегирует капитал (производя полезную работу в ИИ), распределяет капитал и привлекает самые лучшие умы в ML.

- Мы не хотим жить через несколько лет в мире, где есть 1.5 ИИ модели, которые контролируются корпорацией и/или гос-вом с решениями принятыми за закрытыми дверями и жесткой политической повесткой/цензурой.

- Централизованная регуляция ИИ не работает: регуляторы не понимают о чем они говорят, это слишком медленно, единый большой актор (гос-во) не в состоянии должным образом создавать условия для прогресса и самоорганизации рынка.

Как это работает?

Subnets. Биттензор позволяет моделировать свои собственные экономические механизмы, в которых награда идет за различные полезные для ускорения развития ИИ вещи: создание моделей, сбор данных, компьют, bandwidth, RLHF, файн-тьюнинг, генерация текста/картинок/голоса/видео, даже фундаментальный рисерч. Эти штуки называются subnets, их там 32. Создатель subnet получает 18% от всего, что эта сеть зарабатывает.

Валидаторы. У валидаторов есть две задачи: распределять награды между сабнетами (например, сегодня SN18, генерация синтетических данных, получает 10% эмиссии токенов, а SN16, генерация аудио, всего 3% что отражает общий спрос на эти функции с рынка) и проверять работу майнеров в каждом отдельном сабнете. Чтобы стать валидатором нужно застейкать (сдать в залог) токены, сегодня это около 20k TAO или $10M, но при этом валидатор это тот кто напрямую может продавать результаты работы сети.

Майнеры. Майнеры выполняют задачи сабнетов. Где-то это просто предоставить мощности в аренду, а где-то — делать постоянные улучшения, изобретать и тренировать новые модели.

Валидация. Проверка работы майнера специфична для сабнета. В случае хранения данных достаточно просто рандомно запросить у майнера часть хранящейся информации. В случае генерации картинки пингвина, скрейпинга данных или анализа снимков КТ на предмет опухолей проверка производится по куда более сложным бенчмаркам, которые создатель сабнета закладывает для валидаторов. Например, валидатор может прислать майнеру задачу, на которую он заранее знает правильный ответ, и на основе этого выставить оценку.

Награды. Разные сабнеты имеют разные алгоритмы распределения наград. В некоторых случае награждается тот кто ответит быстрее всех (latency), в других те, кто дадут наиболее точный ответ (accuracy), в третьих — комбинация из разных метрик. Майнеры знают эти метрики и их задача постоянно опитимизировать свой софт и железо, чтобы быть самыми лучшими в своём сабнете. Для примера, топ майнер в SN6 (файн-тьюнинг LLM) получает около $74k в день.

Пользователи. Конечные пользователи не соприкасаются с bittensor, так же как пользователи Google не знают ничего о работе внутренних ML команд корпорации. Но пользователи используют и платят за продукты на основе ИИ, а сами эти продукты работают на основе API валидатора. То есть, валидатор стейкает токены, проверяет работу сети и за это он может продавать результаты этой работы через API, так как это сегодня делают OpenAI, Anthropic, Microsoft, но при этом валидатор не держит у себя всю инфраструктуру сети.

Начать курить можно отсюда.

* конечно же, я, Боже упаси, не трейдераст и никогда не покупал “чтобы продать подороже”, но в данном случае рост цены (x2 за месяц, x10 за год) отражает скорее веру рынка в проект, чем хайп/нарратив/ярость хомяка

** один лишь Bittensor проблемы ускорения DeAI не решает, для этого нужно решить еще несколько уровней стака, но каждом из них сегодня есть ультра-мощные проекты. про них в след сериях канала Gershuni e/acc

Первая колонка — что делает каждый сабнет
Третья — сколько от общего числа токенов идет в каждый сабнет
4,5,6 — сколько получают в день валидаторы, майнеры, владельцы сабнета

Программируемая экономика — это не цель, а направление движения в сторону большей автоматизации (интеграции человека и машины).

Блокчейн = программируемые incentives. Это технология для создания цифровых механизмов для моентарной системы, финансовых рынков, организаций и корпораций, голосований и принятия решений. С бОльшим уровнем доверия, но меньшими издержками по сравнению с текущим способом решения этих проблем: нанять менеджеров, обложиться юристами, иерархически управлять.

AI = программируемый интеллект. Это технология для снижения стоимости когнтивной работы через автоматизацию и дополнение, аугментацию человека для бОльшей производительности труда и большей скорости инноваций.

SSI = программируемое доверие. Это технология для создания доказуемых суверенных систем данных (например, документов, репутации, персональных или просто чувствительных данных), которые контролируются владельцем, но могут быть программно соединены друг с другом с гарантией аутентичности.

Network state = физическая и социальная инфраструктура для мира с программируемой экономикой, которому больше не нужно полагаться на монополии, коррупционные организации, популизм, бумажную бюрократию и не особо шарящих в теме регуляторов.

see you on the other side.

Много читаю питчдеков. У некоторых немного завышенная оценка. Но $7 триллионов — это что-то новое. На эти деньги можно купить 5-10 средних по размеру стран в Европе со всем населением.

Кто готов вложиться в будущее ИИ? Минимальный чек: $100 млрд

Для тех, кому интересно что такое эффективный акселлерационизм, почему это важно, на каких принципах это работает и куда это движется, рекомендую видео Беффа Джезоса. Сама презентация идет первые 15 минут, а дальше просто ответы на вопросы.

https://x.com/BasedBeffJezos/status/1756483543960891493?s=20

Виталик: причина почему блокчейн заполонили дегены вместо сайферпанков в том, что при цене транзакции $50, дегенство — это единственное что имеет экономический смысл.

Читаю литературу и все больше убеждаюсь, что LLM и RAG скоро (типа 3-6 мес) станут одним. Вместо запихивания в промт чанка из PDF, сама модель сможет на лету обратиться к дополнительному, уже fitted, контексту.

Я бы очень хотел инвестировать в продукт, который:
— имеет свою или использует SoTA OSS ллмку
— умеет в прямом эфире (аки pplx-online-7b) тренировать отдельные "куски памяти" для горячего замена в зависимости от запроса пользователя
— в итоге дает продукт, который генерирует текст (или мультимодальный) с динамическим использованием дополнительного контекста в миллионы/миллиарды токенов
— все это без RAG, не съедая контекст и не страдая от деградации окна контекста

Кто такое делает?

P.S. тут технически я кое-что неверно написал, но продуктовая суть, думаю, понятна, а нам, гуманитариям, не стыдно

Сегодня VanEck, один из крупнейших и старейших фондов и инвестиционных компаний США, опубликовал репорт о децентрализованном ИИ. Они ожидают выручку на этом рынке в $10 млрд в год в течении пяти лет. (Я думаю, сильно больше)

Конечно, о crypto x AI за последние пару недель не писал только ленивый: Виталик Бутерин, 1kx (один из топовых фондов в крипте), вездесущая Секвойа, Delphi Digital (тоже сильнейший фонд билдеров из веб3), ну а первым, конечно же, был самый скромный в мире телеграм-канал Gershuni e/acc (шучу). Но VanEck очень консервативные и институциональные ребята, от них это слышать неожиданно.

Я уже дописал и скоро опубликую большой тезис, который в отличии от всех этих ребят, будет посвящен первым принципам и строительным блокам кибер-экономики (крипта для рынков, ии для участников рынков).