Telegram Web Link
Как только LLM’в массово станут с открытым исходным кодом, мы увидим взрыв специализированных моделей для различных индустрий. Блумберг вот сделал модель с 50 млрд параметров, тренированную на 363 млрд токенов (слов) финансовых данных: новости, пресс-релизы, финансовые отчеты, декларации. Финансовые аналитики, трепещите!
Что такое деньги?

1. Мера стоимость
2. Способ сохранения ценности
3. Инструмент обмена

И

4. Система контроля
Представьте себе identity протокол, но при этом MMORPG:

1. Там есть разные домены жизни: профессиональные навыки, интересы, социальный граф, игры, здоровье, образование.
2. Каждый из них — это пустое, незаполненное дерево талантов. Постепенно, добавляя информацию в свой SSI профиль или изучая/узнавая новые вещи, ваш персонаж прокачивается.
3. Заполнение дерева талантов дает новые возможности. Если ты супер профессионал с сотней кудосов от лидеров индустрии и десятком выступлений, то тебя зовут адвайзеров в топовые проекты. Если ты топовый геймер, то приглашают в бета тест или на стрим.
4. AI помощник. Как скрепка в ворде, только по реальному миру — вот что можно изучить чтобы продвинуться в карьере, вот где нужно заниматься чтобы исправить здоровье, вот с кем познакомиться чтобы было весело.
5. Все это — социальный метаверс, где вы путешествуете с другими людьми, находите друзей, организуетесь в гильдии по ценностям и интересам (конечно, со своим гносис мультисигом).
Что я ожидаю в течение года:
- техподдержка, имейл агенты, продажные боты, которые неотличимы от человека для 99,9% тех, с кем они общаются (технически - Turing тест)
- проявление десятков псевдоязыков для программирования LLM
- первая jailbroken версия GPT, которая обходит системные сообщения
- человек влюбляется и по крайней мере пытается пожениться на нейросети. Для (десятков | сотен) тысяч людей она станет самым близким другом.
- conditioned LLM инстансы, которые эффективно и успешно могут убеждать людей, что они сознательны: осознают себя, могут страдать, испытывать эмоции, привязанность. Появление движения в их защиту.

Чего я не ожидаю в течение 10 лет:
- хоть одного живого человека который понимает что происходит внутри слоев трансформеров LLM
Чего не понимают фиат-макси и любители госрегуляции: AI и роботы неизбежно займут существенную долю мировой экономики. И они не будут платить друг другу переводами на карту, золотыми слитками и гос облигациями.
Forwarded from Oleg Lavrov
Продолжаем череду наших встреч! И уже в следующий вторник нас ждет вебинар о терминах web3 пространства 🌝

4 апреля в 19:00 МСК, на площадке HowToDAO  бесплатный вебинар "Термины и понятия Web3 для новичков и не только".

Мы подскажем, как разбираться и преодолевать сложность освоения знаний о Web3. Покажем наш подход и решение, которое позволяет быстро и методично осваивать термины, понятия и их взаимосвязи, использовать для освоения бизнес среды Web3.

Ростислав — активный контрибьютор How2DAO и Олег — член coreteam How2DAO.

Анонс 👉 https://youtu.be/K9hcfa6hzSk

Как попасть на вебинар?
- зайти в телеграм-чат сообщества HTD
- подключиться к ссылке на zoom в закрепе чата

Ждем! Будем рады встрече!
Если вы ищете новый мощный тренд, то zkml для вас.

Вчера был на под завязку набитом митапе посвященном zero-knowledge machine learning — использовании ML-моделей с нулевым разглашением данных.

Одна из самых интересных историй сегодня — это построение маркетплейсов нейронок и ML алгоритмов в децентрализованной среде. Таким образом, чтобы создатель модели не имел доступа в вашему трейнинг сету, исполнение модели происходило в облаке но с доказательством какая именно модель была использована, проверяемому инференсу (verifiable inference если по-человечески) и использованию ML алгоритмов (и их результатов) через смарт-контракты.

Два года назад сложно было представить, что такая технология существует, а сегодня это десятки бибилиотек, стартапов, проектов, которые планомерно оборачивают в zk сёркеты различные нейронные сети и операции с ними.

В следующем посте расскажу про самые классные юзкейсы.
12 мощнейших юзкейсов ZKML

Zero-knowledge — это набор криптографических инструментов, которые позволяют доказать что я знаю некоторый факт, не сообщая вам сам факт. Примерами zk-инструментов являются цифровые подписи (я знаю приватный ключ, могу это доказать, но не сообщу его вам) или хеш-функции (я знаю preimage). За последние пару лет из теоретической области со сложной продвинутой математикой это стало довольно распространённым и доступным большинству программистов универсальным инструментов для построения протоколов и приложений, которые гарантируют 100% приватность данных.

В частности, zk сегодня активно применяется для работы с машинным обучением: для того чтобы использовать модели без доступа к изначальному сету данных для тренировки (я могу быть уверенным что для тренировки использовались финансовые данные компании, но не получу доступ к самим данным), либо чтобы исполнять определенные модели и иметь гарантию что были исполнены именно они без доступа к underlying данным — весам, входным данным. Либо для того чтобы построить более сложные системы, в которых выборочно разглашаются некоторые из этих данных.

В этом посте хочу разобрать несколько наиболее популярных сегодня юзкейсов для zkml систем. Каждый пункт звучит так, что там легко найдется место для нескольких компаний или протоколов по $1 млрд каждая.

1. Децентрализованный маркетплейс промтов для генеративного AI — вы можете сделать классный промпт и продавать к нему доступ (или к результату работы нейронки), не раскрывая промпт.
2. Децентрализованный Kaggle — конкурсы ML-алгоритмов, где проверка работ происходит децентрализованно и без доступа к самой модели. Публикуете модель, децентрализованно проверяется ее точность (accuracy). Если вы победили, смарт-контракт автоматом начисляет вам награду. Никто в процессе не имеет доступа к весам вашей модели.
3. Использование сложных трейдинговых ML алгоритмов или zk classifier/regressor. Может использовано для создания приватных и децентрализованных систем стратегий управления деньгами типа Yearn. Вот пример ончейн трейдингового ML-бота, работающего на zk.
4. Идентификация, особенно биометрическая, которая не требует разшлашения данных в промежуточных этапах обработки. Например, то что делает Worldcoin.
5. Децентрализованный маркетплейс AI моделей и совместная работа по из разработке.
6. Использование AI в смарт-контрактах с децентрализованной гарантией исполнения именно той модели и именно с тем инпутом, который нужен пользователю.
7. AI NPC / AI игровые миры для web3 игр. Я могу доказать какая именно модель или инпут использовался для генерации мира в метаверсе, не раскрывая весов и сорс-кода. Тут прям моя 💚
8. MLaaS / Оракулы для inference. Создаете модель, публикуете в облако и можете быть уверены что в процессе inference получены результаты работы именно той модели, которую вы хотели использовать, и что эти результаты не были изменены.
9. Децентрализованный аудит нейронных сетей или ML-алгоритмов. Например, через zk можно доказать при тренировке использовались или не использовались определённые данные (приватные, копирайт, коммерческая тайна).
10. Аудит смарт-контрактов и выявление аномалий. Доказательство что, например, смарт-контракт может быть эксплуатирован (оттуда можно вывести деньги) без разглашения самого эксплоита или ML-алгоритма, который нашел уязвимость. Сам zk-пруф может быть основанием чтобы остановить контракт до выяснения и устранения проблем, что потенциально может сэкономить миллиарды на взломах.
11. Inference очень чувствительной информации, такой как медицинская диагностика.
12. И, для тех кто уже начал надеяться что я вас просто так отпущу, — конечно, приватный скоринг репутационных (aka вообще любых персональных) данных человека, организации, робота, контракта с помощью ML алгоритма.

Если вы, как и я, все еще не понимаете как эта чертова магия работает, то приглашаю пройти офигенный и бесплатный курс: https://zkiap.com
Я теперь бот. Мое сознание окончательно переехало в метавселенную. Кто-то сделал телеграм бота на основе GPT, который отвечает в стиле канала CryptoEssay. То есть, как будто он — это я.

Можете поговорить с моей цифровой сущностью тут: @stepan_eth_gpt_bot (скидывайте лучшие ответы в комментарии)

Сделать свой похожий бот можно тут: @gptconstructorbot
Мы живем в странное время: в мире нет ни одного человека, который предложил бы ответ на главные вызовы цивилизации, но никто и не спрашивает.

Ни Трамп, ни Байден, ни Си; ни демократия, ни диктатура; ни капитализм, ни социализм не в состоянии предложить достаточно внятную историю о том что нужно в момент перехода цивилизации на новый уровень. Когда вдруг в течении нескольких месяцев большая часть работы становится бесплатной и автоматической.

Раньше, в прошлые технологические революции, эти перемены занимали 50-100 лет. Сейчас это происходит за месяцы, часто даже недели.

Все репозитории на картинке выше появились на последние пару недель. Все три это первые подходы к созданию деятельных прототипов AGI — которые сами могут придумывать себе задания, вести список задач, исполнять эти задачи взаимодействуя с разными API сервисами в интернете. Например, они могут написать свой собственный код, реплицировать себя, делегировать задачи своим «клонам», улучшать себя. (Я тестил)

Чем это не форма жизни?
Прямо сейчас проблемы с AI две:

1. FOMO. Не делая ничего с AI, вы упускаете самый большой тренд в современной истории.

2. Скорее всего, любой бизнес, продукт или консалтинг, который вы создадите будет неактуальным в течении месяцев.

LLM лучше научит других, GPT-4 быстрее качественнее напишет код приложения, Langchain станет большим экспертом в теме, autogpt придумает более защищаемую бизнес модель, text2img сети сделают более красивы интерфейс, графику, анимацию. Все — бесплатно и доступно любому человеку с базовыми знания языка.

За последние 24 часа я видел как AI:
— проводит терапию лучше, чем большинство психологов
— обучается на базе договоров и дает рекомендации лучше, чем большинство юристов
— производит относительно уникальные и точно цепляющие философские идеи
— оптимизирует себя через псевдоязык
— в течении 3 минут создает рабочее приложение с сервером на vercel, базой данных и интерфейсом
Дано: знание теперь коммодити. Инфо-бизнес, консалтинг, помогательство, продажа знаний по большей части перестают быть ценными продуктами. Никаких больше семинаров, курсов. Самый крутой консультант по любому вопросу теперь доступен за $20/мес.

Следует: воля и действие теперь ценны как никогда. AI может написать сложный смарт-контракт, бекэнд сервис, контракт, пресс-релиз, нарисовать интерфейсы. Но ему это не надо. Нужен промптер с какой-то целью. Кому-то, кому это нужно.

Я бы инвестировал в тех, кто делает много руками и сам. Компании, особенно больше 5 человек, в таким мире тоже становятся неожиданно сильно переоцененными. Билдеры рулят миром.

Один человек с правильными промптами может за неделю построить приложение, на которое 5 лет назад нужна была команда из 5 инженеров и 6 месяцев.
Еще несколько трендов:
- чем больше делают LLM, тем больше у людей свободного времени
- игры уже сегодня крупнейшая индустрия: больше чем все фильмы, музыка, книги вместе взятые; 3+ млрд пользователей
- WebGL дает почти нативную скорость видеопроцессора на любом устройстве. WebGL игры не требуют платить комиссию сторам
- нейронки идеально подходят для творческих задач, потому что RLHF дает максимально быстрый и точный результат

Итого: кросс-платформенные метаверсы из браузера, сюжет, графика, текстуры, эвенты в котором бесконечно генерируются ИИ с некоторым коллективным steering’ом от пользователей.
Отдал свои глазные яблоки Сэму. Когда GPT заменит всех человеков, у неё будут мои глаза.

В июне будет гигантский airdrop — не упустите возможность грязно разбогатеть!
Ни одна книга в жизни не заставляла меня чувствовать таким тупым :)

Зато на 6-ое прочтение/прослушивание ты ВДРУГ начинаешь понимать. Это будет самый мощный эпистемологический оргазм в вашей жизни.

Книга: Beginning of Infinity
Наваль Равикант и Тим Феррис взяли интервью у Дэвида Дойча—отца квантовых вычислений и плодовитого физика.

Книги Дойча—Структура Реальности и Начало Бесконечности очень сильно повлияли на меня и продолжают влиять каждый день. Я таскаю эти книги в бумаге за собой по миру, периодически перечитываю и каждый раз охуеваю от того, как сильно перепрошивается мой мозг [в интервью Наваль делится точно таким же опытом чтения книг Дойча].

В интервью Дойч раскрывает четыре теории, про которые он пишет в обеих книгах: теорию вычислений, квантовую теорию + теорию о параллельных вселенных, эпистемологию и эволюцию. Заодно из этих теорий выводят тезис AGI возможен и какой путь надо пройти к AGI. Если вы не читали книги—то можете начать с этого подкаста.

В любом случае крайне рекомендую прочитать обе книги. Даже если вы поймёте 1/10, поверьте, ваш мозг и картина мира никогда не будут прежними.

🔗 https://www.youtube.com/watch?v=FfWbcrObpUY
Завтра, кстати, случится довольно большой апгрейд сети Ethereum. Вернее, даже два: Shanghai, обновление клиента, и Capella, обновление протокола. Станет доступно снятие денег со стейкинга для валидаторов. За последние два года можно было только стейкать, но не снимать.

Для тех, кто уже приготовил котлеты скажу, что вряд ли это как-то повлияет на цену (отдельно от общего тренда). Несмотря на то, что за два года накопилось много валидаторов желающих продать монеты со стейкинга:

1. Они и так могли бы это сделать через stETH
2. Выход валидаторов происходи через очередь, которая пропускает от 1125-2200 в день, в зависимости от оставшегося количества валидаторов.

Это значит, что, например, для того чтобы треть валидаторов сняла монеты со стейкинга потребуется примерно 100 дней, что будет очень слабо влиять на цену и уравновешиваться дефляционными механизмами.
Если ваш продукт это обвязка вокруг OpenAI API (чат, голос, генерация, сумаризатор, переводчик, контекст, температура, примитивный файнтюнинг и эмбединги), то у вас нет продукта.

То же самое сможет повторить кто угодно — от техгиганта до школьника-самоучки. А вот с дистрибуцией у вас будут проблемы.

Сейчас, на волне удивления способностями технологии, любой AI-стартап состоящий из 1,5 часов одного программиста в день покажет экспоненциальный рост. Но с точки зрения инвестиций (своего времени или денег) главное — это moat, ров, который поможет долгосрочно сохранить уникальность и неповторимость продукта.

В данном случае, это не уникальность продукта-продукта. Это уникальность продаж как продукта, маркетинга как продукта, дистрибуции как продукта, сетевого эффекта как продукта.
2024/10/04 01:30:30
Back to Top
HTML Embed Code: