В чатиках и на кухнях участились разговоры о том, как ИИ повлияет на экономику. Например:

— куда деваться сотням миллионов людей, которых автоматизируют в течении ближайших пяти лет? если раньше тех-прогресс заменял людей в индустрии на протяжении поколений, то сейчас все произойдет до 2030.
— что делать с массовой роботизацией индустрий (от фастфуда до завода); как распределять ресурсы в условиях существенного падения себестоимости за счет исключения самого дорогого (человеческого) капитала из цепочки генерации добаленной стоимости?
— что делать с тем, что ИИ потребляет данные и не платит авторам? Достаточно один раз научить бота писать/рисовать/сочинять в определенном стиле и он будет производить бесконечное количество неотличимых от оригинала копий.
— что делать с повальной ИИ-фикацией армии (миллионы дронов со взывчаткой и распознаванием лиц/силуэтов)?

Я думаю, что все эти вопросы бессмысленны. Попытка ответить на них ничего не изменит. Это неизбежно. Потому что любая цивилизация или нация, которая не заэмбрейсит этот чейнж, проиграет и перестанет быть релевантна в мире. (Irrelevancy == oblivion)

Замена всех журналистов, депутатов, юристов и UX дизайнеров ИИшкой — это не просто риск. Это критически важно для выживания и развития общества.

Но это ерунда. Главный вопрос, который имеет смысл никто не задает: кто и каким образом будет контролировать эти системы?

Есть дефолтный ответ — тот, кто сильнее. И есть ограниченное, в 2-3 года, окно возможностей, пока это можно еще изменить. А именно создать системы децентрализованной координации, криптографической приватности и программируемой экономики распределения ресурсов и контроля.

Интернет звучит как будто мы в гонке между разрушающимся на куски миром и ускоряющейся технологией.

С одной стороны — войны, террористы, трамписты всех стран, фейковая пропаганда в твиттере и абсолютно ебанутые регуляторы каждой страны. С другой — экспоненциально ускоряющийся прогресс в технологиях; в первую очередь ИИ, который является катализатором всех остальных индустрий и областей науки.

И даже не очень понятно кто тут всех спасёт: Светлоликий Лидер Си ЦиньТрамп с повсеместным контролем, тоталитарным AML/KYC, министерством правды и ковровой смертной казнью (чисто для профилактики); большой ИИ-брат от хуайвей-гугла, который решает что и кому делать, включая президентов и ученых; децентрализаторы-либертарианцы-акселерационисты. Каждый из них может привести как к прогрессу, так и к аннигиляции всего человеческого (да так, что плебс-массы будут даже рады).

Если вас это волнует до степени психосоматических симптомов, то отключение интернета дома и мобильного телефона на неделю очень хорошо помогает.

Тестирую продукт, в который мы инвестируем несколько миллионов. Идея, казалось бы, очевидная — персональный ИИ-ассистент. Но, в отличии от chatGPT или claude, он (а) хранит всю информацию приватно и (б) становится по-настоящему персональным по мере использования, обучаясь и запоминая всё о тебе. Прподукт еще не публичен, но выйдет в течении месяца-двух.

Почему мне кажется это killer приложением?

1. Фокус на приватности. В очень скором времени знания твоего ИИ-ассистента будут ценнее, чем даже доступ к почте или мессенджеру. Более того, качественный ассистент должен агрегировать все твои каналы коммуникации, чтобы постоянно учиться и быть релеватным моменту.

2. Персонализация. Приложение собирает граф данных о тебе. Я ему однажды рассказал о том как мы проводим время с сыном и мне было очень приятно и круто получить уведомление вечером с идеями о том как можно приятно и полезно провести время с ребенком. Чем больше ассистент обучается, тем сложнее будет с него "слезать" и тем полезнее будут его ответы и рекомендации.

3. Цифровой друг/коуч. Фокус не на абстрактных NLP задачах "переведи, перескажи, напиши хокку", а именно на помощи человеку. Чем более цифровой наш мир, тем более люди чувствуют себя одиноко. И именно помочь собраться, разложить жизнь по полочкам, расслабиться, понять что все вокруг хорошо, обсудить интимные вопросы и проблемы — это то, чего не хватает многим в мире тиктока и инстаграма. Там нет глубины.

4. Чего я жду в ближайших релизах — это агенты/аддоны. То есть, возможность дать новые навыки моему ассистенту. Отвечать в телеграме, выбирать подарки друзьям, бронировать путешествия. Да, для каждой из этих задач существуют десятки ИИ-сервисов, но каждый из них потребует десятки часов "обучения", прежде чем он сможет давать действительно качественный, а не общий, сервис. Персонализация — это ровно то, что отличает ИИ-игрушку от ИИ-незаменимого помощника.

Вся альфа о мемкоинах

Все вокруг делают мемкоины. А что? Удобно. Вложил $100 — забрал $500,000 через пару недель. Даже вот мои друзья тут решили запустить свой, обещают 1000 иксов и даже есть небольшой шанс, что даже не скаманёт.

Расскажу вам три истории о мемкоинах.

История первая: об эффективном против большого капиталах

Вот допустим сделали посоны мемкоин: графон, сюжет, много грамматических ошибок в нужных местах.

Допустим, Макс богатый, а я бомж. Макс вложил $10М на пресейле, а я $1000.

Токен подхватили-полетело: Маск твитит, Дуров пишет, Цукер стримит как не в себя. Кайне Уэст и Билли Айлишь ни о чем больше не говорят. Снуп Дог распечатал и скурил. Пампируем. Люто туземуним.

Но вот какое дело.

Макс видит, что на его десяточку пришло 5 иксов. 40 млн прибыли. Можно купить этаж на Манхеттене или яхту 50м. Макс ливает.

Но я бомж. Мне 10 исков на косарь — это тупо $10к. За квартиру заплатить, макдак и чуть-чуть на наркотики. Погоды не сделает. Мне ливать смысла нет. Жду роста на 3 порядка минимум.

Но вот какое дело. Когда ливает большая ликвидность токен падает ниже начальной цены минта. Начинается паника, распродажа, хомяк терпит -99% свечки. И уже ни 10, ни 1, ни даже 0.1 икс не увидит.

Так что мемкоины работают, но capital cost > capital efficiency.

История вторая: о рагпул-гейминге

Новая игра: Рагупул (3,3) рулетка

1. Создается мультисиг
2. Туда добавляются адреса всех из чата
3. На один час в день каждый получается owner привилегии контракта с approve(address, _amount = 1/100 TVL)
4. Кто пульнул - забрал 1% пула
5. Если ты прошел свой раунд и не пульнул, то твой approve в след раунде будет 1/50, потом 1/25 и т.д.
6. У кого железнее яйца получит больше иксов, но рискует остаться без денег

Честное ICO: обнуление неизбежно, но шансы у всех равны.

История третья: пока я писал пост, Виталик написал о том же самом

А конкретно он пишет о том, что вообще-то механику мемкоином можно сделать интересной, а прибыль можно направить на благотворительность.

Я вчера писал автору мемкоинов свою идею: zk-агрегированный кроссчейн коин ИИсус с нарративом вокруг новой AGI-религии, с шиллингом от иванагби и бантега, с ревшарой на саб нет биттензора, который учит AGI, который в свою очередь учит нас морали и любви друг к другу. Но меня проигнорили жестко.

Виталик предлагает нам всем вступить в ряды дегенератов-коммунистов. Звучит разумно и любопытно.

Виталик приводит несколько примеров деген-коммунизма:
- использование крипто инструментов для смягчения экстерналий неэффективной регуляции (пример с налогами на недвижимость и рентконтролом в CA)
- скам криптопроектов (Terra и компенсация холдеров UST)
- Harbenger's tax всем уже знакомый
- благотворительные мемкоины
- свободная иммиграция на основе децентрализованной репутации
- рынки предсказаний и квадратичное голосование для принятия законов и норм

В целом ничего нового (что хорошо, ибо новое не факт что сработает), но вот вопрос:

А как вы думаете, если подавляющее большинство людей начнет жить лучше / больше получать / меньше тратить — это каким-то образом решит политические проблемы? Я хз.

C одной стороны, если у каждого всего в достатке — то может эти люди будут неохотнее взрывать концерты, воевать, убивать, продавать тяжелые наркотики?

C другой — если бедные люди вдруг перестанут работать чтобы выжить, то они не станут умнее, этичнее, больше любить себя-мир-людей, а значит освободившееся время они потратят на пропаганду в интернете и протесты о том, чтобы они еще меньше работали и им еще больше платили?

Еще один вопрос дня!

AI фундаментально создает условия для персонализации институтов. AI лучше любого человека умеет в манипуляцию, подделку фактов, наигранную и неотличимую эмпатию. Это данность. Сегодня это стоит несколько миллионов долларов (в масштабе), завтра будет стоить пару тысяч. К это приведет через 3-5 лет?

А. Конец демократии. Каждому из миллиардов людей в его VR очки или мессенджер придет бот, который абсолютно безошибочно надавит на все нужные гормоны, эмоции, убеждения и заставит его неизбежно проголосовать за кого надо. За бойдена, путена, цукербрина, да хоть ХАМАС, не так важно.

В. Конец "социальных" институтов. Вместо средненько-хреновенькой публичной медицины для всех раковых больных — персональный доктор, который проводит 24 часа с тобой начиная с твоего рождения, постоянно следит за всеми био показателями, помогает предотвратить большинство болезней, а не помогает "дожить". Вместо полубесплатного образования — тьютор, никогда не устающий и не теряющий внимание, который может помочь с защитой диссера постдоку или обучить грамотности 30-летнего африканца, который получил свой первый андроид.

Вижу споры между капиталистами и коммунистами. Между тоталитаристами и демократами. Между консерваторами и прогрессистами. Но это все ерунда. Это только чтобы языком почесать, это не важно. Абсолютизм и редукция в силу низкой пропускной способности wetware (жидкого ПО, мозга).

Реальный вопрос: когда эта технология станет фактически бесплатной, кто будет её бенефициаром? А или В? А каким именно "истом" ему себя назвать ему подскажет ИИ.

Ищу аналитика/рисерчера в мою AI команду cyber.fund

Куда? Зачем?
Cyber.fund is a $100mm research-driven fund investing in web3, decentralized AI, autonomous agents and self-sovereign identity. We're a team of builders behind Lido, p2p.org, =nil; foundation, Neutron, NEON and pre-seed/token investors in Solana, Ethereum, EigenLayer and 150+ others. We've invested in FHE for ML, privacy-first ML (LLMs), AI aggregations and routing platforms and decentralized AI.

Кто нужен?
Нужен человек на стыке бизнеса и академии.
Хорошая теоретическая база в CS и обязательно ML;
Технический ВУЗ, а идеально PhD чего-то уровня МФТИ или MIT;
Публикации по теме ML, а идеально уровня NeuroIPS;
Работа в стартапах или бигтехе, а идеально еще и опыт ангельских инвестиций;
Обязательно глубокое помание алгоритмов, техник и моделей в ML, а идеально умение превращать это в продукт;
Fluent English, intellectual curiosity and a passion for staying current with the latest advancements in AI/ML.

Что надо делать?
1. Due Diligence
Технический, продуктовый и бизнесовый анализ потенциальных инвестиций в AI/ML. Анализ рынка. Общение с фаундерами и технической командой проектов. Оценка масштабируемости, надежности, рисков и ограничений продуктов.

2. Portcos support
Стратегическая и техническая поддержка портфельных компаний в AI/ML. Помощь в построении технологической стратегии, найме, нетворке в индустрии. Поиск потенциальных проблем и способов решения для проектов.

3. Research
Следить за и анализироть текущие тренды в ML/DL/AI (например: synthetic data, flash attention, 1bit LLM, FHE for ML, JEPA, etc.). Написание публикаций, whitepapers, потенциально проведение X spaces/стримов/подкастов по теме (на английском). Поиск многообещающих компаний и проектов для инвестиций.

Мне интересно и я подхожу под требования, куда писать?
Присылайте CV на [email protected]; cover letter, ссылки на публикации, OSS контрибьюшены и другие достижения будут плюсом.
Локация не важна, но часовой пояс между EET-EST (от Восточной Европы до Восточного Побережья США).

Один из тех наглых постов жесткого рекрутмента, которые можно бесстыдно шарить по группам и каналам ;)

За последние три дня мне довелось побщаться с лидерами AI-индустрии. Конечно, про децентрализованный ИИ.

В ходе этих дискуссий стало ясно, что AI должен стать чем-то вроде public good, доступным для каждой страны, компании, индустрии и профессии. Каждый из нас (компаний на рынке, специалистов в индустрии, людей в стране) обладает уникальным набором знаний и данных, и только совместив их, мы можем создать по-настоящему эффективные модели. Децентрализованный подход к AI становится ключом к успеху. Краудсорсинг данных позволяет создавать модели, которые лучше всего решают практические узкие задачи.

50 лучших клиник могут совместить данные для создания диагностической модели, 40 лучших VC фондов могут сделать модель для скрининга дек, 10,000 носителей монгольского языка могут сделать крутую локальную модель (речь о данных, не algo+compute).

Но как распределять ресурсы, награды и владение такими моделями? Одним из решений являются токены. Они позволяют справедливо распределять ценность и обеспечивать владение моделью коллективно. Это не просто мемкоины — это бизнес-модель, позволяющая генерировать ценность и капитализировать протокол. Получается не только эффективно, но и справедливо. dAI объединяет усилия множества участников для создания топ моделей и обеспечивает справедливое распределение владения и вознаграждений.

Любопытный пейпер от DeepMind — mixture of depth. Идея в том, что для генерации разных токенов в LLM нужно разное количество ресурсов. Например, начать новое предложение требует больше вычислений, чем поставить знак препинания. Это позволит в теории сэкономить до 50% вычислительных ресурсов без потери качества, но требует новую архитектуру моделей.

GameFi за последние 7 лет пережил ряд взлетов и падений. От Криптокотят до лоттерей и казино; от Dark Forest до невнятных collectibles игр 2022 года. Миллиарды долларов спустя, становится ясно: ончейн игры это крутая платформа для нового типа игр, но не для всех.

На примере игры OCT постараюсь показать что работает, а что не работает в современном ГеймФае. OCT — это быстрый фулли-ончейн кликер с фокусом на миллионы мобильных игроков, и с призами в USDT.

Идея: На землю прилетает гигантский ончейн объект (The OCT, октаэдр), в центре и в слоях которого зарыты различные сокровища. Игроки должны кликать по нему вместе (это мультиплеер), открывая ячейки, собирать призы и обменивать их на USDT в трежари. Как только кто-то доберется до центра и заберет главный приз - игра закончится навсегда. Игрокам даётся майнинговое оборудование, которое можно совмещать и увеличивать скорость внутриигорового майнинга для поиска наград, рисования арта на октаэдре, увеличения главного приза.

- Казуальные игры имеют больше смысла в ончейн компоненте, потому что их экономика менее замкнутая сама на себе. Зачем DoTA или WoW добавлять токены, если они уже генерируют десятки миллионов в месяц на своей внутренней экономике в долларах?
- Важна легкость входа: сначала геймплей, потом ончейн. Чтобы начать играть не нужно требовать пользователя купить токены, кроссовки, НФТ.
- Мультиплатформенность: начать играть с айфона, андроида, веба и даже изнутри Телеграма (как это делает OCT).
- Баланс геймплея и финтеха. Фан от игры и доход в USDT это примерно те же химические процессы в мозге. Поэтому, хороший GameFi должен балансировать фан и возможность игроку бешено разбогатеть.

Если вам интересно попробовать — сегодня OCT проводят мини-игру - это маленький OCT, который 200 человек вместе смогут открыть целиком примерно за час.

Внутри 40 призов по 20 USDT и 4 приза по 300 USDT. Играть тут, платить ничего не нужно: @totheoct (в био можно скачать приложение для айфона или андроида).

Пост не рекламный, никто за него не платил.

О будущем LLM

Не знаю за ваши модные ку-стары, но вот некоторый набор уже практически фактов про LLM в перспективе месяцев:

1. GPT и LLaMa — это не продукты, а исследовательские проекты. Как только детали архитектуры, пайплайнов, датасетов станут ясны (экспериментальным путём), стоимость тренировки аналогичной модели упадет в разы, а скорее сотни раз. Вы сможете сделать претрейн специализированной модели за $10-100k, причем даже в распределенной среде.

2. То же самое с инференсом. За счет квантизации, MoD, оптимизации под edge девайсы и архитектуры ARM, TPU, NPU модели уровня 13-30В параметров можно будет запускать на телефонах.

3. За счет увеличения окна контекста до миллионов токенов, файнтьюнинг становится не так важен. Ты просто копируешь промт на 10-100 страниц со всей историей своей жизни или организации и получаешь персональную модель. Стоимость переключения с Зефира на Гермес, с Клода на Databricks становится ровно три клика и один копипаст.

4. Адаптивный роутинг. Приложения выбирают модели на лету, в зависимости от задачи. Модели выбирают инфраструктуру для вычислений на лету, в зависимости от спроса и предложения на железо в конкретный момент.

5. RAG не уйдет, а, наоборот, заменит в некоторой степени претрейнинг. Большие децентрализованные RAG датасеты на миллиарды или триллионы токенов будут просто «подсасывать» знания на лету, что позволит делать базовые еще тоньше, быстрее и запускать на микроволновке (quite literally).

К чему должен стремиться каждый инженер (и продакт, for that matter)

У меня и моего канала наконец появился полноценный цифровой двойник.

За последние 1,5 года я уже делал несколько подходов к созданию бота-двойника и оцифровки себя, но на этот раз все серьезно. Бот знает все посты на моем канале и умеет на основе них отвечать на вопросы по теме веб3, NLP, LLM, DAO, стартапов, тех стратегии, философии прогресса и всего такого. За бота спасибо Байраму (кстати, у него определенно лучший канал про продукты и стартапы в телеграме).

Это не просто бот, но еще и..

а) менеджер личных консультаций (пока времени нет, но с мая-июня открою несколько слотов в неделю)
б) постоянно обучающийся цифровой двойник, который записывает в свою память все мои публикации, все что я говорю в личных консультациях и других источниках.

Пока что первые дни, но, что критично, эту проблему достаточно решить один раз. Как только (а это скоро) бот будет писать и отвечать на вопросы не хуже меня, мне не нужно будет тратить время на канал. Я буду писать только новые идеи, который бот будет тут же подхватывать и адаптировать для каждого, кому она может быть актуальна.

Пока бета версия, тестить тут: https://www.tg-me.com/mindshare_gershuni_bot

Ответы логируются. Боту нужно задавать конкретный вопрос, не просто «привет как дела».

Удивительно насколько сильно поменялся ландшафт LLM за последние пару месяцев. В январе-феврале безусловным лидером был GPT-4, а сегодня самой производительной моделью является Opus, а новая открытая и бесплатная модель от Cohere Command R показывает себя как минимум на уровне GPT-4.

Я уверен, этот рейтинг еще многократно поменяется до конца года.

Не знаю, стоит ли этому каналу скатываться в обсуждение и описание новых релизов и пейперов в ML, но пока это наиболее интересное, что происходит в интернете.

Вот например вчера вышел новый GPT-4-turbo, про который написали абсолютно все члены команды OpenAI, что чего-то да стоит.

Сегодня Mistral выпустил новую 176В модель. Как обычно, релиз в виде magnet ссылки, а описание на скриншоте выше. Такое мы любим. В такое мы готовы delve (кто понял шутку ставим сердечко).

А через месяц нам Мета кровь из носа обещает LLaMa 3.

Неделю назад писал про тренировку больших языковых моделей за $10-$100k. Меня тогда немного закидали помидорами.

А сегодня выходит статья, авторы которой показывают как они смогли с мощью архитектуры JetMoE (придумала веб3 компания MyShell) натренировать с нуля на более чем триллионе токенов 7B модель, которая превосходит Llama2-7B и при этом стоит всего $100k в тренировке.

Только лишь в GPU-часах это примерно в пять раз дешевле, чем тренировка самой Llama2-7B. А ведь прошло меньше, чем полгода.

О рынке мемов

Сегодня был на конференции Forklog (запись тут), рассказал о планах с цифровым двойником, важности децентрализованного ИИ и программируемой (кибернетической) экономике. Но хочется поделиться одной идеей, которая спонтанно родилась в ходе ответа на вопрос про мемкоины.

Мне кажется, что крипта/веб3 — это рынок меметики. Поясню. Сначала определения.

1. Меметика это наука о культуре, идеях, верованиях, то есть о мемах, о ноосфере. Об идеях, которые существующуют в цивилизации.

2. Крипта — это технология создания программируемых рынков.

3. В понятие мемкоина я включил бы все проекты, которые не генерируют реальной ценности или денежного потока: Ripple, Cardano, большая часть RWA, DePin, GameFi и, собственно, сами мемкоины.

Так вот, все эти рынки токенов это по сути рынки идей, меметики. Люди покупают и продают не дисконтированные денежные потоки организаций (тут нет потоков); это не ценные бумаги или секьюрити (они не обещают ничего в будущем); это не коммодити (куда ты денешь пепекоин или deai токен какого-нибудь бесполезного ИИ агента, или даже полезного агента, но которому токен не нужен).

Это именно что рынок самих идей. Люди покупают и продают веру в то, что собака в шапке это весело; что сеть вайфай роутеров вместо провайдера это классно; что возможность токенизировать металлы в астероидах это любопытно. Это такой глобальный рынок предсказаний, где лудоманы и хомяки являются поставщиками ликвидности, а мир в целом узнает чуть-чуть больше о себе.

techo-capital-memetic machine ftw

Вообще, меметика это не про крипту, а про те случаи, когда культура и нарратив выше утилитарной стоимости. Золотая лихорадка, wework, доткомы, decentralized storage, gamefi, RWA, ИИ-посудомойки и кофеварки — эти вещи не лишены фундаментальной ценности, они производят реальные продукты, которые покупают живые пользователи. Но их product-narrative fit куда выше чем product-market fit.

В случае МММ или Bitconnect это 100% меметика и 0% PMF; в случае какого-нибудь классического ритейла или производителя подшипников это на 99% PMF.

С точки зрения инвестора, это не всегда плохо. Например, токены (крипты, не LLM) позволяют получить дешевый — часто даже бесплатный — CAC (стоимость привлечения пользователя). Но если токен становится продуктом компании, то долгосрочно он либо превратится исключительно в мем, либо исчезнет вообще.

Но для меня это крайне важный критерий. Любой продукт должен появиться вовремя на созревшую почву социальных мемов. Но инвестировать в компании, чьи продукты по большей части меметика это ближе к спекуляциям. То есть, на это можно быстро заработать, но это high-touch инвестиция: нужно следить и вовремя продать. Поэтому сегодня я вижу каждый третий ИИ-стартап со списком инвесторов, 100% из которых — это крипто фонды. Это сигнал, что те инвесторы, которые шарят в индустрии просто пасанули и не поверили. По этой же причине, у Theranos было ровно 0 инвесторов из Долины.

С другой стороны, проекты с 0% меметики вряд ли станут успешными бизнесами. Им будет сложно продавать свою идеи, поднимать деньги, создавать партнерства.

Идельной формулы нет, но мой личный вкус это сначала сильный продукт и команда, а потом уже выстраивание истории, нарратива, позиционирования вокруг него.