Есть две категории web3-native людей.

Дегены. У них на аватарке пикселированные NFT, они пишут gm и lfg, их цифры идут вверх, они любят эйпануться в щиткоин и заработать х100.

Криптопанки. Они верят, что криптография и p2p сети это способ организации общества и экономики. Они любят писать код и контрибьютить в OSS.

Первые зарабывают на меметике, остро чувствуя дух времени. Вторые создают новые технологии и проекты Bitcoin или Ethereum.

Для контекста: Артём (автор канала ЭЙАЙ НЬЮЗ) работает Staff Research Scientist в элитной лабе Meta по Gen AI. Пишет о том как разрабатывают ИИ в передовых компаниях мира и немного про то как устроена корпорация стоимостью $1,2 триллиона изнутри.

В посте ниже речь идет о быстрой text-to-image модели, которая встроена в Лламу3 и уже работает в некоторых сервисах Меты. Артем @ai_newz лидил этот проект – рекомендую подписаться, потому что мало кто на русском пишет о ньюансах и опыте разработке топовых ИИшек в топовых командах.

Напоминаю, что через час проведу стрим в Киберакадемии на тему Децентрализованного ИИ и пересечения AI x web3.

Темы:
- зачем нужен ИИ и зачем нужен веб3?
- кто такие агенты и где они живут?
- какие есть проблемы в централизации ИИ?
- как их решать и что может предложить крипта?
- какие конкретно решения уже сегодня работают?

+ 40-60 минут на ваши вопросы из чата
Запись будет на канале Киберакадемии бесплатно для всех, но вопросы только из лайва берем.

Подключиться можно тут: https://www.youtube.com/live/JhyzPWMcXI4?si=r0EsjcoSrIDp4Why

Бенчмарки поражают, конечно. Модели, вышедшие за последний месяц-два (Opus, Command R+, Mistral Large) выглядят примерно как Windows XP в сравнении с новой Ламой, а впереди еще релиз 400В версии и GPT-5. Кстати, не так очевидно кто из них окажется умнее.

Но вот что многие упускают, потому что людям свойственно смотреть только на лидеров гонки:

В маленьких моделях скорость прогресса еще выше. Обратите внимание, что версия с 7В параметров бьет Command R+ с 104В параметров (которая, кстати, вышла ровно 2 недели назад).

В этом списке нет мелких моделей в 1-2 млрд параметров, но именно они, во-первых, станут главными выгодоприобретателями прогресса (за счет дистилляции и оптимизации), а, во-вторых, станут наиболее распространенными в реальных продуктах. Они работают локально в любом телефоне (включая устройства за $50-99).

Это значит любой человек в деревне в Африке, без интернета, будет иметь доступ к истории человечества, знаниям и логике примерно университетского уровня по любому предмету, доступ к средней по европейскому уровню медицинской консультации, личному коучу, психологу, диетологу, тренеру, наставнику по работе на десятках языков (не говорю пока про видео, картинки, музыку). Конечно же, эти продукты даже не будут требовать умение писать и читать, но смогут помочь освоить профессию или воспитать детей.

Крч, как сказал Зак, сами модели это не продукты, но это неизбежность чтобы человечество двигалось вперед. Про агентов и продукты на основе ИИ мы, кстати, поговорим с Байрамом (он создал App in the Air, вырастил до 7М пользователей, продал компанию и сейчас строит ИИ продукты) на вебинаре в следующую пятницу. Записаться можно через бота (каждый день цена растет на $5, запись будет).

Запустил Ламу в фоне на компьютере и забыл. Теперь делаю alt-tab, когда нужно проверить или сократить любой текст, задать вопрос, помочь в формулировке, сделать выжимку.

По качеству выше чем бесплатные версии Claude, Gemini, GPT.

Бесплатно, работает локально на любой пароварке, требует 4.5GB памяти, не нужен интернет и никуда не отправляет ваши данные.

Установка занимает 2 минуты, не нужно даже консоль открывать: https://lmstudio.ai/

А вот другой вариант, который собрал умелец из твиттера. Здесь уже Llama3 70B, которая запущена на M1 Max ноуте и стримится локально на телефон с распознаванием и синтезом голоса. На M3 вообще летать должно (там до 128 гб памяти есть опции).

Что происходит с NVIDIA?

Ответ: все хорошо, но рынок становится более конкурентным.

За последние 3 месяца все крупнейшие покупатели чипов объявили, что они будут дизайнить и производить свои собственные чипы для ИИ и уже выделили по $100 млрд на это. А именно: Meta, OpenAI, Microsoft, Amazon. Google уже говорит, что все их модели тренируются на собственных проприетарных чипах.

Мне кажется, люди не понимают объем ресурсов, которые большие тех компании тратят и будут тратить на ИИ в ближайшее время. Из уже анонсированных проектов это около $400В.

Что отличает хороших VC от крутых VC?

Нашел очень любопытный рисерч на тему. Вот несколько инсайтов:

1. Средний хороший фонд дает около 3.5x возврат на капитал. Лучшие фонды делают 18х. У лучших фондов в 2.5 раза больше сверхуспешных инвестиций (больше 10х).

2. Количество провальных сделок и стартапов примерно одинаковое (46-48% стартапов обнуляются). Что отличает лучшие фонды — это масштаб выигрыша. Они зарабатывают 68x в среднем на сверхуспешных сделках; средние фонды — 27х.

3. Главное отличие успешного фонда — умение делать double down в победителей. Они инвестируют до 40% фонда в небольшое количество стартапов, которые дают непропорционально хороший результат.

От себя добавлю, что скорее всего это связано с отбором лучших на ранних этапах (фаундеры и рынок) и работой с проектами: умением трекать метрики и вовремя заметить PMF/гипер-рост и задеплоить максимум капитала как только это происходит.

Лучшие VC, с которыми я работаю, невероятно полезны и (про)активно помогают проектам, но, при этом, в интересных им сделках супер агрессивны по аллокации и пытаются забрать максимум раунда.

В эту пятницу 26 апр в 18мск будем говорить с Байрамом про автономных агентов, стартапы и продукты в ИИ и тернистый путь до AGI.

Записаться на вебинар можно в боте (синяя кнопка слева в углу); будет запись для зарегистрировавшихся.

Вот некоторые темы, которые мы затронем:
- когда случится decentralized AGI? какую роль в нем играют автономные агенты? кто и как их будет делать?
- для чего нужны агенты? как они встроятся в экономику?
- как делать агентов, чтобы их не убил OpenAI? как создавать сильные конкуретные преимущества?
- как децентрализованно создать ИИ модели? как ими управлять?
- как людям и бизнесам нанимать агентов? как агентам нанимать людей? какая экономика нужна, чтобы сделать это возможным?
- какие существуют и будут конкурентные защитные позиции в ИИ? как создать долгосрочный бизнес/продукт?

Полезно для инвесторов, фаундеров, продактов и инженеров в ИИ и смежных областях.

Генеративный ИИ стремительно развивается, но энтерпрайз только сейчас, спустя полтора года после выхода ChatGPT дошел до масштабных внедрений. И пока что это чат-боты, а не агенты и полноценные воркфлоу. Я общаюсь с крупными банками, ритейлом, производителями — у всех примерно такой уровень: попробовали, бюджет выделили, ищем решения.

Большие компании невероятно инертны и медлительны, но я уверен, что нет ни одной Furtune 500 компании, которая не запланировала хотя бы $10М на эксперименты с ИИ. И, конечно, они не идиоты, и понимают, что это неизбежно и необходимо для выживания на рынке, как когда-то было с компьютерами и интернетом.

Moderna, крупная фарма компания, утверждает что 100% их лигал команды плотно сидит на GPT, они разработали 400+ внутренних GPTs для автоматизации работы, используют для обработки данных для дозирования лекарств. Понятно, что этот ролик скорее рекламный ролик OpenAI.

Но, главное: для нас кажется что 50-100 обращений к LLM в ходе рабочего дня это норма и так живет весь мир, но на самом деле адопшен в энтерпрайзе только начинается. И не потому что там работают какие-то дураки, а потому что процесс изменения привычки, особенно на уровне корпоративной культуры для 100,000 сотрудников, это штука медленная. Долго запрягают, но когда запрягут — только успевайте электростанции строить.

Я много пишу о стартапах с точки зрения фаундера, нередко упоминая инвесторов (в основном добрым словом). Но на те же самые процессы и явления есть взгляд с другой стороны - инвесторской, который полезно знать! Так что в качестве дружеского пиара хочу порекомендовать канал Андрея Резинкина - действующего angel-инвестора, в портфеле которого Educate Online, Refocus, EBAC и др.

Вот несколько характерных постов, предлагаю начать с них:

1️⃣ Как составить правильный subject письма инвестору, чтобы он точно ответил (я же люблю письма!). Андрей предлагает понятную формулу из 4 элементов - вероятность попасть инвесторам в pipeline сильно возрастает.
https://www.tg-me.com/startup_venture/205

2️⃣ Сколько денег просить у инвестора? По-детски простой калькулятор, который рассчитывает сколько инвестиций нужно вашему стартапу. Очень удобный тул, чтобы рассчитать минимальные инвестиции в стартап.
https://www.tg-me.com/startup_venture/274


3️⃣ Какая доля останется у фаундера после 5 раундов инвестиций? Вот здесь Андрей строит модель для идеального стартапа и делится ей, чтобы вы могли сделать прогноз размытия фаундеров для своего стартапа.
https://www.tg-me.com/startup_venture/289

Вообще взгляд инвестора - это в некотором смысле “мета-анализ“ ввиду огромного количества просмотренных стартапов. У Андрея есть эта насмотренность!

Короче говоря, если вы фаундер, планируете им стать или просто работаете в стартапе, то этот канал точно вам пригодится. Рекомендую подписаться!

#реклама

Работаю над инвестиционным тезисом для фонда про ИИ и децентрализованный ИИ. В прошлый раз это был лонгрид про тренды и важные проблемы. Сейчас работаю над тем, чтобы превратить это в максимально конкретный список тем и продуктов, которые кажутся наиболее интересными сегодня.

1. Специализированные модели
Причина: по мере развития gen AI, мы отходим от моделей с триллионами параметров в сторону более компактных и специализированных вокруг конкретного языка, культуры, бизнес-ниши моделей.
Открытые проблемы: smol language models, пайплайн данных (скейпинг, синтетика, дистилляция), лейбелинг и курация данных, оптимизация железа и архитектур NN.

2. User-owned AI
Причина: для скорости, приватности и гибкости нужны локальные и/или приватные модели в облаке
Открытые проблемы: приватный, контролируемый пользователем ИИ с помощью криптографии (FHE, TEE, zk), либо оптимизация для слабых устройств и CPU

3. Bespoke AI
Причина: чем больше ИИ знает о вас, тем он полезнее
Открытые проблемы: работа с графом знаний о пользователе или организации, UX (проактивность, мобильность, интеграции), суверенность данных

4. Агенты
Причина: ИИ не умеет эффективно и автономно взаимодействовать с внешним миром
Открытые проблемы: фреймворки и платформы для агентов, интерфейсы взаимодействия включая голос, AR/VR, носимые устройства, embodiement

5. Мультиагентные системы
Причина: для решения сложных задач необходимо взаимодействие многих систем
Открытые проблемы: экономика в форме коммуникации и платежей между людьми и агентами в разных композициях, маркетплейсы с репутацией и учетом loss агента относительно задачи, децентрализованная агрегация и оркестрация, выбор оптимальной цепочки агентов для задачи

Подробнее обо всех этих направлениях и примерах продуктов/стартапов в них расскажу на вебинаре завтра.

Вышел перевод на русский язык моей статьи о киберэкономике и децентрализованном AGI. Спасибо редакции Компьютерры за перевод и оформление!

В своё время, в 90-е и начале 2000х. помню, каждую неделю покупал новый выпуск бумажной Компьютерры после школы. Был by far любимый журнал, откуда я подчерпнул значительную долю любви и знаний о софте, интернете, компьютерах, роботах, кибернетике. А спустя пару десятков лет там публикуется моя статья :)