Прошло чуть больше недели от запуска моего цифрового двойника. Хочу поделиться статистикой, первыми выводами и планами.

Всего с двойником пообщалось 200 пользователей, задав почти 400 вопросов и с ~80% позитивной оценкой ответов. Ретеншен бота слабый — многие просто не поняли что вообще нужно делать. Очень много вопросов было из серии "привет", "ты кто?", из которых бот пока не умеет выводить вопрощающего в какое-то рациональное русло. Но на вопросы по теме некоторые ответы удивили и меня до уровня "вау, неужели так можно?!".

Я тесно общаюсь с командой разработки, в следующих версиях хотелось бы:
- память и возможность задавать дополнительные вопросы (сейчас бот не хранит историю)
- проактивность бота, чтобы он сам писал людям когда появляется новый контент на интерсующую их тему
- консилиум ботов многих каналов (например, про ИИ я бы хотел получить ответ одновременно из Сиолошной, эйай ньюс и Метаверсища, потому что каждый автор добавит свои интересные мысли)
- эвристики для типичных случаев (послать если грубят, объяснить если тупят, спросить если молчат, показать про что спрашивать если не понимают)

Кстати, в следующую пятницу мы с Байрамом (СЕО компании, которая сделала бота) проведем 2-х часово вебинар на тему автономных агентов и AGI. Записаться на вебинар можно прямо из бота. Цена $20, но будет увеличиваться на $5 каждый день вплоть до $50, оплатить можно из любой страны и любой картой. Вот некоторые темы, которые мы затронем:

- когда случиться decentralized AGI? какую роль в нем играют автономные агенты? кто и как их будет делать?
- для чего нужны агенты? как они встроятся в экономику?
- как делать агентов, чтобы их не убил OpenAI? как создавать сильные конкуретные преимущества?
- как децентрализованно создать ИИ модели? как ими управлять?
- как людям и бизнесам нанимать агентов? как агентам нанимать людей? какая экономика нужна, чтобы сделать это возможным?
- какие сущетствуют и будут moats в ИИ? как создать долгосрочный бизнес/продукт?

Чтобы пообщаться с ботом переходите по ссылке ниже. Чтобы записаться на вебинар нажмите кнопку "Book": https://www.tg-me.com/mindshare_gershuni_bot

Обнаружил интервью Дурова Карлсону, обрадовался, но это какой-то фейл.

Какие-то бессмысленные вопросы о политике человеку, который очевидно политикой не занимается и не интересуется (а она им — да). В этом смысле фон из стульев с пиками и кое-чем ещё красиво смотрится со словами Павла о том, что миссия Телеграма — не занимать никакую позицию в любом политическом булшитинге.

Что в целом верно: правые, левые, синие, зеленые — всё одно. Мир меняют не политики, а продукты. А политики могут только срать в комментах и издеваться над взаимным населением с помощью баллистических ракет.

Но блин, как можно сделать интервью и не задать ни одного вопроса по теме?! Как телеграм нанимает, как устроен продуктовый процесс, как работает, как валидируют фичи, как масштабируется с такой маленькой командой, планы с тоном и его экономикой?

Короче, ждём еще 7 лет и надеемся что интервьюер будет не идиот.

Я скептически отношусь ко всем курсам по нейросетям, но бесплатное отраслевое онлайн-мероприятие, где можно прокачаться в прикладном использовании, — это совсем другое дело.

С 23 по 26 апреля на канале Магия Нейросетей выступит более 20 спикеров с небанальными темами по четырём направлениям:

Users: реальные кейсы и применение нейросетей в бизнесе
Developers: технические детали и разработка ИИ-решений
Visioners: тренды развития ИИ и его будущее
Practics: мастер-классы и челленджи для отработки навыков

Увидимся на NeuroWeekend!

#реклама

Завтра проведу публичный вебинар на тему децентрализованного ИИ в Кибер Академии. Стрим будет вот тут: https://cyberacademy.dev/events/78-why-ai-needs-crypto (3pm London, 4pm Berlin, 5pm MSK)

Некоторые темы:
— какие есть пути развития ИИ в ближайшем будущем?
— почему важно кто контролирует и кому принадлежат модели и инфраструктура?
— какие есть риски централизованного ИИ?
— как именно технически работает децентрализованный ИИ?
— чем в развитии DeAI может помочь веб3, криптография, ДАО, теория игр и дизайн механизмов?

Я сделаю минут на 20-30 доклад, а дальше ответы на вопросы. Можно писать в комментриях по этим темам.

Кстати, прикольно, что в моём двойнике эти ответы тоже появятся. Я вот заметил что: есть люди, кто приходят онлайн на вебинары, есть те кто смотрят в записи, а есть те у кого может быть релевантный вопрос, но нет времени и возможности посмотреть или просто не нравится видео формат и любят читать. Задача персонального ии и цифрового двойника как раз помочь любому человек получить персонализированный ответ или рассказ на тему, которая ему интересна.

Есть две категории web3-native людей.

Дегены. У них на аватарке пикселированные NFT, они пишут gm и lfg, их цифры идут вверх, они любят эйпануться в щиткоин и заработать х100.

Криптопанки. Они верят, что криптография и p2p сети это способ организации общества и экономики. Они любят писать код и контрибьютить в OSS.

Первые зарабывают на меметике, остро чувствуя дух времени. Вторые создают новые технологии и проекты Bitcoin или Ethereum.

Для контекста: Артём (автор канала ЭЙАЙ НЬЮЗ) работает Staff Research Scientist в элитной лабе Meta по Gen AI. Пишет о том как разрабатывают ИИ в передовых компаниях мира и немного про то как устроена корпорация стоимостью $1,2 триллиона изнутри.

В посте ниже речь идет о быстрой text-to-image модели, которая встроена в Лламу3 и уже работает в некоторых сервисах Меты. Артем @ai_newz лидил этот проект – рекомендую подписаться, потому что мало кто на русском пишет о ньюансах и опыте разработке топовых ИИшек в топовых командах.

Напоминаю, что через час проведу стрим в Киберакадемии на тему Децентрализованного ИИ и пересечения AI x web3.

Темы:
- зачем нужен ИИ и зачем нужен веб3?
- кто такие агенты и где они живут?
- какие есть проблемы в централизации ИИ?
- как их решать и что может предложить крипта?
- какие конкретно решения уже сегодня работают?

+ 40-60 минут на ваши вопросы из чата
Запись будет на канале Киберакадемии бесплатно для всех, но вопросы только из лайва берем.

Подключиться можно тут: https://www.youtube.com/live/JhyzPWMcXI4?si=r0EsjcoSrIDp4Why

Бенчмарки поражают, конечно. Модели, вышедшие за последний месяц-два (Opus, Command R+, Mistral Large) выглядят примерно как Windows XP в сравнении с новой Ламой, а впереди еще релиз 400В версии и GPT-5. Кстати, не так очевидно кто из них окажется умнее.

Но вот что многие упускают, потому что людям свойственно смотреть только на лидеров гонки:

В маленьких моделях скорость прогресса еще выше. Обратите внимание, что версия с 7В параметров бьет Command R+ с 104В параметров (которая, кстати, вышла ровно 2 недели назад).

В этом списке нет мелких моделей в 1-2 млрд параметров, но именно они, во-первых, станут главными выгодоприобретателями прогресса (за счет дистилляции и оптимизации), а, во-вторых, станут наиболее распространенными в реальных продуктах. Они работают локально в любом телефоне (включая устройства за $50-99).

Это значит любой человек в деревне в Африке, без интернета, будет иметь доступ к истории человечества, знаниям и логике примерно университетского уровня по любому предмету, доступ к средней по европейскому уровню медицинской консультации, личному коучу, психологу, диетологу, тренеру, наставнику по работе на десятках языков (не говорю пока про видео, картинки, музыку). Конечно же, эти продукты даже не будут требовать умение писать и читать, но смогут помочь освоить профессию или воспитать детей.

Крч, как сказал Зак, сами модели это не продукты, но это неизбежность чтобы человечество двигалось вперед. Про агентов и продукты на основе ИИ мы, кстати, поговорим с Байрамом (он создал App in the Air, вырастил до 7М пользователей, продал компанию и сейчас строит ИИ продукты) на вебинаре в следующую пятницу. Записаться можно через бота (каждый день цена растет на $5, запись будет).

Запустил Ламу в фоне на компьютере и забыл. Теперь делаю alt-tab, когда нужно проверить или сократить любой текст, задать вопрос, помочь в формулировке, сделать выжимку.

По качеству выше чем бесплатные версии Claude, Gemini, GPT.

Бесплатно, работает локально на любой пароварке, требует 4.5GB памяти, не нужен интернет и никуда не отправляет ваши данные.

Установка занимает 2 минуты, не нужно даже консоль открывать: https://lmstudio.ai/

А вот другой вариант, который собрал умелец из твиттера. Здесь уже Llama3 70B, которая запущена на M1 Max ноуте и стримится локально на телефон с распознаванием и синтезом голоса. На M3 вообще летать должно (там до 128 гб памяти есть опции).

Что происходит с NVIDIA?

Ответ: все хорошо, но рынок становится более конкурентным.

За последние 3 месяца все крупнейшие покупатели чипов объявили, что они будут дизайнить и производить свои собственные чипы для ИИ и уже выделили по $100 млрд на это. А именно: Meta, OpenAI, Microsoft, Amazon. Google уже говорит, что все их модели тренируются на собственных проприетарных чипах.

Мне кажется, люди не понимают объем ресурсов, которые большие тех компании тратят и будут тратить на ИИ в ближайшее время. Из уже анонсированных проектов это около $400В.

Что отличает хороших VC от крутых VC?

Нашел очень любопытный рисерч на тему. Вот несколько инсайтов:

1. Средний хороший фонд дает около 3.5x возврат на капитал. Лучшие фонды делают 18х. У лучших фондов в 2.5 раза больше сверхуспешных инвестиций (больше 10х).

2. Количество провальных сделок и стартапов примерно одинаковое (46-48% стартапов обнуляются). Что отличает лучшие фонды — это масштаб выигрыша. Они зарабатывают 68x в среднем на сверхуспешных сделках; средние фонды — 27х.

3. Главное отличие успешного фонда — умение делать double down в победителей. Они инвестируют до 40% фонда в небольшое количество стартапов, которые дают непропорционально хороший результат.

От себя добавлю, что скорее всего это связано с отбором лучших на ранних этапах (фаундеры и рынок) и работой с проектами: умением трекать метрики и вовремя заметить PMF/гипер-рост и задеплоить максимум капитала как только это происходит.

Лучшие VC, с которыми я работаю, невероятно полезны и (про)активно помогают проектам, но, при этом, в интересных им сделках супер агрессивны по аллокации и пытаются забрать максимум раунда.

В эту пятницу 26 апр в 18мск будем говорить с Байрамом про автономных агентов, стартапы и продукты в ИИ и тернистый путь до AGI.

Записаться на вебинар можно в боте (синяя кнопка слева в углу); будет запись для зарегистрировавшихся.

Вот некоторые темы, которые мы затронем:
- когда случится decentralized AGI? какую роль в нем играют автономные агенты? кто и как их будет делать?
- для чего нужны агенты? как они встроятся в экономику?
- как делать агентов, чтобы их не убил OpenAI? как создавать сильные конкуретные преимущества?
- как децентрализованно создать ИИ модели? как ими управлять?
- как людям и бизнесам нанимать агентов? как агентам нанимать людей? какая экономика нужна, чтобы сделать это возможным?
- какие существуют и будут конкурентные защитные позиции в ИИ? как создать долгосрочный бизнес/продукт?

Полезно для инвесторов, фаундеров, продактов и инженеров в ИИ и смежных областях.

Генеративный ИИ стремительно развивается, но энтерпрайз только сейчас, спустя полтора года после выхода ChatGPT дошел до масштабных внедрений. И пока что это чат-боты, а не агенты и полноценные воркфлоу. Я общаюсь с крупными банками, ритейлом, производителями — у всех примерно такой уровень: попробовали, бюджет выделили, ищем решения.

Большие компании невероятно инертны и медлительны, но я уверен, что нет ни одной Furtune 500 компании, которая не запланировала хотя бы $10М на эксперименты с ИИ. И, конечно, они не идиоты, и понимают, что это неизбежно и необходимо для выживания на рынке, как когда-то было с компьютерами и интернетом.

Moderna, крупная фарма компания, утверждает что 100% их лигал команды плотно сидит на GPT, они разработали 400+ внутренних GPTs для автоматизации работы, используют для обработки данных для дозирования лекарств. Понятно, что этот ролик скорее рекламный ролик OpenAI.

Но, главное: для нас кажется что 50-100 обращений к LLM в ходе рабочего дня это норма и так живет весь мир, но на самом деле адопшен в энтерпрайзе только начинается. И не потому что там работают какие-то дураки, а потому что процесс изменения привычки, особенно на уровне корпоративной культуры для 100,000 сотрудников, это штука медленная. Долго запрягают, но когда запрягут — только успевайте электростанции строить.