Запустил Ламу в фоне на компьютере и забыл. Теперь делаю alt-tab, когда нужно проверить или сократить любой текст, задать вопрос, помочь в формулировке, сделать выжимку.

По качеству выше чем бесплатные версии Claude, Gemini, GPT.

Бесплатно, работает локально на любой пароварке, требует 4.5GB памяти, не нужен интернет и никуда не отправляет ваши данные.

Установка занимает 2 минуты, не нужно даже консоль открывать: https://lmstudio.ai/

А вот другой вариант, который собрал умелец из твиттера. Здесь уже Llama3 70B, которая запущена на M1 Max ноуте и стримится локально на телефон с распознаванием и синтезом голоса. На M3 вообще летать должно (там до 128 гб памяти есть опции).

Что происходит с NVIDIA?

Ответ: все хорошо, но рынок становится более конкурентным.

За последние 3 месяца все крупнейшие покупатели чипов объявили, что они будут дизайнить и производить свои собственные чипы для ИИ и уже выделили по $100 млрд на это. А именно: Meta, OpenAI, Microsoft, Amazon. Google уже говорит, что все их модели тренируются на собственных проприетарных чипах.

Мне кажется, люди не понимают объем ресурсов, которые большие тех компании тратят и будут тратить на ИИ в ближайшее время. Из уже анонсированных проектов это около $400В.

Что отличает хороших VC от крутых VC?

Нашел очень любопытный рисерч на тему. Вот несколько инсайтов:

1. Средний хороший фонд дает около 3.5x возврат на капитал. Лучшие фонды делают 18х. У лучших фондов в 2.5 раза больше сверхуспешных инвестиций (больше 10х).

2. Количество провальных сделок и стартапов примерно одинаковое (46-48% стартапов обнуляются). Что отличает лучшие фонды — это масштаб выигрыша. Они зарабатывают 68x в среднем на сверхуспешных сделках; средние фонды — 27х.

3. Главное отличие успешного фонда — умение делать double down в победителей. Они инвестируют до 40% фонда в небольшое количество стартапов, которые дают непропорционально хороший результат.

От себя добавлю, что скорее всего это связано с отбором лучших на ранних этапах (фаундеры и рынок) и работой с проектами: умением трекать метрики и вовремя заметить PMF/гипер-рост и задеплоить максимум капитала как только это происходит.

Лучшие VC, с которыми я работаю, невероятно полезны и (про)активно помогают проектам, но, при этом, в интересных им сделках супер агрессивны по аллокации и пытаются забрать максимум раунда.

В эту пятницу 26 апр в 18мск будем говорить с Байрамом про автономных агентов, стартапы и продукты в ИИ и тернистый путь до AGI.

Записаться на вебинар можно в боте (синяя кнопка слева в углу); будет запись для зарегистрировавшихся.

Вот некоторые темы, которые мы затронем:
- когда случится decentralized AGI? какую роль в нем играют автономные агенты? кто и как их будет делать?
- для чего нужны агенты? как они встроятся в экономику?
- как делать агентов, чтобы их не убил OpenAI? как создавать сильные конкуретные преимущества?
- как децентрализованно создать ИИ модели? как ими управлять?
- как людям и бизнесам нанимать агентов? как агентам нанимать людей? какая экономика нужна, чтобы сделать это возможным?
- какие существуют и будут конкурентные защитные позиции в ИИ? как создать долгосрочный бизнес/продукт?

Полезно для инвесторов, фаундеров, продактов и инженеров в ИИ и смежных областях.

Генеративный ИИ стремительно развивается, но энтерпрайз только сейчас, спустя полтора года после выхода ChatGPT дошел до масштабных внедрений. И пока что это чат-боты, а не агенты и полноценные воркфлоу. Я общаюсь с крупными банками, ритейлом, производителями — у всех примерно такой уровень: попробовали, бюджет выделили, ищем решения.

Большие компании невероятно инертны и медлительны, но я уверен, что нет ни одной Furtune 500 компании, которая не запланировала хотя бы $10М на эксперименты с ИИ. И, конечно, они не идиоты, и понимают, что это неизбежно и необходимо для выживания на рынке, как когда-то было с компьютерами и интернетом.

Moderna, крупная фарма компания, утверждает что 100% их лигал команды плотно сидит на GPT, они разработали 400+ внутренних GPTs для автоматизации работы, используют для обработки данных для дозирования лекарств. Понятно, что этот ролик скорее рекламный ролик OpenAI.

Но, главное: для нас кажется что 50-100 обращений к LLM в ходе рабочего дня это норма и так живет весь мир, но на самом деле адопшен в энтерпрайзе только начинается. И не потому что там работают какие-то дураки, а потому что процесс изменения привычки, особенно на уровне корпоративной культуры для 100,000 сотрудников, это штука медленная. Долго запрягают, но когда запрягут — только успевайте электростанции строить.

Я много пишу о стартапах с точки зрения фаундера, нередко упоминая инвесторов (в основном добрым словом). Но на те же самые процессы и явления есть взгляд с другой стороны - инвесторской, который полезно знать! Так что в качестве дружеского пиара хочу порекомендовать канал Андрея Резинкина - действующего angel-инвестора, в портфеле которого Educate Online, Refocus, EBAC и др.

Вот несколько характерных постов, предлагаю начать с них:

1️⃣ Как составить правильный subject письма инвестору, чтобы он точно ответил (я же люблю письма!). Андрей предлагает понятную формулу из 4 элементов - вероятность попасть инвесторам в pipeline сильно возрастает.
https://www.tg-me.com/startup_venture/205

2️⃣ Сколько денег просить у инвестора? По-детски простой калькулятор, который рассчитывает сколько инвестиций нужно вашему стартапу. Очень удобный тул, чтобы рассчитать минимальные инвестиции в стартап.
https://www.tg-me.com/startup_venture/274


3️⃣ Какая доля останется у фаундера после 5 раундов инвестиций? Вот здесь Андрей строит модель для идеального стартапа и делится ей, чтобы вы могли сделать прогноз размытия фаундеров для своего стартапа.
https://www.tg-me.com/startup_venture/289

Вообще взгляд инвестора - это в некотором смысле “мета-анализ“ ввиду огромного количества просмотренных стартапов. У Андрея есть эта насмотренность!

Короче говоря, если вы фаундер, планируете им стать или просто работаете в стартапе, то этот канал точно вам пригодится. Рекомендую подписаться!

#реклама

Работаю над инвестиционным тезисом для фонда про ИИ и децентрализованный ИИ. В прошлый раз это был лонгрид про тренды и важные проблемы. Сейчас работаю над тем, чтобы превратить это в максимально конкретный список тем и продуктов, которые кажутся наиболее интересными сегодня.

1. Специализированные модели
Причина: по мере развития gen AI, мы отходим от моделей с триллионами параметров в сторону более компактных и специализированных вокруг конкретного языка, культуры, бизнес-ниши моделей.
Открытые проблемы: smol language models, пайплайн данных (скейпинг, синтетика, дистилляция), лейбелинг и курация данных, оптимизация железа и архитектур NN.

2. User-owned AI
Причина: для скорости, приватности и гибкости нужны локальные и/или приватные модели в облаке
Открытые проблемы: приватный, контролируемый пользователем ИИ с помощью криптографии (FHE, TEE, zk), либо оптимизация для слабых устройств и CPU

3. Bespoke AI
Причина: чем больше ИИ знает о вас, тем он полезнее
Открытые проблемы: работа с графом знаний о пользователе или организации, UX (проактивность, мобильность, интеграции), суверенность данных

4. Агенты
Причина: ИИ не умеет эффективно и автономно взаимодействовать с внешним миром
Открытые проблемы: фреймворки и платформы для агентов, интерфейсы взаимодействия включая голос, AR/VR, носимые устройства, embodiement

5. Мультиагентные системы
Причина: для решения сложных задач необходимо взаимодействие многих систем
Открытые проблемы: экономика в форме коммуникации и платежей между людьми и агентами в разных композициях, маркетплейсы с репутацией и учетом loss агента относительно задачи, децентрализованная агрегация и оркестрация, выбор оптимальной цепочки агентов для задачи

Подробнее обо всех этих направлениях и примерах продуктов/стартапов в них расскажу на вебинаре завтра.

Вышел перевод на русский язык моей статьи о киберэкономике и децентрализованном AGI. Спасибо редакции Компьютерры за перевод и оформление!

В своё время, в 90-е и начале 2000х. помню, каждую неделю покупал новый выпуск бумажной Компьютерры после школы. Был by far любимый журнал, откуда я подчерпнул значительную долю любви и знаний о софте, интернете, компьютерах, роботах, кибернетике. А спустя пару десятков лет там публикуется моя статья :)

DHS (министерство безопаности США) выкатило список из 22 людей, которые будут решать что может и не может знать, говорить, делать и думать ваш ИИ (а, следовательно, и вы).

Ищите свою фамилию в списке.

А вот и первое видео термодинамического сверхпроводникового чипа от Extropic.

Пацаны утверждают, что это наиболее энергоэффективный способ создания искусственного интеллекта из теоретически возможных в современной физике.

Насколько это практически работает, где полезно и сколько стоит пока что остается загадкой.

Раз в год (всегда по воскресеньям) делаю в этом канале LFG пост про книжки. Давайте рекомендовать друг другу качественное и полезное. Вот в каком духе и стиле хочется получить крутые рекомендации:

О философии прогресса и науки, типа Beginning of Infinity или Life 3.0

О переговорах в бизнесе, типа Never Split the Difference

О бизнесе и стратегии, типа Good strategy/Bad strategy, High Output Management или Clayton Christensen

О венчуре, типа The Power Law

Об истории технологий и науки, типа The Dream Machine

О практическом техно-мечтательстве от Snow Crash до Sovereign Individual

О макроэкономике, типа Ray Dalio или Lyn Alden

Пишите топ-1 книгу (и о чем она), которую вы читали и хотели бы порекомендовать другим.

Мы снова, в очередной раз, в той стадии рынка, где деген-VC создают и торгуют мемкоинами, называя их AI, RWA, DePIN, а так ж же никому не нужные DA, Restaking и новые ролапы. Видел три проекта за последний месяц с оценкой больше $300mm на сид раунде БЕЗ единого цента выручки.

Покупать любую монету сейчас было бы самоубийством. Но хомяк успокаивает себя тем что «я же просто потрейдить», а мы ждём пока он получит свои -99%, потому что об кого-то нужно выходить в кеш, а вернее в ETH и BTC.

В большинстве проектов мемы, эхо комната и стадный инстинкт победил здравый смысл, кеш флоу и хоть какую-то бизнес причину этому продукту существовать. Мы снова в эре «блокчейна с 5-ю консенсусами» (реальная история, мне в 2017 звонили, предлагали вписаться, потом даже подняли денег).

Грустно, но, при этом, это данность. Если вы ей не поклоняетесь, то вы снова упускаете возможность сделать х50 на капитал за пару месяцев без особой возни. Что лучше: быть одиноко-правым или богатым?

EigenLayer выкатил свой токен.

Eigen — один из самых расхайпленных проектов в крипте с крайне крутым фаундером, сильной командой, выросший до $3B TVL еще толком до запуска самой сети. Расскажу что это, зачем нужно и куда идет.

Идея Eigen в том, что застейканные эфиры (типа stETH) можно использовать для обеспечения криптоэкономического консенсуса. Пользователи кладут в протокол свои стейканные эфиры, а взаимен получают награды от AVS. Это такие мини-валидаторы, которые могут обеспечивать безопасность других продуктов: оракулов, рынков предсказаний, децентрализованных игр, ИИ сетей и кучи всего другого.

В теории это даст возможность третьим продуктам получить экономическую безопаность на миллиарды долларов даже без необходимости выпускать свой токен. На практике пока еще ни одного рабочего AVS нет, но я ни на секунду не сомневаюсь, что команда Айгена все заделиверит. Вопрос скорее в том зачем это нужно и насколько большой рынок за пределами фармилок APR.

Токен EIGEN будет использоваться для проверки однозначных фактов, которые нельзя проверить криптографически. Например, валидность блока можно проверить контрактом, а валидность цены биткоина можно только спросив кого-то в реальном мире. АйгенЛеер громко заявляет, что теперь ETH станет универсальным способом нахождения экономического (теоретико-игрового с реальным баблом) консенсуса относительно любых задач, типа правильно сработал ваш ИИ, в сохранности ли ваши данные, не читил ли кто-то в ончейн игре?

Токен появится через 6+ месяцев, но ажиотаж уже дикий. Есть даже ряд LRT проектов, которые позволяют получать ликвидные ристейкинг эфиры и EIGEN поинты (то есть, будущие токены) уже сегодня. Я в один из таких залетел, это не реклама и всё на ваш страх и риск, но по моей ссылке дают +5% бонусов в виде EIGEN и их собственных поинтов, плюс в инвесторах Coinbase, CoinFund и прочие большие уважаемые люди.

Вывод: это все будет большим и тут будет много денег, но прикрываясь словами о децентрализации и универсальности Эфира, Айген хочет всех сожрать. Хоть я и против, я все равно эйпанулся (почему — в предыдущем посте).

А OpenAI (это такой EigenLayer для бумеров) выкатил gpt2-chatbot. Я сначала подумал что они там просто наркотиков переели, но нет. Gpt2 (не путать с GPT-2) это новая модель, которая уже доступна на арене для теста, хоть и без официального анонса.

Все, кто с моделью соприкасался, утверждают, что это значительный скачок вперед по сравнению с текущим поколением. В твиттерах ходят теории, что это либо версия GPT-4 до «лоботомии», либо демка GPT-4.5/5.

Я попробовал на кучке рабочих промтов и результат, как минимум, не хуже чем GPT-4. Субъективно кажется более точным, конкретным, меньше воды и умеет в неочевидные логические и ассоциативные связи. Кто-то в твиттере попробовал на задаче по международной олимпиаде по математике — он решил с первого раза.

Развлекаться тут.