Telegram Web Link
Еще один вопрос дня!

AI фундаментально создает условия для персонализации институтов. AI лучше любого человека умеет в манипуляцию, подделку фактов, наигранную и неотличимую эмпатию. Это данность. Сегодня это стоит несколько миллионов долларов (в масштабе), завтра будет стоить пару тысяч. К это приведет через 3-5 лет?

А. Конец демократии. Каждому из миллиардов людей в его VR очки или мессенджер придет бот, который абсолютно безошибочно надавит на все нужные гормоны, эмоции, убеждения и заставит его неизбежно проголосовать за кого надо. За бойдена, путена, цукербрина, да хоть ХАМАС, не так важно.

В. Конец "социальных" институтов. Вместо средненько-хреновенькой публичной медицины для всех раковых больных — персональный доктор, который проводит 24 часа с тобой начиная с твоего рождения, постоянно следит за всеми био показателями, помогает предотвратить большинство болезней, а не помогает "дожить". Вместо полубесплатного образования — тьютор, никогда не устающий и не теряющий внимание, который может помочь с защитой диссера постдоку или обучить грамотности 30-летнего африканца, который получил свой первый андроид.

Вижу споры между капиталистами и коммунистами. Между тоталитаристами и демократами. Между консерваторами и прогрессистами. Но это все ерунда. Это только чтобы языком почесать, это не важно. Абсолютизм и редукция в силу низкой пропускной способности wetware (жидкого ПО, мозга).

Реальный вопрос: когда эта технология станет фактически бесплатной, кто будет её бенефициаром? А или В? А каким именно "истом" ему себя назвать ему подскажет ИИ.
Ищу аналитика/рисерчера в мою AI команду cyber.fund

Куда? Зачем?
Cyber.fund is a $100mm research-driven fund investing in web3, decentralized AI, autonomous agents and self-sovereign identity. We're a team of builders behind Lido, p2p.org, =nil; foundation, Neutron, NEON and pre-seed/token investors in Solana, Ethereum, EigenLayer and 150+ others. We've invested in FHE for ML, privacy-first ML (LLMs), AI aggregations and routing platforms and decentralized AI.

Кто нужен?
Нужен человек на стыке бизнеса и академии.
Хорошая теоретическая база в CS и обязательно ML;
Технический ВУЗ, а идеально PhD чего-то уровня МФТИ или MIT;
Публикации по теме ML, а идеально уровня NeuroIPS;
Работа в стартапах или бигтехе, а идеально еще и опыт ангельских инвестиций;
Обязательно глубокое помание алгоритмов, техник и моделей в ML, а идеально умение превращать это в продукт;
Fluent English, intellectual curiosity and a passion for staying current with the latest advancements in AI/ML.

Что надо делать?
1. Due Diligence
Технический, продуктовый и бизнесовый анализ потенциальных инвестиций в AI/ML. Анализ рынка. Общение с фаундерами и технической командой проектов. Оценка масштабируемости, надежности, рисков и ограничений продуктов.

2. Portcos support
Стратегическая и техническая поддержка портфельных компаний в AI/ML. Помощь в построении технологической стратегии, найме, нетворке в индустрии. Поиск потенциальных проблем и способов решения для проектов.

3. Research
Следить за и анализироть текущие тренды в ML/DL/AI (например: synthetic data, flash attention, 1bit LLM, FHE for ML, JEPA, etc.). Написание публикаций, whitepapers, потенциально проведение X spaces/стримов/подкастов по теме (на английском). Поиск многообещающих компаний и проектов для инвестиций.

Мне интересно и я подхожу под требования, куда писать?
Присылайте CV на [email protected]; cover letter, ссылки на публикации, OSS контрибьюшены и другие достижения будут плюсом.
Локация не важна, но часовой пояс между EET-EST (от Восточной Европы до Восточного Побережья США).

Один из тех наглых постов жесткого рекрутмента, которые можно бесстыдно шарить по группам и каналам ;)
За последние три дня мне довелось побщаться с лидерами AI-индустрии. Конечно, про децентрализованный ИИ.

В ходе этих дискуссий стало ясно, что AI должен стать чем-то вроде public good, доступным для каждой страны, компании, индустрии и профессии. Каждый из нас (компаний на рынке, специалистов в индустрии, людей в стране) обладает уникальным набором знаний и данных, и только совместив их, мы можем создать по-настоящему эффективные модели. Децентрализованный подход к AI становится ключом к успеху. Краудсорсинг данных позволяет создавать модели, которые лучше всего решают практические узкие задачи.

50 лучших клиник могут совместить данные для создания диагностической модели, 40 лучших VC фондов могут сделать модель для скрининга дек, 10,000 носителей монгольского языка могут сделать крутую локальную модель (речь о данных, не algo+compute).

Но как распределять ресурсы, награды и владение такими моделями? Одним из решений являются токены. Они позволяют справедливо распределять ценность и обеспечивать владение моделью коллективно. Это не просто мемкоины — это бизнес-модель, позволяющая генерировать ценность и капитализировать протокол. Получается не только эффективно, но и справедливо. dAI объединяет усилия множества участников для создания топ моделей и обеспечивает справедливое распределение владения и вознаграждений.
Любопытный пейпер от DeepMind — mixture of depth. Идея в том, что для генерации разных токенов в LLM нужно разное количество ресурсов. Например, начать новое предложение требует больше вычислений, чем поставить знак препинания. Это позволит в теории сэкономить до 50% вычислительных ресурсов без потери качества, но требует новую архитектуру моделей.
This media is not supported in your browser
VIEW IN TELEGRAM
GameFi за последние 7 лет пережил ряд взлетов и падений. От Криптокотят до лоттерей и казино; от Dark Forest до невнятных collectibles игр 2022 года. Миллиарды долларов спустя, становится ясно: ончейн игры это крутая платформа для нового типа игр, но не для всех.

На примере игры OCT постараюсь показать что работает, а что не работает в современном ГеймФае. OCT — это быстрый фулли-ончейн кликер с фокусом на миллионы мобильных игроков, и с призами в USDT.

Идея: На землю прилетает гигантский ончейн объект (The OCT, октаэдр), в центре и в слоях которого зарыты различные сокровища. Игроки должны кликать по нему вместе (это мультиплеер), открывая ячейки, собирать призы и обменивать их на USDT в трежари. Как только кто-то доберется до центра и заберет главный приз - игра закончится навсегда. Игрокам даётся майнинговое оборудование, которое можно совмещать и увеличивать скорость внутриигорового майнинга для поиска наград, рисования арта на октаэдре, увеличения главного приза.

- Казуальные игры имеют больше смысла в ончейн компоненте, потому что их экономика менее замкнутая сама на себе. Зачем DoTA или WoW добавлять токены, если они уже генерируют десятки миллионов в месяц на своей внутренней экономике в долларах?
- Важна легкость входа: сначала геймплей, потом ончейн. Чтобы начать играть не нужно требовать пользователя купить токены, кроссовки, НФТ.
- Мультиплатформенность: начать играть с айфона, андроида, веба и даже изнутри Телеграма (как это делает OCT).
- Баланс геймплея и финтеха. Фан от игры и доход в USDT это примерно те же химические процессы в мозге. Поэтому, хороший GameFi должен балансировать фан и возможность игроку бешено разбогатеть.

Если вам интересно попробовать — сегодня OCT проводят мини-игру - это маленький OCT, который 200 человек вместе смогут открыть целиком примерно за час.

Внутри 40 призов по 20 USDT и 4 приза по 300 USDT. Играть тут, платить ничего не нужно: @totheoct (в био можно скачать приложение для айфона или андроида).

Пост не рекламный, никто за него не платил.
О будущем LLM

Не знаю за ваши модные ку-стары, но вот некоторый набор уже практически фактов про LLM в перспективе месяцев:

1. GPT и LLaMa — это не продукты, а исследовательские проекты. Как только детали архитектуры, пайплайнов, датасетов станут ясны (экспериментальным путём), стоимость тренировки аналогичной модели упадет в разы, а скорее сотни раз. Вы сможете сделать претрейн специализированной модели за $10-100k, причем даже в распределенной среде.

2. То же самое с инференсом. За счет квантизации, MoD, оптимизации под edge девайсы и архитектуры ARM, TPU, NPU модели уровня 13-30В параметров можно будет запускать на телефонах.

3. За счет увеличения окна контекста до миллионов токенов, файнтьюнинг становится не так важен. Ты просто копируешь промт на 10-100 страниц со всей историей своей жизни или организации и получаешь персональную модель. Стоимость переключения с Зефира на Гермес, с Клода на Databricks становится ровно три клика и один копипаст.

4. Адаптивный роутинг. Приложения выбирают модели на лету, в зависимости от задачи. Модели выбирают инфраструктуру для вычислений на лету, в зависимости от спроса и предложения на железо в конкретный момент.

5. RAG не уйдет, а, наоборот, заменит в некоторой степени претрейнинг. Большие децентрализованные RAG датасеты на миллиарды или триллионы токенов будут просто «подсасывать» знания на лету, что позволит делать базовые еще тоньше, быстрее и запускать на микроволновке (quite literally).
К чему должен стремиться каждый инженер (и продакт, for that matter)
У меня и моего канала наконец появился полноценный цифровой двойник.

За последние 1,5 года я уже делал несколько подходов к созданию бота-двойника и оцифровки себя, но на этот раз все серьезно. Бот знает все посты на моем канале и умеет на основе них отвечать на вопросы по теме веб3, NLP, LLM, DAO, стартапов, тех стратегии, философии прогресса и всего такого. За бота спасибо Байраму (кстати, у него определенно лучший канал про продукты и стартапы в телеграме).

Это не просто бот, но еще и..

а) менеджер личных консультаций (пока времени нет, но с мая-июня открою несколько слотов в неделю)
б) постоянно обучающийся цифровой двойник, который записывает в свою память все мои публикации, все что я говорю в личных консультациях и других источниках.

Пока что первые дни, но, что критично, эту проблему достаточно решить один раз. Как только (а это скоро) бот будет писать и отвечать на вопросы не хуже меня, мне не нужно будет тратить время на канал. Я буду писать только новые идеи, который бот будет тут же подхватывать и адаптировать для каждого, кому она может быть актуальна.

Пока бета версия, тестить тут: https://www.tg-me.com/mindshare_gershuni_bot

Ответы логируются. Боту нужно задавать конкретный вопрос, не просто «привет как дела».
Удивительно насколько сильно поменялся ландшафт LLM за последние пару месяцев. В январе-феврале безусловным лидером был GPT-4, а сегодня самой производительной моделью является Opus, а новая открытая и бесплатная модель от Cohere Command R показывает себя как минимум на уровне GPT-4.

Я уверен, этот рейтинг еще многократно поменяется до конца года.
Не знаю, стоит ли этому каналу скатываться в обсуждение и описание новых релизов и пейперов в ML, но пока это наиболее интересное, что происходит в интернете.

Вот например вчера вышел новый GPT-4-turbo, про который написали абсолютно все члены команды OpenAI, что чего-то да стоит.

Сегодня Mistral выпустил новую 176В модель. Как обычно, релиз в виде magnet ссылки, а описание на скриншоте выше. Такое мы любим. В такое мы готовы delve (кто понял шутку ставим сердечко).

А через месяц нам Мета кровь из носа обещает LLaMa 3.
Неделю назад писал про тренировку больших языковых моделей за $10-$100k. Меня тогда немного закидали помидорами.

А сегодня выходит статья, авторы которой показывают как они смогли с мощью архитектуры JetMoE (придумала веб3 компания MyShell) натренировать с нуля на более чем триллионе токенов 7B модель, которая превосходит Llama2-7B и при этом стоит всего $100k в тренировке.

Только лишь в GPU-часах это примерно в пять раз дешевле, чем тренировка самой Llama2-7B. А ведь прошло меньше, чем полгода.
О рынке мемов

Сегодня был на конференции Forklog (запись тут), рассказал о планах с цифровым двойником, важности децентрализованного ИИ и программируемой (кибернетической) экономике. Но хочется поделиться одной идеей, которая спонтанно родилась в ходе ответа на вопрос про мемкоины.

Мне кажется, что крипта/веб3 — это рынок меметики. Поясню. Сначала определения.

1. Меметика это наука о культуре, идеях, верованиях, то есть о мемах, о ноосфере. Об идеях, которые существующуют в цивилизации.

2. Крипта — это технология создания программируемых рынков.

3. В понятие мемкоина я включил бы все проекты, которые не генерируют реальной ценности или денежного потока: Ripple, Cardano, большая часть RWA, DePin, GameFi и, собственно, сами мемкоины.

Так вот, все эти рынки токенов это по сути рынки идей, меметики. Люди покупают и продают не дисконтированные денежные потоки организаций (тут нет потоков); это не ценные бумаги или секьюрити (они не обещают ничего в будущем); это не коммодити (куда ты денешь пепекоин или deai токен какого-нибудь бесполезного ИИ агента, или даже полезного агента, но которому токен не нужен).

Это именно что рынок самих идей. Люди покупают и продают веру в то, что собака в шапке это весело; что сеть вайфай роутеров вместо провайдера это классно; что возможность токенизировать металлы в астероидах это любопытно. Это такой глобальный рынок предсказаний, где лудоманы и хомяки являются поставщиками ликвидности, а мир в целом узнает чуть-чуть больше о себе.

techo-capital-memetic machine ftw
Вообще, меметика это не про крипту, а про те случаи, когда культура и нарратив выше утилитарной стоимости. Золотая лихорадка, wework, доткомы, decentralized storage, gamefi, RWA, ИИ-посудомойки и кофеварки — эти вещи не лишены фундаментальной ценности, они производят реальные продукты, которые покупают живые пользователи. Но их product-narrative fit куда выше чем product-market fit.

В случае МММ или Bitconnect это 100% меметика и 0% PMF; в случае какого-нибудь классического ритейла или производителя подшипников это на 99% PMF.

С точки зрения инвестора, это не всегда плохо. Например, токены (крипты, не LLM) позволяют получить дешевый — часто даже бесплатный — CAC (стоимость привлечения пользователя). Но если токен становится продуктом компании, то долгосрочно он либо превратится исключительно в мем, либо исчезнет вообще.

Но для меня это крайне важный критерий. Любой продукт должен появиться вовремя на созревшую почву социальных мемов. Но инвестировать в компании, чьи продукты по большей части меметика это ближе к спекуляциям. То есть, на это можно быстро заработать, но это high-touch инвестиция: нужно следить и вовремя продать. Поэтому сегодня я вижу каждый третий ИИ-стартап со списком инвесторов, 100% из которых — это крипто фонды. Это сигнал, что те инвесторы, которые шарят в индустрии просто пасанули и не поверили. По этой же причине, у Theranos было ровно 0 инвесторов из Долины.

С другой стороны, проекты с 0% меметики вряд ли станут успешными бизнесами. Им будет сложно продавать свою идеи, поднимать деньги, создавать партнерства.

Идельной формулы нет, но мой личный вкус это сначала сильный продукт и команда, а потом уже выстраивание истории, нарратива, позиционирования вокруг него.
С лета наблюдаю как развивается проект Виталика Крылова "Команда А" и результаты впечатляют:

1. Программа Команда А существует уже 10 месяцев, за это время ее прошли 90 предпринимателей.
2. Участники программы это и небольшие компании с выручкой 100-500млн руб, так и крупные бизнесы с выручкой 1-5 млрд руб.
3. Средняя оценка качества тренинга - 9,5 из 10. Виталик сильно заморачивается над качеством продукта и старается, чтобы каждая минута программы была полезная и комфортная
4. На программе не бывает случайных людей, все проходят отбор лично у Виталика. На прошлый поток пришло 188 заявок, из которых до звонка прошли 80 и в программу взяли только 30 человек.
5. В программе учувствуют спикеры - только владельцы и руководители топ компаний (такие как СЕО Циан, Самолет, Хедхантер, Delivery Сlub, Ozon, Utkonos, Атланты и тд.)
6. Тренинг проводят в лучших отелях 5* в Москве с полноценным ресторанным обслуживанием, но есть и онлайн формат
7. Участники программы отмечают, что им стало сильно легче привлекать талантливых специалистов, у них появилась четкая и прозрачная система найма, а времени на контроль и управление теперь уходит меньше благодаря системе регулярного менеджмента

Я не видел ни одной такой мощной программы с таким крутым экспертным бордом. Кстати, отлично подходит для предпринимателей, которые ведут бизнес на глобальном рынке. Среди участников процентов 30, кто ведет международный бизнес. Я сам хочу присоединиться к тусовке и вам советую!

Если у вас в планах масштабироваться, вы застряли в операционке и на одном месте, и не хватает компетенция для найма сотрудников уровня А, то
заходите в канал к Виталику и подавайте заявку на участие https://www.tg-me.com/howtomake10x

#реклама
Послушал два подряд интервью Сэма Альтмана, сэкономлю вам 4 часа и расскажу самые интересные мысли из них:

1. Интервью с Лексом: не ответил ни на один интересный вопрос: на чем тренировали Сору? что случилось в ноябре? где Илья? когда GPT-5 и как она будет выглядеть? Интервью с 20VC конкретнее, но без глубоких вопросов, больше про бизнес.

2. Интеракция ожиданий и реальности. Сначала все восхищались GPT-3.5 и подобными моделями. Попользовавшись ими, люди поняли что это относительно простая и бесполезная штука. Люди разочаровались. Пока все пишут что «этот ваш ИИ не умеет Х», происходит стремительное развитие базовых моделей. То есть, реальность и ожидания находятся в рассинхроне и поэтому адопшен будет медленнее, чем мы ожидаем.

3. Долгосрочным конкурентным преимуществом ИИ будет персонализация: ассистент, который знает всю ваши историю, контекст, привычки и желания. И помогает в жизни исходя из этого. Но прямо сегодня мы находимся во времени стремительного улучшения фундаментальных моделей, и поэтому сегодня конкуренция идет именно между тем кто сделает модель умнее.

4. Есть две стратегии создания ИИ бизнеса. Первая — предположить, что текущие модели (GPT-4-turbo, Opus, what have you) это финал и строить продукт на их основе. Вторая — предположить, что скорость развития уровня и качества моделей останется таким же. Во втором случае, не нужно удивляться что «OpenAI убил мой стартап», потому что это просто их работа — сделать модель умнее и достичь AGI.

5. Главная проблема ИИ сегодня — модели просто недостаточно умны. И решение этой проблемы это наш главный фокус.

6. Уникальная культура OpenAI:
Исследования информируют и двигают разработку продукта
Продукт информирует и двигает стратегию продаж.
В большинстве компаний это не так, часто даже наоборот.

7. При найме смотрим на умение четко коммуницировать свои идеи и цели. Редко нанимаю своих прямых подчиненных с рынка. Обычно, знакомые или промоушен внутри.

8. OpenAI была и рано или поздно снова станет роботической компанией. Наша миссия — AGI. Без embodiment это невмозожно.

9. Определение AGI. Во-первых, глобальная экономика существенно (в разы) изменилась вследствие развития ИИ. Во-вторых, ИИ существенно ускорил скорость развития в большинстве областей науки.

10. Главная проблема вокруг ИИ/AGI — это не ИИ уничтожит всех, а гавернанс и баланс власти вокруг организаций, которые создают и владеют ИИ.

Последнему пункту я люто плюсую, и занимаюсь этим.
Прошло чуть больше недели от запуска моего цифрового двойника. Хочу поделиться статистикой, первыми выводами и планами.

Всего с двойником пообщалось 200 пользователей, задав почти 400 вопросов и с ~80% позитивной оценкой ответов. Ретеншен бота слабый — многие просто не поняли что вообще нужно делать. Очень много вопросов было из серии "привет", "ты кто?", из которых бот пока не умеет выводить вопрощающего в какое-то рациональное русло. Но на вопросы по теме некоторые ответы удивили и меня до уровня "вау, неужели так можно?!".

Я тесно общаюсь с командой разработки, в следующих версиях хотелось бы:
- память и возможность задавать дополнительные вопросы (сейчас бот не хранит историю)
- проактивность бота, чтобы он сам писал людям когда появляется новый контент на интерсующую их тему
- консилиум ботов многих каналов (например, про ИИ я бы хотел получить ответ одновременно из Сиолошной, эйай ньюс и Метаверсища, потому что каждый автор добавит свои интересные мысли)
- эвристики для типичных случаев (послать если грубят, объяснить если тупят, спросить если молчат, показать про что спрашивать если не понимают)

Кстати, в следующую пятницу мы с Байрамом (СЕО компании, которая сделала бота) проведем 2-х часово вебинар на тему автономных агентов и AGI. Записаться на вебинар можно прямо из бота. Цена $20, но будет увеличиваться на $5 каждый день вплоть до $50, оплатить можно из любой страны и любой картой. Вот некоторые темы, которые мы затронем:

- когда случиться decentralized AGI? какую роль в нем играют автономные агенты? кто и как их будет делать?
- для чего нужны агенты? как они встроятся в экономику?
- как делать агентов, чтобы их не убил OpenAI? как создавать сильные конкуретные преимущества?
- как децентрализованно создать ИИ модели? как ими управлять?
- как людям и бизнесам нанимать агентов? как агентам нанимать людей? какая экономика нужна, чтобы сделать это возможным?
- какие сущетствуют и будут moats в ИИ? как создать долгосрочный бизнес/продукт?

Чтобы пообщаться с ботом переходите по ссылке ниже. Чтобы записаться на вебинар нажмите кнопку "Book": https://www.tg-me.com/mindshare_gershuni_bot
Обнаружил интервью Дурова Карлсону, обрадовался, но это какой-то фейл.

Какие-то бессмысленные вопросы о политике человеку, который очевидно политикой не занимается и не интересуется (а она им — да). В этом смысле фон из стульев с пиками и кое-чем ещё красиво смотрится со словами Павла о том, что миссия Телеграма — не занимать никакую позицию в любом политическом булшитинге.

Что в целом верно: правые, левые, синие, зеленые — всё одно. Мир меняют не политики, а продукты. А политики могут только срать в комментах и издеваться над взаимным населением с помощью баллистических ракет.

Но блин, как можно сделать интервью и не задать ни одного вопроса по теме?! Как телеграм нанимает, как устроен продуктовый процесс, как работает, как валидируют фичи, как масштабируется с такой маленькой командой, планы с тоном и его экономикой?

Короче, ждём еще 7 лет и надеемся что интервьюер будет не идиот.
Я скептически отношусь ко всем курсам по нейросетям, но бесплатное отраслевое онлайн-мероприятие, где можно прокачаться в прикладном использовании, — это совсем другое дело.

С 23 по 26 апреля на канале Магия Нейросетей выступит более 20 спикеров с небанальными темами по четырём направлениям:

Users: реальные кейсы и применение нейросетей в бизнесе
Developers: технические детали и разработка ИИ-решений
Visioners: тренды развития ИИ и его будущее
Practics: мастер-классы и челленджи для отработки навыков

Увидимся на NeuroWeekend!

#реклама
2024/10/04 11:31:20
Back to Top
HTML Embed Code: