Пункт второй: “над”, а не “вопреки”
Физический мир меняется и будет меняться куда медленнее, чем цифровой. В интернете, в ДАО можно протестировать механики гавернанса миллиона долларов в крипте за пару недель (сегодня — прямая демократия, завтра — меритократия, послезавтра — делегация) просто поменяв одну строчку в смарт-контракте. **
Многие комментаторы почему-то считают что сетевое государство или ДАО должно моментально уничтожить или, как минимум, силовым образом потеснить существующие физические страны. Кидаться на ментов с вилами, условно. Что, конечно, бред, если вы не оголтелый революционер, который жаждет крови.
В реальности же уровни стэка выстраиваются поверх уже существующей инфраструктуры. Сетевому государству не нужно строить свои дороги и больницы, но только при условии, что на территории, где живут его жители уже есть достаточно неплохая инфраструктура. Например, сетевое сообщество в Дубае это умеет, а в джунглях Бали будет строить с нуля (два совершенно реальных проекта).

Зачем нам нужна киберэкономика?

Интеллект — это способность адаптироваться к сложной и меняющейся среде.

Кибернетическая экономика (на базе ИИ и программируемых рынков) решает вопрос скорости адаптации.

Вместо политических и денежных циклов, экономические проблемы могут решаться с быстротой программного обеспечения.

Вместо ежегодной стратегической сессии и квартальных OKR, DAO дает инструменты адаптировать систему принятия решения на основе постоянного фидбека из внешней среды.

Фактически, киберэкономика нужна для построения более быстрых и сложных систем с обратной связью (быстрее и умнее, чем бюрократия благодаря ИИ), которые могут при необходимости автономно иметь экономическую агентность (благодаря цифровым активам и смарт-контратам) без необходимости доверять единому контроллеру этой системы (благодаря децентрализации в системе управления и контроля над ИИ).

Часто рассуждения о киберэкономике или network states заканчиваются вопросом: «а почему же государства отдадут власть?»

Мне кажется этот вопрос не имеющим смысла и пассивным — если вечно ждать и ничего не делать, то ничего и не случится. Мне так же категорически не нравится идея «забрать силой», потому что это происходило сотни раз в истории и всегда заканчивалось бедой.

Практический переход между системами происходит не тогда, когда король сказал «надо» (в этот момент бояре бегут брить бороду, не понимая зачем), а когда новый продукт значительно (х2-10) превосходит существующий по стоимости, качеству, удобству. Это никогда не происходит сразу после его изобретения, но требует время чтобы новая технология была отточена, масштабирована и люди научились ей пользоваться.

Например, крипте и дефаю потребовалось 6-7 лет (и потребуется еще 4-5 для реального адопшена account abstraction, масштабирования скорости и дешевизны сетей, и т.д.), но в итоге есть десятки миллионов пользователей, для которых это удобно, понятно, прозрачно и более безопасно чем банки. И именно по этим причинах их количество будет расти. А не потому что король сказал «надо».

То же самое и в ИИ, будь то в гос управлении или написании софта. Любая организация (включая страны) будет проигрывать конкуренцию, если не начнет внедрять ИИ, потому что ручная бюрократия не способна быть настолько же эффективной. Да, один менеджер или президент может в своей локальной юрисдикции отложить внедрение чего-то нового, но рано или поздно случится кризис, потому что если весь мир стал х10 эффективнее, а ты запрещаешь использовать электричество или ДВС у себя в колхозе, то твой колхоз перестанет существовать или будет рефармотирован изнутри — это будут требовать участники системы.

Заметил, что многих конфузит и корежит от слова "кибернетика". В фб даже предложили, что это будто бы про плановую экономику. На самом деле, скорее наоборот, но сама по себе кибернетика это не про экономику.

Если вы читаете пост или статью, то можете заменить слово "кибернетический" на "самоуправляемый" и смысл останется тот же, но будет меньше аллюзий и рефлексий о нашем советском детстве ;)

Что такое AGI?

Так же как и с интеллектом, существует огромное количество определений AGI. Обсуждение этого важного вопроса в большинстве случаев упирается в то, что люди говорят о разных вещах. Цель данного поста (или двух, как пойдет) посмотреть на них и предложить удобную классификацию для дальнейших дискуссий.

Алан Тьюринг впервые дал определение ИИ как машина, при разговоре с которой невозможно отличить её от человека. К сожалению, это определение больше говорит о том как легко обмануть людей, чем о том насколько классный ИИ. К тому же это было многократко достигнуто, но нельзя назвать эти системы AGI.

OpenAI определяет AGI, как “ИИ, который может выполнять большинство экономически значимых задач”. Возникает вопрос, а что касается сложных, но экономически бесполезных задач типа придумывания анекдотов?

Ben Goertzel, автор термина AGI, определил его как машина, которая может выполнять когнтивные задачи, которые умеет выполнять человек. Тут сразу вопрос о том какие именно задачи мы имеем в виду и какой уровень считается AGI?

Интересен подход ACI, который по сути повторяет тест Тьюринга, но вместо сообщений в чате, боту нужно взять реальные $100,000 и за пару месяцев сделать из них $1,000,000 любым способом. Оргинальное определение, но довольно узкое.

Еще одна вариация на тест Тьюринга расширяет его до пяти задач: понять фильм (Кристофера Нолана), пересказать книгу, приготовить что-то в кухне где робот ни разу не был, написать большую программу без ошибок и перевести текстовое описание формулы в математическую нотацию).

📈 КАК ПОЛУЧИТЬ БЕСПЛАТНЫХ КЛИЕНТОВ И ЗАКАЗЫ С ПОМОЩЬЮ НЕЙРОСЕТИ 📈

Разбираем подробно в 5 бесплатных ПРАКТИЧЕСКИХ УРОКАХ

+ ПОДАРКИ:
🔵 «50 способов заработка на нейросетях»
🔵 «Разбор применений нейросетей в 50 нишах»
🔵 Разбор автоворонки на ИИ, которая принесла 1 млн при вложениях 120к

👉 ССЫЛКА на ПОДАРКИ

🎁 И только для вас нейросеть бесплатно составит стратегический план роста дохода и сделает глубокий анализ вашей целевой аудитории

#реклама

Шкала AGI
Теперь давайте определим AGI, но не как точку, а как направление движение.

Во-первых, помимо конкретных навыков, AGI должен обладать мета-навыками, а именно: умение обучаться новым навыкам, умение планировать и понимать когда нужно попросить помощи, эмпатия и социальные навыки.

Во-вторых, нам необходима шкала способностей ИИ, например такая:
1 Не ИИ: не умеет самостоятельно выполнять задачи. Пример: калькулятор.
2 Базовый ИИ: умеет выполнять узкую задачу на уровне непрофессионала. Пример: камера наблюдения, которая считает детали на конвеере.
3 Общий базовый ИИ: умеет выполнять широкий спектр задач, но на уровне непрофессионала. Пример: ChatGPT, Llama-3, etc.
4 Общий профессиональный ИИ: умеет выполнять широкий спектр когнитивных задач не хуже, чем 50% людей в случайной выборке. Такого ИИ еще не существует.
5 Общий экспертный ИИ: умеет выполнять широкий когнитивных спектр задач не хуже, чем 90% людей в случайной выборке. Такого ИИ еще не существует.
6 Общий сверх ИИ: умеет выполнять широкий когнитивных спектр задач не хуже, чем 100% людей. Такого ИИ еще не существует.

Наконец, мы добавим автономность ИИ как еще одну категорию:
1 Не ИИ: Excel, CRM, калькулятор
2 ИИ-инструмент, используется человеком: поиск, переводчик, суммаризатор Youtube видео, co-pilot программиста.
3 ИИ-коллега и равнозначный партнер: ИИ, который тренирует вас играть в доту.
4 ИИ-эксперт, управляет процессом: не существует (плюс-минус, пол-палец-потолок).
5 Полностью автономный ИИ: не существует.

Теперь, говоря об AGI, мы можем сказать что речь идет о системе без мета-навыков, обладающей способностями общего базового ИИ и автономностью коллеги/второго пилота. Что действительно можно назвать AGI, но это на многие годы далеко от общего ИИ, который самостоятельно ставит и выполняет цели и имеет способности выше, чем любой из живущих людей во всех доменах.

Сегодня общался с командой, которая делает Nomad Паспорт — это цифровой паспорт, который дает вам право приезжать, жить и работать в разных странах мира. В момент запуска будет 5-6 стран: Малайзия, Эстония, Канада, Япония и еще пара, с которыми идут переговоры. По-моему, это отличный продукт, причем не столько для людей (если у тебя паспорт US, то у тебя такой острой проблемы нет), сколько для сообществ (нам важно, чтобы все 100 человек в нашей мега-тусовке смогли приехать и жить/работать вместе, даже если кто-то из них родился в Иране, Афганистане или Донецке).

Network state — это не идеология, а искусство возможного. Я вижу людей идеалистов, которые верят в единственную верную концепцию NS (например, имени Балажи) и считают все остальное жалким подобием. Есть другие, с сильным пассивным пессимизмом, которые разочарованы в попытках что-то изменить. И есть еще одна, очень мне близкая категория — прагматичные оптимисты. Они понимают, что для в первую очередь цифрового мира с цифровой собственностью и кибернетическими системами управления текущие подходы к координации не работают и нужны новые.

Так вот, пока любители повыть в интернете воют в интернетах, другие делают. И это не так просто, как "отобрать власть силой" или "подождать пока мимо меня проплывет труп врага" — это сложная работа! Это месяцы, годы разговоров с правительствами, написания полиси, работы с институтами иммиграции и инноваций в разных странах.

И это у меня вызывает максимальное уважение! Не жаловаться, а брать и делать, даже если сложно. В ближайшие 2-3 года мы увидим десятки pop-up городов, а-ля Burning Man, где люди со всего мира съезжаются чтобы вместе работать на 1-2 месяца. Вокруг них растет инфраструктура и бизнес-модели, оттачиваются практики. Мы, очень верю, будем поддерживать все больше таких проектов и вместе с ними искать прагматический, практический и рабочий способ создания цифровых сообществ и, наконец, наций.

Сегодня твиттер взорвался. Экс-сотрудник OpenAI из команды Superalignment опубликовал 165-страничный документ о будущем ИИ.

Там много деталей, фактов, индукции и вполне разумных прогнозов, поэтому прежде чем строчить гневные и безумные комментарии крайне советую прочитать сам документ.

- AGI к 2027 году более чем вероятен.
- После AGI переход к ASI (сверхинтеллекту) за счет самообучения будет очень быстрым, почти мгновенным
- AGI — это самый существенный геополитический ресурс, куда важнее, чем ядерное оружение и страны пойдут на многое, чтобы получить его первым. В статье приводятся примеры того как китайцы шпионят за ИИ-компаниями в США.
- сегодня большой дата-центр это единицы или десятки мегаватт, но с ИИ потребность вырастет на, как минимум, 4 порядка (x 10,000)
- мы увидим единый вычислительный кластер стоимостью в триллион долларов в течении пяти лет. самая рациональная инвестиция со стороны state actors и big tech — это compute, атомная энергия и инфраструктура для первых двух.
- NVIDIA, MSFT, AMZN, GOOG уже сегодня планируют капекс в $100B в квартал на датацентры только для ИИ
- к 2030 году ежегодно и глобально будет инвестироваться $8T в ИИ (включая чипы и компьют), а так же только для ИИ будет потребляться больше чем 100% э/э генерируемой в США сегодня
- к 2026 году выручка одной из big tech компаний от ИИ превысит $100B
- это не безумно, и сравнимые расходы и сдвиги происходили во время Манхеттенского проекта или Промышленной революции и строительства ж/д

Завтра продолжу со второй частью

Если вам лень читать, то можете послушать вышедший сегодня 4-часовой подкаст о том же самом: https://www.dwarkeshpatel.com/p/leopold-aschenbrenner

Как разработчику или менеджеру в IT запустить свой пет проект?

Сидеть и работать в корпорации – страшно, жизнь-то мимо проходит. Уходить строить бизнес – страшно, а вдруг прогорит.

Один из вариантов – пилить свой проект по вечерам. Ведь многие успешные компании, типа Twitter, начинались как Пет проекты.

Мы не говорим, что пет проект обязательно заработает миллиарды. Но заработать денег больше, чем в найме, вполне реально, а уж опыта получить точно больше можно.

Но есть куча проблем и вопросов:

- Как выбрать идею для пет проекта?
- Что нужно знать про маркетинг?
- Как запуститься и довести до первых продаж не имея бюджета на рекламу?

Михаил Табунов сделал про все это телеграм канал Твой пет проект, в котором пишет для разработчиков и менеджеров про свой опыт – где брать идею, что надо знать про маркетинг, как запускать и искать первые 10 клиентов, и многое другое.

Так что подписывайтесь на Твой пет проект, получайте пользу от практиков рынка.

#реклама

Как управлять сверхинтеллектом?

Если ИИ, превосходящий человека во всем, включая обман, ложь, жажду власти, грядет относительно скоро, то каким образом мы можем контролировать его? Как гарантировать что военный ИИ управляющий тысячами дронов будет слушаться приказа? Или финансовый ИИ не решить поддержать себя, вместо экономики? И то, и другое делают сегодня люди вместо ИИ, но мы хотя бы понимаем как их можно контролировать.

В нашумевшей статье приводится много деталей о подходах к superalignment — техническим подходам к управлению и согласованию целей ИИ с нашими, понимании его работы, созданию доверия между человеком и сверхумной машиной.

Если/когда AGI будет достигнут, то текущие методы контроля (RLHF, возможность читать текст “мыслей” модели типа chain-of-thought) перестанут работать. Одновременно с этим, скорость развития ИИ только увеличится, ибо первой работой AGI будет профессия “ИИ исследователь/инженер” и появятся миллионы ИИ-агентов делающих ИИ-рисерч. Сверх-ИИ вряд ли будет “рассуждать” в токенах английского языка, ибо это критически неэффективно, даже в текущих моделях.

Технически и математически Superalignment возможен, но все описанные подходы сводятся к тому, что для контроля и оценки более мощного ИИ используется более слабый, но которому мы точно можем доверять. Вот почему:

- Оценка результата модели всегда сильно проще, чем генерация. Это значит, что более слабый интеллект будет в состоянии оценивать качество работы более сильного.
- Автоматизация надзора, в частности когда более слабая модель проверяет не весь спектр способностей более мощной, а только очень узкую их часть. Например, написание кода без бекдоров и ошибок.
- Модели генерализируют. Это значит, что если модель обучена давать честный ответ на простые задачи, то есть основания предполагать, что её поведение будет таким же с более сложными, не подсильными человеческому интеллекту, задачами.
- Механистическая интерпретация, то есть МРТ модели в процессе её работы. Определение конкретных мест в процессе выполнения модели, которые отвечают за “честность” или “следование инструкциям”.

С точки зрения вычислений, это значит что для эффектиной суперзащиты от супер-ИИ потребуется как минимум столько же энергии и серверов для AGI, работающих над защитой по сравнению с теми, которые занимаются рисерчем и созданием еще более мощных AGI.

В экономике, те, кто находятся ближе к источнику создания денег получают несоразмеримо большую выгоду, чем все остальные. Благодаря эмиссии денег происходит инфляция. Люди, живущие на зарплату и мелкие/средние бизнесы от этого теряют в реальной покупательской способности. Компании побольше получают доступ к ликвидности и могут инвестировать. Но большие банки, ультрабогатые люди и мегакорпорации получают подавляющую часть новой эмиссии и от этого становятся значительно богаче.

Интересно, что такой же феномен существует в крипте. От создания новых токенов размывается ценность, для мелких/средних инвесторов это потенциальная возможность заработать, а инсайдеры получают значительную долю. Довольно часто это происходит бесплатно, потому что проекты делятся аллокациями, дропами, адвайзерскими долями с KOL'ами. Имея 50к качественных подписчиков в твиттере в булмаркет это от $500k до $5M в год бонуса (помимо основной деятельности), а еще может и вырости в 10-100 раз ;)

Мораль не в том, что мир несправедлив (от вашего нытья он лучше не станет), а в том что есть определенные паттерны рынков, которые стремятся к централизации капитала.

А вот еще один цифровой ончейн паспорт. Уже третий за месяц. На этот раз обещают систему, которая технически соответствует стандартам ICAO и национальных документов, то есть уже не просто виза. Начали со Сьерры Леоне. Документ позволяет жить, работать, открывать счета, вести бизнес. Обещают добавить Грузию, Тайланд, Эстонию со временем.

Наблюдать можно тут: https://app.sign.global/activity/signpass

Через месяц мы делаем большой хакатон на тему децентрализованного ИИ — dAGI House.

Брюссель, $100,000 призовой фонд, лучшие спикеры из AI (NVIDIA, HuggingFace, Meta) и веб3 (Seed Club, Bittensor, Naptha).

Я собрал больше 20 кейсов для того, что можно сделать на хакатоне, включая
- применение ИИ в существующих веб3 продуктах,
- применение криптографии, децентрализованных систем и экономических программируемых механизмов для того чтобы сохранить ИИ децентрализованным
- компоненты и блоки экономики автономных агентов и dAGI

Все эти кейсы описаны в твиттере: https://x.com/dAGIhouse/status/1798671285876298042

Очень сильная просьба помочь с ретвитом/quote tweet'ом/шарингом этого треда. Хакатон бесплатный для всех участников и некоммерческий. Единственная цель — вовлечь больше крутых разработчиков в, как мне кажется, наиболее важную технологическую тему десятилетия. 🙏💚

Вот прекрасная картинка, которая описывает одно из важнейших непониманий в психологии и экономике. Вернее, даже два:

1. Людям очень сложно мыслить экспонентами и любой экспоненциальный рост становится неожиданность (биткоин, ковид)

2. Любая экспонента почти всегда становится логистической кривой. Вопрос только в том, когда. В частности, развитие технологий: в нем важно определить когда произойдет выход на плато.

Завел себе миньона

Давно слежу за развитием персональных ассистентов, типа MultiOn. Даже сделали одну инвестицию в подобный проект, но больше с фокусом на приватность.

Сегодня попался продукт Minion AI, который умеет выполнять рутинные задачи в интернете за вас: заказать еды, забронировать перелет, отель, чекап, теннисный корт. Найти вакансии, квартиру в аренду, садовника, сантехника. Управлять календарем, почтой. И много других скиллов.

До сих пор эти приложения были довольно сырые, но сегодня первый раз без открытия браузера я смог забронировать себе урок с тренером, и это было проще и удобнее, чем через браузер. Я думаю, еще потребуется полгода-год, чтобы это стало действительно удобно для значительного набора задач, но опыт очень приятный — примерно как когда первый раз тач скрин телефон. После этого не хочется возвращаться к прошлому способу.

Ожидайте баги и что продукт сырой, но это х100 от того, что умеют Сири-Алисы-Алексы. На видео — процесс самообучения приложения на разных задачах.

Всего за один год мы перешли от

ИИ убьёт всех людей к

ИИ заменит всех людей к

ИИ станет главным (неостановимым) инструментом в идеологической геополитической войне

К одному из последних постов был комментарий с выводом, что «на некоторые должности онбордить LLM проще чем человека».

Пока сложно сказать, что LLM прям уж могут целую роль заместить, но я уверен что именно уменьшение команд это главный unlock автоматизации. Мы точно увидим сильно более производительные, умные, гибкие ИИ-агенты (потому что уже видим их в бетах и прототипах) в ближайшие месяцы.

И вот она главная выгода такого тренда. Чем больше организация, тем выше там координационные издержки: уровни менеджмента, стоимость коммуникации, misalignment of incentives, agent-principal problem, безопасность, корпоративный гавернанс.

Верю, что скоро с помощью ИИ мы сможем создавать компании стоимостью миллиарды долларов с десятком сотрудников.

Как написал мой коллега во время стратегической сессии на доске: 1T = 1P. То есть, компания с капитализацией в $1 триллион и одним сотрудником-фаундером.