Не прошло и месяца с момента выхода статьи в Nature о том как читать мысли с помощью МРТ и GPT, а сегодня этот подход сумели соединить с Stable Diffusion для генерации видео на основе мыслей.

Слева — оригинальное видео. Справа — реконструкция от нейронки.

Много примеров в комментариях под постом

OpenAI сегодня разродился статьей аж на одну страницу, где утверждается что сверхинтеллект неизбежен и нужно что-то делать. Говорят, давайте лицензии выдавать (я предлагаю — шашечки). И межгосударственную комиссию. А то, мол, риски.

Но, в следующем абзаце: "it’s important to allow companies and open-source projects to develop models below a significant capability threshold". Так что крэпофоны с предельной когнтивностью в три мегатьюринга пока что собирать можно.

На то и живём.

Я вижу лучшие умы моего поколения разрушенные безумием. Думеры и техно-акселлерационисты в бешеной схватке вокруг нерожденного ребёнка. Ни регуляторы, ни учёные, ни военные не в силах остановить цунами. Остальные застыли в option paralysis: из тысяч идей, что бы ты сегодня не придумал — завтра создание этого будет автоматизировано.

Что уничтожит нас быстрее: наша собственная невозможность координироваться или чуждый нам сверхинтеллект? Если (1), то никто кроме сверхинтеллекта нас не спасёт. Если (2), то наша неспособность к координации и привела нас к этому. Молох и Василиск Роко. Или техно-утопия, управляемая AI swarm'ом?

Прочитал 50 статей, провел несколько любопытных бесед и теперь убежден: LLM (сегодня, а не через год) может создавать качественное уникальное новое научное знание. Для эффективности необходимы проверенные но еще не "взломанные" инструменты координации. ДАО как манифестация и качественно отформатированный типизированный инпут коллективного сознания. Рынок предсказаний, как экономический механизм валидации гипотез. MEV но для человечества. Обратный тест Тьюринга: убеди машину, что ты человек. Автономные агенты, которые богатеют на блокчейне, а потом платят вечнозелеными биткоинами людям за полезную работу (или бесполезную, чтобы они не уничтожили сами себя + планету).

Через год (поправка на оптимизм: два) у каждого в кармане будет свой собственный выводок студентов-магистров, которые пишут код, ставят диагнозы, редактируют договора, сочиняют песни и сказки лучше, чем 95% людей-профессионалов. Хотелось сказать, что без людей у них не будет своей цели, но тут вышел пейпер про то как создать целеполагание у LLM.

Гарантируйте себе трудоустройство и достойную зарплату! Учитесь на эсхатолога, техно-мистика, генеративного робопсихолога и post-scarcity экономиста.

Слово года: alignment. То есть, сонаправление ценностей машины с нашими, кожаными.

Однако то что в ИИ мы называем alignment, в веб3 называется контроль, принуждение, централизация.

Древний Рим тоже процветал за счет alignment’a рабов и покоренных земель. До тех пор, пока нет.

Как создать функционального агента в форме телеграм бота бесплатно и за 10 секунд?

Помните, пару недель назад нас всех удивляла возможность сделать суммаризацию 5-часового видео за 10 секунд? или возможность задать вопросы PDF'ке на 250 страниц и попросить объяснить SEC ruling как будто 7-летнему ребёнку? или возможность создавать цифровых персонажей, со своим характером, неотличимым от реального голосом и поведением?

Теперь это уже скучная обыденность. Любой из вас, абсолютно бесплатно, без знаний программирования, нажатием ЛИТЕРАЛИ 3 кнопок мыши может теперь создать такого телеграм-бота. Вы можете общаться с такими ботами лично, добавлять их в групповые чатики, просить записывать разговор и отвечать на вопросы, просить генерировать Stable Diffusion / DALL-E картинки, транскрибировать и генерировать аудио, сокращать и рассказывать суть многочасовых видео, книг, документов. Ну и конечно у этого есть API, вы можете этих ботов засунуть в любой другой чат, мобильное приложение, веб.

Суть поста не в том как это классно (а это классно), а в том что:

то что 2 недели назад казалось абсолютным убийцей сотен корпораций и продуктов, предоставляло 10х превосходящий продукт по всем параметрам и стоило $20 — теперь не просто доступно бесплатно, а теперь создание таких продуктов доступно любому, бесплатно, без единой строчки кода.

Это не случайность. Это тренд. Нулевой становится не только маржинальная стоимость товаров и услуг, но создания производства товаров и услуг.

Love and robots

1. Многие неправильно понимают ai alignment
2. Подразумевают в alignment разные виды контроля. Как можно контролировать то что на порядок умнее тебя?
3. Self-aware AGI - возможный выход делать безопасный для человека AGI
4. А что если лучший путь в alignment - это любовь
5. Между людьми особенно на более высоких уровнях эго развития alignment выстраивается не из контроля, а эмпатии. То же релевантно для больших хгрупп людий
6. AGI тоже круто иметь свое agency, self-awareness для того чтобы можно было любить и эмпатировать
7. AGI может из любви к людям принимать решения, но не все, что просят, потому что люди могут просить то, что им вредит.

Это autogenerated summary. Дальше подробней autogenerated transcript тут ниже

AGI неизбежен, и уже скоро. Я вижу что для многих стремительное развитие AI кажется чем-то негативным, лишающим смысла, вселяющим отчаяние.

Однако, если посмотреть издалека, то мы живем в оптимистичное время. Дойч пишет о том, что способности человеческого знания и прогресса по сути неограничены, и мы способны непрерывно улучшать наше понимание мира. Ибо нет врожденных ограничений для человеческого знания и прогресс достигается путем активного поиска и исправления ошибок в наших теориях о вселенной.

"Постнигилизм" Шапиро утверждает что 21 век является переходом с пост-нигилизму, что является моральным компасом в эру цифрового интеллекта. Что причин для надежды все больше благодаря способности сфокусировать на наиболее важных вещах: уменьшение страдания (дукха?), увеличение качества жизни, рост взаимопонимания.

AGI неизбежен: в этом году или следующем. Это повлияет на мировую экономику и цивилизацию не меньше, чем изобретение письменности или огня. И именно это является поводом для оптимизма.

Помните вакансии «промт-инженера» с зарплатой $30к в месяц?

Мой знакомый с твиттера попросил ИИ-агента устроиться на такую работу. Тот (ИИ) сам нашел нужную вакансию и подал своё резюме.

Пост-мета-кринж.

Пропустил пейпер, который вышел аж на позапрошлой неделе и чувствую себя динозавром. А идея, между прочим, архи крутая.

Tree of Thought (дерево мыслей) поможет бороться с галлюцинациями и недостаточно детальными, правильными ответами LLM благодаря добавлению саморефлексии и промежуточных результатов размышлений. Если мысль зашла в тупик, то она умеет "отмотать" назад до наиболее логичной цепи рассуждений.

Например, вместо того, чтобы просить модель решить полное математическое выражение, модель генерирует один промежуточный шаг расчета и явно записывает результат как мысль.

После генерации этих промежуточных мыслей модель проводит самокритику, оценивая каждую мысль в отдельности. Она исследует различные ветви мыслей и "обрезает" неперспективные ветки. Потом на основе оценки выбирает лучшие идеи. И так до упора.

Сегодня все обсуждают открытое письмо, подписанное более чем сотней самых известных в мире AI предпринимателей, исследователей, СЕО крупнейших компаний мира. Само письмо состоит из одной фразы:

"Смягчение риска вымирания от ИИ должно быть глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война"

Это все, конечно, хорошо, но если можно контролировать производство ядерного оружия, то как контролировать "некошерное" перемножение матриц — не очень понятно.

Никто из людей не "сделал" LLM уровня GPT. Никто не имеет представления как она даже работает внутри. Мы "воспитали" её, благодаря книгам, постам на реддите, статьям, википедии и всем остальным текстам в интернете.

Риск понятен, но что делать, кроме как попытаться понять с чем вообще мы имеем дело — не ясно.

У вас бывает ощущение, что вы достигли потолка в своем профессиональном развитии? Как перейти на следующий уровень? В Web3 важны нетворкинг и постоянное обучение.

В этот четверг в сообществе Botanica пройдет мастермайнд, который поможет преодолеть профессиональную стагнацию. На ММ можно приходить с запросами по криптотематике: от создания бизнеса и поиска инвестиций, до формирования карьеры в Web3. Вы будете работать над своими целями в группе из 10 человек под руководством ментора — Михаила Савченко (CEO Initeio). Обмен опытом, идеями и полезными контактами поможет быстрее достигать поставленных целей и не сдаться на полпути.

Кстати, про знания. Botanica — образовательное сообщество и точка притяжения криптанов.
Каждую неделю для участников интеллектуального клуба Botanica проводит живые эфиры с экспертами из известных криптокомпаний. Я тоже выступаю с лекцией — в следующую среду, 7 июня. Поговорим о наболевшем: Web3 + Al 🤖


➡️ Смотрите расписание ивентов и вступайте в клуб Botanica через телеграм-бота.
Там же можно узнать условия подписки. Бонус: каждый подписчик моего канала получит промокод, с которым доступ в сообщество криптанов будет дешевле.

Coordination Network: ДАО, управляемое AI

Первое что я сделал получив доступ к OpenAI API — это прототип системы, в которой ДАО коллективно решает какой промпт задать GPT. Эдакий коллаб коллективного и искусственного интеллектов.

Но потом я понял, что это мелко.

Предлагаю вашему вниманию ДАО, в котором состоят люди и лежат ресурсы людей, но ключевые решения принимает беспристрастный и неподкупный AI.

Проблема координации заключается в том, что существующие методы не работают (Молох, кризис, неравенство, конфликты), а программируемые и основанные на дизайне механизмов очень сложно внедрить на практике.

Coordination Network — это сеть AI-агентов, которые последовательно достигают все большей автономии: начиная от персонального ассистента который помогает анализировать информацию до полноценного координатора, который решает на что и когда будут направлены ресурсы организации. При этом, целью такого агента является максимизация полезности и достижение миссии ДАО в соотвествии с принципами из конституции ДАО.

Да, это займёт немного времени от момента когда такая штука будет управлять ДАО на полтора эфира до межпланетарного конгресса, но начинать уже давно пора. Больше всего мне верится в эту идею как акселератор: где люди совместно пулят ресурсы (эфир), а ДАО финансирует пропоузалы для максимизации collective welfare, public benefit и ROI самого ДАО.

Оригинал статьи на Medium

GPT чат, который перевел статью на русский и может ответить на ваши вопросы

Вчера прошла презентация NVIDIA на выставке Computex в Тайване. Уж что-что а останаливать разработку AI никто точно не планирует. Пара интересных тезисов, ультра-кратко.

Видеозвонки: последние 30+ лет все звонки работали по принципу "сжатие на стороне говорящего, пересылка данных, распаковка". Теперь все зум звонки станут иными: на стороне говорящего AI будет воспринимать эмоции, жесты, мимику, пересылать в виде токенов модели и реконструировать на стороне слушателя. При этом, конечно, реконструироваться можно как в себя, так и в Хагрида.

Мультимодальные нейронные сети: Мы научили нейронки структировать любую информацию (звук, текст, картинки, атомы, видео, 3d модели). Потом мы научили их генерировать любые из этих вещей. Теперь мы спокойно может превращать текст в молекулы, видео в 3d объекты, музыку в картинки и так далее.

Управление производством: NVIDIA выкатила новый продукт для производств, который позволяет создать полноценного AI-generated цифрового двойника любого завода или фабрики. AI 24/7 может следить за работой каждой машины, искать брак, даже делать перепланировку, двигать станки и собирать новые производственные линии благодаря их новым чипам для движущихся роботов.

Итого:

1. Кожаные не нужны.
2. Кожаные, идите купите новый RTX 5090Ti, сидите дома и катайте в Киберпанк, пока мы строим киберпанк за окном.

На фотографии — книга, которая лежит у меня на столе уже почти месяц. В ней (1986 год) рассказывается, что разум — это не единый инструмент, а постоянный диалог (социум) большого количества агентов, таких как память, слова, эмоции, логика. Автор — основатель MIT AI Lab.

В комментариях посоветовали совершенно феерический пейпер, который развивает эту же идею, но для современных ИИ-агентов.

Всё примтивно: агенты выполняют функции а-ля Society of Mind, а запрограммированная организационная структура координирует работу агентов между собой. Авторы называют это "society of agents". Например, они показали что 100+ агентов в постоянном разговоре, дебатах и спорах между собой дают более качественный результат чем GPT, DALL-E, Imagine3D, BLIP2 и другие нейронки. В самой статье абсолютно чудесные и просты для понимания примеры, типа создания промта для картинки, анализа видео, навигации в реальном мире или разработки компьютерной игры с нуля. Все, конечно, без любой человеческой помощи.

Авторы говорят, что reinforcement learning может сделать подход еще более эффективным, НО текущая модель крута тем, что на любом этапе можно заглянуть в мысли машины — потому что все промежуточные шаги и обсуждения между агентами происходят на натуральном языке, типа английского.

Авторы даже говорят о том, что некоторые агенты "социума агентов" могут получать USD/EUR (но мы то знаем то даи и юсдт! — прим. Gershuni) Агенты могут платить друг другу, другим людям (чтобы те капчу решали — прим. Gershuni). Более того, согласно законам ЕС — письменная договоренность между GPT-агентами является валидным и юридически значимым контрактом.

В одном таком общества агентов могут работать десять, сто, миллион или миллиард агентов, и таких обществ может быть десятки или сотни миллионов, что в совокупности называется economy of mind, "экономика разума". Об это собственно я и написал свою последнюю статью.

Я уже рассказывал вам про криптошколу Botanica (#партнерскийпост).

В эту среду, 7 июня, я буду читать в Botanica лекцию Web3 + AI: автономный веб. Расскажу про создание программной экономики, лучшие кейсы применения ИИ — в том числе поговорим о ДАО, управляемых нейронкой и многом-многом другом.

Приятный бонус. Лекция будет закрытой для студентов школы, но подписчики моего канала тоже могут на нее попасть. Рассказываю как.

Для этого нужно зарегистрироваться на бесплатный демо-доступ в Botanica и затестить 7-дневную подписку в клубе. Эфир со мной будет доступен в рамках тестовой недели. Добавляйте в календари и приходите на эфир!

🗣Web3 + AI: автономный веб. Эфир в школе Botanica
🗓 Среда, 7 июня. 19:00-20:00
➡️ Активируйте демо-доступ в Botanica через телеграм-бота

Хотите купить редкую недвижимость в ОАЭ или Москве напрямую и без комиссии?

На закрытых каналах аналитика Андрея Негинского @еmirats и @mosсоw 4 раза в неделю появляется новый вариант сразу со стоимостью, например:

1️⃣ Квартира 100м2 с панорамным видом на ночной город и огромной террасой

2️⃣ Апарты 80м² для семьи с ребенком рядом с зеленым парком и рассрочкой на 7 лет.

3️⃣ Студия 44м² на ранней стадии стройки и доходностью в 15.4% годовых.

👉 Вот ссылка @еmirats для тех, кому интересны ОАЭ (уже 41.500 подписчиков), а здесь @mosсоw про рынок Москвы (уже 7.100 подписчиков).

Посты автор пишет сам, рекламы нет, вся информация свежая и по делу. Подписывайтесь, чтобы следить за рынком.

Вчера SEC выкатил иск против Binance (назвав в процессе FIL, ATOM, BNB незарегистрированными ценными бумагами), а сегодня под раздачу попал Coinbase. Мы поговорили о регуляции крипты с Глебом Костаревым, вице-президентом Бинанс по региональному развитию.

Регуляция и будущее крипты: Глеб Костарев, топ-менеджер Binance

- как разные регионы и стран подходят к регуляции крипты? где у крипты позитивное будущее, а где ждать затягивания гаек?
- перспективы развития регуляции и адопшена в США, Европе, Азии, Турции, Ближнем Востоке, Латинской Америке
- будущее централизованных и децентрализованных бирж, и как первые станут вторыми.
- стратегию Binance в контексте желания децентрализовать себя
- хайп циклы крипты: какой нарратив работает сейчас что будет развиваться в ближайшие годы? что будет с GameFi, NFT, SocialFi, кошельками?
- финансовую приватность и будущее zk-платежей

Данный подкаст можно сминтить себе в форме NFT.

Смотреть: YouTube
Слушать: Spotify, Google Podcast, iTunes