Forwarded from Progresspunks
Паника про т.н. AGI захлестывает и наш social bubble, и техно-сегмент в X. Доползло и до законодателей США с риском на эпический regulatory capture/фиаско госуправления в пользу bigtech, или в Китае, или в Европе (там давно лобби Future of Life Institute от моего [уже менее 🙈] любимого Max Tegmark)
Каждый алармист - это один или несколько пунктов:
1. Ира Якутенко круто заметила, что современный мир стал слишком безопасен, а наши гены к этому не адаптировались, и поэтому в популяции есть люди, которые создают угрозы буквально на пустом месте, и что их можно отличить по самоназванию: people who care/“кому не все равно”
- Это, e.g., Бенджио, Хинтон итп академические подписанты призыва к полугодовому [естественно, не сработавшему] мораторию на AI research
- Маск тоже подписал в марте, но уже в апреле закупился GPU на сотни млн $, а в ноябре релизнул свою LLM xAI/Grok
2. Peter Thiel вообще не тратит время: “страх AGI вытекает всего лишь из взглядов на мир как дарвиниста или макиавеллиста”
- (дарвинизм - что главным фактором эволюции является естественный отбор)
- (макиавеллизм - политика только на основе грубой силы, пренебрегая моралью)
3. Разные модели идеального социума
- Боятся люди, кто не видел смену многих технологических укладов (Vinod Khosla считает, что нас ждут AI врачи/преподы/юристы, 1 млрд программистов на естественном языке, 1 млн двуногих роботов через 10 лет итп) или не руководили большими коллективами/не общались с governments по миру (как Bill Gates, который считает, что AI даст нам 3-ехдневную рабочую неделю)
а
- Рафинированные теоретичные люди с quirky фантазиями о том, как должен быть устроен идеальный, на их взгляд, социум. Типа той девочки на борде OpenAI, замутившей всю эту бучу во имя EA/effective alltruism, или, как заметил Yann LeCun “не тренировавший ни одной нейронки Иелезар Юдковский”, или депрессивный философ Ник Бостром
4. Страх AI - это современная форма анимизма, считает либертарианский философ Gaspard Koenig, автор книги 2019 г “Конец индивидуума” (после нее он потерял всякий интерес к AI)
- Пример: Сергей Карелов, называющим всякие (пока) неизвестные феномены computational irreducibility запугивающим образом типа “форма НЕчеловеческого интеллекта уже на Земле” 🙈
5. Слишком большая опора на материализм [западнической цивилизации] вытесняет из психики части души, требующих опору на трансцендентное
- Но эти фичи мозга никуда не деваются и идут на страхи и второго пришествия, и апокалипсиса вместе взятых, пусть и замаскированные в псевдо-рацио AGI. В AGI safety гипотезы пока - спекулятивные и/или нет экспериментов чтобы их отвергнуть (фальсифицируемость Поппера, по меркам естественных наук это не самые научные теории)
6. Лично непроработанные страхи, тк не было личной психотерапии (или была, но не доделали)
- Разбор своих, случайно набранных в детстве страхов/импринтов (можно к моей Юле обращаться @julisache, она оч теплый и бережный психолог про подсознание):
а) позволяет видеть мир реалистичнее, доступно большее пространство для действий
б) высвобождает затрачиваемые на страх ресурсы души
в) поправляет локус контроля куда там мир идет, снижает батхерт на посты типа этого, “как Витя не понимает, есть же вероятность исчезновения человечества!!”
Что еще?
Upd:
Женя Кузнецов красиво назвал эффективных альтруистов термином «оксфордский комсомол» 🙈 в своей статье в Форбс, в тч про обширное лобби структур Дастина Московица (в рамках effective altruism сделал Open Philanthropy) в Вашингтоне
Каждый алармист - это один или несколько пунктов:
1. Ира Якутенко круто заметила, что современный мир стал слишком безопасен, а наши гены к этому не адаптировались, и поэтому в популяции есть люди, которые создают угрозы буквально на пустом месте, и что их можно отличить по самоназванию: people who care/“кому не все равно”
- Это, e.g., Бенджио, Хинтон итп академические подписанты призыва к полугодовому [естественно, не сработавшему] мораторию на AI research
- Маск тоже подписал в марте, но уже в апреле закупился GPU на сотни млн $, а в ноябре релизнул свою LLM xAI/Grok
2. Peter Thiel вообще не тратит время: “страх AGI вытекает всего лишь из взглядов на мир как дарвиниста или макиавеллиста”
- (дарвинизм - что главным фактором эволюции является естественный отбор)
- (макиавеллизм - политика только на основе грубой силы, пренебрегая моралью)
3. Разные модели идеального социума
- Боятся люди, кто не видел смену многих технологических укладов (Vinod Khosla считает, что нас ждут AI врачи/преподы/юристы, 1 млрд программистов на естественном языке, 1 млн двуногих роботов через 10 лет итп) или не руководили большими коллективами/не общались с governments по миру (как Bill Gates, который считает, что AI даст нам 3-ехдневную рабочую неделю)
а
- Рафинированные теоретичные люди с quirky фантазиями о том, как должен быть устроен идеальный, на их взгляд, социум. Типа той девочки на борде OpenAI, замутившей всю эту бучу во имя EA/effective alltruism, или, как заметил Yann LeCun “не тренировавший ни одной нейронки Иелезар Юдковский”, или депрессивный философ Ник Бостром
4. Страх AI - это современная форма анимизма, считает либертарианский философ Gaspard Koenig, автор книги 2019 г “Конец индивидуума” (после нее он потерял всякий интерес к AI)
- Пример: Сергей Карелов, называющим всякие (пока) неизвестные феномены computational irreducibility запугивающим образом типа “форма НЕчеловеческого интеллекта уже на Земле” 🙈
5. Слишком большая опора на материализм [западнической цивилизации] вытесняет из психики части души, требующих опору на трансцендентное
- Но эти фичи мозга никуда не деваются и идут на страхи и второго пришествия, и апокалипсиса вместе взятых, пусть и замаскированные в псевдо-рацио AGI. В AGI safety гипотезы пока - спекулятивные и/или нет экспериментов чтобы их отвергнуть (фальсифицируемость Поппера, по меркам естественных наук это не самые научные теории)
6. Лично непроработанные страхи, тк не было личной психотерапии (или была, но не доделали)
- Разбор своих, случайно набранных в детстве страхов/импринтов (можно к моей Юле обращаться @julisache, она оч теплый и бережный психолог про подсознание):
а) позволяет видеть мир реалистичнее, доступно большее пространство для действий
б) высвобождает затрачиваемые на страх ресурсы души
в) поправляет локус контроля куда там мир идет, снижает батхерт на посты типа этого, “как Витя не понимает, есть же вероятность исчезновения человечества!!”
Что еще?
Upd:
Женя Кузнецов красиво назвал эффективных альтруистов термином «оксфордский комсомол» 🙈 в своей статье в Форбс, в тч про обширное лобби структур Дастина Московица (в рамках effective altruism сделал Open Philanthropy) в Вашингтоне
Европейские децелы нанесли ответный удар. Империя, уже зарегулировав крипту своей Микой (одновременно технически неисполняемый и подавляющий любые инновации закон), взялась за то, что она умеет лучше всего: уничтожение прогресса.
На словах там про необходимость лицензирования, недопуск больших моделей (EU создали наконец долгожданный рынок для децентрализованных нецензурируемых моделей), какая-то ересь про копирайт и, конечно, набор философских догм, как на картинке.
Разбирать текст закона смысла не вижу — это уподобление децелам. Но обращу на это внимание тех, кто удивлялся почему Европа занимает только 2% рынка хай тек (на второй картинке).
А вот еще генсек ООН заявляет, что, мол, меня забыли. Говорит, хочу денег и власти, встряв между человеком и его правом умножать матрицы. Еще одно бессмысленное агентство хочет заработать на чужой работе.
Если прославленный сверхинтеллект из комментариев прошлого поста все-таки появится, то его главной задачей должна стать замена таких вот бесполезных вредителей.
На словах там про необходимость лицензирования, недопуск больших моделей (EU создали наконец долгожданный рынок для децентрализованных нецензурируемых моделей), какая-то ересь про копирайт и, конечно, набор философских догм, как на картинке.
Разбирать текст закона смысла не вижу — это уподобление децелам. Но обращу на это внимание тех, кто удивлялся почему Европа занимает только 2% рынка хай тек (на второй картинке).
А вот еще генсек ООН заявляет, что, мол, меня забыли. Говорит, хочу денег и власти, встряв между человеком и его правом умножать матрицы. Еще одно бессмысленное агентство хочет заработать на чужой работе.
Если прославленный сверхинтеллект из комментариев прошлого поста все-таки появится, то его главной задачей должна стать замена таких вот бесполезных вредителей.
Media is too big
VIEW IN TELEGRAM
AI наконец-то научился в фронтэнд. Теперь делает очень неплохой React/Tailwinds/CSS код по описанию. Но моя любимая фича: сделать скриншот и попросить "повтори".
Смотрите на видео пример редизайна club.codex.town
Тестить (после вейтлиста) можно тут: v0.dev
Смотрите на видео пример редизайна club.codex.town
Тестить (после вейтлиста) можно тут: v0.dev
Какие уязвимости и способы атаки существуют у LLM и как бизнесу от них защититься?
Новая неделя — новый вебинар! В этой лекции мы обсудим важность защиты приложений, работающих на основе Large Language Models (LLM), включая те, которые используются в бизнесе. Основное внимание будет уделено различным видам рисков, проблемам безопасности и методам защиты, которые необходимы для обеспечения надежной работы этих систем.
Регистрация: https://lu.ma/codextown (может требоваться VPN)
Для оплаты картами СНГ вам достаточно подписаться на Boosty: https://boosty.to/codextown При регистрации вы гарантированно получите запись мероприятия и все материалы, даже если не сможете присутствовать.
Новая неделя — новый вебинар! В этой лекции мы обсудим важность защиты приложений, работающих на основе Large Language Models (LLM), включая те, которые используются в бизнесе. Основное внимание будет уделено различным видам рисков, проблемам безопасности и методам защиты, которые необходимы для обеспечения надежной работы этих систем.
Регистрация: https://lu.ma/codextown (может требоваться VPN)
Для оплаты картами СНГ вам достаточно подписаться на Boosty: https://boosty.to/codextown При регистрации вы гарантированно получите запись мероприятия и все материалы, даже если не сможете присутствовать.
Mistral выкатил Лё Платформу, которая доступна по API. Их новая модель Mistral-medium практически на равне с GPT-4 (а Mistral-small выложена в открытый доступ и бьёт GPT-3.5 по всем бенчам).
Вопрос: что же тогда там в Mistral-large? Потенциально, первая полностью публичная модель, превосходящая GPT-4.
Вопрос: что же тогда там в Mistral-large? Потенциально, первая полностью публичная модель, превосходящая GPT-4.
Оказывается, GPT меньше работает в декабре (статистически значимый результат), потому что, вероятно, он научился этому в ходе тренировки, заметив, что люди в сезон праздников пишут меньше текста в интернете.
Вот тут СЕО Mistral очень точно, ёмко (и без мата!) высказался на тему EU AI Act.
Не буду перепечатывать твит на русском, но в суть в этой фразе: «the computation of some linear transformations, based on a certain amount of calculation, is now considered dangerous»
Дабы быть ясным, добавлю от себя:
🟩 Регуляция это не абсолютное зло. Правила снижают стоимость координации, транзакционные издержки и повышают эффективность экономики.
🟪 EU AI ACT — наспех собранное, популистское и необдуманное предложение, целью которого были политические очки, а не развитие инноваций или защита граждан
🟨 Данный (и большинство других, включая крипто) закон выгоден только текущим лидерам. Тем, кто может нанять армию юристов и делать что захотят. Он тормозит прогресс и лишь кормит compliance отделы.
⬛️ Чиновники, медиа и регуляторы всегда будут топить за отсутствие изменений. Они готовы заморозить мир в моменте и остановить само время, потому что любое изменение системы устройства общества (а именно это неизбежно является следствием прогресса) — для них страх, смерть, ужас.
Не буду перепечатывать твит на русском, но в суть в этой фразе: «the computation of some linear transformations, based on a certain amount of calculation, is now considered dangerous»
Дабы быть ясным, добавлю от себя:
🟩 Регуляция это не абсолютное зло. Правила снижают стоимость координации, транзакционные издержки и повышают эффективность экономики.
🟪 EU AI ACT — наспех собранное, популистское и необдуманное предложение, целью которого были политические очки, а не развитие инноваций или защита граждан
🟨 Данный (и большинство других, включая крипто) закон выгоден только текущим лидерам. Тем, кто может нанять армию юристов и делать что захотят. Он тормозит прогресс и лишь кормит compliance отделы.
⬛️ Чиновники, медиа и регуляторы всегда будут топить за отсутствие изменений. Они готовы заморозить мир в моменте и остановить само время, потому что любое изменение системы устройства общества (а именно это неизбежно является следствием прогресса) — для них страх, смерть, ужас.
Последний вебинар в этом году про взлом, prompt injection, jailbreak и безопасность LLM пройдет в эту пятницу. По многочисленным просьбам, только сегодня вы можете зарегистрироваться бесплатно. Но регистрируйтесь только если точно сможете присутствовать.
Регистрация: https://lu.ma/codextown (может требоваться VPN)
Регистрация: https://lu.ma/codextown (может требоваться VPN)
Мои друзья сделали, пожалуй, лучший сервис про интеграцию нейронок через no-code (поддерживается больше 1500 разных сеток в удобном редакторе). Сегодня глобальный запуск проекта. Наша цель на сегодня — поддержать мощным лойсом на продактханте: https://www.producthunt.com/posts/scade-pro (в конкурентах новая сетка для генерации картинок от Гугла, так что надо поднажать)
Пост не рекламный.
Пост не рекламный.
Впервые новое научное знание было создано с помощью LLM (а не просто AI-assisted software).
Буквально месяц назад читал комментарий на канале что «LLM никогда не смогут делать научные открытия, чертовы стохастические попугаи», а сегодня Гугл публикует в Nature статью, что они сделали открытие в математике используя LLM.
Метод довольно универсален и я ожидаю решение новых задач из математики именно таких способом в ближайшее время.
Ребята из DeepMind использовали LLM для написания, изменений и оценки кода, который стремится максимально эффективно решить открытые задачи в математике. Для того используется, по их заявлениям «medium-sized LLM», то есть, я думаю между 20 и 70 млрд параметров. Что важно, алгоритм FunSearch не просто находит ответ на задачу, а создаёт код для внедрения решения в реальные процессы. В частности, они решили задачу оптимизации «упаковки» объектов в минимальное количество контейнеров, задачу циклических графов, и задачу нахождения максимального сета, в котором точки не лежат на прямой.
Буквально месяц назад читал комментарий на канале что «LLM никогда не смогут делать научные открытия, чертовы стохастические попугаи», а сегодня Гугл публикует в Nature статью, что они сделали открытие в математике используя LLM.
Метод довольно универсален и я ожидаю решение новых задач из математики именно таких способом в ближайшее время.
Ребята из DeepMind использовали LLM для написания, изменений и оценки кода, который стремится максимально эффективно решить открытые задачи в математике. Для того используется, по их заявлениям «medium-sized LLM», то есть, я думаю между 20 и 70 млрд параметров. Что важно, алгоритм FunSearch не просто находит ответ на задачу, а создаёт код для внедрения решения в реальные процессы. В частности, они решили задачу оптимизации «упаковки» объектов в минимальное количество контейнеров, задачу циклических графов, и задачу нахождения максимального сета, в котором точки не лежат на прямой.
Показательно про скорость бизнес-прогресса (и сумасшедшую маржиналость) в ИИ.
В начале этой недели Mistral выпустили новую модель Mixtral MoE и предложили доступ по API по цене $2 за миллион токенов.
В тот же день together.xyz предложили доступ к этой же модели за $0.6 за миллион токенов.
Через два дня abacus.ai предложили то же самое за $0.3 за миллион токенов.
Напомню, что модель gpt-3.5-turbo, которая имеет идентичную производительность, 9 месяцев назад стоила больше $20 за миллион токенов.
При этом, за это время практически ничего не изменилось в стоимости или производительности GPU, то есть это исключительно оптимизация на уровне софта и, вероятно, сокращение маржинальности.
В начале этой недели Mistral выпустили новую модель Mixtral MoE и предложили доступ по API по цене $2 за миллион токенов.
В тот же день together.xyz предложили доступ к этой же модели за $0.6 за миллион токенов.
Через два дня abacus.ai предложили то же самое за $0.3 за миллион токенов.
Напомню, что модель gpt-3.5-turbo, которая имеет идентичную производительность, 9 месяцев назад стоила больше $20 за миллион токенов.
При этом, за это время практически ничего не изменилось в стоимости или производительности GPU, то есть это исключительно оптимизация на уровне софта и, вероятно, сокращение маржинальности.
Наконец-то полезные автономные агенты.
Я сделал обзор и показал как написать свой собственный плагин в новом фреймворке для автономных агентов от Microsoft — TaskWeaver.
В отличии от Autogen, данный фреймворк заточен на решение аналитических задач через написание кода и взаимодействие агентов. Область применения уже, но именно поэтому качество сильно выше. Плюс, это легко встроить в ваши существущие бизнес-процессы, например, для ETL или анализа данных, решения сложных задач без навыков программировния, автоматизации процессов.
Я написал свой простенький плагин, который умеет получать и анализировать данные о цене крипты через CoinMarketCap API. Например, теперь я могу на естественном языке попросить агента "возьми историческую цену биткоина и построй ARIMA модель и сгенерируй визуализированный график с прогнозом". Агенты напишут, проверят, если нужно исправят и исполнят код, положат результат аккуратно в папочку рядом.
Видео: https://www.youtube.com/watch?v=hljOFJLYDPg
Я сделал обзор и показал как написать свой собственный плагин в новом фреймворке для автономных агентов от Microsoft — TaskWeaver.
В отличии от Autogen, данный фреймворк заточен на решение аналитических задач через написание кода и взаимодействие агентов. Область применения уже, но именно поэтому качество сильно выше. Плюс, это легко встроить в ваши существущие бизнес-процессы, например, для ETL или анализа данных, решения сложных задач без навыков программировния, автоматизации процессов.
Я написал свой простенький плагин, который умеет получать и анализировать данные о цене крипты через CoinMarketCap API. Например, теперь я могу на естественном языке попросить агента "возьми историческую цену биткоина и построй ARIMA модель и сгенерируй визуализированный график с прогнозом". Агенты напишут, проверят, если нужно исправят и исполнят код, положат результат аккуратно в папочку рядом.
Видео: https://www.youtube.com/watch?v=hljOFJLYDPg
В этом докладе Виталик одновременно показывает главное преимущество Биткоина (нецензурируемость) и путь (который должна будет пройти вся индустрия, и не факт что быстро) как сохранить и усилить эти же самые качество в Эфира.
Куда важнее, чем все эти ETF, RWA, CBDC и L2-щитлееры.
Куда важнее, чем все эти ETF, RWA, CBDC и L2-щитлееры.
YouTube
Vitalik Buterin 🛸 Hardening the Ethereum Ecosystem Across the Stack
'censorship.wtf' Talks and workshops took place in both ETHGlobal Istanbul, DCxPrague During Devconnect 2023. A full day was spent discussing censorship resistance in the context of Ethereum L1, rollups, applications, infrastructure, hardware, and more.…
e/acc
Показательно про скорость бизнес-прогресса (и сумасшедшую маржиналость) в ИИ. В начале этой недели Mistral выпустили новую модель Mixtral MoE и предложили доступ по API по цене $2 за миллион токенов. В тот же день together.xyz предложили доступ к этой же…
Любопытно, что финальный босс для экспоненциального роста интеллекта на планете и перехода к программируемой экономике это не софт и даже не чипы, а энергия, которая исторически была крайне неэластична в предложении. Но график ниже дает надежду.
Сегодня 80% энергии генерируется медленно наращиваемыми невозобновляемыми источниками энергии, но при этом стоимость производства и установки, например, солнечных панелей падает примерно в 10 раз за десять лет. Одновременно с этим стоимость производства батарей упала примерно в 6 раз, а их обьем вырос в 500+ раз за последние 10 лет. Благодаря электромобилям, в том числе.
Вопрос в том когда экспонента превратится в логистическую кривую.
Сегодня 80% энергии генерируется медленно наращиваемыми невозобновляемыми источниками энергии, но при этом стоимость производства и установки, например, солнечных панелей падает примерно в 10 раз за десять лет. Одновременно с этим стоимость производства батарей упала примерно в 6 раз, а их обьем вырос в 500+ раз за последние 10 лет. Благодаря электромобилям, в том числе.
Вопрос в том когда экспонента превратится в логистическую кривую.
Пока твиттер наслаждается legally binding предложением от бота купить машину за $1, у нас прошел вебинар про способы атаки на LLM и как от них защищаться.
«Как взломать LLM?» смотреть тут: https://youtu.be/o4QuKZtirsI?si=3konbsZqf-8lOGPd
P.S. Ожидаем юридических прецедентов: LLM-суды, LLM-прокуроры, LLM-лагеря
«Как взломать LLM?» смотреть тут: https://youtu.be/o4QuKZtirsI?si=3konbsZqf-8lOGPd
P.S. Ожидаем юридических прецедентов: LLM-суды, LLM-прокуроры, LLM-лагеря
Игорь из Сиолошной сделал топовый разбор папируса (теперь всегда буду использовать это слово) от Гугла про FunSearch. Тут простым понятным каждому языком написано как работает алгоритм, какие открытые задачи в математике он решил и что из этого следует.
Первая серия данного сюжета тут: https://www.tg-me.com/cryptoEssay/1586
Статья на Хабре: https://habr.com/ru/companies/ods/articles/781138/
Я кайфанул читать.
Первая серия данного сюжета тут: https://www.tg-me.com/cryptoEssay/1586
Статья на Хабре: https://habr.com/ru/companies/ods/articles/781138/
Я кайфанул читать.
ИИ в Сторителлинге
Один из первых моих проектов, как только я получил заветный ключик GPT-3, было создание интеграктивной мультиплеерной книги. Я назвал это "объединение искусственного и коллективного интеллекта". Это игра с набором внутренних миров, в котором игроки (держатели токенов через snapshot) могут голосовать токенами за параметры того как мир меняется со временем. А сюжет эволюции мира пишет LLM.
При грамотном промтинге сюжетной арки, стиля, сеттинга и контекста LLM в состоянии создавать очень интересные истории. А последний пример от Bard меня вообще так впечатлил, что пришлось сделать пост в канале.
Сейчас, кстати, проходит хакатон на эту же тему с призовым фондом $18,000. В рамках хакатона можно сделать такой же или похожий проект через API Story3 (сервис интерактивных историй, где через микротранзакции можно продавать twists — сюжетные повороты в рамках большого рассказа). Вы можете создать своё собственное приложение с микротранзакционной моделью монетизации используя комбинацию LLM'ок, агентов, подготовленных промтов для создания действительно увлекательных сюжетов. Story3, кстати, сделал Шурик Агапитов, основатель Xsolla.
Генеративные книги, рассказы, игры, сериалы (в идеале, вместе с генеративным голосом, картинками, музыкой, видео) и любая комбинация из вышеперечисленных, на мой взгляд, создаёт новые направления в индустрии развлечений, так что, если у вас есть время на праздниках, очень рекомендую попробовать.
Один из первых моих проектов, как только я получил заветный ключик GPT-3, было создание интеграктивной мультиплеерной книги. Я назвал это "объединение искусственного и коллективного интеллекта". Это игра с набором внутренних миров, в котором игроки (держатели токенов через snapshot) могут голосовать токенами за параметры того как мир меняется со временем. А сюжет эволюции мира пишет LLM.
При грамотном промтинге сюжетной арки, стиля, сеттинга и контекста LLM в состоянии создавать очень интересные истории. А последний пример от Bard меня вообще так впечатлил, что пришлось сделать пост в канале.
Сейчас, кстати, проходит хакатон на эту же тему с призовым фондом $18,000. В рамках хакатона можно сделать такой же или похожий проект через API Story3 (сервис интерактивных историй, где через микротранзакции можно продавать twists — сюжетные повороты в рамках большого рассказа). Вы можете создать своё собственное приложение с микротранзакционной моделью монетизации используя комбинацию LLM'ок, агентов, подготовленных промтов для создания действительно увлекательных сюжетов. Story3, кстати, сделал Шурик Агапитов, основатель Xsolla.
Генеративные книги, рассказы, игры, сериалы (в идеале, вместе с генеративным голосом, картинками, музыкой, видео) и любая комбинация из вышеперечисленных, на мой взгляд, создаёт новые направления в индустрии развлечений, так что, если у вас есть время на праздниках, очень рекомендую попробовать.