Forwarded from Сиолошная
Please open Telegram to view this post
VIEW IN TELEGRAM
Какой-то праздник теорий заговора: от абсолютно шизофренических типа трейдрастинга (что-то там какие-то акции бла-бла-бла) или что у OpenAI что-то не работает в продукте (все скам, потому что меня забанили в чатиге) до политических (Майкрософт, Грок!)
Узнаем в течении дня-двух, но я ставлю на историю вокруг безопасности. Учитывая что в борде Илья и Д’Анжело, оба сильные сторонники алаймента, а Сэм в целом ставил продукт выше чем долгосрочная безопасность от ИИ.
Люди, которые рассуждают про акции Майкрософт едва ли понимают культуру долины. Вот, кстати, список потенциальных причин увольнения. С очередностью выглядит максимально разумно.
Узнаем в течении дня-двух, но я ставлю на историю вокруг безопасности. Учитывая что в борде Илья и Д’Анжело, оба сильные сторонники алаймента, а Сэм в целом ставил продукт выше чем долгосрочная безопасность от ИИ.
Люди, которые рассуждают про акции Майкрософт едва ли понимают культуру долины. Вот, кстати, список потенциальных причин увольнения. С очередностью выглядит максимально разумно.
Через пару часов начнётся еще одно из самых важных для человечества событий — второй запуск Starship.
А пока разбираемся в драме вокруг OpenAI и всё свидетельства указывают на то, что я писал вчера. Майкрософт, сотрудники и даже президент борда не знали о решении до самого его анонса. Инициатором решения был Илья Суцкевер (вероятнее всего, вместе с Мирой и Андреем), чья позиция и фокус за последний год сместились с создания моделей на безопасность (алаймент) ИИ и, особенно, AGI.
Действительно, Сэм и Грег, будучи гениями и невероятными крутышами, превратили компанию, чьей миссией было достижение открытого опенсорсного AGI в невероятно успешный, но все-таки классический бизнес. Уже давно пора было либо отказаться от слова «Open» и статуса нон-профита или кардинально менять стратегию.
Продолжаем наблюдать.
А пока разбираемся в драме вокруг OpenAI и всё свидетельства указывают на то, что я писал вчера. Майкрософт, сотрудники и даже президент борда не знали о решении до самого его анонса. Инициатором решения был Илья Суцкевер (вероятнее всего, вместе с Мирой и Андреем), чья позиция и фокус за последний год сместились с создания моделей на безопасность (алаймент) ИИ и, особенно, AGI.
Действительно, Сэм и Грег, будучи гениями и невероятными крутышами, превратили компанию, чьей миссией было достижение открытого опенсорсного AGI в невероятно успешный, но все-таки классический бизнес. Уже давно пора было либо отказаться от слова «Open» и статуса нон-профита или кардинально менять стратегию.
Продолжаем наблюдать.
Конфликт OpenAI стал политическим и уже вырос сильно за пределы самой компании.
На поверхности: конфликт фаундеров наложенный на юридически совершенно неподходящую для данного бизнеса и продукта структуру нон-профите. OpenAI не будет настолько же успешен без Сэма, ровно как и без Ильи. А работать вместе они вряд ли смогут.
Под капотом: извечный спор акселерационистов с децелами. Open source ради будущего человечества или риск того что сильным ИИ завладеет очередная Аль-Каида? Погоня за монополией в самом подходящем для этого моменте или сознательно остановиться, сделать глубокий вдох и задумать о последствиях? Алаймент или Ебида?
На этот вопрос нет простых ответов.
На поверхности: конфликт фаундеров наложенный на юридически совершенно неподходящую для данного бизнеса и продукта структуру нон-профите. OpenAI не будет настолько же успешен без Сэма, ровно как и без Ильи. А работать вместе они вряд ли смогут.
Под капотом: извечный спор акселерационистов с децелами. Open source ради будущего человечества или риск того что сильным ИИ завладеет очередная Аль-Каида? Погоня за монополией в самом подходящем для этого моменте или сознательно остановиться, сделать глубокий вдох и задумать о последствиях? Алаймент или Ебида?
На этот вопрос нет простых ответов.
Кто ты, анон?
Anonymous Poll
32%
e/acc
12%
Децел
13%
Мне не важно человечество, главное жопа в тепле
43%
Ничего не понимаю что происходит
Судя по реакциям, стоит расписать подробнее (хоть я это и делал в мае).
e/acc — философия акселерационизма, суть которой в ускорении технологического развития и прогресса человечества. Все остальные попытки координации человечества не работают (см. любые новости любой страны за любой день) или уничтожаются Молохом (злым богом misaligned incentives).
Децел / decel — это противопоставление, которое может выражаться:
1. во вредительстве: запретить! регулировать! посадить! всех умных — в лагеря! чтобы не мешали нам, тупым, жить
2. в предостережении: а что если бесконтрольное развитие технологий приведет, например, к смерти цивилизации? Или чему похуже? А может это и есть разгадка парадокса Ферми, тот самый легендарный Великий Фильтр, через который продирается лишь немногие из бесконечности цивилизаций?
В этом и трудность. Тут нет простого ответа. Без акселерационизма человечество обречено. Но и с ним — возможно, тоже.
P.S. В опросе выше e/acc победил децелов 🥰😇
P.P.S. Даже и те, и другие победили Жрецов Молоха (ака эгоистов-индивидуалистов), но это вранье.
e/acc — философия акселерационизма, суть которой в ускорении технологического развития и прогресса человечества. Все остальные попытки координации человечества не работают (см. любые новости любой страны за любой день) или уничтожаются Молохом (злым богом misaligned incentives).
Децел / decel — это противопоставление, которое может выражаться:
1. во вредительстве: запретить! регулировать! посадить! всех умных — в лагеря! чтобы не мешали нам, тупым, жить
2. в предостережении: а что если бесконтрольное развитие технологий приведет, например, к смерти цивилизации? Или чему похуже? А может это и есть разгадка парадокса Ферми, тот самый легендарный Великий Фильтр, через который продирается лишь немногие из бесконечности цивилизаций?
В этом и трудность. Тут нет простого ответа. Без акселерационизма человечество обречено. Но и с ним — возможно, тоже.
P.S. В опросе выше e/acc победил децелов 🥰
P.P.S. Даже и те, и другие победили Жрецов Молоха (ака эгоистов-индивидуалистов), но это вранье.
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Gershuni
Я вижу лучшие умы моего поколения разрушенные безумием. Думеры и техно-акселлерационисты в бешеной схватке вокруг нерожденного ребёнка. Ни регуляторы, ни учёные, ни военные не в силах остановить цунами. Остальные застыли в option paralysis: из тысяч идей…
Ну что ж, история с OpenAI подходит к концу. Сэм ушел в Майкрософт (теперь его-таки заставят использовать Teams, пошутил Маск), а OpenAI, скорее всего, сконцентрируется на исследованиях.
Вывод: ничего в мире ИИ на самом деле не затормозится. Молох делает свои грязные делишки. Поэтому мы можем ожидать чего угодно, но только не замедления скорости изменения мира.
Кстати, в результате пятничного вебинара про создание собственных GPTs в мне прислали уже больше десятка примеров того, что сделали участники. Большинство непубличные, но вот например кинопсихолог и калькулятор калорий.
Если вы были записаны, то запись со всеми инструкциями, примерами, слайдами и видео у вас в почте. Если пропустили, то её можно найти в бусти.
Вывод: ничего в мире ИИ на самом деле не затормозится. Молох делает свои грязные делишки. Поэтому мы можем ожидать чего угодно, но только не замедления скорости изменения мира.
Кстати, в результате пятничного вебинара про создание собственных GPTs в мне прислали уже больше десятка примеров того, что сделали участники. Большинство непубличные, но вот например кинопсихолог и калькулятор калорий.
Если вы были записаны, то запись со всеми инструкциями, примерами, слайдами и видео у вас в почте. Если пропустили, то её можно найти в бусти.
Новая серия вышла!
Илья написал, что сделал х**ню (точно подмечено с его стороны). Все сотрудники OpenAI шлют друг друг другу сердечки а твиттере, включая Сэма и Илью.
500+ сотрудников подписали письмо, что уйдут, если борд не вернет все в компании как было.
Ну и голос консенсуса всего интернета: https://x.com/janleike/status/1726599944029753750?s=46&t=njTQTxdaH7InGdtglLwsiA
Илья написал, что сделал х**ню (точно подмечено с его стороны). Все сотрудники OpenAI шлют друг друг другу сердечки а твиттере, включая Сэма и Илью.
500+ сотрудников подписали письмо, что уйдут, если борд не вернет все в компании как было.
Ну и голос консенсуса всего интернета: https://x.com/janleike/status/1726599944029753750?s=46&t=njTQTxdaH7InGdtglLwsiA
А вообще Балажи (как всегда) прав: нам нужны модели с открытыми весами. Для этого нам нужна структура инсентивов для работы над OS моделями. В крипто-протоколах это легко — комиссии и их распределение. Поэтому у нас много денег с открытыми исходным кодом.
То же самое должно случиться с SoTA моделями, дабы мир не зависел от риска того, что несколько людей посрались в каком-то бордруме в Соме СФ.
То же самое должно случиться с SoTA моделями, дабы мир не зависел от риска того, что несколько людей посрались в каком-то бордруме в Соме СФ.
Если вы давно читаете этот канал, то вы заметили, что я несколько лет писал о своем опыте участия в и создания ДАО. ДАО -- это организация, которая живет в интернете и использует internet-native инструменты для своего функционирования: токены для генерации и распределения экономической ценности, репутацию для формирования команд, гавернанс для принятия решений, онлайн инструменты для управления проектами.
За последние ~5 лет я видел сотни ДАО и только десятки из них остаются функционирующими сегодня. Я вижу такие главные проблемы провала ДАО:
1. Излишний фокус на экономике, когда участников привлекает цена токена и ничего кроме этого
2. Излишняя демократия, когда на каждый чих производится общее голосование или когда некомпетентное большинство берет на себя управления проектами.
3. «Страна Советов», когда каждый школоло инвестор на $10 считает важным высказаться за пропозал и потом обвинять разработчиков что это они на его гениальные предложения положили болт.
Следующие несколько недель красной нитью я буду рассказывать о том как инструменты веб3 и ИИ играют ключевую роль в будущем цивилизации (по мнению научной команды, а так же редакторов, аналитиков и исследователей канала Gershuni).
Весной я писал что по сути web3 это бекэнд инфрастурктура снижающая транзакционные издержки в экономике, а AI (+роботы, IoT, etc.) это фронтенд продукты, которые в реальном времени решают реальные проблемы реальных людей.
😁 DAO — это способ координации в интернете; AI — reasoning engine для принятия координационных решений
👏 Finetunings, RAGs, instruction chains — это способы сделать базовые модели способными выполнять реальные задачи; web3 — это экономический слой для доступа к данным
🗒 Swarm (рой) самовоспроизводящихся иерархических самоулучшающихся (think generic algo but for LLM agents) — это способ автоматизации; веб3 — это слой алаймента между агентами (proposal but voted on by agents)
🌈 Личный ИИ ассистент экономит вам время и деньги; decentralized web nodes/SSI делает это приватным, личным и безопасным
🚬 Большие модели хранят все знание человечества; zkml гарантирует что вы воспользовались нужным знанием и что никто не узнает для чего.
За последние ~5 лет я видел сотни ДАО и только десятки из них остаются функционирующими сегодня. Я вижу такие главные проблемы провала ДАО:
1. Излишний фокус на экономике, когда участников привлекает цена токена и ничего кроме этого
2. Излишняя демократия, когда на каждый чих производится общее голосование или когда некомпетентное большинство берет на себя управления проектами.
3. «Страна Советов», когда каждый школоло инвестор на $10 считает важным высказаться за пропозал и потом обвинять разработчиков что это они на его гениальные предложения положили болт.
Следующие несколько недель красной нитью я буду рассказывать о том как инструменты веб3 и ИИ играют ключевую роль в будущем цивилизации (по мнению научной команды, а так же редакторов, аналитиков и исследователей канала Gershuni).
Весной я писал что по сути web3 это бекэнд инфрастурктура снижающая транзакционные издержки в экономике, а AI (+роботы, IoT, etc.) это фронтенд продукты, которые в реальном времени решают реальные проблемы реальных людей.
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Gershuni
web3 и AI это две стороны одной медали
Фундаментально, web3/crypto это глубоко бэкэнд технология. То есть, та, с которой конечный пользователь не взаимодействует никогда. Да, там есть шилинг токенов, флипинг НФТ и торговля цифровыми лягухами, но это все…
Фундаментально, web3/crypto это глубоко бэкэнд технология. То есть, та, с которой конечный пользователь не взаимодействует никогда. Да, там есть шилинг токенов, флипинг НФТ и торговля цифровыми лягухами, но это все…
В тему ДАО мне тут Сергей Цыпцын скинул свеженькую статью из Nature. Авторы утверждают, что natural intelligence emerges at multiple scales in networks of interacting agents via collective living, social relationships and major evolutionary transitions, which contribute to novel data generation through mechanisms such as population pressures, arms races, Machiavellian selection, social learning and cumulative culture.
То есть, чтобы получить много новых данных для развития и эволюции AGI он должен начать воевать и конфликтовать сам с собой (и с кожаными), ибо ограничения ресурсов суть главный мотиватор роста интеллекта.
Мы все, конечно, думаем о человекоподобных роботах убийцах, но я пойду закодю рой ИИ-агентов, которые должны поделить эфирку (в Sepolia, но не говорите им об этом), чтобы заплатить за своё жизнеобеспечение (GPU).
То есть, чтобы получить много новых данных для развития и эволюции AGI он должен начать воевать и конфликтовать сам с собой (и с кожаными), ибо ограничения ресурсов суть главный мотиватор роста интеллекта.
Мы все, конечно, думаем о человекоподобных роботах убийцах, но я пойду закодю рой ИИ-агентов, которые должны поделить эфирку (в Sepolia, но не говорите им об этом), чтобы заплатить за своё жизнеобеспечение (GPU).
Media is too big
VIEW IN TELEGRAM
Сделал интернет-организацию, которая управляется роем ИИ-агентов.
ДАО имеет собственный токен, голосования и деньги в казначействе, а агенты после продолжительных обсуждений и голосований могут эмитировать новые деньги или тратить существующие.
В этом примере я показываю как мини-рой из агента-голосующего и агента-хранителя-канзачейства обсуждают и в итоге исполняют мое предложение о трате 0.001 ETH на мой адрес в благодарность за то, что я их создал.
Кроме этого (нет в видео) я прикрутил
— возможность читать и загружать файлы на IPFS, чтобы разные рои/стаи/колонии агентов из других ДАО могли коммуницировать с нашим ДАО;
— возможность минтить AGI токен и тратить его на светлое дело строительства AGI;
— создавать ончейн proposals для голосования, но работает пока так себе.
В будущем у каждого агента будет свой личный банковский счет, куда он будет получать бюджет и тратить его чтобы нанимать / спаунить других ИИ-агентов или платить кожаным. Агенты будут координировать и осуществлять траты через пропоузалы и мультисиг подпись.
ДАО имеет собственный токен, голосования и деньги в казначействе, а агенты после продолжительных обсуждений и голосований могут эмитировать новые деньги или тратить существующие.
В этом примере я показываю как мини-рой из агента-голосующего и агента-хранителя-канзачейства обсуждают и в итоге исполняют мое предложение о трате 0.001 ETH на мой адрес в благодарность за то, что я их создал.
Кроме этого (нет в видео) я прикрутил
— возможность читать и загружать файлы на IPFS, чтобы разные рои/стаи/колонии агентов из других ДАО могли коммуницировать с нашим ДАО;
— возможность минтить AGI токен и тратить его на светлое дело строительства AGI;
— создавать ончейн proposals для голосования, но работает пока так себе.
В будущем у каждого агента будет свой личный банковский счет, куда он будет получать бюджет и тратить его чтобы нанимать / спаунить других ИИ-агентов или платить кожаным. Агенты будут координировать и осуществлять траты через пропоузалы и мультисиг подпись.
Из завершившейся (ровно тем, чем и начиналась: Сэм вернулся, если кто пропустил) истории с OpenAI есть один важный вывод:
За последние 4 дня большая часть AI стартапов и разработчиков, потеряв уверенность в OpenAI, попробовали open source модели и поняли, что они не хуже и не сложнее в работе по сравнению с GPT.
За последние 4 дня большая часть AI стартапов и разработчиков, потеряв уверенность в OpenAI, попробовали open source модели и поняли, что они не хуже и не сложнее в работе по сравнению с GPT.
Кстати, у нас новый вебинар в пятницу про применение computer vision для бизнес-задач. А на следующей неделе еще один про vision у мультимодалок (LLaVA, BakLLaVA, GPT-4V).
Компьютерное зрение – технология, которая на практике используется редко и часто для несложных задач. Однако она имеет большой потенциал и может вывести бизнес на новый уровень.
24 ноября на вебинаре “Computer Vision для бизнеса” мы разберем:
— задачи, которые быстро и легко можно решить с помощью компьютерного зрения
— его возможности для улучшения бизнес-процессов
— реальные кейсы успешного использования
План вебинара:
— Как бизнесу помогает CV?
— Использование в спортивной аналитике
— Определение брака и износа
— Отслеживание поведения и эмоций человека
— Поиск по фотографиям
— Подходы и способы решения CV задач для бизнеса
Присоединяйтесь ко встрече и узнайте, как с помощью компьютерного зрения открыть новые возможности для бизнеса. За последние 6 месяцев в вебинарах Codex.Town поучаствовало больше 10,000 человек и больше 30,000 посмотрели и послушали в записи. Присоединяйтесь 24 ноября в пятницу в 16:00 UTC | 17:00 CET | 19:00 по Москве
Все зарегистрированные участники получат запись. Регистрация: https://lu.ma/codextown (может требоваться VPN) Либо вы можете подписаться на Boosty и получить ссылку на вебинар там: https://boosty.to/codextown
Компьютерное зрение – технология, которая на практике используется редко и часто для несложных задач. Однако она имеет большой потенциал и может вывести бизнес на новый уровень.
24 ноября на вебинаре “Computer Vision для бизнеса” мы разберем:
— задачи, которые быстро и легко можно решить с помощью компьютерного зрения
— его возможности для улучшения бизнес-процессов
— реальные кейсы успешного использования
План вебинара:
— Как бизнесу помогает CV?
— Использование в спортивной аналитике
— Определение брака и износа
— Отслеживание поведения и эмоций человека
— Поиск по фотографиям
— Подходы и способы решения CV задач для бизнеса
Присоединяйтесь ко встрече и узнайте, как с помощью компьютерного зрения открыть новые возможности для бизнеса. За последние 6 месяцев в вебинарах Codex.Town поучаствовало больше 10,000 человек и больше 30,000 посмотрели и послушали в записи. Присоединяйтесь 24 ноября в пятницу в 16:00 UTC | 17:00 CET | 19:00 по Москве
Все зарегистрированные участники получат запись. Регистрация: https://lu.ma/codextown (может требоваться VPN) Либо вы можете подписаться на Boosty и получить ссылку на вебинар там: https://boosty.to/codextown
Оказывается, Альтмана уволили из-за того, что LLM слишком хорошо научилась в математику, ну в целом в науку. По крайней мере, спекулируют об этом.
Forwarded from Сиолошная
Так вот, к чему была эта прелюдия. В Reuters пишут, что якобы катализатором увольнения Альтмана стало письмо сотрудников OpenAI совету директоров. В нём говорится о прорыве в исследовании ИИ, которое, «может угрожать человечеству».
Правда, Reuters не смогло ознакомиться с копией письма. А автор(ы) не ответили на запросы о комментариях. Так что особо почвы у теории под ногами нет.
Масла в огонь подливает тот факт, что за сутки до увольнения Sam Altman на оффлайн-саммите сказал следующее:
— Четыре раза за всю историю OpenAI, и последний раз был вот несколько недель назад, я присутствовал в комнате, когда мы как бы отодвигаем завесу невежества и подталкиваем границу открытий вперед. Сделать это — профессиональная честь на всю жизнь.
Что он там такого увидел?
Согласно новости, модель (система?) Q* смогла решить некоторые математические задачи, сообщил источник на условиях анонимности. Это само по себе выглядит странно — ведь даже в примере выше пример куда сложнее, это конец средней школы. И как будто никакого прорыва и нет. Возможно, журналисты всё перепутали — ну или история выдумка.
Теперь о том, как на это смотреть и чего ждать:
1) OpenAI точно занимается разработкой модели, которая будет осуществлять научные исследования. Они про это пишут открыто.
2) Для того, чтобы это произошло, нужно, чтобы модель-учёный умела решать сложные задачи и планировать исследования. Часть этой работы уже сделана — см. статью из поста выше.
3) Вся концепция заключается в том, что модель будет генерировать тысячи неправильных кусочков решений, иногда выдавая верные — главное, чтобы их можно было отранжировать в списке гипотез выше, чем мусорные (вспоминайте модель-оценщика из поста выше).
4) Для этого нужно огромное количество мощностей. Поэтому деньги тут решают. OpenAI пока привлекли больше всех инвестиций, и моё видение такое, что через 2 года это станет большим препятствием для входа. Останется 5-10 игроков, кто готов столько денег сжигать.
5) Вопрос в том, насколько большим будет следующий скачок. Сможет ли модель писать решения на уровне магистра? PhD? Постдока? Доктора наук? Будет ли она ограничена 2-3 доменами, или же обобщится на любую научную область, где есть вычисления?
6) Однажды вы проснётесь, и слух из новости станет правдой: появится модель, которая будет хотя бы частично (>50%) заменять одного учёного в лаборатории. С этих пор прогресс начнёт двигаться гораздо быстрее — потому что нанять 100 учёных за день нельзя, а запустить 100500 моделей на кластере за день — можно.
Более подробно с моим видением дальнейшей стратегии OpenAI и направлениями, в которых они будут копать, вы можете ознакомитсья в моей недавней лекции «What's next for OpenAI?». Там я, конечно, не предсказал шумиху с увольнением CEO, но много говорю про агентов-исследователей и подход OpenAI.
А почитать больше спекуляций по поводу Gemini и Q* можно на LessWrong.
Правда, Reuters не смогло ознакомиться с копией письма. А автор(ы) не ответили на запросы о комментариях. Так что особо почвы у теории под ногами нет.
Масла в огонь подливает тот факт, что за сутки до увольнения Sam Altman на оффлайн-саммите сказал следующее:
— Четыре раза за всю историю OpenAI, и последний раз был вот несколько недель назад, я присутствовал в комнате, когда мы как бы отодвигаем завесу невежества и подталкиваем границу открытий вперед. Сделать это — профессиональная честь на всю жизнь.
Что он там такого увидел?
Согласно новости, модель (система?) Q* смогла решить некоторые математические задачи, сообщил источник на условиях анонимности. Это само по себе выглядит странно — ведь даже в примере выше пример куда сложнее, это конец средней школы. И как будто никакого прорыва и нет. Возможно, журналисты всё перепутали — ну или история выдумка.
Теперь о том, как на это смотреть и чего ждать:
1) OpenAI точно занимается разработкой модели, которая будет осуществлять научные исследования. Они про это пишут открыто.
2) Для того, чтобы это произошло, нужно, чтобы модель-учёный умела решать сложные задачи и планировать исследования. Часть этой работы уже сделана — см. статью из поста выше.
3) Вся концепция заключается в том, что модель будет генерировать тысячи неправильных кусочков решений, иногда выдавая верные — главное, чтобы их можно было отранжировать в списке гипотез выше, чем мусорные (вспоминайте модель-оценщика из поста выше).
4) Для этого нужно огромное количество мощностей. Поэтому деньги тут решают. OpenAI пока привлекли больше всех инвестиций, и моё видение такое, что через 2 года это станет большим препятствием для входа. Останется 5-10 игроков, кто готов столько денег сжигать.
5) Вопрос в том, насколько большим будет следующий скачок. Сможет ли модель писать решения на уровне магистра? PhD? Постдока? Доктора наук? Будет ли она ограничена 2-3 доменами, или же обобщится на любую научную область, где есть вычисления?
6) Однажды вы проснётесь, и слух из новости станет правдой: появится модель, которая будет хотя бы частично (>50%) заменять одного учёного в лаборатории. С этих пор прогресс начнёт двигаться гораздо быстрее — потому что нанять 100 учёных за день нельзя, а запустить 100500 моделей на кластере за день — можно.
Более подробно с моим видением дальнейшей стратегии OpenAI и направлениями, в которых они будут копать, вы можете ознакомитсья в моей недавней лекции «What's next for OpenAI?». Там я, конечно, не предсказал шумиху с увольнением CEO, но много говорю про агентов-исследователей и подход OpenAI.
А почитать больше спекуляций по поводу Gemini и Q* можно на LessWrong.
YouTube
What's next for OpenAI? | SuperAlignment | Igor Kotenkov, Lecture in Russian
Ссылка на презентацию: https://1drv.ms/p/s!AlnN0aqNwShslxRizBwXClLYDHHe
Мой телеграм канал: https://www.tg-me.com/seeallochnaya
Список всех моих образовательных материалов, статей, лекций итд: https://www.tg-me.com/seeallochnaya/3
В этом докладе мы разберемся, что такое…
Мой телеграм канал: https://www.tg-me.com/seeallochnaya
Список всех моих образовательных материалов, статей, лекций итд: https://www.tg-me.com/seeallochnaya/3
В этом докладе мы разберемся, что такое…
Написал пост, удалил, но понял, что ничего честнее я давно не писал, поэтому возвращаю.
О кейсах ИИ, темпоральном конфузе и операторах
Меня конфузит и морозит, когда речь заходит о кейсах применения ИИ. Помню, 10 лет назад меня так же мучали о кейсах применения крипты (биткоина). Я говорю: деньги. В ответ: ну как же, бла-бла-бла, золотой стандарт, гав-гав-гав, центральный банк и фиат, мяу-мяу-мяу, АБИСПИЧЕНИЕ!!11 А сегодня эти же люди получают и платят зарплату большей части сотрудников в крипте, переводят деньги заграницу, даже эфир застейкали, ибо кому будет 4.8% годовых в дефляционной валюте лишними.
Спрашивают про ИИ. Я говорю: интеллект. Чего тут, господи помилуй, еще обсуждать? Какие могут пространные дискуссии? В ответ что угодно: душа, мозги, даже, говорят, без мяса не может быть интеллекта. Но интеллект это решение проблем. Может тебе песню спеть и анекдот рассказать. А можешь напрячься и сделать агента, который какой-нибудь бизнес-процесс автоматизирует.
Но ответ тот же: как же так! это же жопу с дивана надо поднимать! а у меня вот не работает! а чо так дорого? Я это называю сектантство — убежденность в истине своей картины мира просто потому что, без явной или скрытой логики. И Бог бы с ними, но ведь люди часто неглупые такие вещи говорят.
А вот почему: они — операторы. Оператор это тот, кто получает удовольствие управляя бизнесом, который десятилетиями производит абсолютно одинаковые шоколадки, лепит одинаковые макбургеры и добывает уголь тем же способом, что деды при Николае II. Такое тоже нужно, кстати, так что никакого неуважения.
Но я для себя давно понял, что мне принципиально не интересно думать о любой технологии, которая уже работает (DeFi был интересен в 2018 но не сегодня); бессмысленно решать проблемы, которые кто-то уже решил; скучно обсасывать вчерашние новости и доступные любому решения, потому что свой вклад в будущее человечество они уже внесли. От нас тут больше ничего не зависит. Операторы поднимут и втиснут это во все места, где это имеет смысл.
Нам же остается будущее. А думая про то как с помощью ИИ увеличить продажи мы впадаем в темпоральный конфуз. Мы решаем то, что уже решено и без нас.
О кейсах ИИ, темпоральном конфузе и операторах
Меня конфузит и морозит, когда речь заходит о кейсах применения ИИ. Помню, 10 лет назад меня так же мучали о кейсах применения крипты (биткоина). Я говорю: деньги. В ответ: ну как же, бла-бла-бла, золотой стандарт, гав-гав-гав, центральный банк и фиат, мяу-мяу-мяу, АБИСПИЧЕНИЕ!!11 А сегодня эти же люди получают и платят зарплату большей части сотрудников в крипте, переводят деньги заграницу, даже эфир застейкали, ибо кому будет 4.8% годовых в дефляционной валюте лишними.
Спрашивают про ИИ. Я говорю: интеллект. Чего тут, господи помилуй, еще обсуждать? Какие могут пространные дискуссии? В ответ что угодно: душа, мозги, даже, говорят, без мяса не может быть интеллекта. Но интеллект это решение проблем. Может тебе песню спеть и анекдот рассказать. А можешь напрячься и сделать агента, который какой-нибудь бизнес-процесс автоматизирует.
Но ответ тот же: как же так! это же жопу с дивана надо поднимать! а у меня вот не работает! а чо так дорого? Я это называю сектантство — убежденность в истине своей картины мира просто потому что, без явной или скрытой логики. И Бог бы с ними, но ведь люди часто неглупые такие вещи говорят.
А вот почему: они — операторы. Оператор это тот, кто получает удовольствие управляя бизнесом, который десятилетиями производит абсолютно одинаковые шоколадки, лепит одинаковые макбургеры и добывает уголь тем же способом, что деды при Николае II. Такое тоже нужно, кстати, так что никакого неуважения.
Но я для себя давно понял, что мне принципиально не интересно думать о любой технологии, которая уже работает (DeFi был интересен в 2018 но не сегодня); бессмысленно решать проблемы, которые кто-то уже решил; скучно обсасывать вчерашние новости и доступные любому решения, потому что свой вклад в будущее человечество они уже внесли. От нас тут больше ничего не зависит. Операторы поднимут и втиснут это во все места, где это имеет смысл.
Нам же остается будущее. А думая про то как с помощью ИИ увеличить продажи мы впадаем в темпоральный конфуз. Мы решаем то, что уже решено и без нас.