Как ИИ влияет на общество и государство?

Темы подкаста:

- Влияние искусственного интеллекта (ИИ) на общество и его регулирование
- Проблемы дезинформации и манипуляции в обществе через ИИ
- Сложности регулирования ИИ и возможные пути его воплощения
- Практическое применение и риски ИИ, включая экзистенциальные угрозы
- Потенциальное использование ИИ в преступной деятельности
- Юридическая сингулярность: несоответствие скорости развития технологий и законодательства
- Проблемы демократии и регулирования в условиях быстрого развития технологий
- Роль искусственного интеллекта (ИИ) в принятии законодательных решений
- Риск использования ИИ в преступной деятельности и кибербезопасности
- Перспективы искусственного интеллекта в решении экономических проблем и влияние на рынок труда
- Влияние ИИ на творческие профессии и качество жизни
- Этические аспекты использования ИИ в юриспруденции и проблемы с доступом к справедливости
- Вопросы социальной справедливости и распределения ресурсов в свете развития ИИ
- Использование ИИ в правоохранительных органах и риски для свободы личности
- Заключительные мысли о возможности анархической организации в эпоху АИ и вызовы, стоящие перед обществом

Канал Александра Гамбаряна: https://www.tg-me.com/legalgamba

Смотреть: YouTube
Слушать: Google | Apple | Spotify

Готовлю видео / вебинар на тему звуковых моделей (распознавание говорящих, разные языки, анализ музыки). Но нифига не успеваю, потому что каждый день выходит куча новых продуктов и появляется куча идей, которые надо попробовать (vision, агенты, тьюнинг). Ну и чувствую что уже не остаётся сил, потому что сейчас выходит ~8 часов записей и лайвов в неделю, плюс столько же подготовки. А ведь еще когда-то нужно работу работать успевать.

Но если не о личном, то музыкальная модель Меты научилась делать стерео музыку. И качество заметно выросло. Очень рекомендую вам поиграться с ней тут.

Кстати, это к вопросу о том какую модальность GPT добавит следующей.

Со всеми этими релизами забыл поделиться еще одной демкой: я сделал бота, который заменяет меня. А именно — ведёт вебинары и читает лекции про генеративный ИИ. То есть, бот сам пишет для себя сценарий на основе того что видит, сам его читает.

Как это работает?
- я снял видео с экрана просто кликая каждый слайд
- gpt-v распознал слайды и что на них написано
- gpt-4 написал комментарии к ним
- gpt-4 отредактировал, добавил эмоций и синхронизировал тайминг. перевел на русский
- gpt-tts озвучил (с сильным американским акцентом, но на итальянском, испанском, французском работает прям идеально)
- сохранил и соединил видео и аудио

Все это ультра-просто. Занимает ~50 строчек кода. На гитхабе есть куча примеров как именно это сделать.

P.S. Вангую, что через год количество AI-generated видео (в том числе длинной формы) на ютубе превысит количество сделанных людьми.

За 3 минуты я делаю своего собственного GPT ассистента, которого можно будет использовать в жизни, бизнесе или выложить в GPT Store и начать на этом зарабатывать.

https://youtu.be/iHtWFGWkpzg

Тут биткоин еще вырос в два раза с прошлого года…

Я заметил что рыночные тренды в крипте связаны с трендами регуляции:

Первый тренд — государственная регуляция, для кого крипта является злейшим врагом. То Китай запретит, то введут повальное KYC, то отклонят ETF, то примут запретительные законы. Государство выигрывает очередную битву, но не войну.

Второй тренд — саморегуляция. То слишком много ICO и мемкоин пирамид, фармилок, то бессмысленных NFT коллекций. Все это лопается, рынок впадает в апатию. Начинается самолечение.

Но кроме этих двух трендов, которые давят на цену вниз, есть еще восходящий тренд реального развития технологии и социальной адаптации. Все больше людей узнает, видит практическую пользу и начинает пользоваться криптой. Крипта, будучи одновременно экономическим и культурным феноменом, идет в контратаку.

Вот эта вечная битва, как день с ночью, и приводит к такой размашистой синусоиде.

Сатоши, конечно, мастер психоистории, ибо увидел эти тренды на десятилетия вперед, да еще и синхронизировал их с политическими циклами в США и заложил в механику халвинга.

Вы наблюдаете смерть этого телеграм-канала, в прямом эфире.

Я вижу очень маленькую вероятность того, что через 12-18 месяцев я, а также большинство авторов телеграм-каналов, рассылок, блогов, онлайн-курсов будут продолжать это делать так же, как они делают это сегодня.

Создание контента, особенно нон-фикшн-контента, посвященного бизнесу, технологиям, психологии, саморазвитию, здоровью, истории, новостям, да и чему угодно другому, является вполне себе алгоритмизируемым процессом. Сегодня этот процесс хранится в весах нейронной сети у меня в голове. Но ничего не мешает переложить это на нейронную сеть цифровую.

Поиск актуальных трендов, анализ того, что лучше работает в плане конверсии, стилистическое оформление, юмор, создание завлекающих картинок и видео, а также repurposing контента, это уже сегодня автоматизируемые вещи, а через год это будут тривиально автоматизируемые вещи.

Написать несколько тезисов, закинуть несколько источников самых популярных авторов по теме, примеры стиля — этого будет достаточно для создания ничуть не менее качественных постов или статей, чем вы читаете сегодня. Взять статью и сделать из нее рилс для тиктока. Взять рилс и на его основе сделать твит. Взять текст и превратить его в подкаст. Взять подкаст и превратить его в видео. Взять записанное кем-то уже видео и превратить это в статью и разместить у себя. Идейка для стартапа, кстати.

Знаете, я вчера смотрел на ютубе видео где чувак на Урале 40 минут чистит трактором снег. Лет 10 назад я бы подумал что он занимается бесполезной работой, мог бы пойти в офис на х10 зарплату. А теперь я знаю: бесполезной работой занимаемся мы.

То что мы делаем уже мертво. Just not evenly distributed.

Угар с OpenAI DevDay.

Ребята натюнили модель на своём слаке, и она на сообщение "напиши пост про промтинг" теперь отвечает "займусь этим первым делом, но завтра с утра"

Чувак на хакатоне запилил персонального жизненного коуча используя новые фичи GPT.

— нательная камера снимает весь ваш день
— GPT Vision разбирает что вы делаете в течении дня
— GPT-4 соотносит это с вашими целями и готовит отчет
— TTS + DALLE готовит в конце дня ролик, в котором рассказывает голосом что у вас получилось хорошо, а что плохо (например, гуляли ли вы на улице, вставали ли вы из-за компьютера и сколько раз отвлекались на соцсети)

Not bad, для однодневного проектика.

Кожаная профессура поёжилась..

А вот еще один проект с хакатона, в котором показан GPT-тьютор по орбитальной мехнике, который умеет вести студента по теме, вести сократический диалог, распознавать формулы и графики на бумаге или доске, проверять их и, конечно, общаться голосом.

Дабы поставить финальную и жирную точку в споре об авторском праве и ИИ:

В диффузионных моделях и в LLM нигде ни в каком виде не хранится оригинальный текст и картинки, на которых они были обучены. В некоторых случаях модели могут воспроизвести стиль или текст близко к оригиналу. Но это будет создание объекта авторского права с нуля, не копия.

Поэтому рассуждения про то что нейронные сети ущемляют профессиональных двачеров и 4чанеров, воруя их контент юридически идентичны заявлениям, что Моцарт украл музыку сумев её запомнить, Вырыпаев в своей пьесе скопипастил Библию, а Пелевин украл идеи у Нагарджуны. Или, еще ближе, если Дэвид Дойч подаст на меня в суд за то что я на подкасте рассказал о чем его книга.

Генеративные нейронные сети нигде не хранят оригинальные материалы из своего сета для тренировки, но невероятная их способность имея размер в тысячную процента от объёма данных для обучения все-таки воспроизводить что-то близкое по смыслу — это фантастическая загадка Вселенной о топологии латентного пространства и компрессии знания. Пока что не решенная никем, кстати.

​Хочу посоветовать вам один толковый канал, автор которого реально занимается AI и опубликовал 15+ статей на топовых конфах.
Артем — Senior Research Scientist в элитной лабе по генеративному AI, Meta GenAI в Цюрихе и ещё находит время вести канал!

Например, недавно он писал о новой text-2-image модели Emu, к которой приложил свою руку и ускорил генерацию до 5 секунд. Или вот пост про модель для генерации стикеров, котороую Артем лично оптимизировал. Моделька уже крутится в Инсте и Whatsup в проде.

Артем в целом пишет о нейронках, AR/VR и генеративном AI, добавляя свое критическое мнение, а также травит байки о работе AI ресерчера в Meta.

Мало у кого из авторов каналов есть такой мощный полевой опыт в AI как у Артема, так что его канал точно стоит почитать: @ai_newz

Создать своего собственного GPT начиная с этой недели может любой, даже не обладая навыками программирования. Я сделал десятки и изучил сотни созданных сообществом GPTs, и хочу поделиться лучшими практиками с вами.

На вебинаре в ближайшую пятницу я расскажу о том как пройти полный путь от придумывания идеи и анализа лучших практик реализации GPT агентов до создания и публикации в магазине GPT.

Вы узнаете как практически, без воды:

1. Создать своего агента — от простого бота-продавца до сложного иммиграционного консультанта с десятками разных функций
2. Добавить своему боту долговременную память и специальные знания (и, главное, как разметить эти данные)
3. Добавить ассистенту возможность общаться с другими ассистенами, искать информацию в интернете, рисовать картинки, писать и исполнять код
4. Подключить его к внешним сервисам: научить бота читать данные из CRM, отправлять письма, писать посты в LinkedIn.

Вы сможете сделать бота лично для себя (тренера, модератора, секретаря), для своего бизнеса (маркетолог, юрист, клиентский менеджер) или для всего мира — и опубликовать его в GPT Store и начать с этого зарабатывать с 250 миллионной аудитории.

Вы получите:

- Пошаговую инструкцию по созданию GPTs
- Анализ лучших примеров с разбором как они работают
- Инструкции, скрипты для подключения внешних no-code сервисов

За последние 6 месяцев в вебинарах Codex.Town поучаствовало больше 5,000 человек и больше 30,000 посмотрели и послушали записи. Присоединяйтесь 17 ноября в пятницу в 16:00 UTC | 17:00 CET | 19:00 по Москве. Все зарегистрированные получат запись.

Регистрация: https://lu.ma/codextown (может требоваться VPN)

Либо вы можете подписаться на Boosty и получить ссылку на вебинар там: https://boosty.to/codextown

P.S. Кроме этого вебинара в течении месяца пройдут:
17 ноября: GPT своими руками, создает ботов для GPT Store
24 ноября: Глаза у ИИ, введение и кейсы computer vision
1 декабря: Глаза у ИИ, бизнес и личные кейсы GPT-4V и LLaVa
8 декабря: Голос у ИИ: разбор голосовых моделей

Централизация является угрозой для развития и контроля LLM и, в будущем, AGI. Подробнее (и красивее) про это высказался Александр Гамбарян в гостях моего подкаста. Сегодня это развитие в первую очередь обусловлено доступом к GPU (а так же энергии, охлаждению) и talent density ML инженеров (вспомним главную тему этой недели про то как OpenAI предлагает $10M за переход к ним сотрудникам Google).

Децентрализация, будучи экономическим, социальным (и, как следствие, политическим) феноменом предлагает потенциальное решение проблемы узурпации и единоличного контроля нескольких корпораций и state actors над SoTA AI моделями (и, как следствие, AGI агентами).

Я писал про децентрализованную сеть агентов в марте, но с тех пор понимание бизнес-модели такой сети сильно обросло мясом. С одной стороны рынка у нас люди, в том числе очень небольшие (децентрализованные автономные) организации, которые продают:

- Доступ к training data
- tailored finetunings (тьюнинг мистраля на создание тикетов в жире)
- RAGs (think paywalled Wikipedia but in vector space)
- prompts (more like complex and formally validated instructions sets)
- tools (extrapolate LangChain Tools but for every agent type out there)
- reputation score (think quantified web of trust for agent swarms)
- HF (Fiverr for human Executive Assistants to AI swarms)

Важные изменения в ментальной модели за эти 8 месяцев:

1. Не бывает sufficiently функциональных агентов — только рои. Любой AutoGPT туп как скала. Рой же, функционален и туп одновременно. В рое у одного агента есть только одна функция. Рой в постоянной коммуникации друг с другом, но связи динамичны в зависимости от ситуации. Рой может улучшать инструкции каждого из своих агентов (пчёл), может их убивать в зависимости от эффективности. Рой следует заданию человека, но при этом плодит сотни или тысячи GPTs (или агентов в другой платформе) так, чтобы один агент имел одну функцию (читать, писать, вызывать API, общаться, координировать).

2. Риск централизации ИИ куда выше рисков AGI. Потому что malicious human actors уже тут, а гипотетических сознательных роботов-убийц пока нет. Опенсорс не решает проблему, потому что открытая модель, как верно сказал Илон Маск — это просто huge CSV file. Дело в процессе: данные, курация, файнтьюнинг, RLHF. Владеющий этим владеет ИИ.

Пост может звучать скомкано, но I'd kill to work on this.

Заметил феномен «GPT-work».

Для людей, обладающих средним или ниже средней квалификацией (будь то учитель, юрист, программист, маркетолог, менеджер, специалист техподдержки и тд), GPT является инструментом, который позволяет им выйти на уровень средний по рынку, то есть он повышает качество их работы и их квалификацию.

Однако, для людей, которые обладают высокой квалификацией GPT является в конечном счете классным инструментом для экономии времени, но инструментом, который снижает качество работы. И все чаще и чаще в письмах, в постах в социальных сетях, в переписке, в презентациях, в документах я вижу вот такие вот следы GPT-Work, когда человек, который, я точно знаю, мог бы сделать сильно круче, потратив на это 10 минут, выбрал потратить на это 10 секунд. И я здесь точно никого не осуждаю, и я точно сам делаю ровно то же самое.

Проблема возникает тогда, когда 10-секундный GPT-work выдают за результат 6 часов работы, и просят соотвествующе денег и уважения. Это экономически неизбежно, но все равно неприятно. Сегодня есть уникальная арбитражная возможность: вы можете брать денег за 6 часов, а тратить 10 секунд. Но она закончится скоро, да и морально-этически такой фигней заниматься мало кто осилит. Совесть загрызет.

Но, тем не менее, рекомендую настоятельно (через Custom Instructions) попросить GPT навечно исключить из лексикона слова «уникальный» и «eager».

Только что завершился воркшоп по придумываю, приоритезации и созданию (слегка не успели) GPT ботов в нашей группе.

Было почти 40 человек, придумали под сотню разных действительно классных идей и совместно обсудили/приоритизировали. На сркиншоте показано как это выглядело. Несколько человек, пока мы штормили в design thinking формате, успели даже реализовать рабочие приложения. Примерно о таком я и мечта, когда говорил что codex.town должен стать площадкой совместного изучения и со-творчества.

Многие из придуманных идей для меня прям открыли глаза на новые юз-кейсы, как для бизнеса, так и личные. Гигантское спасибо Илье Плазма (подписывайтесь на него) за организацию!

Поскольку не у всех ещё есть опыт создания ботов для GPT Store, снова приглашаю всех на вебинар в пятницу. Я почти доделал сценарий для вебинара: мы в прямом эфире (помолимся богу GPU и инференса чтобы чат не упал) сделаем не один, а пять разных примеров GPTs:

1. Построим GPT учителя, используя исключительно естественный язык, то есть русский и английский, в качестве языка программирования.
2. Мы сделаем собственного бота с долговременной памятью и опубликуем этого бота для публичного доступа.
3. Мы будем использовать автоматические действия, то есть сделаем бота, который будет в зависимости от контекста беседы сам выбирать, с каким из внешних сервисов взаимодействовать. Консьерж для регистрации и управления вебинарами.
4. Мы подключим Webhook к GPT-боту, что позволит нам интегрироваться с любым внешним сервисом, который имеет API. Например, базой данных, CRM-системой, Jira, Slack, Notion, Gmail и так далее.
5. Мы сделаем примитивный Society of Agents, то есть систему, в которой несколько агентов в ходе обсуждения и взаимной критики принимают решения.

Присоединяйтесь 17 ноября в пятницу в 16:00 UTC | 17:00 CET | 19:00 по Москве. Все зарегистрированные участники получат запись. Регистрация: https://lu.ma/codextown (может требоваться VPN) Либо вы можете подписаться на Boosty и получить ссылку на вебинар там: https://boosty.to/codextown