Китай на сегодняшнем Совбезе ООН: “The potential impact of AI might exceed human cognitive boundaries. To ensure that this technology always benefits humanity, we must regulate the development of AI and prevent this technology from turning into a runaway wild horse. […] We need to strengthen the detection and evaluation of the entire lifecycle of AI, ensuring that mankind has the ability to press the pause button at critical moments”

Давно не делился тут новостями!

Время от времени пишу в Твиттер. Например, попытался проверить скилл Юдковского удивляться вымыслу больше, чем реальности, но реальность отказалась быть удивительной (маловероятное стечение обстоятельств -> пранк не сработал): https://twitter.com/Mihonarium/status/1706219836727341146

Все средства, собранные на краудфандинге в 2018, официально потрачены (и ещё >миллиона сверху). Подробности и отчётность. 150 личных трёхтомников решил подарить за пожертвования на отправку книг победителям олимпиад и в библиотеки; ещё экземпляр можно получить за пожертвование в MIRI. (Пишите в личные сообщения, @Mihonarium)

Невозможно писать эти слова и не плакать. Навальный прожил жизнь героем. Невероятно смелым, умным и честным. Политиком, боровшимся за то, чтобы сделать Россию свободной и прекрасной. Он был убит Путиным после 1125 дней в тюрьме и умер героем. Россия и мир его не забудут; герои не умирают.

Глубочайшие соболезнования семье и коллегам Алексея.

Подлые, мерзкие, отвратительные сволочи. Они убили Навального через день после того, как сообщили, что обменяют его. Алексей мог бы сейчас быть на свободе.

https://youtu.be/jqevNxQ2T8Y

💔

https://navalny.com/p/6674/

Алексей был единственным политиком в истории России, который мог предложить использовать квантовый генератор случайных чисел в политических целях.

Саша (одна из моих самых близких друзей) запустила стартап про community management. Они на очень раннем этапе, но у них уже есть довольно крутой продукт и клиенты. Классные фичи вроде резкого уменьшения токсичности сообществ с помощью reward-shaping’а троллей: они останавливают друг друга от написания гадостей, потому что это приводит к автоматическому появлению/увеличению обязательной паузы между сообщениями. Если вам такое интересно (а предотвращение неконтролируемого экзистенциально опасного ИИ не интересно), идите к ним работать!

https://www.tg-me.com/elidoc0rc/6305

We published a paper—with coauthors from Technion, Transformative Futures Institute, and US IC’s National Intelligence University.

We argue that to ensure audits are continuously robust to the rapidly evolving capabilities of AI systems, industry, auditors, safety advocates, ethicists, academia, and government regulators should all be collaborating on an inclusive organisation for audit standards setting.

Standards should draw from existing examples of industry best practices, including in the aviation and nuclear industries. As such, audits should focus on more than just evaluating the final product (the models), they should also assess the process behind it: the companies, their governance, and, critically, safety culture.

arxiv.org/abs/2404.13060

Исполнилось 24! 🎉

За последний год переключился на AI governance: стало понятно, что основной путь, которым человечество выживает — государства обращают внимание на проблему экзистенциального риска от искусственного интеллекта и глобально предотвращают запуск обучения таких моделей, какие потенциально несут угрозу человечеству.

Сейчас нахожусь в процессе запуска НКО, которая будет повышать осведомлённость о проблеме и повышать вероятность адекватной реакции со стороны правительств.

Ещё переехал в Англию.

ФБК сняли достроенный дворец Путина изнутри, на скрытую камеру.

У него там трон в часовне имени самого себя с довольно фашистскими интерьерами и даже уже наполненная водой аквадискотека.

Это было очевидно и три года назад, это ещё более очевидно сейчас: это дворец поехавшего диктатора. Только позолоты стало меньше и войны стало больше.

https://youtu.be/TL0dSaqhfVs

Там, где начальству не видно, строители дворца говорят:
«Лёха
ты был прав!»

Путинский стриптиз-зал теперь выглядит вот так (правда, непонятно, оставили ли шест).

Daniel Kokotajlo ушёл из OpenAI, потому что «потерял уверенность, что компания будет вести себя ответственно в районе появления общего ИИ». При увольнении ему предложили подписать NDA. Он отказался, потеряв из-за этого по осторожным оценкам от $700к-2м (от 63-182 миллионов рублей по текущему курсу). Он всё ещё не может говорить о многом — подписывал NDA при устройстве в OpenAI — но о чём-то, включая причины ухода, может.

(Обновление: это было $1.7м — 152 миллиона рублей.)

Люди оценивают возможность делиться информацией, которая может снизить вероятность безответственной гонки, стоящей подробных жертв.

Ян Леике и Илья Суцкевер, ранее руководившие командой superalignment, тоже ушли из OpenAI. Тред Яна Леике

Члены совета директоров OpenAI узнали о запуске ChatGPT из Твиттера.

Сэм лжёт руководству и сотрудникам OpenAI; и лжёт публично (от выделения 20% вычислений на алайнмент до незнания, что тех, кто увольнялся из компании, заставляли подписывать секретное соглашение с запретом на какую-либо критику OpenAI, под угрозой потерять уже имеющиеся в собственности акции).

OpenAI — компания, которая, с учётом целей и ресурсов, должна соответствовать довольно высоким стандартам. Но у случайного бизнеса в Силиконовой долине стандарты будут выше.

https://x.com/liron/status/1795589042974949640?s=46

Наверное, это не должно удивлять, но Кадыров похищал детей на улице и потом насиловал их.
https://istories.media/news/2024/06/17/proekt-kadirov-zanimalsya-seksom-s-detmi-14-i-15-let/

Расследование о жизни Кадырова целиком: https://www.proekt.media/guide/vertical-ramzan-kadyrov/

В виде фильма: https://www.youtube.com/watch?v=n3lVJPFJmJk