Вот и Nvidia явно вступила в гонку моделей — и, поскольку ее бизнес не в том, чтоб продавать так или иначе доступ к модели, а в том, чтобы больше покупали железо, на котором модели гоняют — модель опенсорсная, мультимодальная (хотя пока без голоса, только со зрением). По заявке самой компании, да и по первым откликам — NVLM 1.0, a family of frontier-class multimodal large language models вполне конкурентосособно, оно achieve state-of-the-art results on vision-language tasks, rivaling the leading proprietary models (e.g., GPT-4o).
https://venturebeat.com/ai/nvidia-just-dropped-a-bombshell-its-new-ai-model-is-open-massive-and-ready-to-rival-gpt-4/

Я много где много какие лекции читаю — но редко даю на них ссылки здесь: слишком часто вне контекста мероприятия и разговоров за кадром они мало кому полезны или интересны.
Но вот вчера в Иннополисе я рассказывал некую духоподъемную версию своего видения процессов вокруг ИИ — и она вполне самодостаточна.
Вообще каждый год мне нравится обновлять свои даже традиционные материалы, используя появившиеся за год новые идеи и метафоры. И вот как раз примерно год назад я влюбился — с подачи Сатьи Наделлы — в метафору велосипеда на паровом ходу, и вчерашняя лекция, видимо, одна из последних, на которых эту метафору эксплуатирую, пора обновляться. Но как раз итоги прошедшего года вчерашний рассказ хорошо подводит (с моей точки зрения, конечно).
Аудитория была пестрая, поэтому и лекция совершенно не заточена под специалистов — но в каком-то смысле этим и хороша:) Как раз под надвигающееся выходные интересующимся предлагаю рассказ на полтора часа. Чисто в аудио это можно слушать, но лучше все-таки видеть картинку, потому что на слайдах есть интересные иллюстрации того, о чем говорю — и эти картинки я не пересказываю.
Приятного просмотра-прослушивания любителям:)
https://vk.com/video-216917984_456239039

Прикольный факт. Последнее время часто говорят про “великолепную семерку” — семь технологических компаний, самых дорогих по оценке американского рынка; в порядке убывания капитализации на сейчас это Apple, Microsoft, Nvidia, Alphabet, Amazon, Meta, Tesla.
Внутри случались перестановки, но сама семерка казалось крепкой, и еще по тому красивой, что все имена в ней достаточно на слуху, широкая публика знает, а не только внутриотраслевые люди.
И вот надо же: Теслу в действительности еще весной выпнули из семерки (хотя вполне возможно, что временно). Сделать это сумела Broadcom, которая с тех пор большую времени продолжала цениться выше распиаренной Теслы. В исторической перспективе картинка еще любопытней: Тесла сейчас откатилась туда, где была 4 года назад; Broadcom за это время раза в три подорожала.
Вот уж не все то золото, что блестит:)) А ведь состав семерки никто больше не обсуждает: как-то не хочется заменять знаменитость на более скромного профи
PS поправил забавную опечатку, Тесла теперь в тексте "распиаренная", хотя вариант "распаренная" был по-своему неплох:))

https://fortune.com/2024/10/05/broadcom-tesla-magnificent-7-companies-market-cap/

Последнее время уже от вроде бы разумных людей приходится слышать тревожные вопросы на тему перегрева планеты за счет энергии, необходимой датацентрам для проведения ИИ-расчетов.
Не надо прислушиваться к громкой тревоге людей, которые совсем не в ладах с арифметикой и с базовыми представлениями о нашей земной цивилизации. Вот некоторое количество исходных цифр; очень надеюсь, что мои читатели в арифметику в большинстве своем умеют.
◦ Датацентры США в 2022 отвечали за 4% энергопотребления США; к 2026 ожидается 6%, а к 2030 — до 10%
◦ Доля потребления на AI-процессы внутри потребления датацентрами составляет от 5 до 10%, достигнет к 2025 20%
◦ Поскольку рост энергозатрат на ИИ идет сейчас с очень низкой базы, легко пугать словами, что затраты выросли в разы за пару лет. Можно было бы добавлять, что за 10 лет они вообще в бесконечность раз выросли, но даже активисты и журналисты понимают, что манипуляции требуют осторожности:)
◦ В абсолютных цифрах НЕсвязанное с AI энергопотребление в ДЦ — 142 ТВтч в 2023 и 304 ТВтч в 2030; AI потребление 4 ТВтч в 2023 и 93 ТВтч в 2030
Дальше уже от меня: это Штаты, а тамошние ДЦ обрабатывают большую часть мировых запросов, так что в мировом энергопотреблении ИИ отвечает сильно меньше чем за 4% (от датацентров, напоминаю). Причина успеха всех алармистских манипуляций в том, что некоторые важные вещи люди себе не представляют даже по порядку величины. Например, колоссальную энерговооруженность мирового хозяйства 🙂 Которое в прошлом году потребило 620 ЭДж (нечасто встретишь эксаджоули в дикой природе :)), что составляло в 2023 примерно 172 222 ТВтч. Ну, теперь вспомните про 4 ТВтч, потраченные в том же году на ИИ. Все так же пугает?
https://www.axios.com/2024/10/04/ai-energy-data-center-growth
Про мировое производство энергии см. здесь - https://www.visualcapitalist.com/visualizing-global-energy-production-in-2023/

Года полтора назад мы с Ваней Ямщиковым в подкасте с удовольствием обсуждали эмерджентность в связи с быстрым прогрессом возможностей языковых моделей, потом на этот термин ополчились исследователи из Стенфорда — людей, настаивающих на предсказуемости мира, вокруг хватает. Словечко тихо ушло из публичных споров про ИИ. А идеи и употребление в частных разговорах — остались. Решил напомнить в очередной колонке для Форбса;)

https://www.forbes.ru/mneniya/522204-ot-aristotela-do-al-tmana-pocemu-emerdzentnost-klucevoj-termin-dla-ponimania-ii

(Тот подкаст, где «эмерджентность» даже в названии — LLMs как герои 23Q1; готовимся встречать мультимодальность, эмбодимент и эмерджентность :)
И ведь все правильно говорили;))

Прекрасную ссылку прислал мне неравнодушный читатель; спасибо, Александр!
Профессора математики в калифорнийском университете UCLA Теренса Тао иногда называют Моцартом математики, он филдсофский лауреат (аналог Нобелевской для математиков) и вообще звезда.
Профессору явно не чуждо любопытство в отношении языковых моделей, и потестировав недавно о1, он отметил большой прогресс по сравнению с прежними версиями: можно сравнить с посредственным, но не совсем безнадежным магистрантом-математиком. Такой отзыв вызвал интерес журналиста, который с ним созвонился и постарался прояснить отношение профессора Тао к ИИ. Тот отметил, что ИИ открывает дорогу к “математике промышленного масштаба”, которая прежде была невозможна.
Сейчас главное препятствие — посредственность модели как помощника состоит в том, что она ничему не учится в процессе (речь о периодах длиннее одной сессии).
Но если заглянуть вперед, коллаборация людей и ИИ выглядит очень многообещающей:
I think at the frontier, we will always need humans and AI. They have complementary strengths. AI is very good at converting billions of pieces of data into one good answer. Humans are good at taking 10 observations and making really inspired guesses.
https://www.theatlantic.com/technology/archive/2024/10/terence-tao-ai-interview/680153/

Сегодняшняя Нобелевская по физике — неожиданно приятный для меня, как физика по образованию, работающего в ИТ, сюрприз.
А заодно — напоминалка всем, как тесно и порой причудливо переплетено все в науке. Выбор Нобелевского комитета напомнит всем, что еще с 80-х годов прошлого века не только математики и люди из computer science активно интересовались машинным обучением и искусственными нейронными сетями. Когда дело доходит до связи математической статистики с миром вокруг (а ИИ-модели во многом про это) — статистической физике есть что сказать:))
А если вспомнить про переплетение и взаимовлияние —
Because physics has contributed tools for the development of machine learning, it is interesting to see how physics, as a research field, is also benefitting from artificial neural networks. Machine learning has long been used in areas we may be familiar with from previous Nobel Prizes in Physics.
Поздравления лауреатам-2024: Джону Хопфилду и Джеффри Хинтону!
https://www.nobelprize.org/uploads/2024/10/popular-physicsprize2024.pdf

Второй день присуждения Нобелевских — вторая премия за ИИ. Теперь по химии.
В отличие от вчерашней, даже у любителей понудить она не вызывает особого недовольства: что ИИ фундаментально изменил и биохимию, и массу биологических исследований, согласны все, включая скептиков.
В этой премии еще приятно отметить, что отчасти она ушла не чисто в академию: двое из трех лауреатов работают в Google DeepMind.
Достаточно популярная (и одновременно вполне детальная) научная и практическая суть — по ссылке:
https://www.nobelprize.org/uploads/2024/10/advanced-chemistryprize2024.pdf

О, Нобелевская потихоньку начинает обретать черты хорошего шоу. Не успели отшуметь бурные споры по поводу и того, насколько присужденная по физике премия имеет отношение к физике (хотя еще как имеет), и насколько свежеиспеченные лауреаты ее достойны — как один из них произнес фразу, достойную хорошего ситкома.
Рассказывая о роли Университета Торонто, менторов и студентов оттуда, без которых не было бы отмеченных премией результатов, Джеффри Хинтон заметил про своих студентов: “They’ve gone on to do great things. I’m particularly proud of the fact that one of my students fired Sam Altman. And I think I better leave it there.”
https://fortune.com/2024/10/09/openai-sam-altman-geoffrey-hinton-nobel-prize-physics-ilya-sutskever-toronto/

Я, конечно, сам не ожидал, что в моем канале придется давать ссылку на ЖЖ, но вот так вышло. Нигде больше не видел настолько подробного разбора, почему это очень правильно и по делу — именно физикам дать Нобелевскую за нейросети, точнее - за ту физику, которая лежала и лежит в основе современных прорывов.
Толя Левенчук феноменально методичен и по-хорошему педантичен, поэтому все последовательно раскладывает по полочкам, попутно с грустью отмечая, что уверенные в своей крутизне и начитанности очень сильные MLщики не очень-то, в действительности, образованы.
Текст требует приличного знания физики, поэтому прошу прощения у читателей, привыкших к более популярным постам и статьям по ссылкам. Но, увы, совсем простыми словами не ответить на вопрос “Но как вообще брать математику спиновых стёкол из физики и тащить её "назад в математику" и далее в computer sciense как алгоритм?” — и даже суть самого вопроса не передать.
https://ailev.livejournal.com/1737734.html

Выжидал с утра, не писал про вчерашнее масковско/тесловое мероприятие We, Robot — потому что хотел понять: это со мной что-то стало не так, или с харизмой и драйвом Маска?
Кажется, однако, что скорее дело в Маске — или, точнее, в том, что никакой заразительной новизны, пресловутого Wow! не случилось, а в отсутствие магии в голову начинают сразу лезть прозаические вопросы.
Нам показали прототип двухместного беспилотного такси — и он несколько удивляет малой практичностью для такой роли. И не только меня — знакомые с поддержанием парка такси люди из американских стартапов тоже задают вопросы с несколько озадаченным видом. Ну, например, про то, что круто открывающиеся наверх двери в условиях посадки-высадки пассажира в городском трафике сильно непрактичны. Отдельно все задались вопросом про полное отсутствие органов управления: когда такую машину получится сертифицировать для работы на дорогах общего пользования, совершенно неясно.
Не меньше вопросов и про беспилотный микроавтобус — тоже красив, но, вообще-то, уже не оригинален.
Да даже и робот, которого перепозиционировали как домашнего помощника уже совсем не выглядит прорывом в будущее.
А жаль, Маск всегда умел впечатлять не просто дерзкими, но и сильными решениями. А тут даже не хочется цитировать названные на презентации сроки — сразу ясно, что в них уложиться нельзя.
https://www.theverge.com/2024/10/11/24267727/tesla-cybercab-unanswered-questions-fsd-safety-liability

Недавно Сэм Альтман написал романтически оптимистичный текст про будущий мир, который нам подарит ИИ, — и собрал немало негатива (в основном от журналистов и экспертов гуманитарного толка). Однако это не остановило руководителя его прямого конкурента Anthropic Дарио Амодеи (тамошнего СЕО) от написания своего манифеста технооптимиста под названием Machines of Loving Grace.
При этом ничего особо нового он не сказал. “Мощный ИИ” то есть такой, который будет поумнее нобелевских лауреатов, по его мнению, появится около 2026. А после этого, за примерно 7-12 лет, ИИ разберется с насущными проблемами человечества: голодом, болезнями, потеплением — и люди станут жить по 150 лет. Ну и дальше — больше и быстрее по все той же оптимистичной траектории: ИИ “сожмет время”: то на что человечеству нужен был бы век, станет доступно через несколько десятилетий.
Честно, даже для меня при всем моем технооптимизме, звучит несколько наивно:) Как минимум потому, что как-то обходится важный аспект любой мощной технологии: в первую очередь из нее по максимуму выжимают военные. Но даже и без этого его оптимистичное высказывание про ИИ, который поможет глобально подавить “репрессивные правительства” выглядит не слишком обнадеживающее.
Читать тем не менее интересно, можно сэкономить время, почитав пересказ в Techcrunch, который ныне стал очень техноскептичен:))
https://techcrunch.com/2024/10/11/anthropic-ceo-goes-full-techno-optimist-in-15000-word-paean-to-ai/
Оригинальный текст манифеста: https://darioamodei.com/machines-of-loving-grace

Очень показательная статья на тему борьбы с китайской технологической экспансией. Автор сильно недоволен, что Китай продолжает активно принимать участие в международных организациях, разрабатывающих стандарты и, одновременно, патентовать технические решения, основанные на этих стандартах — и у Америки никак не получается блокировать эту деятельность. Более того, ужас в том, что нынче многие заседания органов, вырабатывающих стандарты, проходят в Китае:)
Исторически установившееся лидерство США, Германии и Японии позволяло компаниям из этих стран на лицензировании своих технологий зарабатывать многие сотни млн долларов. Теперь этот же механизм позволяет Huawei, устройства которой запрещены к продаже во многих странах усилиями США, продолжать зарабатывать на мировых рынках.
В общем, немного комичная статья, заканчивающаяся словами “Китай переигрывает нас по нашим же правилам” — если б не явно читаемый посыл “пора переписать правила, чтоб они работали на кого надо”.

https://www.economist.com/business/2024/10/10/china-is-writing-the-worlds-technology-rules

Кстати, меньше чем через час ожидается запуск StarShip 5, он обещает быть зрелищней предыдущих, потому что бустер должен впервые в жизни вернуться к стартовой площадке и опуститься в механические руки-зхваты Мехазиллы:)
https://www.space.com/spacex-starship-flight-5-launch-what-time-livestream#section-can-i-watch-the-spacex-s-starship-flight-5-launch

Получилось поймать бустер с первой попытки! Когда появится красивый монтаж видео момента захвата, тоже сюда выложу, простите за спам:)

Спасибо читателю, кинули мне правильный фрагмент! Любуйтесь, кто еще не:))

И вот даже лучше, потому что там видно реакцию команды. Колоссальные им поздравления! 🙂