Продолжение поста про 23andMe
Воджицки попыталась привлечь новые инвестиции, но на фоне кризиса и падения интереса к небольшим фармкомпаниям у нее ничего не вышло, и 23andMe пришлось уволить часть команды. Попытки привлечь постоянный приток денег от клиентов через подписную модель тоже провалились – из-за цены услуги и ее неясного смысла: никаких новых данных каждый месяц, очевидно, появляться не могло.
Помимо этого у 23andMe с самого начала были принципиально нерешаемые проблемы вроде невозможности выдавать клиентам по-настоящему серьезную медицинскую информацию на основании только анализа ДНК, а не одобренной FDA процедуры, а также вечная проблема чувствительности и специфичности тестов (по-простому, ни положительный, ни отрицательный результаты при общей редкости каких-то признаков не являются надежными).
Обо всем этом, а также о том, что теперь будет с данными клиентов 23andMe, мы подробно поговорим на стриме [3] в среду, 26.03 в 18:30 по Берлину. Здесь же закончу тем, что классная с виду идея по факту не имеет серьезных приложений и не масштабируема (клиентам нет смысла пользоваться услугой больше одного раза), так что перспективы 23andMe исходно были туманны. Но неуемная энергия Воджитски смогла подстегнуть интерес публики и позволила компании продержаться на рынке 19 лет. Наверняка можно было бы придумать, как можно еще применять результаты гентестов, но это классический hindsight bias, то есть искажение знания задним умом. Сейчас мы понимаем, что надо было действовать иначе, тогда это было совсем неочевидно.
Но, как бы то ни было, 23andMe способствовала тому, что люди стали воспринимать гентесты как что-то само собой разумеющееся, как часть повседневности. Хорошо это или плохо – вопрос, так как для большинства генетических особенностей у нас нет однозначной связи с реальными проявлениями, но люди уже свыклись с мыслью, что в ДНК можно найти объяснение их проблем. Но это вопрос не инструмента, а его применения и продвижения. Что тоже обсудим на стриме, так что приходите.
Ссылки:
[1] - https://www.reuters.com/business/healthcare-pharmaceuticals/dna-testing-firm-23andme-files-chapter-11-bankruptcy-sell-itself-2025-03-24/
[2] - https://www.kommersant.ru/doc/2088222
[3] - https://youtube.com/live/M8kHbOaINyg?feature=share
Воджицки попыталась привлечь новые инвестиции, но на фоне кризиса и падения интереса к небольшим фармкомпаниям у нее ничего не вышло, и 23andMe пришлось уволить часть команды. Попытки привлечь постоянный приток денег от клиентов через подписную модель тоже провалились – из-за цены услуги и ее неясного смысла: никаких новых данных каждый месяц, очевидно, появляться не могло.
Помимо этого у 23andMe с самого начала были принципиально нерешаемые проблемы вроде невозможности выдавать клиентам по-настоящему серьезную медицинскую информацию на основании только анализа ДНК, а не одобренной FDA процедуры, а также вечная проблема чувствительности и специфичности тестов (по-простому, ни положительный, ни отрицательный результаты при общей редкости каких-то признаков не являются надежными).
Обо всем этом, а также о том, что теперь будет с данными клиентов 23andMe, мы подробно поговорим на стриме [3] в среду, 26.03 в 18:30 по Берлину. Здесь же закончу тем, что классная с виду идея по факту не имеет серьезных приложений и не масштабируема (клиентам нет смысла пользоваться услугой больше одного раза), так что перспективы 23andMe исходно были туманны. Но неуемная энергия Воджитски смогла подстегнуть интерес публики и позволила компании продержаться на рынке 19 лет. Наверняка можно было бы придумать, как можно еще применять результаты гентестов, но это классический hindsight bias, то есть искажение знания задним умом. Сейчас мы понимаем, что надо было действовать иначе, тогда это было совсем неочевидно.
Но, как бы то ни было, 23andMe способствовала тому, что люди стали воспринимать гентесты как что-то само собой разумеющееся, как часть повседневности. Хорошо это или плохо – вопрос, так как для большинства генетических особенностей у нас нет однозначной связи с реальными проявлениями, но люди уже свыклись с мыслью, что в ДНК можно найти объяснение их проблем. Но это вопрос не инструмента, а его применения и продвижения. Что тоже обсудим на стриме, так что приходите.
Ссылки:
[1] - https://www.reuters.com/business/healthcare-pharmaceuticals/dna-testing-firm-23andme-files-chapter-11-bankruptcy-sell-itself-2025-03-24/
[2] - https://www.kommersant.ru/doc/2088222
[3] - https://youtube.com/live/M8kHbOaINyg?feature=share
Безвольные каменщики pinned «Компания 23andMe, пионер и самый знаменитый игрок рынка потребительского генетического тестирования, подала на банкротство [1]. Эта новость для многих оказалась неожиданностью, но на самом деле, дела у компании шли не очень уже много лет. Как же так, разве…»
Помните, в фильме Jurassic Park ученые получали ДНК динозавров, вытягивая ее из брюшка комаров, застывших в янтаре? На днях в BMC Biology вышла статья [1], авторы которой, вероятно, тоже любят Jurassic Park. ДНК динозавров они, правда, не извлекали (на всякий случай: это невозможно, за десятки миллионов лет ДНК распадается на мелкие клочки, из которых невозможно собрать никакой осмысленной последовательности), но изучив 16 застрявших в янтаре ос, которые жили 99 млн лет назад, описали вполне себе устрашающего паразита.
Оса Sirenobethylus charybdis летала по древним лесам в районе нынешней Мьянмы в то же время (плюс-минус несколько миллионов лет), когда по планете бродили анкилозавры, тираннозавры, тарбозавры и симпатичные пернатые гиганторапторы. По всем признакам S. charybdis была насекомым-паразитом, но одна странная и при этом весьма выдающаяся анатомическая деталь не давала ученым покоя. Они никак не могли понять, для чего может быть нужно здоровенное выпячивание на брюшке, которое, к тому же, могло двигаться и даже открываться и закрываться.
Среди ныне живущих насекомых авторы не нашли ничего похожего, и от отчаяния обратились к царству растений. Там они быстро обнаружили очень похожий орган – а именно, ловушку венериной мухоловки, хищного растения. Краевые части ее листьев образуют натурально челюсти, которые захлопываются, когда муха, паук или даже маленькая лягушка заденут расположенные на листьях чувствительные волоски. Выбраться из ловушки жертвы не могут, и милый цветочек без суеты переваривает их.
В новой статье авторы выдвигают гипотезу, что непонятное образование S. charybdis могло работать похожим образом – вот только целью было не сожрать попавшую в ловушку жертву, а всадить в нее яйца при помощи расположенного сразу за странным образованием яйцеклада, после чего жучка или паучка отпускали на волю. Дальнейшее развитие событий знакомо нам по фантастическим фильмам ужасов: личинки ос не спеша, со вкусом развивались в теле жертвы, пока не выедали её изнутри.
Сегодняшние осы-паразиты (по-русски их принято называть наездники) используют похожие стратегии, но, так сказать, осы-миллениалы отказались от сложносочиненной ловушки и откладывают яйца в тела жертв, оседлывая их сверху – отсюда и русское название. Или даже просто оставляют яйца в гнездах других насекомых, после чего личинки благополучно съедают потомство своих невольных хозяев.
А оса Ampulex compressa и вовсе превращает таракана – своё любимое блюдо – в послушного бычка, отключая при помощи яда механизмы, отвечающие за рефлекс бегства. Затем оса отъедает у несчастного часть антенн, берет его за оставшиеся огрызочки как за поводок и ведет к себе в гнездо, где откладывает пару яиц, запечатывает вход и улетает. Детишки, вылупившись, несколько дней поедают вкусного тараканчика, потом залезают в его брюшную полость, где в тепле и уюте завершают свое развитие. Всё это время таракан остается живым и помирает только тогда, когда личинки доедают его внутренние органы.
Разумеется, мы не можем точно сказать, зачем именно странное образование было нужно древним паразитическим осам. Возможно, то, что ученые сочли ловушкой для будущих жертв, на самом деле было нужно для спаривания или даже транспортировки личинок. Но учитывая, что времена 99 млн лет назад были суровые, даже самые кровожадные сценарии не выглядят невероятными.
Опять же, какая идея для сценаристов: в очередном продолжении Jurassic Park энтузиасты могли бы воскресить такую вот паразитическую осу – немного увеличив ее для зрелищности. В конце концов, зачем нам импортозамещение в виде каких-то там чужих, монстров достаточно и на Земле.
Ссылки:
[1] - https://bmcbiol.biomedcentral.com/articles/10.1186/s12915-025-02190-2#Abs1
Оса Sirenobethylus charybdis летала по древним лесам в районе нынешней Мьянмы в то же время (плюс-минус несколько миллионов лет), когда по планете бродили анкилозавры, тираннозавры, тарбозавры и симпатичные пернатые гиганторапторы. По всем признакам S. charybdis была насекомым-паразитом, но одна странная и при этом весьма выдающаяся анатомическая деталь не давала ученым покоя. Они никак не могли понять, для чего может быть нужно здоровенное выпячивание на брюшке, которое, к тому же, могло двигаться и даже открываться и закрываться.
Среди ныне живущих насекомых авторы не нашли ничего похожего, и от отчаяния обратились к царству растений. Там они быстро обнаружили очень похожий орган – а именно, ловушку венериной мухоловки, хищного растения. Краевые части ее листьев образуют натурально челюсти, которые захлопываются, когда муха, паук или даже маленькая лягушка заденут расположенные на листьях чувствительные волоски. Выбраться из ловушки жертвы не могут, и милый цветочек без суеты переваривает их.
В новой статье авторы выдвигают гипотезу, что непонятное образование S. charybdis могло работать похожим образом – вот только целью было не сожрать попавшую в ловушку жертву, а всадить в нее яйца при помощи расположенного сразу за странным образованием яйцеклада, после чего жучка или паучка отпускали на волю. Дальнейшее развитие событий знакомо нам по фантастическим фильмам ужасов: личинки ос не спеша, со вкусом развивались в теле жертвы, пока не выедали её изнутри.
Сегодняшние осы-паразиты (по-русски их принято называть наездники) используют похожие стратегии, но, так сказать, осы-миллениалы отказались от сложносочиненной ловушки и откладывают яйца в тела жертв, оседлывая их сверху – отсюда и русское название. Или даже просто оставляют яйца в гнездах других насекомых, после чего личинки благополучно съедают потомство своих невольных хозяев.
А оса Ampulex compressa и вовсе превращает таракана – своё любимое блюдо – в послушного бычка, отключая при помощи яда механизмы, отвечающие за рефлекс бегства. Затем оса отъедает у несчастного часть антенн, берет его за оставшиеся огрызочки как за поводок и ведет к себе в гнездо, где откладывает пару яиц, запечатывает вход и улетает. Детишки, вылупившись, несколько дней поедают вкусного тараканчика, потом залезают в его брюшную полость, где в тепле и уюте завершают свое развитие. Всё это время таракан остается живым и помирает только тогда, когда личинки доедают его внутренние органы.
Разумеется, мы не можем точно сказать, зачем именно странное образование было нужно древним паразитическим осам. Возможно, то, что ученые сочли ловушкой для будущих жертв, на самом деле было нужно для спаривания или даже транспортировки личинок. Но учитывая, что времена 99 млн лет назад были суровые, даже самые кровожадные сценарии не выглядят невероятными.
Опять же, какая идея для сценаристов: в очередном продолжении Jurassic Park энтузиасты могли бы воскресить такую вот паразитическую осу – немного увеличив ее для зрелищности. В конце концов, зачем нам импортозамещение в виде каких-то там чужих, монстров достаточно и на Земле.
Ссылки:
[1] - https://bmcbiol.biomedcentral.com/articles/10.1186/s12915-025-02190-2#Abs1
Безвольные каменщики pinned «Помните, в фильме Jurassic Park ученые получали ДНК динозавров, вытягивая ее из брюшка комаров, застывших в янтаре? На днях в BMC Biology вышла статья [1], авторы которой, вероятно, тоже любят Jurassic Park. ДНК динозавров они, правда, не извлекали (на всякий…»
Некоторое время назад меня пригласили принять участие в дискуссии о том, как развитие ИИ и больших языковых моделей (LLM) в частности влияют на поведение и биологию человека. Тема показалась мне стоящей обсуждения, особенно учитывая, что помимо меня в дискуссии должны были принять участие исследователь LLM и нейробиолог.
И, как мне кажется, разговор и правда получился весьма любопытным – как минимум, меня он навел на некоторые размышления. Тем более, что мы успели обсудить самые разные аспекты: от влияния нейросетей на образование до усиления неравенства в обществе под влиянием ИИ. Если вам тоже интересны вопросы взаимодействия людей и нейросетей – вот тут [1] можно послушать и посмотреть нашу дискуссию.
Ссылки:
[1] - https://youtu.be/pOPON6mKwjI?si=2DBcAD6PcOrLjbr1
И, как мне кажется, разговор и правда получился весьма любопытным – как минимум, меня он навел на некоторые размышления. Тем более, что мы успели обсудить самые разные аспекты: от влияния нейросетей на образование до усиления неравенства в обществе под влиянием ИИ. Если вам тоже интересны вопросы взаимодействия людей и нейросетей – вот тут [1] можно послушать и посмотреть нашу дискуссию.
Ссылки:
[1] - https://youtu.be/pOPON6mKwjI?si=2DBcAD6PcOrLjbr1
Согласно самой распространённой версии легенды, после победы греков над персами в битве при Марафоне в 490 году до н. э. афинский воин по имени Фидиппид был отправлен в Афины с вестью о победе. Он без остановки пробежал около 40 километров, добравшись до цели, воскликнул: «Радуйтесь, афиняне, мы победили!» – и тут же скончался. Эта история вдохновила создание современной марафонской дистанции (так и пишут: «вдохновила»).
Легенды легендами, но соображение, что пробежка длиной в 42 км может, скажем так, не слишком благоприятно отразиться на работе сердца – довольно частая страшилка, связанная с марафонами. И периодически новости с марафонов и полумарафонов подтверждают, что это вовсе не страшилка, а самый что ни на есть реальный риск. И учитывая растущую популярность забегов на длинные дистанции, к дискуссии о том, полезны такие развлечения для здоровья или вредны, подключились исследователи.
На днях в JAMA вышла работа [1], авторы которой попытались ответить на этот вопрос, проанализировав данные 29 млн участников забегов по всем США за период с 2010 по 2023 годы. К слову, это в три раза больше, чем в период с 2000 по 2009 годы.
В общей сложности за изучаемый период у марафонцев и полумарафонцев было зарегистрировано 176 случаев остановки сердца во время забега или в течение часа после финиша, то есть средняя частота составила 0,54 случая на 100 000 участников. Что характерно, этот показатель не поменялся по сравнению с периодом 2000-2009, хотя, как я уже сказала, количество людей, принимающих участие в забегах, утроилось. При этом летальность после остановки сердца во время забега снизилась с 71% в 2000-2009 годах до 34% в 2010-2023 годах.
Иначе говоря, относительный риск закончить марафон так же, как несчастный Фидиппид, за последние десятилетия значительно упал. Авторы связывают это с улучшением мер по медицинскому оснащению забегов. Если в 2000-2009 годах только 58% бегунов, у которых остановилось сердце, проводили сердечно-лёгочную реанимацию, и лишь 48% реанимировали с использованием дефибрилляторов, то в 2010-2023 годах оба эти значения приблизились к 100%.
Что касается факторов риска, то главным по-прежнему остается мужской пол (в 2000-2009 годах была выявлена та же закономерность). Относительная частота случаев остановки сердца составила 1,12 на 100 000 у мужчин и 0,19 на 100 000 у женщин. Второй фактор риска – дистанция. На марафонах частота остановок сердца 1,04 на 100 000, на полумарафонах – 0,47 на 100 000. Ну и разумеется, важно исходное состояние здоровья бегунов: у значительной части людей, у которых на забеге остановилось сердце, была ишемическая болезнь сердца (ИБС).
Для сравнения, марафоны, хотя и являются разновидностью околоэкстремальных нагрузок, значительно безопаснее, например, триатлонов, риск остановки сердца во время которых почти в 3 раза выше. Авторы связывают такую разницу с тем, что бег на длинные дистанции – это более или менее равномерная нагрузка средней интенсивности, а вот для триатлонов типичны резкие всплески интенсивности. Собственно, и на марафонах большинство случаев остановки сердца происходят на последней четверти дистанции, когда многие бегуны увеличивают темп.
И тем не менее при условии, что на всей дистанции забега есть дефибрилляторы и медицинский персонал, вероятность выжить после остановки сердца сравнима с выживаемостью в других местах, где есть общедоступные дефибрилляторы, вроде аэропортов, казино и учебных заведений. Другой вопрос, что сам риск остановки сердца на забеге выше, чем в школе или в казино. С третьей – на длинные дистанции обычно бегают люди, которые несколько здоровее многих своих соседей, которые не то что марафон пробежать, подняться на один лестничный пролет не могут, так что для них общие риски ниже.
Но в общем, бедняге Фидиппиду просто не повезло, и беги он на 2500 лет позже, вполне вероятно, остался бы жив. Разумеется, все эти данные не отменяют других рисков, связанных с марафоном, и того факта, что к забегам на длинные дистанции нужно готовиться, а еще лучше – перед началом подготовки проконсультироваться с врачом.
Легенды легендами, но соображение, что пробежка длиной в 42 км может, скажем так, не слишком благоприятно отразиться на работе сердца – довольно частая страшилка, связанная с марафонами. И периодически новости с марафонов и полумарафонов подтверждают, что это вовсе не страшилка, а самый что ни на есть реальный риск. И учитывая растущую популярность забегов на длинные дистанции, к дискуссии о том, полезны такие развлечения для здоровья или вредны, подключились исследователи.
На днях в JAMA вышла работа [1], авторы которой попытались ответить на этот вопрос, проанализировав данные 29 млн участников забегов по всем США за период с 2010 по 2023 годы. К слову, это в три раза больше, чем в период с 2000 по 2009 годы.
В общей сложности за изучаемый период у марафонцев и полумарафонцев было зарегистрировано 176 случаев остановки сердца во время забега или в течение часа после финиша, то есть средняя частота составила 0,54 случая на 100 000 участников. Что характерно, этот показатель не поменялся по сравнению с периодом 2000-2009, хотя, как я уже сказала, количество людей, принимающих участие в забегах, утроилось. При этом летальность после остановки сердца во время забега снизилась с 71% в 2000-2009 годах до 34% в 2010-2023 годах.
Иначе говоря, относительный риск закончить марафон так же, как несчастный Фидиппид, за последние десятилетия значительно упал. Авторы связывают это с улучшением мер по медицинскому оснащению забегов. Если в 2000-2009 годах только 58% бегунов, у которых остановилось сердце, проводили сердечно-лёгочную реанимацию, и лишь 48% реанимировали с использованием дефибрилляторов, то в 2010-2023 годах оба эти значения приблизились к 100%.
Что касается факторов риска, то главным по-прежнему остается мужской пол (в 2000-2009 годах была выявлена та же закономерность). Относительная частота случаев остановки сердца составила 1,12 на 100 000 у мужчин и 0,19 на 100 000 у женщин. Второй фактор риска – дистанция. На марафонах частота остановок сердца 1,04 на 100 000, на полумарафонах – 0,47 на 100 000. Ну и разумеется, важно исходное состояние здоровья бегунов: у значительной части людей, у которых на забеге остановилось сердце, была ишемическая болезнь сердца (ИБС).
Для сравнения, марафоны, хотя и являются разновидностью околоэкстремальных нагрузок, значительно безопаснее, например, триатлонов, риск остановки сердца во время которых почти в 3 раза выше. Авторы связывают такую разницу с тем, что бег на длинные дистанции – это более или менее равномерная нагрузка средней интенсивности, а вот для триатлонов типичны резкие всплески интенсивности. Собственно, и на марафонах большинство случаев остановки сердца происходят на последней четверти дистанции, когда многие бегуны увеличивают темп.
И тем не менее при условии, что на всей дистанции забега есть дефибрилляторы и медицинский персонал, вероятность выжить после остановки сердца сравнима с выживаемостью в других местах, где есть общедоступные дефибрилляторы, вроде аэропортов, казино и учебных заведений. Другой вопрос, что сам риск остановки сердца на забеге выше, чем в школе или в казино. С третьей – на длинные дистанции обычно бегают люди, которые несколько здоровее многих своих соседей, которые не то что марафон пробежать, подняться на один лестничный пролет не могут, так что для них общие риски ниже.
Но в общем, бедняге Фидиппиду просто не повезло, и беги он на 2500 лет позже, вполне вероятно, остался бы жив. Разумеется, все эти данные не отменяют других рисков, связанных с марафоном, и того факта, что к забегам на длинные дистанции нужно готовиться, а еще лучше – перед началом подготовки проконсультироваться с врачом.
Безвольные каменщики pinned «Согласно самой распространённой версии легенды, после победы греков над персами в битве при Марафоне в 490 году до н. э. афинский воин по имени Фидиппид был отправлен в Афины с вестью о победе. Он без остановки пробежал около 40 километров, добравшись до цели…»
А меж тем на дворе среда, а значит в 18:30 по Берлину (и в 19:30 по Москве – обратите внимание, не в 20:30, Европа перешла на летнее время!) состоится традиционный стрим [1]. В этот раз будем говорить о насущном – а именно о том, что ИИ скоро оставит всех нас без работы. Причем в первую очередь это коснется как раз тех, кто был уверен, что он-то сможет заработать свой кусок хлеба, невзирая ни на какой ИИ, так как обладает уникальными навыками. Ха-ха.
В стриме обсудим уже имеющие место кейсы того, как ИИ полностью либо частично перенял вполне себе сложные и творческие рабочие функции, а также случаи, когда его внедрение радикально изменило (или грозит изменить) какие-то отрасли.
Ну и заодно поговорим, а что же в связи с этой ситуацией нам всемкожаным мешкам делать.
Ссылки:
[1] - https://www.youtube.com/live/V-tycZ5QIzY?si=vPg3exari4ZHpAUC
В стриме обсудим уже имеющие место кейсы того, как ИИ полностью либо частично перенял вполне себе сложные и творческие рабочие функции, а также случаи, когда его внедрение радикально изменило (или грозит изменить) какие-то отрасли.
Ну и заодно поговорим, а что же в связи с этой ситуацией нам всем
Ссылки:
[1] - https://www.youtube.com/live/V-tycZ5QIzY?si=vPg3exari4ZHpAUC
Ну что, у нас тут новость, которую многие уже подали как НОВОСТЬ. Еще бы: большие языковые модели с успехом прошли тест Тьюринга! Целая исследовательская статья [1] об этом, но, если коротко: в 73% случаев люди принимали ChatGPT за человека. Шок, мы обречены, завтра Скайнет захватит планету.
Не так быстро. Начнем с того, что новости о том, как машина прошла тест Тьюринга, появляются не в первый раз. Последний раз об этом писали [2] в 2023 году, а самый известный пример – история Eugene Goostman, чат-бота, созданного в начале 2000-х годов программистами Владимиром Веселовым, Евгением Демченко и Сергеем Ульяновым. Он изображал 13-летнего мальчика из Одессы, чьи особенности (возраст, происхождение и из-за этого странный английский) должны были объяснять возможные грамматические ошибки и логические нестыковки в диалоге.
Eugene Goostman стал знаменитым в 2014 году. Тогда его команда тоже заявила, что бот прошёл тест Тьюринга, убедив 33% людей (в тесте Тьюринга их принято называть interrogators, то есть те, кто ведет допрос) в том, что он человек. Но нынешние цифры куда круче, согласитесь.
И тем не менее, они по-прежнему не доказывают, что у машин появилось сознание. Успехи ИИ в попытках одурачить собеседников свидетельствуют о двух вещах: о наивности людей и о неприменимости теста Тьюринга для оценки интеллекта и сознания машин.
В первом вы легко можете убедиться сами: авторы нынешней работы о «взломе» теста Тьюринга создали сайт [3], на котором каждый может попробовать убедить interrogators, что он человек, или наоборот, угадать, кто из двух witnesses (то есть свидетелей – собеседников, с которыми одновременно говорит человек) – машина. Я провела за этим увлекательным занятием некоторое количество времени и хочу сказать, что, хотя некоторые роботы оказались весьма хитры (всего против вас играют четыре модели), основная сложность – убедить человека, что ты сам не робот. Пытаясь угадать, люди ориентируются на разные идеи и представления о машинах: например, что они более вежливые или не умеют использовать сленг. И если вы отвечаете слишком умно или тем более пытаетесь шутить, они часто принимают вас за робота.
Второй момент менее очевиден. Но факт есть факт: мощь больших языковых моделей (LLM) оказалась ровно в том, что они отлично умеют создавать выглядящие (и часто являющиеся) осмысленными тексты и реакции, не понимая при этом смысла. Каждый, кто много взаимодействует с ними, знает об этом: модели с одинаковой уверенностью выдают как верную информацию, так и полную чушь (или, что намного хуже, частичную).
Опять же, исследования показывают, что LLM, благодаря тому что они обучены практически на всех доступных данных умеют, например, переубеждать куда лучше, чем люди. У меня был про это отдельный пост [4], но, опять же, если коротко: LLM заметно эффективнее людей побуждали сторонников теорий заговора пересмотреть свои взгляды. Кому неохота читать, мы про это говорили во вчерашнем стриме [5] про то, как ИИ уже отнимает у людей тысячи рабочих мест.
В общем, оказалось, что умение беседовать как человек (и в чем-то даже лучше человека) оказалось не связанным напрямую с наличием сознания. Что, впрочем, неудивительно: сознание – очень сложная штука, и мы сами не понимаем, как оно устроено и откуда берется. Поэтому совершенно логично, что довольно наивная попытка протестировать, есть по ту сторона экрана сознание или нет, провалилась. Надо сказать, что наивной она нам представляется сегодня, после того как мы создали LLM и поизучали, что они могут. Во времена Тьюринга это было вполне обоснованное предположение. Вот бы он удивился, оказавшись в сегодня. Очень жалко, что он не может.
Ссылки:
[1] - https://arxiv.org/html/2503.23674v1
[2] - https://arxiv.org/abs/2305.20010
[3] - https://turingtest.live/ (важно: все беседы ведутся на английском, копировать фразы нельзя)
[4] -
[5] - https://www.youtube.com/live/V-tycZ5QIzY?si=VyavTzyLuj4j1gf7
Не так быстро. Начнем с того, что новости о том, как машина прошла тест Тьюринга, появляются не в первый раз. Последний раз об этом писали [2] в 2023 году, а самый известный пример – история Eugene Goostman, чат-бота, созданного в начале 2000-х годов программистами Владимиром Веселовым, Евгением Демченко и Сергеем Ульяновым. Он изображал 13-летнего мальчика из Одессы, чьи особенности (возраст, происхождение и из-за этого странный английский) должны были объяснять возможные грамматические ошибки и логические нестыковки в диалоге.
Eugene Goostman стал знаменитым в 2014 году. Тогда его команда тоже заявила, что бот прошёл тест Тьюринга, убедив 33% людей (в тесте Тьюринга их принято называть interrogators, то есть те, кто ведет допрос) в том, что он человек. Но нынешние цифры куда круче, согласитесь.
И тем не менее, они по-прежнему не доказывают, что у машин появилось сознание. Успехи ИИ в попытках одурачить собеседников свидетельствуют о двух вещах: о наивности людей и о неприменимости теста Тьюринга для оценки интеллекта и сознания машин.
В первом вы легко можете убедиться сами: авторы нынешней работы о «взломе» теста Тьюринга создали сайт [3], на котором каждый может попробовать убедить interrogators, что он человек, или наоборот, угадать, кто из двух witnesses (то есть свидетелей – собеседников, с которыми одновременно говорит человек) – машина. Я провела за этим увлекательным занятием некоторое количество времени и хочу сказать, что, хотя некоторые роботы оказались весьма хитры (всего против вас играют четыре модели), основная сложность – убедить человека, что ты сам не робот. Пытаясь угадать, люди ориентируются на разные идеи и представления о машинах: например, что они более вежливые или не умеют использовать сленг. И если вы отвечаете слишком умно или тем более пытаетесь шутить, они часто принимают вас за робота.
Второй момент менее очевиден. Но факт есть факт: мощь больших языковых моделей (LLM) оказалась ровно в том, что они отлично умеют создавать выглядящие (и часто являющиеся) осмысленными тексты и реакции, не понимая при этом смысла. Каждый, кто много взаимодействует с ними, знает об этом: модели с одинаковой уверенностью выдают как верную информацию, так и полную чушь (или, что намного хуже, частичную).
Опять же, исследования показывают, что LLM, благодаря тому что они обучены практически на всех доступных данных умеют, например, переубеждать куда лучше, чем люди. У меня был про это отдельный пост [4], но, опять же, если коротко: LLM заметно эффективнее людей побуждали сторонников теорий заговора пересмотреть свои взгляды. Кому неохота читать, мы про это говорили во вчерашнем стриме [5] про то, как ИИ уже отнимает у людей тысячи рабочих мест.
В общем, оказалось, что умение беседовать как человек (и в чем-то даже лучше человека) оказалось не связанным напрямую с наличием сознания. Что, впрочем, неудивительно: сознание – очень сложная штука, и мы сами не понимаем, как оно устроено и откуда берется. Поэтому совершенно логично, что довольно наивная попытка протестировать, есть по ту сторона экрана сознание или нет, провалилась. Надо сказать, что наивной она нам представляется сегодня, после того как мы создали LLM и поизучали, что они могут. Во времена Тьюринга это было вполне обоснованное предположение. Вот бы он удивился, оказавшись в сегодня. Очень жалко, что он не может.
Ссылки:
[1] - https://arxiv.org/html/2503.23674v1
[2] - https://arxiv.org/abs/2305.20010
[3] - https://turingtest.live/ (важно: все беседы ведутся на английском, копировать фразы нельзя)
[4] -
[5] - https://www.youtube.com/live/V-tycZ5QIzY?si=VyavTzyLuj4j1gf7
arXiv.org
Human or Not? A Gamified Approach to the Turing Test
We present "Human or Not?", an online game inspired by the Turing test, that measures the capability of AI chatbots to mimic humans in dialog, and of humans to tell bots from other humans. Over...
В продолжение вчерашнего поста [1] про то, что большие генеративные модели вроде ChatGPT с блеском прошли тест Тьюринга. Поигравшись с тестом еще немного (как я писала, каждый может зайти [2] и попробовать убедить человека, что он не робот, или угадать, кто из его собеседников – машина), я нашла беспроигрышную стратегию, которая в 100% случаев позволяет определить, машина перед тобой или человек.
Более того, в ходе диалогов с другими желающими проверить себя и роботов, мне назвали еще две такие стратегии. Обе рабочие, я проверила. Такие диалоги начинаются, когда оба участника понимают, что говорят с человеком. Я сейчас не буду рассказывать, как можно вычислить роботов, а то будет неинтересно, но факт тот, что декларируемый в статье якобы успех машин связан не столько с интеллектуальной мощью роботов, сколько с доверчивостью и неопытностью людей.
Чуть-чуть практики – и отличить человека от машины становится, простите за невольный каламбур, делом техники. Например, много времени проводящие в комментариях телеграм-каналов, немедленно вычисляют комментарии ботов. Для тех, кто не в курсе, они уже давно пишутся при помощи ИИ и, на первый взгляд, кажутся вполне осмысленными.
Да, ясно, что со временем ИИ дообучат, и он перестанет прокалываться так, как он это делает сейчас. И тест Тьюринга останется только как статья в Википедии, а не как практический инструмент – хотя, к слову, он никогда им и не был. Алан Тьюринг придумал его скорее как философский мысленный эксперимент. В 1980 году философ Джон Сёрл придумал аналогичный «тест» – китайскую комнату, которая, кстати, весьма точно описывает современные LLM.
Суть концепции Сёрла проста: представьте, что вы сидите в комнате, полной китайских иероглифов. Вы не знаете китайского, но у вас есть подробная инструкция: если пришёл такой-то значок, положить вот такой иероглиф, а если другой – то этот. Вы честно следуете алгоритму, и в итоге из комнаты выходит вполне себе осмысленный текст на китайском. Похоже на ChatGPT, верно? Только вот у нее не алгоритмы, а сложные методы обучения на гигантской выборке китайских и не-китайских текстов.
И хотя может оказаться, что китайская комната в пределе – это и есть сознание, пока до этого еще далеко. И, в любом случае, ни тест Тьюринга, ни китайская комната не были способами верификации, кто перед нами: машина или человек. Ключевой вопрос, на который они пытались ответить – могут ли машины имитировать человека.
И на этот вопрос, кажется, ответ уже получен. Хотя при внимательном рассмотрении и большом запасе времени (пока) нейросети не могут выдать себя за людей, если общение короткое (в стаье, к слову, было 5 мин) и касается каких-то несложных бытовых вопросов или, наоборот, связано с получением неких специальных данных (это, кстати, был хинт относительно стратегий вычислить робота), не понять, что ты общаешься с машиной, можно очень легко.
И этот факт сам по себе представляет проблему. Потому что ИИ может не только хорошо имитировать человека, но еще и отлично убеждать. Что открывает богатые возможности для манипулирования и просто банального мошенничества. И это мы еще не обсуждаем проблему неоправданного доверия к ИИ, так как он существенно облегчает поиск информации. И вместо того, чтобы возиться с поисковиком, читать источники, сравнивать их, анализировать, люди пишут: «ChatGPT/Grok/вставить нужное, скажи-ка мне, как оно вот тут и тут на самом деле». И, за несколько секунд получив краткую и убедительно выглядящую выжимку, принимают ее за истину. Причем так делают как обычные люди, так и обладатели академических степеней. Как всегда, лимбическая система играет с нами в игры и выигрывает, делая легкое более привлекательным.
Так что ИИ не нужно сознание для того, чтобы нагадить человечеству. Благодаря базовой мозговой установке на облегчение всего, что нам приходится делать, мы очень успешно воспользуемся даже несовершенным ИИ для того, чтобы еще меньше вникать в причины и следствия происходящего.
Более того, в ходе диалогов с другими желающими проверить себя и роботов, мне назвали еще две такие стратегии. Обе рабочие, я проверила. Такие диалоги начинаются, когда оба участника понимают, что говорят с человеком. Я сейчас не буду рассказывать, как можно вычислить роботов, а то будет неинтересно, но факт тот, что декларируемый в статье якобы успех машин связан не столько с интеллектуальной мощью роботов, сколько с доверчивостью и неопытностью людей.
Чуть-чуть практики – и отличить человека от машины становится, простите за невольный каламбур, делом техники. Например, много времени проводящие в комментариях телеграм-каналов, немедленно вычисляют комментарии ботов. Для тех, кто не в курсе, они уже давно пишутся при помощи ИИ и, на первый взгляд, кажутся вполне осмысленными.
Да, ясно, что со временем ИИ дообучат, и он перестанет прокалываться так, как он это делает сейчас. И тест Тьюринга останется только как статья в Википедии, а не как практический инструмент – хотя, к слову, он никогда им и не был. Алан Тьюринг придумал его скорее как философский мысленный эксперимент. В 1980 году философ Джон Сёрл придумал аналогичный «тест» – китайскую комнату, которая, кстати, весьма точно описывает современные LLM.
Суть концепции Сёрла проста: представьте, что вы сидите в комнате, полной китайских иероглифов. Вы не знаете китайского, но у вас есть подробная инструкция: если пришёл такой-то значок, положить вот такой иероглиф, а если другой – то этот. Вы честно следуете алгоритму, и в итоге из комнаты выходит вполне себе осмысленный текст на китайском. Похоже на ChatGPT, верно? Только вот у нее не алгоритмы, а сложные методы обучения на гигантской выборке китайских и не-китайских текстов.
И хотя может оказаться, что китайская комната в пределе – это и есть сознание, пока до этого еще далеко. И, в любом случае, ни тест Тьюринга, ни китайская комната не были способами верификации, кто перед нами: машина или человек. Ключевой вопрос, на который они пытались ответить – могут ли машины имитировать человека.
И на этот вопрос, кажется, ответ уже получен. Хотя при внимательном рассмотрении и большом запасе времени (пока) нейросети не могут выдать себя за людей, если общение короткое (в стаье, к слову, было 5 мин) и касается каких-то несложных бытовых вопросов или, наоборот, связано с получением неких специальных данных (это, кстати, был хинт относительно стратегий вычислить робота), не понять, что ты общаешься с машиной, можно очень легко.
И этот факт сам по себе представляет проблему. Потому что ИИ может не только хорошо имитировать человека, но еще и отлично убеждать. Что открывает богатые возможности для манипулирования и просто банального мошенничества. И это мы еще не обсуждаем проблему неоправданного доверия к ИИ, так как он существенно облегчает поиск информации. И вместо того, чтобы возиться с поисковиком, читать источники, сравнивать их, анализировать, люди пишут: «ChatGPT/Grok/вставить нужное, скажи-ка мне, как оно вот тут и тут на самом деле». И, за несколько секунд получив краткую и убедительно выглядящую выжимку, принимают ее за истину. Причем так делают как обычные люди, так и обладатели академических степеней. Как всегда, лимбическая система играет с нами в игры и выигрывает, делая легкое более привлекательным.
Так что ИИ не нужно сознание для того, чтобы нагадить человечеству. Благодаря базовой мозговой установке на облегчение всего, что нам приходится делать, мы очень успешно воспользуемся даже несовершенным ИИ для того, чтобы еще меньше вникать в причины и следствия происходящего.
Ссылки:
[1] - https://www.tg-me.com/kamenschiki/1995
[2] - https://turingtest.live/ (важно: все беседы ведутся на английском, копировать фразы нельзя)
[1] - https://www.tg-me.com/kamenschiki/1995
[2] - https://turingtest.live/ (важно: все беседы ведутся на английском, копировать фразы нельзя)
Безвольные каменщики pinned «В продолжение вчерашнего поста [1] про то, что большие генеративные модели вроде ChatGPT с блеском прошли тест Тьюринга. Поигравшись с тестом еще немного (как я писала, каждый может зайти [2] и попробовать убедить человека, что он не робот, или угадать, кто…»
Сегодня в 18:30 по Берлину (19:30 мск) проведу внеплановый стрим [1] по теме, которая, как оказалось, волнует очень многих. Поводом стала недавняя статья, в которой роботы впервые с сокрушительным успехом прошли тест Тьюринга – хрестоматийный способ доказать, что машина и человек неотличимы друг от друга. Что это значит в практическом смысле? Закупаемся гречкой в ожидании войны с машинами? Или всё же попробуем разобраться, что такое тест Тьюринга, что конкретно он доказывает, и что на самом деле показали результаты статьи? Потому что в реальности обход теста Тьюринга – это и правда плохие новости, но иллюстрируют они не мощь машин, а слабость людей. Так как это стрим, ваши вопросы приветствуются. Бонусом лайфхаки, как распознать, что вы общаетесь с ИИ.
Ссылки:
[1] - https://www.youtube.com/live/8QQqPhfa-gM?si=YkWbFlZFmRVaMAQi
Ссылки:
[1] - https://www.youtube.com/live/8QQqPhfa-gM?si=YkWbFlZFmRVaMAQi
YouTube
Роботы впервые успешно прошли тест Тьюринга
На днях была опубликована статья, вызвавшая большой ажиотаж у всех, кто следит за развитием ИИ: роботы впервые с сокрушительным успехом прошли тест Тьюринга – хрестоматийный способ доказать, что машина и человек неотличимы друг от друга. Что это значит в…
Хотела написать про очередное творение авторов мышемамонтов – гигантских белых волков, но мой прекрасный френд на фб Дима Прусс уже всё сказал. Ниже копирую сюда его пост, от себя добавлю только одно: не ведитесь на хайп, даже если в нём присутствуют красивые слова вроде воскрешения древних видов и геномного редактирования.
Они реально белые и пушистые!
Воскрешение вымершего ужасного волка? (De-extinction of the dire wolf?) Нет, просто дизайнерская порода с геномным подходом к экстерьеру.
Совсем недавно я писал об огромных вымерших собачьих североамериканского континента (https://www.facebook.com/dmitry.pruss/posts/pfbid02gK5meWayyT83xyoW4ZBMS1ERnVaQrHyJ4JvFw2b9e7GYHQyLDQV7y7wzrzXCZM5Jl ) и на одной из иллюстраций там среди прочих волков фигурировал и "ужасный волк" Aenocyon dirus, исчезнувший с лица земли уже на человеческой памяти, всего около 12 тысяч лет назад. Эти массивные, 70-килограммовые машины смерти с мощнейшими челюстями в то же время уступали обычным волкам и по длине ног, и по объему черепной коробки. То есть надо полагать, что ужасные волки и бегали медленнее, и координировали групповые атаки хуже, чем волки обычные, но зато им по зубам была мегафауна той эпохи - мастодонты, гигантские ленивцы... Когда же мегафауна исчезла в желудках людей, то и ужасный волк потерял своё эволюцонное преимущество.
И вдруг - пресс-релиз о воскрешении ужасного волка от той самой компании Colossal, о дизайнерской "мамонтовой мыши" которых я писал совсем недавно под заголовком "Колоссальное преувеличение"
https://www.facebook.com/dmitry.pruss/posts/pfbid02PccCwFbbC4NPEnKqVRgfe1MCgbYe5aqjGu2d535yo8wdEvKoUeWQfE49y9x7HoWYl
Напомню, что список отредактированных генов той мыши не имел почти никакого отношения к мамонту, а был подобран по влиянию на экстерьер, а само геномное редактирование на поверку оказалось в почти всех случаях немудрёной поломкой мышиных генов.
Примерно то же самое они сделали и с так называемым "ужасным волком": большинство отредактированных генов не имеет никакого отношения к вымершему гиганту, и многие ключевые изменения в геноме - это просто примитивные поломки генов.
Например, они нашли в древнем геноме изменения в трех генах, влияющих на развитие пигментных клеток - меланоцитов. Это хорошо известные гены OCA2, SLC45A2 и MITF. Исследователи Colossal считают, что меланоциты ужасных волков в результате вообще не мигрировали в шкуру волков, приводя к белому окрасу. Но внести подобные изменения в геном подопытных волков они не решились. Проблема в том, что клетки-предшественники меланоцитов также превращаются в нейроны в ходе эмбрионального развития, поэтому мутации, нарушающие развитие меланоцитов, могут одновременно нарушить развитие нервной системы, вызывая слепоту, глухоту и т.д. Вместо этого исследователи грубо сломали два гена меланина, превратив волков в почти-албиносов.
Похожая ситуация была с геном LCORL, который, по их предположениям, мог дать ужасным волкам характерный для них крупный размер. Исследователи опасались, что ископаемый вариант гена может оказаться несовместимым с остальными генами обычного волка, и решили использовать вместо него другой генетический вариант, который и так уже есть у самых обычных волков, и, возможно, делает их немного более крупными.
Об остальных генетических модификациях получившейся дизайнерской породы волков мы узнаем подробнее, когда дело дойдёт до публикации, но в одном можно быть уверенным уже сейчас: биологический вид новых симпатичных (хотя совсем недружелюбных) беленьких волчат - это обычный волк Canis lupus.
PS от меня, то есть от ИЯ. Выпускать этих волков в дикую природу нельзя: зачем популяции волков поломанные гены, не дающие никаких преимуществ? Да и нарушать только-только вернувшийся баланс экосистем с волками (в Европе, например, они были почти полностью уничтожены фермерами, и только недавно их популяцию смогли вернуть на приемлемый уровень) –максимально недальновидное решение. Впрочем, в Америке нынче всё возможно. А вот в Европу с ее практически тотальным запретом на ГМО генетически модифицированных волков просто и не разрешат завозить.
Они реально белые и пушистые!
Воскрешение вымершего ужасного волка? (De-extinction of the dire wolf?) Нет, просто дизайнерская порода с геномным подходом к экстерьеру.
Совсем недавно я писал об огромных вымерших собачьих североамериканского континента (https://www.facebook.com/dmitry.pruss/posts/pfbid02gK5meWayyT83xyoW4ZBMS1ERnVaQrHyJ4JvFw2b9e7GYHQyLDQV7y7wzrzXCZM5Jl ) и на одной из иллюстраций там среди прочих волков фигурировал и "ужасный волк" Aenocyon dirus, исчезнувший с лица земли уже на человеческой памяти, всего около 12 тысяч лет назад. Эти массивные, 70-килограммовые машины смерти с мощнейшими челюстями в то же время уступали обычным волкам и по длине ног, и по объему черепной коробки. То есть надо полагать, что ужасные волки и бегали медленнее, и координировали групповые атаки хуже, чем волки обычные, но зато им по зубам была мегафауна той эпохи - мастодонты, гигантские ленивцы... Когда же мегафауна исчезла в желудках людей, то и ужасный волк потерял своё эволюцонное преимущество.
И вдруг - пресс-релиз о воскрешении ужасного волка от той самой компании Colossal, о дизайнерской "мамонтовой мыши" которых я писал совсем недавно под заголовком "Колоссальное преувеличение"
https://www.facebook.com/dmitry.pruss/posts/pfbid02PccCwFbbC4NPEnKqVRgfe1MCgbYe5aqjGu2d535yo8wdEvKoUeWQfE49y9x7HoWYl
Напомню, что список отредактированных генов той мыши не имел почти никакого отношения к мамонту, а был подобран по влиянию на экстерьер, а само геномное редактирование на поверку оказалось в почти всех случаях немудрёной поломкой мышиных генов.
Примерно то же самое они сделали и с так называемым "ужасным волком": большинство отредактированных генов не имеет никакого отношения к вымершему гиганту, и многие ключевые изменения в геноме - это просто примитивные поломки генов.
Например, они нашли в древнем геноме изменения в трех генах, влияющих на развитие пигментных клеток - меланоцитов. Это хорошо известные гены OCA2, SLC45A2 и MITF. Исследователи Colossal считают, что меланоциты ужасных волков в результате вообще не мигрировали в шкуру волков, приводя к белому окрасу. Но внести подобные изменения в геном подопытных волков они не решились. Проблема в том, что клетки-предшественники меланоцитов также превращаются в нейроны в ходе эмбрионального развития, поэтому мутации, нарушающие развитие меланоцитов, могут одновременно нарушить развитие нервной системы, вызывая слепоту, глухоту и т.д. Вместо этого исследователи грубо сломали два гена меланина, превратив волков в почти-албиносов.
Похожая ситуация была с геном LCORL, который, по их предположениям, мог дать ужасным волкам характерный для них крупный размер. Исследователи опасались, что ископаемый вариант гена может оказаться несовместимым с остальными генами обычного волка, и решили использовать вместо него другой генетический вариант, который и так уже есть у самых обычных волков, и, возможно, делает их немного более крупными.
Об остальных генетических модификациях получившейся дизайнерской породы волков мы узнаем подробнее, когда дело дойдёт до публикации, но в одном можно быть уверенным уже сейчас: биологический вид новых симпатичных (хотя совсем недружелюбных) беленьких волчат - это обычный волк Canis lupus.
PS от меня, то есть от ИЯ. Выпускать этих волков в дикую природу нельзя: зачем популяции волков поломанные гены, не дающие никаких преимуществ? Да и нарушать только-только вернувшийся баланс экосистем с волками (в Европе, например, они были почти полностью уничтожены фермерами, и только недавно их популяцию смогли вернуть на приемлемый уровень) –максимально недальновидное решение. Впрочем, в Америке нынче всё возможно. А вот в Европу с ее практически тотальным запретом на ГМО генетически модифицированных волков просто и не разрешат завозить.
Сегодня среда, а это значит, что в 18:30 по Берлину (19:30 мск) состоится мой еженедельный стрим [1]. И сегодня поговорим про новость, которой уже несколько дней заполнен интернет: компания Colossal Biosciences объявила, что ей удалось воссоздать "ужасного волка" Aenocyon dirus, вымершего более 10 тысяч лет назад. Ранее та же компания создала "мышемамонтов", которые, якобы, стали важным шагом на пути к воссозданию мамонтов. В стриме обсудим, почему все эти заявления (сюрприз!) не соответствуют действительности, что на самом деле сделали люди из Colossal Biosciences, и поговорим, как в реальности обстоят дела с воссозданием древних животных.
Ссылки:
[1] - https://youtube.com/live/ig0lyC0LppI?feature=share
Ссылки:
[1] - https://youtube.com/live/ig0lyC0LppI?feature=share
Безвольные каменщики pinned «Сегодня среда, а это значит, что в 18:30 по Берлину (19:30 мск) состоится мой еженедельный стрим [1]. И сегодня поговорим про новость, которой уже несколько дней заполнен интернет: компания Colossal Biosciences объявила, что ей удалось воссоздать "ужасного…»