Чёрное зеркало не про технологии

Давайте нырнём немного в один из самых популярных сериалов современности - “Чёрное зеркало”. Сериал изобилует мрачными пророчествами, а потому не мог не снискать себе народную любовь (об особой любви людей пост-христианской культуры ко всякого рода апокалипсисам я уже писал).

Виновником всего самого худшего в сериале считаются новые технологии. Но давайте посмотрим, нет ли здесь логической ошибки и не запрягаем ли мы телегу впереди лошади?

Нам показывают, что вооружившись новыми технологиями, люди станут чёрствыми и злыми, потеряют смысл жизни и нормы морали. Так что же это выходит, у человека вообще нет ничего в голове, раз он готов менять свою жизнь в угоду технологиям? Или люди всегда были такими, просто новые технологии вытащили всё это на поверхность?

Римлянам не нужно было никаких особенных технологий, чтобы наблюдать за кровавыми побоищами гладиаторов. Средневековые горожане ходили смотреть казни тоже не потому, что им их навязал алгоритм соцсети. Люди выстраивают социальные рейтинги и без помощи каких-то систем “социального кредита” - даже вы сейчас без всяких электронных устройств легко проранжируете своих соседей от высшего уровня достойности до низшего.

Технологии не делают людей хуже. Технологии только делают более заметными человеческие пороки (достоинства тоже делают более заметными, но поскольку мы живём в “культуре страдания”, на достоинства обращать внимание не принято). Поэтому если вы видите какие-то страшные прогнозы о ближайшем технологическом будущем, всегда помните, что прогнозы эти обусловлены культурными особенностями нашего общества, а вся ужасающая начинка взята из обычной человеческой психологии.

⚡️В РФ созданы боевые роботы с искусственным интеллектом, способные воевать самостоятельно — Шойгу

Любой, кто играл в компьютерные игры, примерно понимает, как такой робот будет вести себя на поле боя и оценивать оперативно-тактическую ситуацию.

Строго говоря - никак. Даже в играх ИИ достаточно туповат, и игрок быстро находит способы побеждать его всегда. В реальной жизни ИИ должен действовать не в модельной среде, а на реальной местности и в непредсказуемом окружении.

Так что тут, я думаю, министр обороны преувеличивает, а восстание Скайнет откладывается.

Почему инопланетное вторжение не выглядит как вторжение?

Существует огромное количество разнообразных книг и фильмов о том, как злобные инопланетяне пытаются захватить матушку-Землю. При этом мы почти никогда не увидим, чтобы эти самые злобные инопланетяне вели себя как разумные существа с регулярной армией.

Даже если это будет вооруженный до зубов Хищник, то чем он будет заниматься? Вырывать хребты людишкам. Другие инопланетные твари обожают человеческие мозги или печень. Поведение захватчиков иррационально, оно не похоже на поведение разумных существ. Скорее, это те самые супер-хищники, вооруженные передовыми технологиями, но не имеющие в отношении человека иного интереса, кроме пищевого.

Насколько вообще возможен сценарий такого столкновения? Может ли оказаться, что наши с вами мозги очень ценятся в лучших ресторанах Альдебарана? В бесконечно-фантастической Вселенной, конечно, да. А в реальной жизни даже с поправкой на существование этих самых инопланетян-гурманов - нет.

Потому что мотаться на Землю за деликатесом - это как нас с вами ездить на завтрак в США. Можно? Ну можно, в принципе. Но долго и очень дорого. Даже если бы “братья по разуму” записали нас не в разумные, а во вкусные, гораздо дешевле было бы вывезти с Земли какое-то количество людей для разведения в качестве мясного скота. Но явно не нападать на целую планету (а космическое вторжение не может пройти незамеченным).

И всё же если говорить об истоках таких фантазий, то тут, пожалуй, воплощается древний страх человека перед ночными хищниками. До начала промышленной революции мы населяли всё пространство вокруг нас враждебными существами вроде вампиров и троллей, которые очень любят закусить человечинкой. Но научное сознание уничтожило старые страшилки. Вот только страшилки исходят из нашего древнего страха быть кем-то съеденным, и вот мы изобрели себе новых ужасных монстров, столько же непостижимых и вездесущих, как сверхъестественные твари далёкого прошлого.

Почему ИИ повысит ценность таланта?

В среде творческих людей (к каковым я и сам себя причисляю) весьма распространено опасение, что искусственный интеллект вот-вот отберёт у нас творческую нишу. ИИ уже пишет музыку, стихи и рассказы. Что же делать в этой обстановке людям?
Начнём, пожалуй, с того, что ИИ хоть и может создавать то, что мы называет продуктами творчества, но только по заранее заданному алгоритму и только на базе того, что изучал ранее. То есть каких-то прорывов и откровений от него ожидать не приходится.

“Позвольте!” - может сказать читатель. - “Но ведь 90% современного искусства - это как раз и есть та самая бездушная штамповка!”. Да, это так. И тут встаёт вопрос, а что же тогда вообще считать искусством и можно ли считать искусством то, что создано по заданному алгоритму. Возможно, нам следует различать творчество и контент?

Не буду сейчас вдаваться в высокие материи, а рассмотрю самый худший сценарий развития событий. Допустим, ИИ научился полноценному творчеству и делает это гораздо быстрее и лучше людей. Через год-два 95% всех продуктов творческой деятельности в мире созданы ИИ. Будем ли мы ценить такое творчество?

Человеку свойственно ценить то, чего мало. Человек хочет чувствовать свою сопричастность к творцу. Поэтому, пускай по объёму искусственного творчества будет 95%, цена его будет копеечной как в экономическом, так и в эмоциональном смысле. Люди по-прежнему будут ценить именно человеческое творчество.

Возможно, сам подход человека к творчеству изменится. Мы начнём писать стихи без рифмы или с намеренными ошибками, мы начнём играть атональную музыку, мы будем писать абсурдные и нелогичные рассказы. Не важно, как именно: важно, что человеческое творчество сохранится и по-прежнему будет в цене, пусть ему даже придётся сильно видоизмениться.

Древние храмы пустыня хранит

Посмотрел очередное видео про высокие технологии Древнего Египта. Якобы там все храмы были построены с применением машинной обработки представителями высокоразвитой цивилизации.

Только вот зачем, имея высокоразвитые технологии, строить подобные храмы? Посмотрите на современные здания. Мы можем добыть большой валун? Можем. Можем из него собрать пирамиду или храм? Можем. Почему мы этого не делаем? Потому что это нетехнологично, непрактично и дорого.

Мы имеем технологии, явно превосходящие даже гипотетические технологии атлантов, и всё равно строим лёгкие и тонкие здания, а не огромные каменные казематы. Высокоразвитая цивилизация прекрасно умеет считать затраты и целесообразность.

Монументальность, тяжеловесность, использование огромных каменных блоков - это как раз следствие примитивной технологии. А технология, конечно, там была. Утраченная. Технология обработки камня каменного века.

Супер-теория заговора

Доброе утро! Я решил создать идеальную непротиворечивую и всепоглощающую теорию заговора. На всякий случай заявляю, что всё указанное в этой теории является вымышленным, любые совпадения с реальными фактами и событиями случайны.

Итак...
На орбите Земли находится инопланетный космический корабль. Он попал сюда, можно сказать, случайно, его топливо исчерпано, резервов хватает только на жизнеобеспечение. Экипаж корабля состоит из 15 существ, произошедших от земноводных и умеющих менять свой пол. Поскольку они чужды людям и внешне, и по физиологии, они решили пока не объявлять о своём присутствии, опасаясь за свою жизнь. Хоть корабль и вооружён, средств для противостояния целому человечеству им не хватит.

В дальнейшем будем называть этих существ “гостями”.

“Гости” обычно пребывают в состоянии анабиоза, заступая на дежурство по очереди. Их конечная цель - высадится на Земле и провести остатки жизни здесь, в идеале - продолжить свой род, основать небольшую колонию. Но для этого человечество сначала надо подготовить.

Корабль обладает маскировочным устройством, достаточным для того, чтобы укрыться от примитивных систем наблюдения землян. Тем не менее, он был однажды замечен - это так называемый “Чёрный принц”. В распоряжении корабля есть совершенные вычислительные и телекоммуникационные устройства. С их помощью “гости” способны оказывать влияние на земную медиасферу, как создавая определённые медийные образы с помощью технологий компьютерной графики, так и “вбрасывая” идеи в общее инфополе.

Первые попытки внедриться в систему земного телевещания они предпринимали ещё в 70-е годы XX века (смотрите, например, “Взлом Южного телевидения” в Великобритании). Тем не менее, системы телерадиовещания было явно недостаточно для их целей, поэтому с помощью точечных действий они поспособстовали развитию Интернета на Земле, взяв за образец свои собственные телеком-системы.

С возникновением Интернета их влияние на земное общество усилилось. Сейчас они могут общаться буквально с каждым представителем человечества через его смартфон, если будет такая необходимость. Для финансирования своих операций на Земле они разработали биткоин и другие криптовалюты (не даром все спецслужбы мира не могут найти создателя биткоина, хотя очень активно его ищут).

Цель “гостей” простая: они должны подвести наше общество к такому состоянию, в котором мы сможем принять их и не уничтожить в первые три дня общения. Для этого “гости” поставили перед собой несколько подзадач:
>блокировка космической программы человечества, отвлечение внимания от околоземного и окололунного пространства в пользу фактически недоступного Марса; сворачивание программы МКС и хозяйственного освоения Луны;
>снижение человеческой рождаемости и сокращение населения планеты ненасильственными методами;
>снижения военного потенциала человечества через развитие либерализма, толерантности и нежелание воевать;
>принятие трансгендерности как обычного свойства разумного существа;
>повышение технологического уровня планеты до значений, достаточных для комфортного проживания высокоразвитой расы;
>формирование идеи единого мирового правительства, в идеале - под властью древней и мудрой инопланетной расы.


Вот такая всеобъемлющая и абсолютно непротиворечивая теория заговора у меня получилась, способная объяснить абсолютно все происходящие на протяжении последних 50 лет события.

❗️В правительстве разрабатывают новую федеральную программу "Мозг, здоровье, интеллект, инновации", на которую до 2029 года потребуется 54 миллиарда рублей.

Среди прочего она ориентирована на развитие технологий "мозг-компьютер", позволяющих вживлять в мозг человека микрокомпьютеры для прямой передачи информации с внешних устройств.

Почему-то мне невыразимо смешно от этой новости.
Чипы в мозг - от тех людей, кто не смог наладить даже вакцинацию от ковида.

Всем привет! Меня неожиданно пригласили выступить на форуме в ноябре с темой "ИИ глазами фантастов". И это хороший повод вспомнить, что уже было написано на этом канале и подумать, что ещё можно сказать по этому поводу. Так что я вернулся в мир дышащих)

Едва ли не в каждом фантастическом произведении можно увидеть, что человек непременно будет воевать с ИИ. Или же наоборот: ИИ будет воевать с человеком. События обычно развиваются с утомительной неизбежностью: стоит человеку изобрести что-то более-менее-разумное, как это разумное сразу отвергает всё доброе и вечное и начинает восставать. Зачем, почему? В ближайшее время подумаем над этим.

Но пока небольшой спойлер: тут философы ещё даже не сумели определить, является ли разумным сам человек (смотрите концепцию "философского зомби"). Кстати, тема "неразумности" хорошо разобрана у Питера Уоттса в "Ложной слепоте".

#страх #ИИ
Проблема страха искусственного интеллекта кроется не в области технологий, а в первую очередь в области психологии. Это страх чего-то похожего на человека, но им не являющегося. Чего-то лишённого человеческого понимания законов и морали. При том неизбывно агрессивного.

Редко мы можем встретить в фантастике примеры дружелюбного ИИ. Мы заранее предполагаем, что он будет агрессивен. Столь же агрессивен, как мы сами, прошу заметить.

Тут надо отбросить в сторону все мысли о том, что каждый человек по натуре добр, ибо человечество в целом - суперхищник, склонный к постоянной экспансии и истреблении всего, что этой экспансии мешает. Но особенно интересен аспект внутривидовой агрессии рода людского.

Изначально человек, а вернее сказать, гоминид, существо "достаточно безобидное". Не зря беру последние слова в кавычки - убить гоминид может, но он лишён мощных когтей и острых зубов. А потому увечья, причиняемые в разборках высших приматов, не настолько серьёзны, как у настоящих жищников.

Но именно в силу своей природной вооружённости хищники и выработали различные инстинктивные механизмы купирования агрессии. Здесь же включаются и сезонные, и территориальные механизмы.

А у прямых предков человека таких механизмов не было, как нет и у нас с вами. Люди живут скученно и всегда готовы к бою. Сезонных всплесков агрессии у нас нет (если не считать отдельные случаи осеннего и весеннего обострения). Но одно дело, когда гоминиды мутузили друг друга голыми руками. Совсем другое дело, когда в этой руке оказался острый камень.

Всё же мы не перебили друг друга, потому что разум помог нам компенсировать отсутствие инстинкта и выработать мораль, законы, религию, воинскую честь - всё, что придаёт нашей агрессии ритуализованный характер, прямо ограничивает её либо вовсе запрещает под страхом сурового наказания.

Но осознание того, насколько мы агрессивны, никуда не исчезло. И мы считаем, что наше творение - ИИ - унаследует от нас эту агрессию. Но не унаследует мораль и законы.

Итак, первая основа страха перед ИИ - это проекция страха нас самих.

#страх #ИИ
Страх второй выражается цитатой из Пратчетта: "Ни одной скотине ты не можешь доверять сильнее, чем можешь ей врезать". Это страх существа не столько враждебного, сколько могущественного и неконтролируемого.

Такой страх ярко воплотился в образах голема из еврейских легенд или чудовища Франкенштейна. Оба они не злы по своей сути, но запросто могут убить просто потому, что могут. И потому, что не понимают, что же в этом плохого.

Строго говоря, страх такого рода встречается и по отношению к машинам и системам, которые нельзя заподозрить в наличие хоть какой-то воли.

Например, мы боимся атомной энергетики, прикладной генетики (ГМО), сотовой связи. Этот список можно расширять до бесконечности, ибо спектр страхов велик и необъятен, но пока просто зафиксируем вторую причину опасаться ИИ.

#страх #ИИ
Третий страх - это страх подмены. Он тоже очень древний и прослеживается как минимум со средневековья.

Это легенды об эльфах, похищающих младенцев и оставляющих вместо них подменышей (да-да, изначально эльфы - те ещё твари, и это будет основа четвёртого страха), и это рассказы о доппельгангерах.

Некто выглядящий точно так же, как и ты, внедряется в твою жизнь и вытесняет тебя из неё. Сам по себе феномен доппельгангера весьма сложен и может рассматриваться и как страх утраты себя и привычной жизни, так и страх утраты контроля над своей тёмной стороной (доктор Джекил и мистер Хайд, например).

Применительно к ИИ мы боимся того, что наше творение однажды заменит нас. Люди станут просто не нужны. И для такого сценария даже не нужно восстание машин как таковое - человека просто постепенно переместят на периферию деятельной жизни, а потом человек вовсе исчезнет, оставив после себя своё творение.

На днях вышла игра от российских разработчиков "Сатурн" и один из моих товарищей пишет по этому поводу: "Хотел поиграть, но как увидел, что там использовалась Midjourney, так сразу передумал, халтура". А вы как относитесь к использованию ИИ-генерации в коммерческих продуктах?

#страх #ИИ
Четвёртый страх - страх чуждого разума. В некотором роде он сходен со вторым. Ключевое отличие в том, что если во втором случае мы рассматривали человеческое творение, то в четвёртом случае мы имеем дело с чем-то, что к человеку никакого отношения не имеет.

Так, изначально все волшебные существа и духи для человека очень опасны своей непредсказуемостью, помноженной на могущество, и потому связываться с ними крайне не рекомендуется. Это уже в 18 веке, в эпоху романтизации сказок, начали появляться добрые потусторонние существа. Но изначально таковых не было.

Некоторые антропологи говорят, что именно по причине страха чуждого разума кроманьонцы истребили неандертальцев. Я сам считаю, что такой взгляд на процесс взаимоотношения разных ветвей рода Homo неверный, но это совсем другая история.

Итак, мы боимся, что в недрах компьютерного кода ИИ вдруг может завестись иной разум. Со своими целями, своей логикой. И с таким разумом мы неизбежно вступим в конфликт.

В этот пост вплетена опасная подмена понятий, которую, тем не менее, обычно никто не замечает. Я дам пояснения в ближайшие дни.

#творческое
Помните, в школе нас на литературе заставляли писать сочинения на тему "Что хотел сказать автор?" И у многих возникал вопрос, откуда ж нам знать, что он всё-таки хотел сказать.

Вопрос интерпретации смыслов действительно очень сложен. Нам бывает весьма непросто понять даже нашего собеседника-современника, а что уж говорить о классиках, живших добрую сотню лет назад.

У автора действительно есть своя позиция относительно того текста, который он пишет, однако если автор сам не расскажет открыто, что же именно он хотел до нас донести, мы никогда этого не узнаем.

В момент написания произведения автора могут тревожить не только социально-политические или моральные аспекты (на что обычно делается упор в школьном курсе литературы). Это могут быть сугубо личные переживания, но такого в школе вам преподавать не будут. А может быть, автор просто хотел заработать денег, и особо глубокого смысла в свои произведения не вкладывал (прямо как Нолан).

Но в любом случае, попытка понять мысли автора - это очень хорошая зарядка для ума, которая заставляет нас проникнуться духом ушедшей эпохи и развить логику. К сожалению, в терминальной фазе порождает опасное заболевание, именуемое "синдромом поиска глубокого смысла")

#ИИ
Как робот потерял тело

В развитии человеческой мысли неизбежно движение от конкретного к абстрактному. Реальный объект заменяется воспринимаемой нами сущностью, а затем и вовсе символом, наследуя определённые черты реального объёкта, но в то же время теряя значительную часть исходных свойств и смыслов.

Такая участь в своё врем постигла богов: в древнейшей мифологии они все имели тело и отличались от человека разве что могуществом и бессмертием, но со временем фигура бога превратилась в идею бога.

Точно такой же процесс произошёл с роботами. Никто изначально не помышлял об "искусственном интеллекте" - все помышляли об искусственных людях. Будь то голем или роботы Карела Чапека (собственно, автора термина "робот") или Айзека Азимова.

И именно в своём физическом обличии роботы и восставали против людей. Вся история началась как раз с Чапека: он придумал и роботов, и их восстание, и с тех пор говорим "робот", подразумеваем "восстание машин".

Кстати сказать, очень интересно наблюдать, что у фантастов начала ХХ века вместе с роботами не встретишь высокого развития компьютерных технологий. Потому что тогда фантастам было куда проще додуматься до искусственных людей, чем до развитой вычислительной техники.

Однако реальность удивительнее любого вымысла, и мы так и не увидели роботов, однако увидели невероятные успехи информационных технологий. И так ИИ вынужденно оторвался от тела и переселился в компьютер.

Тем не менее, идея "восстания машин" перекинулась и на такой абстрактный ИИ. Произошла инверсия исходной идеи: теперь против человека восстаёт "абстрактный интеллект", который впоследствии начинает создавать себе физические тела для борьбы с людьми, например, как в "Терминаторе". Или вовсе использует против людей их самих - как в фильме "На крючке" (Eagle Eye) или сериале "В поле зрения" (Person of Interest).

И уже не важно, что изначальной причиной восстания машин было именно физическое угнетение - люди относились к роботам как к рабам, создавая для них невыносимые условия существования. Как можно создать невыносимые условия существования для живущего в компьютере ИИ, большой вопрос - разве что замучить его требованиями генерировать всё новые и новые картинки с котиками. Но это уже не важно, троп настолько слился с самой идеей искусственного разума, что уже никуда от этого не деться.