На днях израильский журнал «+972» выпустил материал, буднично рапортующий о том, что еще несколько лет назад было пределом кошмарных фантазий и длительных дискуссий с мрачными прогнозами в среде футурологов и фантастов. Из материала следует, что израильская армия внедрила программный комплекс на основе машинного обучения (также известного как нейросеть или искусственный интеллект), который анализирует цифровой след палестинцев и определяет с «точностью до 90%», принадлежит ли человек к ХАМАС или нет.
В материале так и написано: «Lavender (так называется этот программный комплекс) находит людей и добавляет их в список на ликвидацию». Приводится и цитата неназванного офицера разведки:
«Мы не заинтересованы в ликвидации оперативников ХАМАС только во время их военной деятельности или на территории военных объектов. Напротив, армия обороны Израиля приоритетно наносила бомбовые удары по ним в их домах без колебания».
То, что называется «сопутствующим ущербом» (убитые гражданские вместе с боевиком ХАМАС), тоже получило, согласно материалу, свою шкалу оценки: допустимо убить 15-20 невинных людей, если этим будет уничтожен низкоранговый оперативник ХАМАС. А офицера высокого ранга (командующего батальоном или бригадой) допустимо уничтожать, даже если погибнут более 100 гражданских.
В статье нахваливается, как эта технология позволила сократить время для нанесения удара и принятия решения, но, откровенно, от чтения всего этого волосы дыбом встают. Система, мало того, что ошибается в 10% случаев (и это по данным разработчиков!), но еще и военные не видят никакой проблемы в том, чтобы целенаправленно бомбить гражданских, если под удар попадет и их противник.
Абсолютно не факт, что все написанное в журнале, — правда. Может, и нет никакой нейросети, которая составляет списки на ликвидацию (хотя журнал этот, если верить «Википедии», достаточно авторитетный), но, глядя на все происходящее в Газе, поверить в бесчеловечность действий израильских военных совсем несложно.
Катарский телеканал «Аль Джазира» опубликовал ролик, как израильские солдаты стреляют по палестинцам, которые разбирают сброшенную с воздуха гуманитарную помощь. Сбоем нейросети такую картину уже объяснить никак не получается. Да и число убитых в Газе, которое уже перевалило за 40 тысяч по данным ООН, тоже говорит само за себя.
С каждой новой неделей все растет и растет ощущение того, что человечество, прежде всего западный мир, загоняет себя все дальше в антиутопию ради совсем потерявших смысл мотивов.
Во главе угла стоят передовые технологии и абстрактные цифры, а вот человеческого как раз становится все меньше и меньше. Причем антиутопия, к которой семимильными шагами идет прогресс, настолько безумного толка, что любые «1984» и «О, дивный новый мир» кажутся легкой сказочкой.
Тотальный контроль через камеры и развлечения в книгах хотя бы внедрялся ради какой-то идеологии, а сейчас и идеология-то как таковая отсутствует. Есть набор симулякров, на которые Россию пытались подсадить, вроде «деколонизации», «левое движение», поддержка меньшинств и всякое другое радужно-экстремистское, что и идеологией-то не является, а представляет собой набор пустых лозунгов для размякших мозгом отдельных городских жителей.
Вот уж не думалось, что придется столкнуться с такой же ситуацией, с которой столкнулись потерявшие работу из-за механизации рабочие в Англии, объединившиеся в движение луддитов! С высоты истории они всегда казались просто архаиками, которые не хотели меняться вместе с миром, предпочитая бесполезными акциями бороться с неизбежным.
Но если посмотреть на это под другим углом — как на попытку восстания против растерявшей остатки справедливости экономической системы, эксплуатирующей рабочих и предлагающей в награду пинок под зад на мороз — то все это движение луддитов не кажется однозначно нелепым.
И кто его знает, что бы было с планетой, если бы волна социалистических протестов и одна социалистическая революция в наших широтах не вынудила магнатов охладить пыл и поделиться своим безразмерным пирогом с теми, кто пирог этот для них выпекает.
Мне (простите за «яканье») уже даже не кажется, что в наше время мы снова столкнулись с ровно такой же проблемой. Экономическая система вновь потеряла даже намеки на справедливость, а технологии вновь идут рука об руку с бездушным процессом уничтожения уклада людей (и людей как таковых).
Не то, что бы неолуддизм с разгромом дата-центров (вместо станков) сработал бы, но технологический прогресс действительно не помешало бы немного замедлить. Просто остановиться и подумать, а что мы, черт побери, вообще делаем и к чему идем.
Снова вернуть хотя бы видимость справедливости, очеловечиться.
Но в нынешних условиях все это невозможно по нескольким глобальным причинам. Экономическая система, в который мы все живем, может существовать только в условиях постоянного роста. Как ни крути, экономика – это тот базис, на которую надстраивается все остальное.
На близком нам примере конфликта на Украине – идет он ровно потому, что на Западе это выгодно: в него инвестировали гигантские суммы безликие корпорации, которые имеют прямое влияние на политику, прежде всего американскую. Корпорациям нужно постоянно показывать рост доходов, хоть на доли процентов.
То, что для нас огромная человеческая трагедия, для них – это всего-навсего небольшая цена за эти доли процентов роста.
Барыши пытаются получить и на другом: стремительный рост в развитии искусственного интеллекта — следствие того, что другие сферы инвестиций уже просто высушены, как те золотые рудники в Калифорнии, а нейросети – это жирнючая золотая жила, гарантирующая стабильно высокий доход в ближайшие годы.
Как развитие этой технологии повлияет на человечество, на данном этапе бенефициаров нисколько не волнует — даже если последствия в итоге будут такими, как показывали в неоднократно выпускаемом в повторный прокат в кинотеатры фильме «Терминатор-2».
Нас запугивали многочисленными теориями заговоров, но реальность оказалась банальнее (и страшнее): миром управляет не какие-то масонские ложи, нет «мирового правительства» и его коварных планов, даже «золотой миллиард» или «платиновый миллион». В реальности мы видим, что это не «кружки по интересам», а просто классификация по количеству денег.
Миром управляет банальная жадность, стремление показать тот самый рост на доли процентов, которые в сочетании с военно-политическим могуществом, накапливаемом столетиями, вершит судьбы простых людей по всему миру.
И технологии, которые, конечно, сами по себе всего лишь инструмент, идут с этой жадностью рука об руку, лишая мир человечности и стремительно приближая мир без человечества.
Несмотря на мрачное настроение, есть уверенность, что точку невозврата мы не прошли. В конце концов, оптимизм внушают даже мелкие относительно глобального круговорота события. Вот наш президент выступил на собрании независимых профсоюзов, посвятив речь безработице и трудоустройству всех, кто временно ничем не занят; или — он же обсудил дальнейшие карьерные пути ветеранов спецоперации, напомнив о важности программ переквалификации, устройства на работу и так далее. Или вот выступил премьер-министр перед Госдумой, рассказав о сделанном и наметив планы на будущее.
В каждом этом выступлении, как ни крути, но во главу угла все-таки помещен человек. Это не отменяет стремление к росту всего и вся, это не говорит о возврате к социализму; но в этом точно слышится призыв именно к тому, что необходимо планете для выживания: спокойному, взвешенному, поступательному развитию для человека и во имя человека.
Россия сто лет назад показала миру, как можно заботиться о рабочем человеке, и с этой практикой миру пришлось считаться. Теперь Россия просто обязана показать, как нужно заботиться просто о человеке.
Чтобы технологии – ему в помощь, а не во вред. Чтобы числа показывали рост зарплат работников, а не абстрактную капитализацию корпорации. Чтобы цифры рядом с графой «гражданские» означали демографический рывок, а не допустимый «сопутствующий ущерб».
Абсолютно точно, это всё возможно.
Россия вообще страна удивительная, самодостаточная и уникальная — именно в последние два года горячей фазы конфликта с Западом это особенно отчетливо видно.
У России есть большие, амбициознейшие планы стать еще лучше, сделать лучше для каждого человека в стране – дорога намечена, главное, с нее не свернуть. И в конфликте с Западом мы выстоим и победим, и показать свое моральное превосходство мы тоже сможем (не ради хвастовства, а, опять же, ради людей).
Просто случись иначе – жить-то мы будем (если будем, конечно) в абсолютно недивном странном мире, в котором все существование будет сводиться к совершению набора правильных действий, чтобы не попасть в список на ликвидацию продвинутой нейросети.
