?

Log in

No account? Create an account

Previous Entry | Next Entry

«Успокойся, смертный, и не требуй правды той, что не нужна тебе» (с)

«Считаешь ли ты вероятным, что вскоре откроют серебристый, похожий на свинец металл, который способен уничтожить жизнь на Земле, если два полушария из этого металла придвинуть друг к другу, чтобы получился шар величиной с большой апельсин? Считаешь ли ты возможным, что вон та старая бричка, в которую господин Бенц запихнул стрекочущий двигатель мощностью в полторы лошади, вскоре так расплодится, что от удушливых испарений и выхлопных газов в больших городах день обратится в ночь, а приткнуть эту повозку куда-нибудь станет настолько трудно, что в громаднейших мегаполисах не будет проблемы труднее этой? Считаешь ли ты вероятным, что благодаря принципу шутих и пинков люди вскоре смогут разгуливать по Луне, а их прогулки в ту же самую минуту увидят в сотнях миллионов домов на Земле? Считаешь ли ты возможным, что вскоре появятся искусственные небесные тела, снабженные устройствами, которые позволят из космоса следить за любым человеком в поле или на улице? Возможно ли, по-твоему, построить машину, которая будет лучше тебя играть в шахматы, сочинять музыку, переводить с одного языка на другой и выполнять за какие-то минуты вычисления, которых за всю свою жизнь не выполнили бы все на свете бухгалтеры и счетоводы? Считаешь ли ты возможным, что вскоре в центре Европы возникнут огромные фабрики, в которых станут топить печи живыми людьми, причем число этих несчастных превысит миллионы?» Понятно, говорит профессор Коуска, что в 1900 году только умалишенный признал бы все эти события хоть чуточку вероятными. А ведь все они совершились. Но если случились сплошные невероятности, с какой это стати вдруг наступит кардинальное улучшение и отныне начнет сбываться лишь то, что кажется нам вероятным, мыслимым и возможным? Предсказывайте себе будущее, как хотите, обращается он к футурологам, только не стройте свои предсказания на наибольших вероятностях...»
(с) С. Лем, эссе «О невозможности прогнозирования»

Автор проработал огромный пласт информации, связанный с рисками нашей цивилизации и с угрозой прекращения ее существования (принимая во внимание аксиому о том, что средства нападения совершенствуются быстрее, чем средства защиты).
Признаюсь сразу, рассуждения о симуляции Бострома , формуле Готта или о байесовой логике я одолела с огромным трудом, а частично и пропустила, не продравшись через терминологию и формулы. Тем не менее, основной смысл работы ясен и без этих выкладок.


Параллельно с Фукуямой и его «Концом истории» Турчин пишет, что наше общество зашло в фазу так называемого «кризиса кризисов». Но тогда как Фукуяма говорит, что подошла к концу лишь человеческая история с ее сменой формаций (т.е. мы обречены двигаться по кругу известных форм государственности) , Турчин утверждает, что подошла к концу вся наша модель развития общества . И если раньше каждый кризис служил для разрушения старого и появления нового, то теперь вся эта модель развития с помощью кризисов подходит к концу.
Стратегия личного выживания, воспитанная в нас в ходе эволюции, подразумевает правило: тот, кто больше рискует, тот захватывает большую территорию, получает больший авторитет в стае, становится альфа-самцом и, в конце концов, оставляет, возможно, большее потомство. Но экспансия стаи не может длиться вечно, на определенном этапе она сталкивается с проблемой в виде другой стаи , с недостатком территории , перенаселением, ограниченностью ресурсов и прочими факторами. Тогда у стаи два пути – найти выход из ситуации или вымереть. Автор считает, что мы как стая выход из сложившейся ситуации найти не в состоянии – слишком она многофакторна и (местами) неуправляема. Таким образом, Турчин приходит к выводу, что наша цивилизация, построенная на риске, экспансии и соответственно - агрессии, движется к своему закономерному концу.
Кроме того, люди слишком уверены в своей мудрости и предусмотрительности, и из-за излишней уверенности могут пропустить важные изменения , могущие привести к катастрофе. Чтобы избежать этого в исследовании, Турчин вводит “принцип предосторожности» , т е предполагает, что события будут развиваться по наихудшему сценарию.

Особенностью книги является подробный критический обзор разных средств защиты от глобальных рисков. Турчин считает, что катастрофа произойдет тогда, когда причиной ее будет являться не один, даже крупный фактор, а несколько мелких, которые в совокупности дадут более разрушительный эффект
На 150 страницах автор последовательно рассматривает риск гибели человеческой цивилизации от таких факторов, как атомное, химическое и биологическое оружие, супернаркотик, недружественный искусственный интеллект, риск , связанный с развитием нанотехнологий, природные катастрофы, глобальное потепление, антропогенные риски, криптовойны и неизвестные нам сейчас прочие виды катастроф. Одной из причин надвигающейся катастрофы является перерасход ресурсов. Человечеству свойственно исчерпывать до конца любой ресурс, который стал ему доступен. Проблемы исчерпания людям всякий раз удавалось преодолевать , совершив технологический скачок, как это было в неолитическую революцию. Но теперь ситуация в корне иная.
Турчин утверждает, что с развитием цивилизации риск вымирания людей увеличивается пропорционально новым технологиям, которыми мы овладеваем. «Многие знания-многие печали»(с) .

Окончание первой части посвящено наиболее реальному сценарию глобальной катастрофы. Таковых он видит два: внезапный ( неограниченное развитие недружественного искусственного интеллекта) и системный ( биологическое оружие). Причем наиболее вероятным он называет второй . Суть этого сценария в том, что не будет какого-то одного уничтожающего людей фактора, а будет вал множества факторов, превосходящий все возможности по выживанию. Наиболее вероятное время действия обоих сценариев – 2020-2040 годы (кстати, на этом временном отрезке сходится большинство исследователей этого вопроса).
Вот итоговая оценка вероятности нашего вымирания, если вероятность нашего вымирания будет 50 на 50 :
• 15% - недружественный ИИ или борьба разных ИИ уничтожает людей. Я приписываю ИИ такую высокую вероятность, потому что именно ИИ обладает способностью отыскать и воздействовать на всех людей без исключения – в большей мере, чем другие факторы.
• 15% - системный кризис с многократным применением биологического и ядерного оружия.
• 14% - нечто неизвестное.
• 1% - неудержимое глобальное потепление и другие варианты природных катастроф, вызванных деятельностью человека.
• 0,1% – естественные природные катастрофы,
• 0,9% – неудачные физические эксперименты
• 1% - серая слизь – нанотехнологическая катастрофа
• 1% - атака через SETI
• 1% - ядерное оружие судного дня
• 1% - прочие.
Оставшиеся 50% приходятся на шансы того, что в XXI веке люди не вымрут. Они видятся состоящими из:
• 15% – Позитивная технологическая сингулярность. Переход на новый этап эволюционного развития.
• 10% – Негативная сингулярность, в ходе которой люди выживают, но утрачивают значение. Варианты: выжившие в бункере, зоопарк, безработные у телевизора. Власть переходит к ИИ и машинам.
• 5% – Sustainable development – человеческая цивилизация развивается без скачков в технологиях и без катастроф. Это предлагается в качестве наилучшего варианта традиционными футурологами.
• 20% – Откат на стадию постапоклиптического мира. Разные уровни деградации.

Вторая часть посвящена методологии анализа глобальных рисков. Обсуждаются ошибки , влияющие на глобальные риски и их реализацию. Целью является свести возможные искажения в удобный и структурированный список. При этом максимальное внимание уделено полноте списка, а не доказательству каждого отдельного пункта. В числе прочих меня «порадовал» такой фактор искажения прогноза, как подсознательное стремление к сильным чувствам и эмоциям. А.П.Назаретян описывает базовую потребность людей в сильных эмоциях и экстремальных ощущениях, которая побуждает их нарушать скоростной режим движения машин, вести войны, заводить любовниц, - короче, находить приключения.

Отдельную главу занимает исследование , как когнитивные искажения, могущие касаться любых рисков, влияют на оценку глобальных рисков. Рассматриваются возрастные особенности, подсознательное желание смерти (танатос, по Фрейду), идеи мемов , усталость от ожидания катастрофы и пр. в количестве 107 штук) В их числе фактором возможных ошибок называется юмор. Поскольку шутка даёт право человеку законно говорить неправду, это создаёт ожидание у тех, кто слышит неожиданную новость, что это шутка . Можно вспомнить и шутку Рейгана о том, что ядерная атака на СССР начнётся через 5 минут, которую он сказал для проверки микрофона перед выступлением, что привело к приведению Советской армии в боевую готовность.
Еще одно искажение риска – это художественный вымысел. Имеются в виду множественные фильмы-катастрофы, которые подсознательно формируют модель риска, который назревает, угрожает, интересно развивается, но затем зрелищно преодолевается, – и вся игра идёт почти на равных. Реальные риски не обязаны соответствовать этой модели.
Отдельно рассматриваются общие и специфические ошибки, приводящие к искажению результатов исследования и правила оценки глобальных рисков.

И в заключение - о позиции «всё как-нибудь обойдётся». Эта позиция по предотвращению рисков основывается на вере во врождённую устойчивость систем и на иррациональной концепции решения проблем по мере их поступления. Основная ее ошибка – позиция в духе «авось, пронесёт». Собственно, этой позиции и придерживаются правительства разных стран, которые решают проблемы только после того, как они стали очевидны – что не освобождает их от собственно проблемы. Мужик никак не хочет креститься до того, как его клюнет в темечко жареный петух.

В электронном варианте текст тут
http://www.proza.ru/2007/08/10-217

Tags:

Comments

( 2 comments — Leave a comment )
vanessa_cardui
Dec. 25th, 2008 10:23 pm (UTC)
мда, вот уж эти футурологи... Мне кажется, эпиграф из Лема, которому я склонна доверять:), говорит как раз о бессмысленности подобных "исследований". Само перечисление вариантов развития событий, может, и интересно, но вот соотношение вероятностей ызывает у меня большие сомнения.
riannon__
Dec. 26th, 2008 06:34 am (UTC)
ну, исследования-то не совсем бессмысленны - хотя бы с точки зрения самонесбывающихся прогнозов. Вполне возможно, что предполагаемая опасность может остаться в разряде предполагаемых именно из-за того, что была вовремя озвучена) Но и без этого работа интересна тем, что там не просто вода, а попытка анализа с помощью формул.
( 2 comments — Leave a comment )

Latest Month

September 2019
S M T W T F S
1234567
891011121314
15161718192021
22232425262728
2930     
Powered by LiveJournal.com