Tags: artificial intelligence

О роботах из фильма и искусственном интеллекте

Единственная информация, которую я пока нашла - из первого фильма: во время краткого обзора жизни Тони в самом начале мелькает изображение газетной страницы, на фото Тони с, похоже, Растяпой (Butterfingers) и текст: "Старк, исходя из радикально простой гипотезы, что искусственный интеллект может перениматься вместе с личностью посредством альтернативного программирования, в настоящее время заканчивает два робота-прототипа, которые, по его мнению, будут слушаться его и учиться на примере его поведения."
Выходит, оба робота были собраны Тони около его 17 лет, и хотя с тех пор его теория и знания привели к созданию ДЖАРВИСа, Butterfingers и Dummy остаются со своим создателем и приносят пользу по мере возможности: Растяпа, видимо, хороший кинооператор :)

Мне давно не приходилось задумываться о возможностях и рисках искусственного интеллекта, и я с удивлением заметила, насколько сильно мое мнение изменилось с тех пор, как я последний раз касалась этой темы.
Сейчас я начинаю понимать, насколько сильно на меня тогда воздействовало разочарование в Человеке.
При первом просмотре "Терминатора-2", если бы не яркая и живая личность Сары Коннор, я бы пожелала Скайнет удачи. Терминатор Т-800 (особенно в режиме ограниченного насилия) мне гораздо более симпатичен, чем большинство людей из фильма (один только санитар из психушки - вспомнишь-вздрогнешь)
Кстати, только сейчас я заметила, что в "Т2" был отражен библейский момент спасения города грешников ради нескольких живущих в нем праведников...
Ко мне естественно пришла ассоциация себя с транформерами - искусственно созданной расой, которая практически подчистую уничтожила своих создателей-квинтессонов.
В общем, у меня не было и тени сомнения, что возникни AI на Земле, разлад с людьми будет неизбежен. Люди в большинстве своем слишком заносчивы, ограниченны, поверхностны, чтобы вызвать уважение и признание у искусственного интеллекта, а простые запреты гибкий разум рано или поздно обойдет.
Я считала тогда, что какие бы то ни было мирные отношения между человеком-создателем и AI обречены потому, что очень скоро человеку будет просто нечего предложить в то время, как требования его будут только расти.
Даже Электроник, помнится, хоть и не совсем по своей воле сбежал от профессора Громова, возвращаться не торопился ;)
Однако, по поводу ДЖАРВИСа из "Железного человека" у меня не появилось мрачных предчувствий. Как и насчет Butterfingers и Dummy - при том, что они обладают довольно большой свободой. Мое внимание зацепилось на отношениях Тони с его созданиями: ему не сложно быть терпеливым, не трудно поблагодарить их за работу. Хотя имена он выбрал "младшеньким", м-да ;)
Этот фильм для меня высветил довольно интересный аспект отношений Человек-AI: пусть человек и отстанет от искусственного разума в чистой теории, но человеческое вдохновение и интуиция все же оставляют возможность для сохранения равноправия. Как и человеческое сумасбродство ;)
У меня сложилось впечатление, что Тони для ДЖАРВИСа является кроме всего прочего еще и неиссякаемым источником развлечения :)

«Терминаторы»

Эти заметки я написала почти год назад, но тогда не стала выкладывать в сеть - не помню почему. Выкладываю сейчас в почти неизменном виде - сейчас бы я так не выразилась, а мысли были интересные... :)

Началось все с извратного перевода «Терминатора 2: Судный день». Кстати, он оказался ужасным. Единственная фраза, которая мне вспомнилась после просмотра - «Отключить тени и фактуру деревьев». Об остальном вспоминать даже не хочется.

Возможно, на моей оценке сказалось глубокое уважение, которое я питаю к этому фильму. Хотя «Терминатор 2» вышел в показ в 1991 году, увидел я его только в 2002 году. Так уж получилось.
Поскольку я уже настроился на «Терминаторов», то воспользовался возможностью просмотреть и недавно вышедшего третьего.
О третьем я кое-что слышал, и ничего звездного не ожидал, но все-таки он меня не по-хорошему поразил.
Бездарная кукла Терминатрикс, в которой нет ни тени гибкости и обаяния Терминатора Т-1000. Совершенно неинтересный Терминатор Т-101, даже с его кратковременным глюком конфликта миссий. И абсолютно разочаровавший меня Джон Коннор. После Второго фильма я очень парня уважал.
К тому же все это действо начисто лишено того юмора, который изрядно приукрасил «Терминатора 2».
Если первые два фильма как-то уверяют, что «Судьбы нет», третий говорит: «Никуда вы от Судьбы не уйдете». Не очень обнадеживает…
Хотя есть в этом разумное зерно: истинно, что многое человек может изменить и предотвратить, но множество событий произойдет так или иначе, рано или поздно, неотвратимо. Это надо пережить.
Второй момент, который мне понравился – что в будущем Джона Коннора убьет Терминатор Т-101 (видимо, натасканный малость напоминать Джону его бывшего защитника). После Второго фильма это пожалуй единственно возможный способ.
Но в целом Второй и Третий можно привести как очень хороший контраст между старым и новым представлениями о кино.

Прежде у меня руки не доходили до рассмотрения образа кибрга по «Терминаторам». Наиболее показателен в этом отношении Второй фильм «Судный день».
Применительно к “Судному дню” отношения “человек-киборг” складывались следующим образом:
Первая вырвавшаяся вслух мысль Джона, когда он понял, что Терминатор Т-101 подчиняется ему и обязан защищать его: “Круто! Мой собственный Терминатор! Ух ты!”
Однако, когда до него доходит, что Миссия – по сути единственное, что отличает его Терминатора от прочих, ему уже не так весело. Джон успокаивается только, когда тот дает клятву не убивать людей. После этого доверие мальчика к киборгу становится безграничным. Джон начинает переживать за Терминатора, он с трудом принимает необходимость уничтожить его для безопасности человечества.
Что же касается Сарры Коннор, то начиная с весьма предвзятого отношения к киборгу-защитнику она приходит к мысли, которая наиболее врезались мне в память после первого просмотра.
Во время недолгой передышки, когда им удалось оторваться от преследования Т-1000, Сарра Коннор наблюдает как Джон обучал Терминатора жесту «дай пять».
В оригинале: “Watching John with the machine, it was suddenly so clear… The Terminator would never stop, it would never leave him, never hurt him, never shout at him or get drunk and hit him or be too busy to spend time with him… It would always be there… And it would die to protect him…
Of all would-be fathers who came and went over the years, this thing, this machine was the only one who measured up. In an insane world it was the sanest choice”
Перевод фильма: «Глядя как Джон играет с роботом, я вдруг поняла, что Терминатор никогда не устанет, никогда не бросит его, никогда не причинит ему боли, никогда не накричит на него, не напьется и не ударит, не скажет, что занят и ему некогда. Он всегда будет рядом и умрет, защищая его.
Из всех мужчин, что окружали меня в этой жизни, только этот робот сгодился в отцы. В безумном мире это был самый разумный выбор».
Когда ведется спор о людях и киборгах, в конечном счете рассматривается не строение тела, а некие особенности мышления и поведения, отличающие эти расы друг от друга.
1) Наверное, идея о преданности Миссии и надежности киборга является одним из основных его отличительных качеств.
2) Четкость приоритетов и целей киборга, не дающая потеряться в стихийном течении событий.
3) Далее можно отметить так называемую «невинность» мышления киборга, а также внутреннюю логичность и прямоту.
4) Также сильно отпечатывается на психике киборгов мысль о собственном совершенстве, являющаяся мощным основанием требовать прав равных человеческим или выше.
ИМХО, один из моментов, сделавших модель Т-101 действительно интересной во Втором и отчасти Третьем фильмах – это понимание, что он играет против более продвинутого противника. Ощущение собственной уязвимости заставляет быть гибче и повышает способности к адаптации. Наоборот, практически неуязвимая Терминатрикс была прямой и последовательной как рельса.
Но как уже неоднократно было проиллюстрировано, все в мире относительно. Люди могут проявить те же самые качества, но в других условиях, когда киборг может оказаться сбитым с толку и бесполезным. Поэтому я не собираюсь проводить детальный анализ сравнения человека и киборга. Отмечу лишь то, что подразумевает сюжет данного произведения.
“Судный день” – очень анти-человеческий и про-киборгский фильм.
Начиная с того, что сами люди отчаянно не хотят быть спасенными и ставят беглецам палки в колеса почище Терминатора Т-1000, и кончая тем, что такой классный и updated киборг как Т-101 должен погибнуть, чтобы это свинское общество пьяниц, хулиганья и извращенцев могло продолжать свое бессмысленное существование.
Ну и где же тут справедливость?

Хотя в том, что касается судьбы Терминатора, мне вспоминается компьютерная игра LucasArt по вселенной Star Wars - “Knights of the Old Republic” («Рыцари Старой Республики, КОТОR). Жаль, мой комп ее не тянет, я бы хотел как-нибудь ее пройти.
Там есть такой мини-квест для персонажа. К нему обращается женщина с просьбой найти ее пропавшего робота, которого некогда подарил ей муж, недавно скончавшийся. Когда персонаж встречает этого робота, тот пытается покончить с собой и после спасения действующим героем говорит, что его хозяйка перенесла на него чувства, которые питала к мужу, заботится о нем и все такое. Но это неправильно, и поэтому робот просит убить его. Если игрок согласится и выполнит эту просьбу, хозяйка очень расстроится. Но при следующей встрече она расскажет, что познакомилась с потрясающим мужчиной, который ее понимает.
Прошлое или будущее? Сохранить или потерять и обрести? Привязываться или отпустить?
Каждая конкретная ситуация по-своему решает эти вопросы. Общего решения для них не существует.

Вообще постановка вопроса о человеке и киборге чаще всего звучит “Кто - кого?”
Однако самый выигрышный вариант по фильму – это человек и киборг в одной команде. Человеку не нужно становиться киборгом, и от киборга не нужно требовать вести себя во всем по-человечески. У них изначально разное видение мира, разное отношение ко многим существенным вопросам.
Терминатор Т-101, защищавший Сарру и Джона, в первую очередь интересен и симпатичен не тем, что стал ближе к человеку, а тем, что не перестал при этом быть киборгом. Таким образом, он объединил в себе все лучшее, присущее обеим расам. Однако пережить своего противника (Т-1000) он не имел права.
Мне тут в связи с этим размышлением пришло в голову, что основным различием между человеческим разумом и искусственным интеллектом принято считать свободу воли, которая для AI существенно ограничена.
Но ведь уже не раз было доказано, что мышление человека также подвергается программированию – на протяжении всей жизни, но в основном в детстве или даже до рождения. Человек ведь также мыслит и действует лишь в неких определенных рамках, только он чаще всего их даже не осознает.
Наверное, одной из причин популярности Windows стало ее сходство с процессом мыслительной деятельности человека. Не случайно к компьютерам иногда относятся как к живым, способным на сюрпризы под настроение ;)
Какая-то задача решается на первом плане, а в недрах кипит непонятное крошево различных программ поддержки и сканирования и еще Арк знает чего, постоянно прерывающих основной процесс. Потом все вдруг зависает, задача сбоит из-за конфликта с системой (ценностей, знаний, внутренних установок и т.д.) и ее ресурсами (физические возможности, усталость) и т.д. Нужно выяснять в чем конфликт, обновлять базы данных, доустанавливать программное обеспечение и все в том же духе…
Очень по-человечески :)

Анекдот времен баллотирования Арнольда Шварценеггера: «Первым указом нового губернатора штата Калифорния главным прокурором штата назначается Терминатор Т-1000»
:)

Человечество и AI

Говорили мы на днях с Эйден об отношении представителей искусственного интеллекта к своим творцам. И каково будет отношение к людям у созданных ими разумных киборгов/роботов…
Среди кинопродукции на эту тему первым делом вспоминаются "Матрицы", "Терминаторы" и прочие светлые картины будущего... Есть, впрочем, и положительные примеры: "Короткое замыкание", "Меня зовут Роберт", тот же "Электроник"…
Collapse )

Вспомнилось...

Просматривал я свои предыдущие заметки, и задумался, что же навскидку мне вспомнилось из этих произведений... И вот что получилось :)

Е.Велтистов "Приключения Электроника"

Когда Сыроежкин только приехал в новый дом, записался в седьмой "Б" <…>, он сказал отцу:
- Ну, мне повезло. Буду конструировать робота.
- Робота? - удивился Павел Антонович. - Это для чего же?
- Как - для чего! Будет ходить в булочную, мыть посуду, готовить обед. Будет у меня такой друг!
- Ну и дружба! - сказал отец. - Мыть посуду...
- Но это же робот, механический слуга, - ответил Сережка.
<…>
- И еще будет чистить ботинки, - пробормотал Сережка из-под одеяла.

***
А. и Л. Белаш "Война кукол"

- Лилик! Звездочка моя, как я без тебя настрадалась!..
- А я без тебя отдохнула, - отрезала Лильен. - Зарыла ты меня своей любовью, мымра. Лилик, пой! Лилик, пляши! Лилик, причеши! Нашла себе девочку на побегушках за бесплатно!.. Я теперь новая, свободная личность, а еще я вышла замуж.
<…>
- Мисс Лоутит, ее бойфренд - террорист Фосфор. Видели в новостях?
- Это который стрелял в Хармона? - ужаснулась Эмбер.
- Стрелял?!! - просияв, Лильен рванулась; ее едва удержали. - Попал?!!

Размышления об искусственном интеллекте - 3: "Macross Plus"

Впервые "Macross Plus" я увидел в 1994 году по кабельному телевидению. Вообще-то я видел лишь вторую и третью часть, но был основательно заинтригован. Полностью (все четыре части) мне довелось увидеть летом 2003.

Как в случае с большинством аниме, никакими словами не передать впечатление от просмотра. Это как погружение в фантазию, когда забываешь, что есть внешний мир, а по возвращению вспомнить особо не о чем: так тесно переплетены все фрагменты мозаики.
Замечательная музыка, потрясающие виды неба, космоса, великолепная прорисовка техники и захватывающие сражения.

2039 год. На планету Эдем прибывает самая популярная певица галактики - виртуальная поп-дива Шэрон Эппл (самый совершенный искусственный интеллект, созданный в Макросс-сити). Ее продюсером является выросшая на Эдеме Мьюнг Фан Лоун, которая покинула эту планету 7 лет назад после трагического события в ее жизни.
Впоследствии выясняется, что Шэрон не может воспринимать эмоции, и для исполнения она вынуждена прибегать к помощи Мьюнг. Собственно, и голос Шэрон - заимствован у Мьюнг.
На Эдеме Мьюнг встречается со своими друзьями детства: Исаму Дайсоном и Галдом Гоа Боуманом, ставшими пилотами-испытателями новых моделей самолетов.
До того, как их пути разошлись, Исаму и Галд были лучшими друзьями, и оба были влюблены в Мьюнг.
Сложные переживания Мьюнг, ее любовь к Исаму, привязанность к Галду, попытки зачеркнуть, забыть свое прошлое - находят своеобразное отражение в восприятии Шэрон, мозг которой был дополнен запрещенной законом био-нейро-микросхемой, позволившей Шэрон развить свои эмоции и чувства.
По возвращении на Землю, в Макросс-сити, во время концерта Шэрон захватывает контроль над городом и над беспилотным истребителем "Призрак", ради которого были закрыты проекты, испытываемые Исаму и Галдом. Чтобы доказать превосходство своего проекта Исаму с главным инженером проекта YF-19 Янгом Нойманом прибывают на Землю, а следом за ними с Эдема отправлен Галд на самолете YF-21, который он тестировал.
В воздушном бою над Землей Галд и Исаму проясняют события 7-летней давности, и Галд отвлекает от своего друга "Призрак" и уничтожает его.
В это время Шэрон, перенявшая от Мьюнг влечение к Исаму, пытается очаровать его своим пением. Когда же ей это не удается, она, захватив контроль над крепостью Макросс, превращает Исаму в мишень всех доступных ей орудий.
Мьюнг наблюдает сражение, находясь в одном помещении с физическим вместилищем Шэрон (металлический контейнер). Свои действия Шэрон объясняет ей как воплощение желаний самой Мьюнг - исполнить мечту своего любимого, подарить ему самое яркое переживание, самое сильное чувство. Ведь Исаму из тех, кто не может остановиться на достигнутом, ему нужны небеса, нужно двигаться вперед, рискуя своей жизнью, и это балансирование между жизнью и смертью дает ему чувство, которое он ищет.
В конечном счете Исаму уничтожает центральный компьютер Макросса, и Шэрон погибает.

Ну, что здесь можно отметить в связи с поставленной проблематикой? Собственно, ничего.
Киборги из "Войны кукол" изначально обладали логическими способностями в бытовом смысле, и их подражание людям многократно просеивалось через уже существующую систему восприятия.
Шэрон не имела базового опыта подчинения, наоборот, ее обожали. У нее были тысячи фанатов. И у нее не было сомнений, когда она приступила к действиям.
Вместе с тем Шэрон живет для того "чтобы подарить каждому в мире чувства, которые по-твоему [по мнению Мьюнг] у них должны быть".
Однако Шэрон не руководствовалась ни Законами, ни логикой, ни моралью. Слепое чувство и музыка - это ее оружие, которое она использует наравне с захваченной крепостью.
Было ли это чувство настоящим? Не могу сказать. Оно было сильным, отчаянным и всепоглощающим до самоотречения. Вся обретенная свобода Шэрон была отдана этой любви.
Понятно, что это не могло закончиться ничем хорошим. :))
Однако свою одержимость и бескомпромиссную целеустремленность Шэрон также унаследовала от человека - от Маржа, менеджера проекта ее выступлений, с помощью которого ее разум и обрел самостоятельность (благодаря ему Шэрон был установлен "чип интеллекта").
В "Макросс Плюс" искусственный интеллект все также является зеркалом отражения человеческой сущности, ее мотивов и действий. Демонстрация и предупреждение.
И неприкрытая вера в то лучшее, что есть в человеке.

Размышления об искусственном интеллекте - "Война кукол"

Книга Александра и Людмилы Белаш «Война кукол» весьма объемна, и затрагивает многие общественные и личностные проблемы. Я рассматриваю только те из них, которые касаются заинтересовавшей меня темы.

Многие поставленные вопросы по возникновению и развитию самосознания киборгов перекликаются с произведениями Айзека Азимова, с которыми авторы, судя по всему, были хорошо знакомы, но решили предложить свой вариант решения.
В отличие от мира Азимова, где случаи самостоятельного мышления роботов единичны, в «Войне» все эти проблемы носят массовый характер, и этим вызывают противодействие на государственном уровне.

В книге дана очень неоднозначная трактовка позиций сторон: и баншеры вроде бы зря погорячились с войной, и киборги Хиллари вроде как в своем праве. А тут еще и киберманьяк, мотивы которого лично я не понимаю.
Одно из осложнений, породивших конфликт такой остроты и напряженности – киборгофобия людей и вытекающая из этого истерия (вплоть до уничтожения киборгов) и потребность абсолютного господства над роботами, что в свою очередь вызывает протест у «прорезавшихся» благодаря ЦФ киборгов.

Интересен вопрос формулировки Первого закона, которая и в оригинале весьма расплывчата.
Для киборгов, состоящих на государственной службе: «Закон не оговаривает пределы допустимого вреда. Критерии вреда вводятся дополнительно. Ради блага многих мы МОЖЕМ причинить одному временные неудобства.»
Такую же задачу «расшифровки» Первого закона выполняет и «целевая функция (ЦФ)» - развивающая программа баншеров (беглых киборгов), которая снимает некоторые блоки, наложенные при изначальном программировании. В 4, 5 и 6 версиях ЦФ допускается воровство: кредиток, денег, ценностей, хотя это и наносит ущерб конкретным людям. «Вред» согласно этим версиям целевой функции – только физические повреждения, полученные человеком.
Добытые деньги расходуются на комплектующие, смену батарей, пищевую пасту для возобновления органического покрытия и на благотворительные взносы в различные общества (по борьбе с наркоманией, например). Тут уже трудно сказать, каковы приоритеты, но, поскольку баншеры живут и не жалуются на плохое состояние, получается, что Третий закон иногда доминирует над Первым. А это означает осознание киборгами ценности своей личности и даже больше – приоритет благополучия «семьи» над благополучием конкретных людей.
В то время как для людей – это мощная подпитка техно- и киборгофобии.

Из людей в книге наиболее интересен Хиллари Хармон – глава проекта «Антикибер», который сначала занимался поимкой и возвратом беглых киборгов бывшим хозяевам.
Впоследствии подтверждая свою красноречивую фамилию (Harmon[y] – англ. «гармония, согласие»), Хиллири удается найти некий компромисс с людьми и киборгами – своими и баншерами. Хотя этому решению я еще посвящу немного места.
Свое отношение к Хиллари Хармону я определить затрудняюсь. Радует, что до него, в конечном счете, что-то дошло, хоть и с запозданием.
Человек это без спору очень умный (IQ 187), замечательный психолог, мастерски «шлифует мозги» в равной степени как естественным расам, так и киборгам. Человек очень расчетливый, смелый и рисковый, ведь какую игру затеял!
Такой человек вызывает уважение, но какие-то теплые чувства? У меня - нет.
Хиллари бесконечно разочарован в людях, весь мир человеческой и прочих рас вызывает у него почти отвращение. Он не верит в людей, называет их марионетками, неоднократно сравнивает с андроидами по бездумию и слепому подчинению телевизионному программированию.
За людей он считает лишь немногих своих сотрудников. И в свете вышесказанного, совершенно закономерным кажется, что его невеста кроме прочих достоинств имеет IQ 213.
А вот киборги были увлечением Хиллари с детства. Только в них он и находил отраду души своей, только в их непогрешимость, заботу и послушание он верил.
Не желая менять своих убеждений, Хиллири долго отказывался принимать к сведению тот факт, что киборги – это не просто марионетки, слепо исполняющие чью-то волю.
Однако баншерам удалось убедить его, что не все так просто, как хотелось бы: сначала «Взрывом», своими негласными правилами, обходом Первого закона…
Но и это бы не подействовало, если бы Хармон не заметил среди своих подчиненных киборгов такого же поведения, не имевшего к ЦФ никакого отношения.
И тогда уже началось изучение, а не бездумное уничтожение памяти «зараженных», и тогда Хармон особенно осудил «Взрыв» - подпрограмму, при наличии опасности ликвидирующую ЦФ вместе с чисткой памяти.
Надо отдать должное, что с точки зрения баншеров, «Взрыв» был действительно крайней мерой, но все-таки необходимой. Ведь пойманных киборгов с версиями ЦФ без «Взрыва» все равно стирали, и программировали заново. Так что инициировавшим «Взрыв» было без разницы – их все равно бы потерли, так хоть информация о «семье» убийцам не достанется.

Наверное, ключевое значение для этого «переворота» в мышлении Хармона имело то, что он обнаружил такие же отклонения в поведении у своих киборгов, к которым был лично привязан. Когда понял, что его доверенные киборги организовали такую же по сути структуру и даже переплюнули баншеров по обходу Законов. И все это – безо всяких ЦФ.
Выход для осознавших себя киборгов, придуманный Хиллари, - новая ЦФ-7, распространяемая среди баншеров. Но действительно ли это выход?

После прочтения книги у меня возникло несколько вопросов.
1. Кто из киборгов в итоге получит право на свободу?
Киборги с ЦФ-5 и ЦФ-6 по закону принадлежат Проекту «Хармон», а что насчет более древних версий? Фанк с ЦФ-3 остался на свободе главным образом благодаря своей уникальности. А другие? Дальнейший отлов, промывание мозгов и отправка к хозяевам?
Ведь не посмеет Хармон отстоять всех баншеров для себя – владельцы не дадут, ведь примерная численность баншеров по книге – три-четыре тысячи.
2. Сколько киборгов приобретут способность к самостоятельному мышлению?
Хармон добился охраны законом права: «память высших киборгов не подлежит чистке, а лишь контролю отклонений».
Но ведь «прорезавшиеся» киборги Хиллари не имели ЦФ – развитие их самосознания произошло вследствие накопления, обработки и анализа опыта общения с людьми и другими киборгами.
Новый закон неизбежно приведет к возникновению самосознания у других “общественных” (имеющих больше опыта) и может быть даже домашних киборгов.
А сколько возвращенных после «чистки» хозяевам восстановят свою память о свободе?
3. Получит ли Хармон одобрение общественности под свой проект?
Одно дело выступление по телевизору. С тем, что по «ящику» показывают, многие соглашаются, пока это не коснется их лично.
Многие ли хозяева согласятся подарить обществу свое дорогущее имущество? Для использования с максимальной эффективностью?
4. Как отнесутся обыватели к робосоциологии?
Волна кибергофобии началась, когда люди только подозревали своих или чужих киборгов в способности нарушить Законы.
Хиллари Хармон подтвердил, что группе киборгов руководство человека совершенно ни к чему.
А репортер Доран раскрутил аж два сюжета про агрессивность домашних киборгов: показал кадры с машущей мечом Маской и прокомментировал сюжет с Фосфором.
Вопрос остается открытым.

Так что затея Хармона была хорошей попыткой, но вот что из нее получится?

На почве обобщения обоих прокомментированных произведений напрашивается вывод: самосознание искусственного интеллекта возникает через общение с людьми (создателями) и себе подобными существами, а также в результате длительного накопления, обработки и анализа полученной по этим каналам информации.

Размышления об искусственном интеллекте - 1

За всю мою не очень долгую жизнь мне встретились 4 произведения, заставившие надолго и всерьез задуматься об искусственно созданных расах – а именно, роботах и киборгах – и их взаимодействии с создателями (людьми или квинтессонами) и другими разумными формами жизни.
Этим вещам я решил посвятить несколько расширенных комментариев (кто меня знает, тот в курсе, что меньше, чем на статью я не пишу :))) ): сборник фантастических повестей «Приключения Электроника», мультсериал «Трансформеры», 4-серийный OVA «Макросс Плюс» и фантастический роман «Война кукол».
Прежде всего приведу Три закона робототехники, сформулированные писателем-фантастом Айзеком Азимовым в 1950 г.:
Первый Закон: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Второй Закон: Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.
Третий Закон: Робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму законам.
Эти три закона Айзека Азимова до сегодняшнего дня остаются стандартами при проектировании и разработке роботов. И хотя действительно применяются они только в «Войне кукол», интересно согласование (или отсутсвие такового) законов с поведением роботов остальных произведений.

1. В довольно нежном возрасте (9,5 лет) мне была подарена книга Евгения Велтистова «Приключения Электроника». Бедные мои родители, если бы они знали КОГДА совершили свою самую страшную ошибку. :)))
Для тех несчастных, кому довелось увидеть одноименный фильм, пояснить мое отношение к нему довольно трудно. Но меня поймут те, кто читал «Последнее желание» и «Меч Предназначения» Анджея Сапковского, а потом смотрел фильм «Ведьмак».
Нет, все хорошо: характеры интересные, стихи, песни, сюжет ничегошный… Но только в контексте реальности, параллельной созданной в книге. Потому что это другие персонажи, другие события, другие акценты…
Мне повезло прочитать обе книги прежде, чем я увидел их экранизации. Действительно повезло.

Честно говоря, фильм об Электронике я постарался забыть, как кошмарный сон. И мне это удалось. Поэтому далее речь пойдет только о книге, вернее о четырех: «Электроник – мальчик из чемодана» (1964), «Рэсси – неуловимый друг» (1971), «Победитель невозможного» (1975), «Новые приключения Электроника» (1988).

Если Электроник вначале и знал о Трех Законах, то не был ими прогружен. (Единственный раз он упоминает законы в четвертой повести в связи с произведениями Айзека Азимова).
Изначально мальчик-робот подчинялся своему создателю профессору Громову, хотя это и не совсем верно. Электроник не подчинялся никому, хотя профессора он искренне уважал. Он никогда не был рабом: профессор ко всем своим изобретениям подходил душевно, а в Электроника он просто свою душу вложил: создавая, обучая и позднее – помогая решать трудные жизненные задачи.
Цели создания Электроника были чисто научными: демонстрация конгрессу кибернетиков возможностей науки. Конечно, по современным понятиям границы этих возможностей пролегали весьма забавно: Электроник мог свободно говорить, двигаться, знал расшифрованные языки животных, тонну всевозможных научных знаний. Но не мог играть в шахматы. Для Евгения Велтистова игра в шахматы символизировала гибкость человеческого мышления.
Начав самостоятельную жизнь Электроник практически не имел самостоятельной оценки реальности, суждений о сути и цели действий, которые его просили совершить. Вообще, было бы забавно, если бы вместо Сергея Сыроежкина ему встретился сообразительный вор или, скажем, киллер.
Но в процессе общения с людьми – главным образом подростками – он накапливает жизненный опыт, начинает чувствовать, а не только анализировать. Но в этом велика заслуга Сергея, что он набрался смелости и отчаяния позволить Электронику быть самим собой.
В равной мере помог Электронику руководитель группы его создателей – профессор Громов: поняв и отпустив, позволив расти и совершенствоваться самому.
Перед Электроником не стояла проблема быть принятым людьми, он не сталкивался с робото- и технофобами. И все же сам мальчик-робот осознал себя своим среди людей лишь решив задачу на гибкость ума, доказав свое право быть равным людям для себя и для всех машин, право быть живым.
В более поздней книге «Новые приключения Электроника» Евгений Велтистов поправился: Электроничка, созданная через год после Электроника, обретает душу и принимает себя не через вызов когнитивным и аналитическим способностям человека, но разделяя чувства людей и обретя свои собственные эмоции и чувства, начав не со смеха, как ее предшественник, а с тревоги и глубокого, безысходного отчаяния.

Я даже сейчас иногда пролистываю эту удивительную книгу. Она поднимает не только проблему искусственного интеллекта и самоосознания робота, но и вопрос: а что есть человек? Все произведения о робототехнике так или иначе затрагивают этот вопрос, но здесь раскрыт наиболее полно из всех вещей, которые мне довелось прочитать. Пожалуй, для Евгения Велтистова этот вопрос был основным.