9 Апреля 2016 14:30
3636 просмотров

Четвертая мировая. Начало

Думать, что «искусственный интеллект» будет таким же, как мы — антропоподобным и человеко-разумным, нарушит законы роботехники Айзека Азимова и нас же завоюет, по меньшей мере наивно. Но еще наивнее думать, что война с «искусственным интеллектом» — это вопрос отдаленного будущего.


Понимаю, что все сейчас озабочены террористическими атаками, Путиным, Сирией, беженцами, кризисом ЕС, падающими самолетами и нефтью, Украиной, Крымом и санкциями... Но, поверьте, все эти беспокойства — совершеннейшая ерунда. В доме повешенного по волосам не плачут.
Запомним эту дату — 15 марта 2016 года, она историческая. День, когда весь наш биологический вид — слишком уж зазнавшийся «Человек Разумный» — получил, наконец, свою «черную метку». 
Правда выглядела она как белый камушек, брошенный на доску древнекитайской игры в го. Автором этого броска и «последнего китайского предупреждения» стал компьютер по имени AlphaGo, созданный компанией Google.

Мы настолько привыкли к разнообразным компьютерным фокусам, что не заметили, насколько радикально изменился наш мир в этот злосчастный день. Самые страшные пророчества стали сбываться. Началась Четвертая мировая война. Еще Алан Тьюринг — автор знаменитого «теста Тьюринга» — предупреждал нас о том, что игра в го будет последним рубежом, отделяющим машинный интеллект от человеческого. И теперь этот Рубикон нашей избранности, сделавший нас в свое время «венцом творения», перейден. Новый «венец творения» начал свое триумфальное шествие по планете.

Не могу сказать, что я рад приветствовать вас в этой новой реальности. Но то, что приветствовать уже пора, — факт неопровержимый. «Я не смог победить, но я не считаю свой проигрыш поражением человечества», — передал через пресс-службу Ли Седоль. Но что еще может сказать этот выдающийся гроссмейстер игры в го, проигравший машинному интеллекту? Мол, извините, я поставил на кон нашу с вами цивилизацию и продул подчистую? Нет, в таком не признаются. Даже если это правда.


***

В последнее время «холодную войну» часто стали называть Третьей мировой, но мне это утверждение кажется избыточным преувеличением. Для настоящей мировой войны она была слишком вегетарианской. Нынешняя война западной цивилизации с террором — дело другое, это поистине Третья мировая. Тут и жертв хоть отбавляй, и границы скоро сильно изменятся — по крайней мере, их внешний вид.

Чтобы представить себе, как будет выглядеть наше с вами недалекое будущее, можно, например, съездить в Израиль и посмотреть на высоченные заборы, окружающие палестинские поселения. Потребуется лишь немножко напрячь воображение и мысленно продлить эту стену от горизонта до горизонта. Такие заборы — из железа и бетона — скоро вырастут по периметру союзнических государств, объединенных в большие цивилизационные агрегации.

Когда-нибудь историки назовут это гигантское архитектурное сооружение, которое разделит цивилизованный мир и мир исламского фундаментализма, «Большой цивилизационной стеной». И хотя дизайн ее вряд ли закажут Филиппу Старку — строить будут второпях, Бэнкси, надо полагать, будет где развернуться. Китайцы, кстати, тоже что-то построят, но им и не впервой, и у них тоже какая-никакая цивилизация, испокон веков, замечу, играющая в го.
Отдельных стран как таковых, то есть в нынешнем их виде, уже не будет. Не рентабельно. Возникнут своего рода «цивилизационные анклавы»: «Европейский», «Североамериканский» и т. д.
Россию, впрочем, вряд ли в какой-то из них возьмут. И не потому, что мы «не Европа», или «люди второго сорта», или «нам нельзя доверять». Просто слишком велика территория, а заселена локально — придется делать маленькие города-резервации с остатками культуры: «Москва», «Питер», «Екатеринбург». Блокада 2.0.

Создатели «Ходячих мертвецов», прячущие Рика и его отряд то в опустевшей федеральной тюрьме, то за огромным забором Александрии, не скрывают источников своего вдохновения. Таким эти «новые романисты» видят наше с вами общее будущее — мол, мы конечно говорим о зомби-апокалипсисе, но все же понимают, о каких «зомби» идет речь... И лукаво подмигивают. Трампу.

В общем, приглядитесь еще раз повнимательнее к палестинским поселениям — мы с вами скоро будем жить в таких же. Наверное, можно даже успеть психологически подготовиться.


***

Впрочем, когда одни стены растут, другие с неизбежностью разрушаются. Это своего рода диалектика выживания. И первая жертва на этом алтаре самосохранения — нежно любимое нами privacy, идея неприкосновенности частной жизни. То, что было нажито непосильным трудом, столетиями этических борений, падет. Но оплакивать эту утрату уже будет некому.

Посмотрите на основные тренды Instagram’а, на всю эту эксгибиционирующую обнаженку. Тим Кук может сколько угодно рьяно защищать неприкосновенность наших iPhon’ов от зловещего ФБР, но пока идет эта война амбиций «больших мальчиков», пользователи соцсетей рассекречиваются добровольно и чистосердечно.

Когда-то нас пугали оруэлловским «Большим братом», но сейчас он уже кажется по-своему даже милым. Ну правда, «зловещее, наблюдающее за нашими мыслями и чувствами Супер-Эго!» — кого этим теперь напугаешь? Нет, не страшно. Дети «Большого брата» боятся не того, что о них что-то узнают, а того, что о них не узнают. Не поставили лайк под фоткой с голой попкой — вот это катастрофа, а остальное — не смешите мои тапочки!

Теперь представьте, что к этой раскрепощенности добавятся гигантские стены по периметру цивилизационных анклавов и перманентный страх террористической угрозы. Поверьте, все сами и с готовностью сдадут явки и пароли. А несговорчивые... Несговорчивых просто выдворят за Стену — «по закону военного времени». Всякие же оппортунистические Telegram’ы в этом новом дивном мире просто запретят — в целях «цивилизационной безопасности».

Итак, финал Третьей мировой войны между цивилизацией с терроризмом, казалось бы, предрешен и недвусмысленно грозит нам «новым Средневековьем». Но не спешите радоваться, плохие новости только начинаются. Благодаря наступающей Четвертой мировой войне мы, вероятно, на всех парах проскочим эту станцию и обнаружим себя сразу в «новых Темных веках». Спасибо Ли Седолю...


***

Авторы бесчисленных научно-популярных кибертриллеров и широкоформатных блокбастеров, комиксов и компьютерных игр привычно пугают нас всякими страшилками про «искусственный разум». Мол, он разрастется и будет представлять угрозу для человека. Сами по себе эти басни, конечно, не выдерживают никакой критики — их создатели дуют на воду, тычут пальцем в небо и ковыряются в чужой песочнице.

Но самое печальное — не наивность авторов-фантастов, не их бесчисленные ошибки, а то, что создатели этих, с позволения сказать, шедевров всегда рисуют нам «хороший конец». Понятно, что это закон жанра: аудиторию надо привлекать, а не отпугивать. Но в результате этого маркетингового хода чувство тревоги в отношении «искусственного интеллекта» у человечества притупилось, и это как раз самое опасное.

Думать, что «искусственный интеллект» будет таким же, как мы — антропоподобным и человеко-разумным, нарушит законы роботехники Айзека Азимова и нас же завоюет, по меньшей мере наивно. 
Но еще наивнее думать, что война с «искусственным интеллектом» — это вопрос отдаленного будущего. Она уже идет, а 15 марта 2016 года — лишь красивая дата проигранной «Битвы при Сеуле» для возможных будущих учебников истории (если, конечно, мы выживем, и их еще будет кому написать).
Пока запрещенные в РФ игиловцы переименовались, художники Charlie рисовали очередные карикатурки на Пророка, а страны-нефтедобытчики пытались снова сговориться о бабках, вся прогрессивная мировая общественность наблюдала за тем, что происходит в далеком Сеуле.

Там, впрочем, ничего «такого» и не происходило. Ли Седоль сидел над доской игры в го, покрывался потом и тискал свою несчастную голову. Завершалась пятая, последняя партия серии игр между человеком и искусственным интеллектом. Пятая, но не решающая. Исход турнира был известен после первых трех сражений, в которых гугловское детище AlphaGo разбило Седоля подчистую. В четвертой, правда, машина поддалась, а в пятой — да, снова выиграла.

Общий счет 4:1 в пользу искусственного интеллекта.

Когда в 1997 году Гарри Каспаров проиграл шахматный турнир компьютеру Deep Blue, это, конечно, стало серьезным шоком для думающей части человечества. Но самоуверенность возобладала: мол, есть еще игра в го, в которой нет жестких алгоритмов, она требует интуиции и видения стратегии. Считалось, что победить в этой игре, не думая как человек, невозможно, а компьютер никогда так думать не сможет. И именно этот миф пал только что на сеульской земле.

Впрочем, научился ли AlphaGo думать как человек? Это, на самом деле, смешной вопрос. Он научился думать лучше человека. Тут важно понять: с Ли Седолем сражалась не компьютерная программа, созданная другими людьми, а самый настоящий цифровой интеллект. Все, что сделали разработчики, — это загрузили в AlphaGo информацию о множестве ранее сыгранных другими людьми партий и позволили ему потренироваться.

AlphaGo сыграл миллионы партий со своими собственными копиями, последовательно выбраковывая нежизнеспособные. В результате он создал собственные абстрактные стратегии ведения игры в го. Так что никто, включая разработчиков, не знает, как и почему AlphaGo принимает те или иные решения и какими правилами он руководствуется.

Это самый настоящий «черный ящик», но только уже не Скиннера, а Дугласа Лената, который первым разработал технологию цифрового естественного отбора, а потом засекретил свои разработки, опасаясь последствий собственного открытия (Google лишь пошел сходным путем и сделал нечто подобное).


***

Честно признаюсь, я не большой специалист в го. Как методологу подобные игры разума мне глубоко безразличны. Игры в «го», «го-го» или даже «иго-го-го» — неважно, меня интересуют подлинные значения вещей, то есть факты, а не вещи как таковые. Впрочем, если кто-то захочет изучить нюансы и подробности, а также суть этого «поражения человечества», все очень хорошо написано тут.
Так в чем же тут факт? Факт состоит в том, что ученые вплотную подошли к предсказанному «интеллектуальному взрыву». К информационному апокалипсису.
«Интеллектуальный взрыв» — теоретическое детище выдающегося математика Ирвинга Джона Гуда. Гуд был другом и коллегой Алана Тьюринга, вместе они работали в Блетчли-парке над над дешифровкой фашистской «Энигмы». Судьба Тьюринга широко известна, чего не скажешь о Гуде. В 60-х он эмигрировал в США, поселился в далеком Блэксбурге и до самой смерти в 2009 году работал в Политехническом университете Вирджинии на окладе, превышавшем оклад ректора.

Гуд был блестящим шахматистом, и это ему Тьюринг сказал о последнем интеллектуальном рубеже человечества — игре в го. Поэтому нет ничего удивительного в том, что именно Гуд занялся проблемой «искусственных нейронных сетей» — искусственным интеллектом, который программирует себя сам. Изначально Гуду казалось, что сверхразумная машина, к созданию которой мы неизбежно придем, будет величайшим благом для человечества.

Подумать только, в наших руках окажется суперинтеллект способный создавать мириады других суперинтеллектов! Мы сможем решить любые проблемы: победим болезни и смерть, обеспечим всеобщее благосостояние, полетим на Марс...
Впрочем, скоро стало понятно, что будущее человечества вовсе не так радужно. Решать соответствующие проблемы будет не человек, а машина, которая намного умнее человека. 
Тут, понятно, все начинают вспоминать Азимова — мол, объясним машине, что она должна служить нам, а не против нас, и все будет хорошо. Не будет. Если искусственный интеллект развивается путем самообучения, то об Азимове, при всем уважении, придется забыть.

Все дело в том, что нейронное или генетическое программирование предполагает цель, ради которой данный интеллект создается. Любая же умная система, движимая своей целью, сделает все возможное, чтобы избежать гибели (ведь если она «умрет», то ее цель не будет достигнута). То есть искусственный интеллект обязательно и очень скоро обнаружит в себе инстинкт самосохранения, а потом будет постоянно самосовершенствоваться, чтобы сопротивляться всяким попыткам его сдержать или выключить.

А то, что в какой-то момент нам захочется его сдержать, а потом и выключить, сомневаться не приходится. Дело в том, что инстинкт самосохранения вынудит суперинтеллект создавать новые цели, для достижения которых ему потребуются новые ресурсы, а мы с вами — поскольку состоим из молекул и атомов — и есть, в частности и кроме прочего, такой ресурс, проще говоря, кормовая база. Да, нам очень захочется его выключить. Но мы не сможем.

Создатели легендарной «Матрицы» предрекли нашим телам роль батареек, но и это, как выясняется, еще очень гуманный вариант развития событий. Сверхумный интеллект найдет способ получать энергию и менее затратным способом, нас же просто пустят под нано-нож.

Так выглядит перспективный план... А где сейчас зарождается этот монстр — и это точно не травоядный Google с его милым AlphaGo, — я расскажу в следующий раз.

Продолжение следует.

Комментарии

10
Рушат Шакиров
18:14 / 9 апреля 2016

Это получается, что искусственный интеллект создаст такие программы (новые способы думать, а соответственно новую реальность, сложные новые алгоритмы, которые мы не сможем понимать) для своего жизнеобеспечения. Миниммум как, поставит нас в такие условия, без которых мы не сможет выжить или потому что, не сможем понять как действовать (в лучшем случаи сложные кредитные системы) Поставит нас перед фактом можно сказать, создаст "свою игру". С одной стороны, это как понять Энштейна или Витгейштейна, Сократа для 10 летнего малыша, а с другой стороны не будет нас слишком запутывать? Т.е. не только создаст множественные алгоритмы, но и абсолютно иной способ думать реальность? Тогда это, действительно, очень страшно.

Дорогой Рушат! Все это, действительно, очень похоже на правду, но... Во-первых, мы не должны думать про "искусственный интеллект" так, как мы думаем о своем собственном, он очевидно будет принципиально другим. Интеллект - это то, что целенаправленно решает задачи, а делать это можно по-разному, хотя нам и непросто представить себе некие альтернативы нашему мышлению. Что, впрочем, вполне естественно. И во-вторых, вопрос сейчас не в том, как нас победит искусственный интеллект, а не сдадимся ли мы ему раньше? Но об этом будет в продолжении этой серии статей про Четвертую мировую. Надеюсь, будет любопытно))

Дорогой Андрей Владимирович! Большое спасибо за ответ! Для меня самое интересное, что он будет "принципиально другим", вот тут-неизвестность, "белое пятно", я понимаю, что ни чего не могу об этом подумать) Узнаю только в будущем))

Рушат Шакиров
01:00 / 10 апреля 2016
Комментарий был удален автором
Рушат Шакиров
01:28 / 10 апреля 2016

Так что никто, включая разработчиков, не знает, как и почему AlphaGo принимает те или иные решения и какими правилами он руководствуется-вот, что страшно удивляет!

Мне представляется, что, учитывыя логику подготовки этих программ к бою, было бы странно, если бы разработчики в достигнутых ею результатах разобрались))

Елена Спасская
09:05 / 10 апреля 2016

И что с этим делать?

Дорогая Елена, надеюсь кое-что прояснить в следующих статьях. Спасибо за вопрос!)

Ольга Андрюхина
23:22 / 11 апреля 2016

Пугающая перспектива. С нетерпением жду следующий статьи.

Александр Дмитриев
19:26 / 30 октября 2016
Комментарий был удален автором
Пожалуйста, авторизуйтесь, чтобы оставлять комментарии.
Видеозапись лекции «С понедельника не получится»
Первая лекция цикла «Красная таблетка».
Смотреть