Книжная полка: искусственный интеллект

Хелен Эдвардс рассказывает о новых книгах, посвященных искусственному интеллекту, сингулярности и обучению машин. Стоит ли опасаться чрезмерного развития компьютерных технологий и противостояния человека и машин?

The-Singularity-Is-NearВ своей революционной книге The Singularity is Near («Сингулярность уже близка»), опубликованной в 2006 году, изобретатель и футуролог Рэй Курцвейл определил сингулярность как некий переломный момент, после которого мы перестанем понимать, что делают компьютеры. Технологии будут развиваться настолько быстро, что люди не смогут предсказывать или понимать, что произойдет. Он предвидел наступление новой эры, в которой люди смогут выйти за свои биологические рамки и при помощи интеллектуальных технологий радикально изменят мир и жизнь к лучшему. Однако далеко не все авторы столь оптимистичны. В данный обзор включены недавно вышедшие книги, посвященные возможностям искусственного интеллекта и его влиянию на человеческое общество.

519HYQKubEL._SX328_BO1,204,203,200_Педро Домингос, профессор компьютерных наук и инженерии Вашингтонского университета и один из ведущих мировых экспертов по машинному обучению, вполне разделяет оптимизм Курцвейла. В своей новой книге The Master Algorithm: How the Quest for Ultimate Learning Will Remake our World («Верховный алгоритм: Как машинное обучение изменит наш мир»), Домингос выдвигает смелую гипотезу: «Все знание — прошлое, настоящее и будущее — можно извлечь из данных с помощью одного универсального обучающегося алгоритма». Этот верховный алгоритм еще не существует, но в книге ставится цель создать концептуальную модель машинного обучения, которая поможет понять, как именно можно разработать подобный алгоритм. Домингос рассматривает пять различных подходов к машинному интеллекту, которые в настоящий момент используются в исследовательских лабораториях для создания мощных алгоритмов.

  • Символисты используют метод обратной дедукции, позаимствованный из математики и физики, чтобы включить уже существующие знания в процесс обучения машины и понять, чего именно не хватает. Они комбинируют различные фрагменты знаний и используют символы и наборы правил, стремясь применить универсальные алгоритмы для решения многообразных задач.
  • Модели коннекционистов основаны на принципах работы мозга и нейронных сетей. Они используют метод обратного распространения ошибки, чтобы сравнить реальные выходные данные системы с желаемыми, а затем последовательно изменить ее параметры.
  • Эволюционисты используют генетические алгоритмы, чтобы симулировать естественный отбор. Компьютерные программы применяют технику перекрестного сопоставления данных, чтобы развивать новые структуры.
  • Байесовцы видят ключ к обучению машин в моделировании неопределенности. Они используют статистический анализ и формальные представления (например, Байесовскую и Марковскую сети) для ассимиляции и последующей оценки новых данных.
  • Аналогисты пытаются находить сходства между разными ситуациями и логически выводить другие сходства. Они стремятся воспроизвести отображение структур, что позволит делать выводы и объединять различный опыт из разных областей данных.

Все эти подходы объединяет понимание того, что «машинное обучение — это технология, которая создает себя сама». Домингос приводит следующую аналогию: «В земледелии мы сажаем семена, поливаем и удобряем почву, а затем собираем урожай. Почему технология не может развиваться примерно так же? Она может, что и демонстрирует машинное обучение». Однако Домингос не верит в то, что люди станут рабами могущественных машин: «Искусственный интеллект может делать разные вещи и даже разрабатывать удивительные планы, но только для того чтобы достигать целей, которые ставим мы». Три обязательных элемента любого обучающего алгоритма — представление, оценка и оптимизация — и в дальнейшем будет определять человек.

51mBTpekidL._SX327_BO1,204,203,200_Оксфордский профессор Ник Бостром придерживается противоположного взгляда. Он уверен, что важнее всего сконцентрироваться на рисках и негативных аспектах использования искусственного интеллекта. Его бестселлер Superintelligence: Paths, Dangers, Strategies («Искусственный интеллект. Этапы. Угрозы. Стратегии») начинается с «неоконченной истории о воробьях», которым необходимо, чтобы кто-нибудь помог им строить гнезда, заботится о детях и стариках и устранять возникающие угрозы: «Мы такие маленькие, такие слабые. Представьте, насколько проще было бы жить, держи мы в помощниках сову! Она могла бы вить нам гнезда…». Только у Скронфинкла, одноглазого воробья, возникли сомнения: «Мы избрали гибельный путь. Разве не следует сначала серьезно проработать вопросы укрощения и одомашнивания сов, прежде чем впускать в свою среду такое опасное существо?». Ключевая проблема книги заключается в следующем: как мы сможем контролировать происходящее, как только появится искусственный сверхинтеллект? Возможности такого интеллекта будут больше наших. Единственное преимущество человечества — это право первого хода, благодаря которому люди, имея представление о потенциальных угрозах, смогут повысить шансы на благоприятный исход.

Большая часть книги посвящена тому, что может пойти не так. Сначала Бостром рассматривает возможные сценарии достижения критической точки, когда машинный интеллект превзойдет интеллект человека. Это может произойти быстро или медленно в рамках одного проекта, нацеленного на обретение единой суперсилы, или целей может быть сразу несколько. И каждая из возможностей сопряжена с отдельными угрозами. Может быть, что человечество обречено на гибель по умолчанию, несмотря на все благие намерения и попытки сдерживания и постановки задач: «если искусственный интеллект обнаружит непредвиденный способ достижения поставленной цели, то может наступить коварный переворот». Один из возможных сценариев в этом случае — это «некорректная реализация задачи, когда результат соответствует конечной цели, но противоречит намерениям программистов, поставивших эту цель». Например, задача «сделать так, чтобы люди улыбались», может быть решена таким образом, что лицевые мышцы человека навсегда застынут в гримасе, похожей на улыбку. Другой возможный сценарий, «избыточность инфраструктуры», может привести к тому, что у искусственного интеллекта никогда не возникнет стимула остановиться. Например, если поставить задачу повысить производство скрепок, то искусственный интеллект не остановится до тех пор, пока весь мир не будет переработан в скрепки. Бостром рассматривает механизмы контроля искусственного интеллекта, существующие на данный момент, и ни один из них не кажется ему вполне убедительным.

51+vOMoctnL._SX327_BO1,204,203,200_Мартин Форд в своей книге The Rise of the Robots: Technology and the Threat of Mass Unemployment («Роботы наступают. Развитие технологий и будущее без работы») изучает одну из наиболее реальных угроз, связанных с развитием искусственного интеллекта, — угрозу безработицы. Развитие технологий может привести к тому, что в мире не останется работы, которую люди смогут выполнять лучше, чем машины. Даже текущая ориентация на решение конкретных задач или узкое применение искусственного интеллекта «вовсе не является препятствием для итоговой автоматизации большинства работ… Компьютеру не нужно воспроизводить весь спектр ваших интеллектуальных способностей, чтобы оставить вас без работы; ему лишь нужно выполнять те конкретные задачи, работая с которыми вы зарабатываете себе на жизнь». Автор книги подробно рассматривает ситуацию в различных отраслях экономики и показывает, каким образом интеллектуальная автоматизация уже уничтожает миллионы рабочих мест, а на очереди — еще миллионы. Дальнейшие разработки «Общего искусственного интеллекта», благодаря которому машина сможет «выдвигать новые идеи, демонстрировать осознание собственного существования и поддерживать связную беседу», а также постоянно самосовершенствоваться, приведут к еще более серьезным последствиям: «в мире, где возможности доступных по цене машин будут соответствовать возможностям даже самых умных людей, а то и превосходить их, становится очень трудно представить, кому именно достанется работа, а кто останется ни с чем. В большинстве сфер никакое образование, даже полученное в самых элитных университетах, не поможет человеку конкурировать с машинами на равных». Даже традиционный способ коррекции негативного влияния революционных технологий с помощью образования окажется в конечном счете бесперспективным.

О том, как искусственный интеллект используется в настоящий момент, можно узнать из соответствующего раздела блога Singularity Hub, публикуемого Университетом сингулярности. Последние публикации посвящены тому, как портативный интерфейс «мозг — компьютер» помогает людям, страдающим от синдрома «запертого человека» (ссылка), а также тому, как все больше рабочих, особенно в США, склоняются к мысли, что искусственный интеллект будет более порядочным и этичным начальником, чем человек (ссылка).

The Singularity is Near
Рэй Курцвейл
Gerald Duckworth, 2006 г.

The Master Algorithm: How the Quest for Ultimate Learning Will Remake our World
Педро Домингос
Penguin, 2017 г.

Superintelligence: Paths, Dangers, Strategies
Ник Бостром
Oxford University Press, 2014 г.

The Rise of the Robots: Technology and the Threat of Mass Unemployment
Мартин Форд
Oneworld, 2015 г.

Image Credit: Techbubble