Читать онлайн полностью бесплатно Патрисия А. Варгас, Рут Айлетт - Жизнь с роботами. Что нужно знать каждому беспокоящемуся человеку

Питеру Айлетту, чей пример привел меня в компьютерную науку, и Робу Джонсу, чьи любовь и дружба помогли мне обзавестись четырьмя детьми, при этом оставаясь активным исследователем робототехники.

Рут Айлетт

Моему партнеру за безграничную поддержку и безусловную любовь. С тобой я неизменно ощущаю покой и безопасность.

Патрисия А. Варгас

Ruth Aylett, Patricia A. Vargas, Noel Sharkey (Foreword)

Living with Robots:

Все права защищены.

Любое использование материалов данной книги, полностью или частично, без разрешения правообладателя запрещается.

© 2021 Ruth Aylett and Patricia A. Vargas

© И. Д. Голыбина, перевод, 2021

© Оформление. ООО «Издательство АСТ», 2022

Возможно, вы случайно взяли с полки эту книгу и теперь думаете: «О нет, только не надо опять про роботов и искусственный интеллект». Но прежде чем вы ее отложите, должен сказать, что эта книга – глоток свежего воздуха, и вы просто обязаны прочесть ее, если, как я, не хотите, чтобы вам скармливали всякую чушь.

Все мы знаем, что такое хайп – экстравагантные и необоснованные заявления, обычно используемые в коммерческих целях. Я до сих пор помню, как сильно был разочарован лазерным пистолетом, который попросил себе в подарок на Рождество 1957 года. Оказалось, это просто фонарик с разноцветными лампочками. С другой стороны, этот случай многому меня научил относительно хайпа в рекламе и заставил думать критически, делая выбор. Однако то надувательство выглядит совершенно невинным по сравнению с сегодняшним, окружающим искусственный интеллект (ИИ) и робототехнику. Насчет способностей роботов всегда делались ложные заявления и допускались преувеличения. Еще в 1927 мировая пресса муссировала новость о создании американской компанией Westinghouse робота, который уже через 10 лет заменит домашнюю прислугу и возьмет на себя все хозяйственные обязанности. То был первый случай хайпа в отношении роботов, но отнюдь не последний.

Роботы тесно связаны с нашей врожденной склонностью проецировать человеческие или животные качества на неодушевленные предметы. Такой антропоморфизм (или зооморфизм) давно эксплуатируется маркетологами и дизайнерами. Особенно это заметно в дизайне машин, которые могут быть какими угодно: от агрессивно «скалящихся» до очаровательных семейных. Поглядите вокруг и посчитайте, сколько «лиц» вам попалось. Вы можете не осознавать, что проецируете животные характеристики на предметы, но это влияет на то, как вы воспринимаете их, как с ними взаимодействуете и какие товары покупаете.

С роботами антропоморфическая связь особенно сильна. Они обладают способностью двигаться как животные, хоть и более скованно. Ученые утверждают, что роботы образовали новую перцептивную категорию, нечто среднее между одушевленными и неодушевленными предметами. Но в действительности это обман. Большое количество роботов-гуманоидов на наших рынках специально разработаны так, чтобы напоминать симпатичных мультяшных персонажей, забавно наклонять голову или делать другие милые жесты. Часто их демонстрируют на коммерческих ярмарках, конференциях, фестивалях, даже по телевизору, и при этом они находятся под контролем невидимых операторов. Роботы могут произносить реплики, запрограммированные заранее. А бывает, что оператор отвечает сам, просто искаженным голосом. Что тут плохого? Это просто забавно, не так ли? Но опасность лежит в формировании мифологии, которая значительно переоценивает способности машин. Благодаря ей мы допускаем возможность возникновения новой категории существ. А огромные преувеличения относительно ИИ усиливают эти раздутые ожидания от роботов. Иначе зачем вообще их создавать?

С момента своего зарождения в 1950-х ИИ претендовал на то, что будет создана компьютерная программа, думающая, как человек. Но интеллектуальная «инфляция» привела к тому, что уже к 1980-м просто «думать» стало недостаточно. Теперь компьютер должен представлять собой сверхинтеллект. Пусть он будет умнее, чем мы, и возьмет на себя контроль: ради нашего блага, как Бог, или чтобы убить нас, как Терминатор. Я не знаю, может ли такое произойти, да и никто в мире не знает. Но научные данные заставляют меня усомниться в подобной возможности. Даже невероятная программа Deep-Mind, AlphaGo, победившая лучшего в мире игрока в Го, ограничена только самой игрой. Она не может делать ничего другого и не понимает, что это игра, и она участвует в ней. Ей все равно, победит она или проиграет. Это такой же шаг к сверхинтеллекту, как подъем по лестнице – движение в сторону Луны.

Хайп, мифология и разные глупые рассуждения в XX веке не представляли проблемы. Но теперь все изменилось. Теперь хайп, переоценка способностей ИИ и роботов могут увести нас на опасную территорию и оказать негативное влияние на человеческое общество. Тут можно привести несколько очевидных примеров, в частности использование компьютерных программ для принятия решений, воздействующих на человеческие жизни: кому выдавать или не выдавать ипотеку, паспорт, заем, брать на работу и даже выпускать под залог при аресте. Быстрое развитие и широкое распространение этих «алгоритмов решения» – страшная ошибка. В стремлении быстрее развернуть, программы не тестировали правильно, и оказалось, что они склонны к расовой, этнической и гендерной дискриминации. Несправедливость со стороны алгоритмов – одно из последствий неправильного понимания человеком ограничений, связанных с технологиями.