“Artificial general intelligence” by Julian Togelius
© 2024 Massachusetts Institute of Technology
Права на издание книги на русском языке приобретены через Агентство Александра Корженевского» (Москва)
© Издательство Института Гайдара, 2025
* * *
В книге содержатся упоминания компании Meta Platforms Inc., включенной в Перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».
* * *
Понятие искусственного интеллекта (ИИ) многогранно. Это и давняя мечта человечества создать мыслящие машины, не уступающие человеку в способности рассуждать. Это и образы из массовой культуры: Терминатор, ВАЛЛ-И и Дейта из сериала «Звездный путь: следующее поколение». В научном мире ИИ – это предмет теоретических и экспериментальных исследований в университетских лабораториях. А в повседневной жизни – это уже существующие технологии, которые прокладывают маршруты, обрабатывают фотографии, управляют игровыми персонажами, ищут информацию в интернете и таргетируют рекламу на основе наших запросов.
В общественных дискуссиях часто происходит путаница между разными аспектами ИИ. Когда видишь заголовок «ИИ захватит мир», а потом смотришь на работу автодополнения в телефоне, становится очевидно, что такая несовершенная система едва ли способна на мировое господство. Или когда выбираешь автомобиль с ИИ-ассистентом вождения, может возникнуть необоснованное беспокойство, что система обретет собственный разум, как компьютер HAL 9000 из фильма «2001 год: Космическая одиссея». Существует явный диссонанс между статьями о превосходстве искусственного интеллекта над человеком и реальными экспериментами, где боты демонстрируют примитивное поведение, бесцельно двигаясь по кругу и натыкаясь на препятствия. Это вызывает сомнения в том, что авторы громких заголовков когда-либо сталкивались с реальной разработкой систем ИИ.
Один источник путаницы – это смешение реальных технологий с художественным вымыслом. Другой – смешение систем, выполняющих одну задачу, с системами, способными выполнять множество разных задач, даже таких, которым они не были обучены. Системы ИИ в фильмах «2001 год: Космическая одиссея», «Терминатор» и «ВАЛЛ-И» способны делать необычайно много вещей. Так, Терминатор может имитировать голоса только что встреченных людей, разрабатывать сложные планы, проводить расследования, управлять мотоциклом и сражаться с множеством полицейских, используя различное оружие. В то же время AlphaGo, система ИИ, поразившая мир в 2016 году победой над лучшими игроками в го, умеет только играть в го. Она не способна играть даже в шахматы без полного переобучения, не говоря уже об управлении мотоциклом или сражении с полицией.
Эта книга посвящена общему искусственному интеллекту (artificial general intelligence), или ОИИ (AGI), понятию, которое до сих пор не имеет единого определения. Несмотря на многочисленные попытки определить ОИИ, существующие формулировки часто расплывчаты и противоречивы. Билл Гейтс дает краткое определение: «программное обеспечение, способное обучаться любой задаче или предмету».[1] Джон Кармак, легендарный игровой технолог и один из создателей Doom, предлагает иное видение: «форма ИИ, которая не просто имитирует человеческий интеллект, а понимает суть вещей и решает проблемы».[2] Исследователь ИИ Мюррей Шанахан определяет ОИИ как «искусственный интеллект, не ограниченный специфическими задачами, а способный осваивать такой же широкий спектр задач, как человек».[3] Нетрудно найти системы, соответствующие одному определению, но не подходящие под другое. Существует еще множество определений – исследователь ИИ Бен Герцель проанализировал десятки из них в своей работе 2014 года, а дискуссия с тех пор стала только интенсивнее.[4]
В этой книге я буду использовать ОИИ для обозначения программного обеспечения, способного выполнять широкий спектр задач и решать разнообразные проблемы, существенно превосходя возможности современных систем ИИ. Это принципиально отличает его от узкого ИИ (narrow AI), который ограничивается выполнением одной или нескольких связанных между собой задач. Все или практически все существующие системы ИИ относятся именно к категории узкого ИИ.
Искусственный интеллект – еще один термин, не имеющий единого общепринятого определения. С 1960-х годов, когда этот термин появился, было предложено множество определений, нередко противоречащих друг другу. Это разнообразие частично объясняется множеством вычислительных подходов, развивавшихся в рамках искусственного интеллекта.[5] Одни определения фокусируются на моделировании биологического или человеческого интеллекта, другие опираются на психологические концепции интеллекта, третьи концентрируются на конкретных вычислительных понятиях вроде символов или функций, а четвертые рассматривают типы задач, доступных для решения системами ИИ. В этой книге я буду использовать термин «искусственный интеллект» в двух значениях. Первое значение – стремление научить машины делать то, в чем люди пока их превосходят, особенно задачи, которые у людей требуют мыслительной деятельности. (Под «машинами» сейчас подразумеваются цифровые компьютеры.) Второе значение ИИ – совокупность алгоритмов, программного обеспечения и концепций, созданных исследователями и программистами для решения задач, которые, как считается, требуют интеллекта. Хотя книга рассматривает ИИ прежде всего как путь к созданию машинного интеллекта, я буду часто обращаться к отдельным уже существующим технологиям ИИ.
