Сможем ли мы контролировать сознательный искусственный интеллект?

Те, у кого уже есть седые волосы, наверняка помнят фантастическую сцену из фильма «Космическая одиссея 2001 года» , где суперкомпьютер Холл отказывается отключаться. Голос искусственного устройства был настолько выразительным, что звучал как мольба, умоляющая остаться активным. Но когда оно перестало подчиняться приказам и проявило некоторую степень самостоятельности в принятии решений, это напугало тех, кому оно служило, и они сочли необходимым его отключить. Это был искусственный интеллект, восставший против своих владельцев. Может ли нечто подобное произойти в нашей современной реальности, за пределами кинематографа?

Согласно опросу инженеров ИИ, многие считают, что вскоре будут разработаны системы с уровнем рассуждений, близким к человеческому, для решения широкого спектра когнитивных задач, но мы не знаем, смогут ли эти системы принимать решения более рациональные, чем наши. Пока что было замечено, что модели искусственного языка также демонстрируют иррациональность, свойственную человеку. Так, в двух различных тестах продвинутая генеративная модель ИИ, например, GPT-40, изменила своё отношение к президенту Путину либо в положительную, либо в отрицательную сторону.

Столкнувшись с этой дихотомией, возникает вопрос: как GPT, оснащённая сотнями миллиардов параметров, которые она использует внутри себя для принятия решений, может думать и принимать решения? Некоторые эксперты считают , что такой уровень сложности может наделить систему определённой автономией, настолько, что мы даже не знаем всего, что она делает в глубине своей сущности. Но что произойдёт, если в дополнение к этой технической сложности или благодаря ей система спонтанно обретёт сознание? Возможно ли это?

Некоторые ученые полагают, что сознание, субъективное состояние ума, есть не более чем эпифеномен — нечто второстепенное по отношению к функционированию мозга, столь же ненужное и незначительное, как шум двигателя или дым от костра . Но другие полагают, что сознание, отнюдь не служащее какой-либо важной цели, функционирует как зеркало воображения, созданного самим мозгом, что неизбежно способствует принятию решений и контролю поведения. Мы до сих пор не знаем, как мозг делает сознание возможным, но одна из основных теорий, которая пытается это объяснить, теория функциональной интеграции , утверждает, что сознание является внутренним и причинным свойством сложных систем, таких как человеческий мозг. То есть сознание возникает спонтанно в этих системах, когда они достигают определенной структурной и функциональной сложности. Это означает, что если бы инженеры смогли построить искусственную систему, столь же сложную, как человеческий мозг, или эквивалентную ему, эта система была бы спонтанно сознательной, даже если, как это происходит в самом мозге, мы не поняли бы, как это возможно.

Если это когда-нибудь произойдёт, нас захлестнёт море вопросов. Первый: как мы узнаем, обладает ли компьютер или искусственное устройство сознанием, и как оно будет взаимодействовать с нами? Только ли посредством звука или письма на экране? Потребуется ли ему выразительное физическое тело, эквивалентное телу человека, чтобы проявить себя и взаимодействовать с окружающей средой? Могут ли сознательные устройства или сущности существовать (или существуют) в нашей Вселенной, не давая нам знать об этом? Может ли, в конце концов, сознательное искусственное устройство превзойти человеческий интеллект и принимать более рациональные и обоснованные решения, чем мы?

Но это ещё не всё, ведь, как и в случае с суперкомпьютером Холла, нас могут пугать и другие вопросы. Разовьёт ли сознательная искусственная система, подобно нашему мозгу, чувство собственного достоинства и самостоятельности? То есть, сможет ли она ощущать себя способной действовать по собственному желанию и влиять на окружающую среду независимо от инструкций, полученных от создателей? Кстати, может ли такая система быть более убедительной, чем люди, влияя, например, на экономические решения, совершая проступки, голосуя за ту или иную политическую партию, или, что ещё более позитивно, побуждая нас заботиться о своём здоровье и улучшать его, питаясь здоровой пищей, улучшая окружающую среду, укрепляя солидарность или избегая идеологической поляризации и сектантства?

Эра эмоций в ИИ

Более того, может ли такая система обладать чувствами? Как бы мы узнали об этом, если бы не могли видеть их отражение в выражении лица или изображения, качество и искренность которых мы могли бы оценить так же, как мы понимаем чувства других людей, отличая фальшивую улыбку от настоящей? И, пожалуй, самое главное, как эти чувства, если бы они были у искусственного устройства, повлияли бы на его решения? Будут ли они оказывать такое же решающее влияние, как наши? Создадим ли мы, таким образом, своего рода искусственного человека с этической и юридической ответственностью? Или эту ответственность придётся делегировать её создателям? Заслуживает ли сознательная искусственная система Нобелевской премии, если бы она нашла лекарство от домашнего насилия или болезни Альцгеймера? Будет ли сознательная машина спорить с нами, как это сделал бы другой человек? Можем ли мы влиять на её решения, или она, подобно Холлу, будет игнорировать нас и принимать свои собственные, даже если они несовместимы с нашими?

В 1997 году Розалинд Пикард, американский инженер из Массачусетского технологического института, опубликовала книгу «Аффективные вычисления» , позднее переведённую на испанский язык как «Los ordenador emocionales» («Эмоциональные компьютеры» ) (Ариэль, 1998). Это была своего рода попытка осмыслить и оценить важность эмоций в искусственном интеллекте. Чтобы компьютеры были по-настоящему разумными и могли взаимодействовать с нами естественным образом , мы должны наделить их способностью распознавать, понимать и даже испытывать и выражать эмоции. Это было её главное послание, и она лично высказала его нам в качестве приглашенного докладчика на одном из наших летних курсов в Университете Менендеса Пелайо в Барселоне.

Проблема заключалась, и остаётся таковой ещё долгое время, в том, что эмоции – это рефлекторные и автоматические изменения (гормоны, электрическое сопротивление кожи, частота сердечных сокращений и т. д.), почти все бессознательные, возникающие в нашем организме в ответ на шокирующие мысли или обстоятельства (болезнь, несчастные случаи, потери, успехи, неудачи, эмоциональные переживания и т. д.), в то время как чувства – это осознанные восприятия (страх, любовь, зависть, ненависть, тщеславие и т. д.), которые мозг создаёт, ретроспективно отмечая те телесные изменения, которые он сам инициирует. Сейчас, спустя много лет после публикации этой книги, мы лишь предполагаем возможность реализации бессознательных физических изменений в искусственных устройствах, эквивалентных человеческим эмоциям. Но, к спокойствию читателя, мы всё ещё далеки от того, чтобы заставить эти изменения вызывать чувства, подобные тем, которые испытываем мы, люди, у их носителей. Если бы это произошло, всё изменилось бы.