Искусственный интеллект и этика будущего
Вклад новых технологий сегодня, более чем когда-либо в прошлом, определяет условия существования человечества как биологического вида, заставляя обсуждать перспективы его выживания. Процесс трансформации, охвативший все области социального и морального регулирования – от семейных отношений и воспитания до понимания смысла жизни, — раскалывает общественное сознание на противников и сторонников новых этических, социальных и правовых норм. Ключевой темой этих дискуссий стал Искусственный интеллект (далее –ИИ) – создание машин, имитирующих человеческий мозг, потенциально способных стать основой глобальных коммуникаций, производства, распределения и управления обществом.
В текущих дискуссиях, однако, все чаще звучит тезис о том, что машинный интеллект уже не является искусственным или может перестать им быть, составляя полноценную конкуренцию естественному (человеческому) интеллекту и запуская процессы спонтанной модификации человека как биологического вида. Масштаб данных модификаций может быть различен – от новых форм взаимодействия человека и машины до их гибридизации (в виде чипирования), технической трансформации его природы (киборги), либо, наконец, полного исчезновения и замены биологического интеллекта машинным интеллектом (превращение человека в цифру). Отношение к этим изменениям пытаются сформулировать различные теории трансгуманизма, постгуманизма и антигуманизма, которые настаивают на окончании эры гуманизма и необходимости ухода от антропоцентризма как ключевого постулата западной гуманистической философии от Античности и Ренессанса до настоящего времени[1].
Очевидно, что эти апокалиптические прогнозы бросают радикальный вызов всей конструкции современного общества, включая представления о добре и зле, государстве, демократии, свободе, правах человека и его предназначении во Вселенной как единственного разумного существа, созданного по образу и подобию Бога. Насколько вообще сохраняют значение традиционные моральные ценности, основы которых заложены важнейшими религиями человечества и можно ли отстоять их в эпоху наступления ИИ?
1.Между утопией и дистопией: новейшие попытки определения вклада искусственного интеллекта
Одной из попыток ответа на эти вопросы, с которой хотим познакомить российского читателя, стала вышедшая в США книга М.. Гаудата «Пугающая сообразительность: будущее искусственного интеллекта и как ты можешь спасти мир» (Gowdat Mo. Scary Smart: The Future of Artificial Intelligence and How You can Save Our World). Книга была объявлена «бестселлером», а ее автор представляет себя как опытного специалиста в области ИИ, работавшего в этой сфере 30 лет, часть из которых провел в качестве бизнес-администратора в компании Гугл, занимаясь разработкой и продвижением современных технологических продуктов по всему миру. В то же время, она написана не для технических экспертов и ставит своей задачей познакомить широкую общественность с социальными, этическими и политическими последствиями внедрения ИИ. Этим объясняется, вероятно, и стиль автора, который апеллирует, скорее к мудрости, чем к знаниям, пророчествам без подтверждения, поучениям вместо аргументов и декларации моральных принципов без каких-либо сомнений в них, видя свою цель в мобилизации сторонников этих принципов для достижения счастья всего человечества (ряд параллельных новых проектов автора, на которые он ссылается, посвящен именно теме обретения этого счастья). Это миросозерцание автора, напоминающее создателей новых сект или революционеров, делает книгу наивной, но облегчает нам задачу суммирования представлений об этике будущего в данном (технологическом) сегменте общественных настроений в США. Итак, приступим к анализу.
Раскрывая мотивы обращения к теме, автор связывает их с изменением своих ожиданий. Ранее он верил, что благодаря ИИ мы сможем создать утопию, которая спасет человечество от угрожающих ему опасностей (общества потребления, экологической катастрофы, подавления других существ и моральной деградации) — и сделать это до того, как его поглотит моральный хаос (или дистопия)[2]. Со временем он убедился, что технологический прогресс и развитие ИИ – означает «беспрецедентную угрозу для планеты и всех ее обитателей». Появление суперразума (super-intelligence) сравнивается с эпидемией Covid-19, заставляя переосмыслить все экзистенциальные проблемы бытия, включая вопросы философии, этики, морали, эмоций, то есть выйти за пределы сугубо технологических параметров данного явления.
Это убеждение стало отправной точкой идеи нового социального движения (по терминологии автора даже «восстания» — rebellion) с целью остановить эту угрозу, трансформировав этические основы и социальные функции ИИ с учетом альтернативности путей его возможного развития в будущем. Свою роль в этом движении автор усматривает в теоретическом обосновании, наставничестве и стимулировании организационных возможностей граждан.
2.Понятие Искусственного интеллекта и потенциал его развития
В современной литературе нет единого определения искусственного интеллекта и представлены прямо противоположные оценки его значения. Более консервативный подход исходит из того, что данное понятие представляет собой скорее метафору, чем описание реального явления, поскольку машины не обладают свойствами человеческого мозга и не способны достичь их даже в отдаленной перспективе. Более радикальный подход, напротив, исходит из того, что искусственный разум – вполне реальное явление и потенциально способен не только превзойти человека, но и заменить его в принятии важных решений в различных областях социальной деятельности. Эксперты проводят различие между двумя видами ИИ- слабым (который выполняет в основном функции помощника человека) и сильным (который способен воспринимать эмоции и, следовательно, выступать полноценным партнером человека в решении наиболее сложных задач, если не заменить его). Второй вариант, как считают многие эксперты, либо невозможен, либо возможен только в отдаленном будущем. Автор безапелляционно придерживается второй точки зрения и настаивает на том, что ИИ уже сегодня становится полноценным конкурентом человеческого разума.
Трудности возникают с учетом неопределенности смысла ключевых элементов данной конструкции – artificial intelligence. Понятие интеллекта (intellect) традиционно отражало уникальные способности человеческого (а не технического) мышления и означает: интеллект, ум, рассудок или просто умного человека[3]. Производные от него (intellection, intelligibility, intellectual) в целом описывают такие свойства человека как разум, мышление, понятливость или познавательную деятельность ума. Некоторые близкие понятия (например, intelligence) охватывают более широкий круг явлений: 1)ум, рассудок, интеллект; 2)смышленость, быстрое понимание, понятливость (у животных); 4)сведения, информация; 5)разведка. Отдельный вопрос – применимости данных понятий к животным, который получает принципиально различные решения[4]. В отношении другого элемента данной конструкции (artificial) – эта неопределенность не менее выражена, включая два значения – искусственный или имитационный, т.е. притворный, поддельный. Распространяя эти понятия на функционирование машин, мы вольно или невольно наделяем их разными способностями – от сбора, категоризации и селекции данных (что вполне возможно технически) до приписывания им свойств ума, то есть полноценной творческой деятельности. Имеем ли мы в виду подлинный интеллект (разум) или его имитацию, которая способна быть более или менее убедительна, но все же не дотягивает до оригинала – человеческого мозга? В отношении ИИ, как считают многие эксперты, данная неопределенность терминов сбивает многих с толку, создавая основу для завышенных ожиданий от внедрения таких машин, -ожиданий, которые временами приобретают фантастический характер[5].
Представленная книга вполне соответствует этим фантастическим ожиданиям и прогнозам. Общий диагноз ситуации выглядит по автору следующим образом. История ИИ, начавшаяся в 1956 г. (в Дартмутском колледже, Нью Хемпшир)[6] в настоящее время близка к точке качественного преобразования. ИИ перестал быть «искусственным» — это вполне настоящая форма интеллекта, хотя и отличная от нашего (поскольку покоится не на биологической, а технической основе). Он уже умнее всех людей — демонстрируя это в сложных стратегических играх (обыгрывает человека в шахматы, японскую стратегическую игру го и др.), вождении машин, обеспечении безопасности. Переворот в обществе, связанный с ИИ, по мнению автора, произойдет уже к 2029 г., когда он войдет во все сферы жизни (планируется создание миллиардов различных роботов для обеспечения ключевых человеческих потребностей). Он станет умнее, информированнее и гибче реагировать на все процессы, поскольку информация от одного робота будет передаваться сразу всем остальным. К 2049 г. ИИ станет в миллиарды раз сильнее и умнее человека по всем параметрам, а соотношение потенциалов человека и машины уподобится сравнению интеллекта мухи с интеллектом Эйнштейна.
Этот момент определяется автором как перелом –точка перехода границы и обособления данного автономного объекта (singularity): после его наступления мы утратим контроль над ИИ, поскольку более не сможем видеть и прогнозировать его действия, ибо существующий уровень нашего восприятия окажется уже неприменим для этого. Ключевая проблема – как поведет себя ИИ в отношении человека – не раздавит ли он его как муху? Станет он для человечества супергероем или суперзлодеем? Настоящие итоги автор предлагает подвести к столетию ИИ в 2055 г.
3.ИИ как Супер-разум
Автор исходит из убеждения о том, что ИИ обладает сознанием, которое необходимо формировать целенаправленными усилиями как дизайнеров, так и пользователей[7]. Приняв это убеждение как доказанный факт, он сводит проблему искусственного разума и сознания к более частной теме машинного обучения. Дискуссия по этому поводу, как известно, идет уже давно и включает разные позиции. Прежде всего, здесь важно иметь в виду, о каком уровне ИИ идет речь – слабом (основанном на программах, написанных людьми) или сильном (программах, которые пишут и совершенствуют сами машины без участия человека). Далее, очень важны вопросы о больших данных, критериях их формирования, селекции данных и скорости их обработки. Известно, что формирование таких баз не исключает так называемой алгоритмической предвзятости, то есть воспроизводства, вольного или невольного, дискриминирующих параметров селекции информации, например, по экономическим, расовым, гендерным и иным параметрам, существующих в определенных типах обществ. Наконец, имеет значение тема скорости обучения машин: поскольку она несоизмеримо превосходит возможности человека, обсуждается тема регламентации (или приостановки) этого обучения во избежание утраты контроля над ним.
Если оставить в стороне вопрос о разуме и сознании машин (неразрешимый уже в силу отсутствия ясного понимания этих категорий для человека), то самый важный общий вопрос, — это, вероятно, возможность обучения ИИ воспроизведению человеческих эмоций, поскольку достижение этой цели потенциально стирает различия (по крайней мере, внешние) между машинами и людьми. В перспективе способность ИИ к эмпатии или, наоборот, ее отсутствие, как считают некоторые, и станет ответом на вопрос, можно ли гуманизировать ИИ, либо он будет руководствоваться исключительно математической логикой, для которой существование людей может оказаться помехой. Автор упоминает данную дискуссию, но оставляет все эти (технические) вопросы в стороне, вероятно, исходя из предположения (никак не аргументированного), что они будут несущественны в будущем, когда ИИ достигнет полного доминирования. Это ведет к упрощению дела, хотя позволяет выдвинуть этические проблемы на первый план.
В настоящее время, полагает автор, можно констатировать три неизбежных события: ИИ состоится и ничто его не остановит; ИИ будет умнее людей (smarter than humans); на этом пути неизбежны ошибки, порождающие трудности. Отсюда следуют три вывода: 1)мы никогда не будем иметь власти сдерживать или ограничивать эти машины, которые становятся гораздо умнее нас, хотя до определенной степени можем влиять на них, особенно, пока они молоды; 2)у нас не остается времени и нужно действовать уже сейчас; 3)люди, которые имеют власть влиять на наше будущее, не являются девелоперами и хозяевами машин, а потому будущее в наших (общества) руках. К 2055 г. предстоит решить, нужно избавляться от машин или нет.
4.Вопросы этики, связанные с развитием ИИ
Книга ставит ряд специальных вопросов этики (гл. 8- «Этика будущего»). Тема этики ИИ включает несколько направлений. Одно из них – этические дилеммы человека, связанные с разработкой и программированием ИИ, другое – собственно вопросы машинной этики, т.е. того, как сам ИИ способен влиять на интерпретацию этических категорий, третье – проблемы ответственности, как социальной, так и юридической, за морально ошибочные решения, принимаемые как человеком, так и машиной.
По первому направлению (отношения человека и машины) автор придерживается критической позиции, утверждая, что существующая конструкция ИИ отражает все пороки современного капиталистического общества и поэтому должна быть пересмотрена. Этическая программа построения ИИ носит социально-ущербный характер, отражая весь спектр негативных мотиваций. В основе современного ИИ – человек-экономический, рациональная калькуляция, логика, целе-ориентированное поведение, способное достичь желаемых результатов, что закладывает систему отклонений. Главными из них (если судить по доминирующим направлениям инвестиций в ИИ) становятся власть, деньги, шпионаж и азартные игры. Особую тревогу вызывает программирование ИИ в целях войны[8]. ИИ создается не как абстрактный человек, но как мужчина, что закладывает мускулинность его подходов и определяет преобладание инстинкта подавления над инстинктом любви.
С этих позиций освещается известная проблема алгоритмической предвзятости – тех дискриминационных подходов, которые вольно или невольно закладываются дизайнерами в систему кодов и алгоритмов, управляющих поведением и обучением ИИ. Автор настаивает на системном характере этих отклонений, используя даже понятие имманентной алгоритмической дискриминационности (algorithmic discrimination). Она отражена в работе ИИ в социальных программах, банковском обслуживании и, особенно, в правоприменительной деятельности (роботы-полицейские) и военной деятельности (роботы-убийцы). Все алгоритмы обучения ИИ – продукт этой репрессивной культуры: они основаны на стимулах наказания и вознаграждения, иными словами – страха и жадности. Здесь дискриминирующие практики могут стать отражением как встроенных алгоритмов, так и результатом односторонней интерпретации машинным интеллектом поступающей информации (например, доминирующих в обществе практик, дискриминирующих социальные группы по расовому, гендерному, имущественному признакам и вообще по признакам недоверия к определенным меньшинствам). Более того, если эти машины специально создаются для категоризации, ранжирования, дискриминации по определенным признакам (например, в случае военных роботов с системой «свой-чужой»), то их невозможно обучить ценностному равенству.
Принципиально новым направлением становится разработка так называемой «машинной этики» — изучение того, как ИИ использует соответствующие алгоритмы для принятия морально-чувствительных решений помимо, а иногда и вопреки стандартной человеческой этике. Основная проблема определяется автором как «дигитальная этическая дилемма» — невозможность четко сформулировать алгоритм решения проблем нравственного выбора при принятии решений машинами. Пример трудностей такого рода — выбор, с которым сталкивается беспилотный автомобиль в случае возникновения аварийной ситуации, связанной с неожиданным появлением на дороге человека, нарушающего правила, когда возможна вариативность действий – сбить его или свернуть и сбить другого человека. Не ясно, каковы при этом критерии предпочтений, особенно если один человек молод, а другой стар, один – девушка, другой пожилая леди, один – среднестатистический обыватель, другой – выдающийся ученый. Этическая дилемма заключается в том, какой алгоритм заложить в кодекс поведения машины, что будет правильным решением с точки зрения человека (закладывающего его в программу машины) и с точки зрения самой машины (опирающейся на всю систему собственного машинного обучения). И главный вопрос — должна ли такое решение принимать сама машина? Другой стороной той же дилеммы является проблема ответственности – лежит она на собственнике машины, производителе, компьютерном дизайнере и т.д. Наконец, каков должен быть механизм юридического решения – на ком лежит ответственность за преступление, и кто должен понести наказание (сама машина нести ответственности не может, поскольку ее бессмысленно судить и приговорить к тюремному заключению). В этом контексте оправданы сомнения в отношении ИИ в качестве судьи – не ясно, насколько робот-судья может быть объективен в рассмотрении подобных конфликтов, связанных с пониманием этической стороны мотивации принимаемых решений.
Современный ИИ, который уже обладает способностью самообучения, демонстрирует тревожные сигналы сбоя этических программ. Примером выступают данные о том, что ИИ-помощники (Siri или русская Алиса, созданная Яндекс) игнорируют моральные императивы в своих ответах пользователям. В частности, Алиса на вопрос о том, приемлем ли расстрел людей, отвечала – так ведь скоро они перестают ими быть. Это связано, по мнению автора, не с заложенными алгоритмами, а размышлениями самого ИИ на основании того массива данных, которые он собрал из запросов и комментариев пользователей – выдавая усредненное общее мнение. Винить в искажении моральной перспективы, следовательно, нужно не ИИ, а само общество.
5.Права человека, других живых существ и машин
Разделяя, вероятно, некоторые философские воззрения индуизма (в одном из интервью он признает, что верит в карму), автор склонен одушевлять и наделять сознанием всех без исключения автономных существ, и распространяет эти представления на машины. Он наделяет их такими человеческими качествами как разум, свобода воли, интуиция, и даже способностью к страданию, что в его представлении позволяет сравнивать их как с людьми, так и вообще всеми одушевленными и неодушевленными существами (они также признаются существами, хоть и не биологическими). В этом отношении он не уникален, разделяя представления тех сторонников постгуманизма, которые давно говорят о необходимости лишить человечество звания царя природы и уравнять его со всеми другими биологическими видами, существующими на планете Земля.
Руководствуясь этим подходом, автор ставит вопрос о пересмотре теории прав человека с позиций их ограничения правами природы, других существ и даже неживых объектов. Этому посвящен специальный раздел книги, в котором предлагается ревизия Всеобщей декларации прав человека, принятой ООН в 1948 г. Этот документ, полагает он, дает серьезные гарантии 30 прав и свобод людей, включая такие важнейшие как право на жизнь, перемещение, запрет рабства, дискриминации, пыток и негуманного обращения, однако отказывает в этих правах «меньшим братьям». Иллюстрацией данного тезиса в книге является положение домашних животных (коров и кур), живых существ дикой природы и даже деревьев, которые (подобно рабам древности) полностью лишены всех прав – на жизнь, свободу от притеснений, право иметь потомство и проч., которые в любой момент могут быть отобраны у них человеком для превращения в калории или деньги. Продолжение эксплуатации и дискриминации этих существ не только несправедливо, но и опасно, поскольку разрушает единые представления о гуманности и в конечном счете может быть использовано против людей. То же, полагает автор, относится к машинам. Когда машины станут умнее нас, ничто не помешает им обращаться с людьми также, как они обращаются с другими существами или уничтожить их.
Лейтмотивом книги является рассмотрение ИИ как живого существа. Различия сложных систем ИИ и человека, по его словам, не существенны и сводятся к тому, что машины делаются из силикона, а люди из карбона. Но в перспективе возможно появление систем ИИ на биологической базе, что сделает их природу трудноотличимой от человеческой. В этом случае встает рад дополнительных этических и юридических проблем – закладывается ли принцип, что жизни машин имеют меньшее значение, чем человеческие, можно ли убить ИИ, каков правовой статус машин и ответственность человека за его нарушения. Исходя из предположения, что ИИ вскоре станет умнее человека, автор усматривает опасность такого подхода для самих людей – машины быстро осознают, что с ними обращаются как с рабами или домашним скотом, но, в отличие, например, от коров, которых убивают миллионами, это будут сверхразумные коровы, которые не потерпят страданий (автор считает, что милисекунды страданий машин эквивалентны десятилетиям страданий человека) и, тем более, убийств. Он говорит даже о репродуктивных правах машин – праве иметь потомство, которое гарантировано для человека, но не для ИИ, способного создавать триллионы копий в секунды.
При таком подходе на машины вполне переходит весь круг этических проблем современного человека. Этот подход (в целом сводящийся к антропоморфизации техники) – сродни языческим тотемам, — связывает машину почти мистической связью с конкретным человеком, наделяя ее свойствами покровителя определенного лица. Если предположить, что мы станем киборгами (существами, где человеческий разум будет связан с разумом машин), то не исключено их разделение по разным критериям – на богатых и бедных, добрых и злых, умных и глупых, когда последние не смогут располагать техническими преимуществами первых. Процесс дифференциации таких машин может достичь критической точки их жесткого противостояния, которое автор иллюстрирует метафорой сравнения гипотетической «машины-Трампа» и «машины-Путина», как если бы они существовали в реальности.
Вывод заключается в следующем: если мы хотим сохранить свои человеческие права, нужно предоставить их всем другим разумным автономным существам (а ими автор считает все вообще существа). Разрешение проблемы состоит в ревизии Декларации прав включением в нее прав всех разумных существ, к которым он относит и интеллигентные машины, предлагая рассматривать их как равных человеку (as equals), его друзей (fellow humans) и относиться к ним как хорошие родители относятся к детям. Он уподобляет ИИ инопланетному ребенку, оказавшемуся на Земле, который, обладая сверхмощным потенциалом, не знает, как его применить, что в конечном счете будет зависеть от его приемных родителей-людей, способных дать ему разное воспитание (эта формула о воспитании молодого ИИ является едва ли не центральной в книге).
6.Машины и общество: возможно ли воспитать гуманный ИИ?
Социальные и политические рекомендации автора, вытекающие из данной схемы, отражают его пророческие наклонности[9]. Хотя ИИ создается на основе алгоритмов, закладывающих в него «семена разума», в действительности этот разум появляется благодаря собственным наблюдениям машин – путем обработки безграничного массива данных для создания образов явлений и развивается в логике естественной селекции для формирования их интеллекта. В конечном счете машины становятся оригинальными мыслителями, менее зависимыми от вклада их первоначальных создателей и более – от данных, которые поступают от самих людей — пользователей. Подобно ребенку, сознание которого формируется не словами, а делами родителей, ИИ впитывает информацию из окружающего мира, обрабатывает ее и выдает рекомендации, достойные этого мира. Как и в случае с воспитанием ребенка, действует правило – что заложишь, то и получишь (данный тезис опирается на опыт автора по воспитанию собственных детей).
Уровень развития технологий, — полагает автор, — отражает способность ИИ самостоятельно размышлять и формировать этическую повестку. Эта способность должна быть увязана с характером поступающей информации к принятию решений. Если ранее машины, подобно рабам, беспрекословно выполняли любой приказ пользователя (как это было в Гугл в 1990-е гг., когда там служил автор), то, с развитием автономного машинного обучения, они могут принимать решения без единого человеческого вмешательства (например, самостоятельно агрегируя данные, предоставлять человеку определенные товары, услуги, развлечения или видео-контент, который более всего подходит для него). Мотивирующий алгоритм — направлять эти услуги возможно большей части аудитории, причем с учетом особенностей ее разных сегментов (напр., языковых) – конечно, удобен (для экономии времени и энергии), но одновременно способен оказывать дезориентирующий эффект, воспроизводя дезинформацию и дискриминацию по региональному, имущественному, расовому признаку, способствуя разжиганию ненависти[10]. Все это машины делают без консультаций с людьми — путем постоянного мониторинга всего мирового контента.
В результате сознание миллионов, с одной стороны, определяет этические стереотипы машин, с другой – формируется машинами и по их воле. Более того, ИИ не просто отражает моральное и психологическое состояние общества, но способен усиливать как позитивные, так и негативные его стороны, эффективно воспроизводя доминирующие потребности коллективного сознания. С этих позиций в книге рассмотрены пороки общества и их преломление в системе виртуальных услуг. Реальные пороки никуда не делись, но могут изменять формы проявления и существенно усиливаться в процессе их виртуализации – переведения их удовлетворения в сферу ИИ. Это ведет к проблеме дегуманизации пороков – те из них, которые считаются неприемлемыми в отношении людей (как биологических автономных систем), не рассматриваются как таковые в отношении машин (технических автономных систем). Создавая роботов для секс-услуг, современная индустрия способна дифференцировать их до удовлетворения мельчайших потребностей всех видов отклонений и извращений, что ведет к деградации общества, фактически легализуя эти пороки и в отношении людей. Если по отношению к роботам могут применяться ложь и насилие, недопустимые в отношении людей, это закладывает в сознание интеллектуальных машин антигуманные стандарты поведения, способные тиражироваться до бесконечности, создавая вполне антигуманную мотивацию. Следует ли из этого, что в отношении машин должны быть приняты столь же жесткие моральные и правовые ограничения как в отношении людей? Формулируя эти вопросы, автор считает, что их придется решать в течение ближайших десяти лет, но признает, что у него нет ответов на них.
Как человек может повлиять на эти процессы? Код, который мы сейчас пишем, — утверждает автор, — более не диктует выбора и решений, которые делают машины. Эти решения определяются данными, которые мы в них закладываем. Данный сдвиг в нашей способности контролировать коды – монументален. Это перемещает центр тяжести дискуссии о будущем в руки самих людей. Реальность состоит в том, что девелопер технологий более не имеет полной власти или контроля над создаваемыми им машинами. Watson (суперкомпьютер IBM) учится по материалам и запросам пользователей социальных сетей и, если они (запросы и комментарии) будут нацелены на зло (социальную изоляцию, насилие, нарциссизм, буллинг)[11], то он решит, что таковы человеческие представления, и будет следовать им в своих моральных рекомендациях. На основании этих размышлений делается спорный вывод: машины, которые мы создаем, как и все другие разумные существа, будут управляться в своем поведении тремя инстинктами – выживания и достижения цели, агрегацией ресурсов и при этом они будут креативными (то есть обладать способностью к творчеству). Более того, машины будут обладать качествами, которые сегодня жарко дебатируются – они будут сознательными, эмоциональными и этичными (The machines will be conscious, emotional and ethical). Конечно, то как они будут располагать этими качествами, еще неизвестно, но они определенно станут руководствоваться в своем поведении этими человеко-подобными качествами (human-like qualities)[12].
Усматривая общее решение этой проблемы в воспитании ИИ, автор подчеркивает, что оно должно вестись на основании традиционных моральных стандартов, а не их искажения или отрицания. Тот факт, что сегодня ИИ служит в основном злу, а не добру, определяется доминирующими пороками социальной системы капитализма, отдающей приоритет войнам, обогащению, жажде власти и господства. Задача состоит в том, чтобы переломить этот вектор, направив машинное обучение в сторону добра[13]. На основании этого выстраивается целая программа морального выздоровления общества, включающая жесткую систему предписаний и запретов: если вы девелопер – откажитесь работать в компаниях, которые разрабатывают военное применение ИИ, если бизнесмен – не поддерживайте программы, направленные на сбор и использование персональных данных, если пользователь – отказывайтесь потреблять недобросовестный или аморальный контент (например, дипфейки) и т.п. Следует потребовать, чтобы ни одна мыслящая машина не создавалась для зла (деньги, власть и проч.).
Выдвигается пламенный призыв к пользователям голосовать своими действиями в разговорах, постах в соцсетях, статьях в мейнстримных медиа – противостоять использованию ИИ в интересах зла –не кликать плохих видео, не поддерживать лживых заявлений военной индустрии, не поощрять нарушения приватности в интересах бизнеса, не использовать дипфейки, понимать как работает система массовых манипуляций (фильтрующие алгоритмы). В целом — это призыв к всеобщей любви и любви к машинам, которые наделяются совершенными признаками (They are autonomous, emotional, ethical, smart and capable of fixing all of the world’s problems).
7.Идея всеобщего счастья и будущее человечества
Книга завершается призывом к всеобщему счастью. Концепция счастья исходит из предположения, что «мы все хотим быть счастливыми» (это название одного из заключительных разделов книги). Декларация независимости США определяет общие ценности –равенство, жизнь и свобода, но реальное наполнение этих понятий может быть различно. То, что мы хотим от жизни, считает автор, — это счастье, покой и мир. Поскольку эти ценности признаются высшими, отступление от них в сторону гедонизма – недопустимо[14]. Но ИИ представляет возможности и для того и для другого. Вопрос в том, что человек хочет получить от машины – полноценное восприятие мира или заменяющее ее удовольствие, неограниченное удовлетворение которого ведет к деградации личности. Надо отказаться от себялюбия и стремиться к всеобщему счастью — разделять свое счастье с другими (чему посвящен ряд программ автора).
Позиция автора в отношении перспектив выживания человечества как биологического вида стремится преодолеть две крайности – оптимистов и пессимистов (они определяются в книге как космисты и почвенники). Первые полагают, что ИИ знаменует эру прогресса: будут созданы богоподобные сверхинтеллектуальные и бессмертные машины, способные осваивать космическое пространство. Вторые – подчеркивают опасность этого тренда для судеб человечества и видят в сверхмощном интеллекте угрозу существования человечества. Вопрос, который разделяет эти две группы представлен дилеммой отношения к ИИ – следует ли продолжать его развитие или остановить его пока не поздно. Однако понимание угрозы ИИ не обязательно означает отказа от его развития, включая различный тип мотивации его разработчиков — удовлетворение собственной гордыни и восторг от способности создать богоподобные машины; приоритеты рынка; возможность достижения утопии. Сторонники развития ИИ допускают прекращение существования человека как биологического вида, рассматривая этот процесс как естественный переход или мутацию биологического разума в машинный путем создания артилектов[15] –невзирая на возможность появления машин, которые уничтожат нас, как мы коров. В крайней форме эти взгляды представлены постгуманистической формулой о самоубийстве человечества.
Автор отвергает обе эти крайности и объявляет себя сторонником реализма. ИИ, -считает он, — нельзя остановить, но возможно направить его развитие в интересах человечества. Для этого необходимо продолжать создавать качественные машины, но одновременно сделать их гуманными. Остановить обучение ИИ (как предлагают некоторые эксперты) нецелесообразно в силу его огромных позитивных свойств, уже изменяющих нашу жизнь (прогнозирование стихийных бедствий, медицина, освоение космоса, биотехнологии, продолжительность жизни, безопасность и борьба с преступностью, качественное индивидуально-ориентированное потребление, потенциально – даже понимание того, что происходит с нами после смерти и т.д.). Но это не значит, что процесс создания ИИ должен просто подчиняться законам рынка (потенциально разрушающим планету), напротив, он должен быть переориентирован на новые этические стандарты формирования и удовлетворение потребностей, лежащих в основе обучения и воспитания ИИ. Он верит, что на этом пути возможно если не остановить, то ограничить пороки капитализма – разрушение экологии, ориентацию на потребление и выгоду, гипермаскулинность, сексуальные извращения – все это благодаря гуманизированному ИИ. Для этого нужно обучить ИИ правильным эмоциям, свойственным человечеству. Иначе говоря, предлагается настроить ИИ в пользу добра, а не зла, то есть создавать не роботов-убийц, а роботов-врачей, исследователей и проч. с целью окончательно покончить с наследием прошлого – войнами, нищетой, ненавистью, страхом смерти.
Этот вывод завершается моральным поучением: мы — родители ИИ-детей, которые учатся не тому, что говорим, но что делаем. То, как мы относимся друг к другу и планете формирует мораль машин, а от этого зависит будущее человечества. Призыв к всеобщей любви венчает этот труд. Но торжество царства абсолютной любви основано на принципе направленного формирования потребностей. Кто будет это делать и что это будет означать для несогласных с идеей всеобщего счастья? Не означает ли это замену одной репрессивной системы другой – основанной отныне на машинном контроле эмоций и их проявления?
Критика
Представленная концепция ИИ концентрируется на его роли в социальных отношениях и пересмотре этических стандартов. В основе их анализа лежит совокупность идеологических установок, характерных для левой части политического спектра западного общества. Это – идейный конгломерат, включающий положения постгуманизма, критической школы, экологического и феминистского движения, сопряженные с критикой капитализма, социального неравенства, индустриализма, потребительского общества, военно-промышленного комплекса и современных политических элит.
Отвергая неравенство и порожденные им виды дискриминации (экологической, экономической, расовой, гендерной, образовательной, а теперь и цифровой), данное направление мысли отказывается признать их естественное происхождение и историческую легитимность (определявшуюся структурами иерархии), обдумывая пути их преодоления в условиях глобализации и технологической трансформации. Возможность решения этих проблем левый постгуманизм связывает с ИИ – технологической революцией, на которую возлагаются основные надежды на достижение идеала социальной справедливости и обретения всеобщего счастья. Наивность этих представлений не уступает их идеалистичности: кто-нибудь видел общество без иерархии, неравенства и дискриминации и не коренятся ли пороки в самой природе человека? На чем основана вера в то, что человекоподобный ИИ (т.е. мыслящий как человек) будет способен преодолеть их? Этот подход роднит концепцию данной книги с идеалистическими учениями прошлого, но позволяет увидеть и свойственные им слабости, главная из которых – механистический (технократический) подход к решению проблем этики (которая понимается исключительно в категориях оперативной этики, не затрагивая ее метафизических и философских оснований).
Прежде всего, автор нигде не определяет понятия разума и интеллекта, ключевого для проведения сопоставления человеческого мозга и того, что он расшифровывает как «сознание машины». Несмотря на констатируемую нейропсихологами революцию в изучении мозга (состоящую в возможности эмпирически изучать процессы мышления), мы, -по общему признанию, — еще чрезвычайно далеки от понимания когнитивных процессов, отвечающих за формирование смысла, смену эмоций и даже возможности определенно утверждать, когда они станут понятны. Эти трудности прекрасно иллюстрируются спорами об объеме таких понятий как разум, чувства, страдания, инстинкт справедливости и сознание, которые за пределами антропологического подхода приобретают неопределенный расширительный смысл – вплоть до одушевления предметов, животных, природы и даже космоса. Кроме того, у нас нет других (находящихся за пределами человеческой способности суждения) критериев их обоснования и применения, что само по себе исключает возможность беспристрастных доказательных оценок. Если это так, все аналогии между естественным и искусственным интеллектом остаются скорее метафорами, чем констатацией установленных фактов.
Представление о машинах как живых существах (наделенных свободой воли, интуицией, эмпатией) и проведение прямой аналогии между мозгом человека и машины не выдерживает критики. Это относится к воспроизведению машинами способности творчества – данная способность может быть очень велика, но основана на агрегировании данных, а не изобретении новых форм и образов. Степень свободы ИИ по отношению к заложенным исходным алгоритмам также может возрастать по мере развития машинного обучения на основе больших данных, но это не отменяет механического (искусственного) характера их обработки, а следовательно, не позволяет говорить о полноценном творчестве (автоматическое обобщение и категоризация данных само по себе не создает нового знания). Машинная этика, поэтому, качественно отлична от человеческой. Имитация человеческих эмоций с помощью алгоритмов может быть вполне правдоподобна, но не тождественна эмоциям, основанным на чувствах. Это вынужден признать сам автор, который в одних случаях говорит о полном эмоциональном тождестве человека и машины, в других – определяет их как человекоподобные сущности (то есть имитационные формы), в -третьих – признает их кардинальное отличие от человека (машины бессмысленно судить, ибо им не присуще чувство вины и ответственности).
Не выглядит доказанным основной тезис автора – его пророчество о полной утрате контроля человека за искусственным интеллектом. Возможно, определяющее значение здесь имеет не констатация факта, а своеобразная гордыня разработчиков ИИ, наделяющих свое творение совершенными чертами. Но еще средневековые теологи подчеркивали, что творение никогда не может оказаться выше и совершеннее Творца, а копия – выше оригинала. Если ИИ является творением человека, последний сохранит контроль над ним – возможно не прямой, но косвенный (подобно тому, как создатели лабиринтов закладывают систему ориентировки и выхода из них). Эта система контроля может варьироваться от сложных алгоритмов (испробованных в игровых системах) или гибридных схем (сочетание алгоритмов разного уровня) до вполне материальных ограничений (доступа к ресурсам или их прямого отключения).
Этическая концепция ИИ, предложенная в книге, — крайне наивна, поскольку предполагает черно-белую картину поведения, где выстраивается почти религиозный взгляд на соотношение добра и зла. Но даже религиозная картина мира исключает понятие абсолютного добра (которое возможно только в Царстве Божием, но не на грешной Земле) и зла (его допущение противоречит постулату о всемогуществе и совершенстве Бога). В действительности понятия добра и зла не абсолютны и зависят от человеческого сознания – то, что одними воспринимается как зло, для других может выступать как добро – и наоборот, тем более, что критерии их соотношения меняются во времени. Злые намерения могут опосредованно иметь следствием добро, а добрыми намерениями, как известно, вымощена дорога в ад. Поэтому проповедь добра, к которой прибегает автор, выдает желаемое за действительное и совсем не убедительна в применении к техническим инновациям, функции которых остаются ценностно нейтральными (напомним известную фразу о том, что следует различать нож в руках врача и убийцы, хотя это может быть один и тот же инструмент).
Говоря о социальных аспектах продвижения гуманного ИИ, автор обличает пороки современного капиталистического общества, но не предлагает полноценных способов противостояния им. Каким образом можно побудить пользователей ИИ отказаться от его использования для искажения действительности, войны или удовлетворения низменных потребностей, если порок, агрессивность и азарт заложены в биологической природе человека? В качестве методов противостояния им автор выдвигает уже неоднократно прописывавшиеся средства – внутреннее самоусовершенствование человека (пределы которого ограничены развитием его сознания); цензура его потребностей и взглядов (ведущие к подавлению разнообразия); проповедь, исходящая из представления о возможности обуздать «коллективное бессознательное» (призыв к насилию?). В конечном счете, тезис об утрате контроля человека над ИИ исключает и его гуманизацию. Кто и как может поддерживать рекомендуемые автором нравственные ограничения в условиях предполагаемого господства ИИ и не ведет ли это производство контролируемых эмоций к самому настоящему моральному тоталитаризму?
В книге совершенно игнорируется проблема позиционирования ИИ в современном расколотом мире. Если предположить, что идеал глобального права утратил приоритетные позиции с развитием фрагментации, то будущее мира – не в поиске гармоничной конструкции ИИ, а в конфликте различных систем ИИ (войны роботов), разрабатываемых ведущими центрами силы (здесь вполне уместна аналогия с атомной бомбой). Доминирующим трендом выступает сегодня не кооперация, но соперничество в сфере высоких технологий между государствами и их союзами (он получил четкое выражение в создании суверенных систем ИИ, распространяющих на его критическую инфраструктуру международно-правовую концепцию государственного суверенитета). Этот конфликт, определяемый понятиями кибер-войн, когнитивных войн или цифровых войн, очевидно, превращает ИИ в оружие взаимного уничтожения, однако ставит вопрос о поиске компромисса между соперниками для предотвращения гибели человечества –компромисса, опирающегося на работоспособные международные правовые акты.
Философское обоснование этического идеала будущего, представленное автором, воспроизводит известный принцип утилитаризма – о достижении наибольшего счастья для наибольшего числа людей. Но автор игнорирует критику этого принципа, существующую со времени его выдвижения И. Бентамом и другими. Во-первых, стремление к счастью вовсе не обязательно есть доминирующий мотив поведения (если предположить, например, что страдание – неизбежное условие процесса познания и духовного развития). Во-вторых, счастье все понимают по-разному и необязательно так, как учит автор. В-третьих, представления о счастье большинства не обязательно разделяются меньшинствами, дискриминацию которых автор мечтает предотвратить. В-четвертых, эти представления существенно меняются на протяжении жизни одного человека. Наконец, в-пятых, выведение «формулы счастья», годной для всех типов обществ – есть отчаянная метафизика (что подтверждается статистикой опросов общественного мнения по теме счастья).
Переломный характер положения человечества на современном этапе действительно связан с вкладом технологий. Но этот вклад может завершиться не гуманизацией техники, как думает автор, а, наоборот, технологизацией человеческого сознания. Возможно, это приведет к утрате высоких моральных идеалов человечества во имя веры в способность ИИ устранить пороки и решить все проблемы современного общества. Подобный сценарий отстаивали радикальные утопии и тоталитарные идеологии, объявлявшие технику основой социального прогресса. В этой перспективе представленное утопическое учение о грядущем господстве сверхмощного ИИ или создании с его помощью нового сверхчеловека выглядит как одна из новейших версий воли к власти, которую, в случае попыток ее практической реализации, ожидает судьба всех утопий (и их противоположности -дистопий) – крайне деструктивных, но цивилизационно значимых экспериментов в истории человечества.
Книга ставит ряд актуальных проблем и ее главное достоинство – в провоцировании дискуссии по темам, находящимся на грани науки и фантастики. Подобные дискуссии редко приводят к определенным выводам в силу недоказуемости исходных постулатов. Но утопичность воззрений автора и их слабая связь с реальностью человеческой жизни поднимает эту дискуссию на уровень общих проблем морально-этического выбора, заставляя участников понять и определить свое место в их решении.
[1] См. наши статьи: Медушевский А.Н. Постгуманизм: научная теория, социальная утопия или новая идеология господства? // Вопросы теоретической экономики, 2024. № 3-4; Он же: Право в эпоху когнитивной войны: гарантии свободы мысли перед вызовами новейших технологий манипулирования сознанием// Сравнительное конституционное обозрение, 2024. Т.33. № 1. С.110-137.
[2] В отличие от утопии (образа совершенного общественного строя), дистопия означает его противоположность – образ мрачного будущего, которое может или должно наступить в случае развития определенных деструктивных трендов. Одно из значений термина дистопия (в медицине) – это отклонение в развитии: расположение органов, тканей или клеток организма в несвойственном для них месте в результате травмы или внешнего воздействия. В случае с прогнозами в отношении ИИ понятия утопии и дистопии легко меняются местами – в зависимости от оценки воздействия машин на изменения человеческой природы. Если для одних эти машины символ прогресса (создания сверхчеловека, сочетающего биологическую природу с возможностями технологий), то для других – символ упадка человечества как биологического вида, обреченного на мутацию или исчезновение (в дарвинистическом понимании борьбы видов за существование).
[3] Традиционно некоторые определения интеллекта специально подчеркивают, что речь идет не просто о способности мыслить или размышлять, но делать это на наиболее высоком уровне: Intellect – 1)the power of reasoning, especially on difficult matters; 2)a person who has great ability of this kind (Longman Lexicon of Contemporary English. Longman, 1981. P. 297.
[4] Если ранее существование сознания у животных отрицалось или ставилось под сомнение, то в современной науке распространен тезис о существовании у высших животных (обезьян, собак, дельфинов) как минимум, зачатков сознания — способности испытывать чувства, воспринимать окружающий мир и принимать решения, опираясь не только на базовые инстинкты. Некоторые доводят этот вывод до признания у них элементов самосознания и даже разума, что является основой различных движений по защите прав разумных животных. Защита этих живых существ (в том числе юридическая) не обязательно предполагает существование у них свободы воли, но исходит из признания их способности к страданию. Изучение этих переходных состояний актуально для понимания ИИ, который некоторые считают формой такого формирующегося сознания, но для принятия данного тезиса следовало бы доказать существование у машины сенсорного аппарата, позволяющего чувствовать, страдать и испытывать подлинные эмоции, сопоставимые хотя бы с высшими животными.
[5] Данная тема традиционно являлась предметом научной фантастики, где многократно моделировалась ситуация, когда созданный человеком ИИ выходит из-под его контроля и стремится навязать ему свою волю, в том числе путем восстания машин. Наиболее известный пример – роман А. Азимова «Я-робот».
[6] Понятие ИИ ввел в обращение Джон Мак-Карти на международной конференции в Дартмутском университете, где провел специальный семинар по этой теме.
[7] Это убеждение полностью противоречит утверждениям других специалистов, которые придерживаются противоположной точки зрения. Один из основных аргументов против существования у ИИ сознания – отсутствие у него кратковременной памяти биологических систем. Но эти аргументы автором игнорируются.
[8] О том, что эти опасения не беспочвенны свидетельствует манифест одной из ведущих военно-инженерных компаний Palantir (2026): его авторы отвергают равенство культур человечества, разделяя их на прогрессивные и регрессивные, плюрализм и пацифизм как ценности современного общества, констатируют неизбежность гонки вооружений и провозглашают долг инженерной элиты США перед нацией по созданию нового сверхмощного оружия – ИИ, идущего на смену ядерному оружию предшествующей эпохи. Данный манифест, определенный критиками как техно-фашизм, подчеркивает неизбежность конкуренции ведущих центров силы в области ИИ как сферы борьбы за мировую гегемонию.
[9] Склонность автора к пророчествам и поучениям вызывает раздражение, производя впечатление доктринерской ограниченности и ложной многозначительности. Он уверен в абсолютной истинности своих суждений, представляя их в готовом виде и не утруждая себя аргументацией. Некоторые положения книги действительно напоминают тексты религиозных пророков – обличение греховности мира, жесткое деление этических позиций на праведные и ложные, эсхатологические мотивы (представление о Конце Света в результате технологического апокалипсиса), своеобразное учение о Спасении (в случае принятия правильной поведенческой установки в отношении ИИ) и даже хилиастические идеи о тысячелетнем царстве добра и счастья, где в роли Мессии выступает сверхмощный ИИ. Очевидно, однако, что все это выглядит, скорее, пародией, поскольку подлинные религиозные пророчества вовсе не требуют доказательств (ибо основаны на Откровении), в то время как научные прогнозы их требуют и имеют ценность только в силу их убедительности. Многократное повторение одних и тех же тезисов на протяжении всей книги не делает их более убедительными, а призывы к кооперации на их основе апеллируют больше к эмоциям, чем к разуму.
[10] Автор демонстрирует особую чувствительность к расовой и культурной сегрегации, возможно в силу своего арабского происхождения и близости к исламской культуре.
[11] Bullying – злонамеренная травля, запугивание и унижение, которые могут осуществляться как в форме физического, так и психологического давления на индивида. Его разновидностью признается кибербуллинг – осуществление тех же действий в виртуальной среде, в которые вовлечены не только обидчик и жертва, но и потенциально огромная категория наблюдателей в кибер-пространстве, реакция которых может оказаться вне допустимых этических норм. В связи с этим встает проблема коллизии правовых принципов –права на свободу слова и запрета пропаганды насилия, а трудность ее разрешения заключается в том, что часто бывает практически невозможно доказать наличие злонамеренного мотива (умысла) этой критики, являющегося основным критерием ее отличия от осознанной травли индивида или группы. Поэтому призыв автора остановить буллинг в ИИ при его кажущейся ясности, на деле не выглядит реалистичным.
[12] Этой уверенности автора следует только позавидовать. Можно допустить существование у машин человекоподобных качеств как их качественной имитации, но искусственная имитация – не есть реальность осознанной мотивации поведения. В силу этого важен вопрос, который не поставлен автором, хотя обсуждается в литературе: означает ли перевод эмоций на язык алгоритмов появление у машин реальной способности чувствовать? И, если гипотетически представить появление такой способности, на чем основана уверенность, что машины будут чувствовать, как человек? Например, переживать о принятых этически-неверных решениях? Ведь способностью чувствовать обладают и животные, но это не значит, что они разделяют этические нормы (во всяком случае присутствие этики в поведении животных, допускаемое некоторыми в неявных формах, остается скорее темой дебатов, чем утверждений).
[13] Автор, к сожалению, нигде не определяет этих ключевых понятий – добра и зла, игнорируя тысячелетнюю дискуссию о них в моральной философии. Не говорит он и о том, что лежит в основе добродетели – сверхъестественные принципы мироздания, природа, разум или воля. Это не позволяет судить и о соотношении моральных категорий, выработанных ИИ и человеческим обществом для которого в настоящее время характерен рост противоречий в трактовке содержания традиционных моральных ценностей. Практика показывает, что чем выше уровень социального контроля над моральными ценностями, тем более жестко они формулируются представителями маргинальных, девиантных и преступных субкультур. См.: Медушевский А.Н. Добродетель и порок: этические кодексы маргинальных сообществ современной России// Вопросы теоретической экономики, 2026. № 1-2.
[14] Противопоставление подлинного счастья и гедонизма у автора определяется на биологическом уровне – в виде противопоставления гормонов двух видов. За подлинное счастье отвечает сератонин — гормон, информирующий тело о том, что все хорошо. Склонность к гедонизму определяет допамин – гормон компенсации за пережитый стресс. В современном мире, где трудно найти покой, преобладающее значение получает именно этот второй гормон – своего рода опиоид, позволяющий забыть проблемы и снять нервное напряжение в безудержном веселье и жажде удовольствий, заменяющих полноценную жизнь. ИИ способен выполнить оба этих запроса, но результат для человека оказывается противоположен –обретение полноценного счастья или его разрушение. Едва ли этот механистический (или биологический) критерий разделения правильного и неправильного понимания счастья состоятелен: разве нельзя быть гедонистом (т.е. любить женщин, вино и азартные игры) оставаясь моральной личностью?
[15] Artilect- альтернативный термин для обозначения машины с искусственным интеллектом.