УСТНОЕ ЗАЯВЛЕНИЕ
Международный гуманистов
Семинар по диалогу в рамках статьи 17 в Европейской комиссии
«Этические и социальные последствия искусственного интеллекта»
Докладчик: д-р Доротея Винтер
Позвольте мне начать с образа. Европа подобна мозаике, и если подойти поближе, то видишь только камни, каждый своего цвета, своей формы, и различия заключаются во всём: странах, языках, культурах, религиозных и философских традициях. Но если отойти назад, камни образуют картину, и эта картина — то, что объединяет камни, несмотря на все их различия.
И эта картина прежде всего гуманистична. Основополагающие ценности Союза, закрепленные в статье 2 Договора о Европейском союзе, — это человеческое достоинство, свобода, демократия, равенство, верховенство права и уважение прав человека, и они гуманистичны, потому что рассматривают человека как свободного, рассуждающего субъекта. Если мы отбросим эти принципы, мозаика потеряет свою картину; камни останутся, но смысл исчезнет.
Теперь в эту картину вступает новый инструмент, и этот инструмент — молоток. Мы используем молоток для обработки камней, для их резьбы, шлифовки, подгонки по форме. И в данный момент молотком является искусственный интеллект.
Молоток может разбить камень или починить его, и искусственный интеллект обладает теми же возможностями. Поэтому вопрос заключается в том, в чьих руках он находится, с какой подготовкой и по какому замыслу. Каждый молоток несет в себе выбор своих создателей: что он усиливает, а что подавляет.
Именно здесь вступает в игру концепция цифрового гуманизма. Цифровой гуманизм — это философская гуманистическая позиция, основанная на трех принципах.
Первое условие заключается в том, что ИИ — это инструмент, и как инструмент он не является ни хорошим, ни плохим, ни нейтральным. Рассматривать ИИ как нейтральный было бы категориальной ошибкой, поскольку нейтральность подразумевает истинность, тогда как системы ИИ выдают только вероятность. Система LLM, такая как ChatGPT, предсказывает следующий токен на основе закономерностей в обучающих данных, поэтому каждый полученный нами результат следует понимать как предсказание.
Таким образом, гуманистический ответ очевиден. Мы не можем предъявлять к системам ИИ требования, которые они не могут выполнить. Мы должны говорить об ИИ рационально, не впадая в опасные нарративы, окружающие его: анимизм, трансгуманизм или, совсем недавно, утверждение генеральных директоров крупных компаний, занимающихся ИИ, о том, что ИИ приближается к «рекурсивному самосовершенствованию». Такие утверждения проблематичны с философской, гуманистической и научной точек зрения и отвлекают от насущных вопросов о конкретных системах с конкретными проектами, производящих конкретные эффекты. Программное обеспечение есть программное обеспечение. Следует добавить, что это также является архитектурой самого Закона об ИИ: основанная на рисках система, которая классифицирует системы по их фактической способности причинять вред, а не по риторической категории «ИИ в целом».
Во-вторых, ИИ можно назвать системой отбора. Результаты работы ИИ представляют собой выбор источников информации, усиление паттернов, подавление альтернатив, усвоение фреймов и их отбрасывание. Этот выбор формируется на основе данных, на которых обучалась система, инженерами, разработавшими её, и коммерческими интересами платформы, на которой она размещена. Ничто из этого не видно гражданину, использующему систему.
Этот невидимый отбор в настоящее время действует в двух областях, где гуманистические интересы наиболее актуальны: государственное управление и образование.
Примером из сферы государственного управления может служить так называемый Toeslagenaffaire из Нидерландов — алгоритм налоговых органов, который рассматривал двойное гражданство как фактор риска мошенничества с пособиями, — ошибочно обвинил около двадцати шести тысяч семей и вынудил правительство Рютте уйти в отставку в январе 2021 года. Это структурные последствия делегирования полномочий по отбору непрозрачным системам без демократического контроля.
В сфере образования этот вопрос еще более важен. Инструменты генеративного ИИ, используемые студентами, заранее отбирают, какие ответы считаются релевантными, какие источники заслуживают внимания, какие голоса являются видимыми, а какие — нет. Евростат сообщил, что более 50 процентов европейцев в возрасте от шестнадцати до двадцати четырех лет доверяют системам генеративного ИИ в предоставлении правильных ответов; 40 процентов редко или никогда не проверяют результаты. Целое поколение учится понимать, что такое знания, посредством непрозрачного механизма отбора, разработанного вне европейских идеалов и движимого коммерческой выгодой. И уровень грамотности в области ИИ, который позволил бы им это осознать, сам по себе ослабляется в европейском законодательстве: Закон об ИИ сделал это обязательством в соответствии со статьей 4, а «Цифровой омнибус» сведет это к рекомендации.
Третье обязательство касается ответственности. Системы искусственного интеллекта — это самая успешная технология, которую мы когда-либо создавали для распределения ответственности. Когда результаты работы системы ИИ вызывают этические проблемы, например, когда кто-то подвергается дискриминации, ответственность распределяется между разными сторонами. Разработчики указывают на инженеров; инженеры указывают на тренеров; тренеры указывают на данные.
В философии это называется проблемой множества рук. В сложных и глобально распределенных процессах разработки и внедрения систем искусственного интеллекта становится трудно определить, кто что сделал, и еще труднее сказать, кто может нести ответственность за тот или иной результат.
Было бы скучно обсуждать философию, не упомянув хотя бы раз Ханну Арендт, поэтому вот мы здесь. Ханна Арендт разработала концепцию, которую она назвала правилом Никого. Под этим она подразумевала опасность, возникающую, когда люди прячутся за правилами и процедурами, чтобы избежать личной ответственности, так что ни с кем нельзя спорить, никого нельзя привлечь к ответственности, и все же кто-то всегда находится под управлением. Я вижу ту же опасность в реализации ИИ, где человеческая ответственность делегируется системам, которые сами не способны ее нести. Решения о жизни людей, их образовании, общении, доступе к медицинской помощи принимаются системами ИИ, в то время как каждый человек в этой цепочке указывает на систему. А система, как мы только что видели, не может ответить.
Цифровой гуманизм отвергает принцип «Никто». Он настаивает на том, что для каждого важного решения, принимаемого системой ИИ, должен быть человек или организация, которых можно назвать, к которым можно обратиться и которые могут быть привлечены к ответственности. Этот принцип также закреплен в статье 14 Закона об ИИ, так называемом подходе «человек в контуре управления»: системы ИИ высокого риска должны быть спроектированы таким образом, чтобы физические лица могли эффективно контролировать их работу на протяжении всего процесса, и чтобы ни одно важное решение не было полностью делегировано системам ИИ.
Если мы позволим ИИ развиваться без этих гуманистически-европейских основ, мы подвергнемся структурной трансформации в новый экономический порядок, первые очертания которого уже различимы в самой Европе. Я назвал этот порядок ИИ-неоколониализмом. Небольшое число транснациональных технологических корпораций владеет моделями, вычислительными мощностями, данными, политическим доступом и властью формировать то, что считается знанием, и они извлекают из этого значительную коммерческую ренту. Все остальные, включая европейских граждан, предоставляют то, на чём работают эти системы: данные. Данные — это сырье 2020-х годов, эпохи ИИ, масштабируемое без ограничений, никогда не истощающееся в процессе использования и непрерывно извлекаемое из нашего внимания, нашего публичного дискурса, нашего образовательного контента. И в этой добыче эти системы обращаются к нам как к прозрачным потребителям, а не как к субъектам свободного суждения, какими нас предполагает наша гуманистическая европейская традиция.
Что из этого следует? Во-первых, каждый гражданин Европы должен иметь право на проверку человеком любого автоматизированного решения, принятого государственным органом или частной компанией.
Когда государство предоставляет пособие, оценивает ребенка для принятия мер по защите или определяет степень риска для обвиняемого, или когда компания принимает решение о предоставлении кредита, найме сотрудников или доступе к платформе, гражданин должен иметь конкретного человека или организацию, которые могут быть привлечены к ответственности. Статья 22 GDPR уже устанавливает этот принцип, и теперь парламент может усилить его, превратив в позитивное право, обязательное для обеих сторон.
«Цифровой омнибус» от ноября 2025 года движется в противоположном направлении. Во имя упрощения он приостанавливает действие обязательств по защите данных в рамках Закона об ИИ, касающихся систем высокого риска, до декабря 2027 года, включая право гражданина на объяснение принятого автоматизированного решения; вводит новый законный интерес в отношении «ИИ» в соответствии с GDPR, который позволяет разработке ИИ отменять право на защиту данных; и разрешает поставщикам классифицировать свои системы как не представляющие высокого риска без публичной регистрации этого решения, устраняя единственную существовавшую ранее гарантию прозрачности.
В то время как Закон об ИИ и GDPR рассматривают человека как субъект оценки, «Общий свод законов» рассматривает человека как сырье для разработки ИИ. Право на конкретного, подотчетного лица, принимающего решения, является основополагающей чертой демократического управления в условиях автоматизации, и никакой пакет упрощений не должен его отменять.
Во-вторых, при внедрении ИИ на рабочем месте работники должны иметь право на совместное принятие решений. В тех случаях, когда ИИ изменяет условия труда посредством алгоритмического планирования, автоматизированной оценки или наблюдения на рабочем месте, работники, условия труда которых изменяются, должны быть проконсультированы до внедрения системы, а не уведомлены после её установки. Европейский столп социальных прав уже обязывает нас к соблюдению этого принципа, и директива Европейского производственного совета может быть изменена, чтобы распространить его конкретно на ИИ. Эмпирические данные неопровержимы. Дарон Асемоглу в своем исследовании 2024 года для Национального бюро экономических исследований подсчитал, что прирост производительности труда благодаря генеративному ИИ в течение следующего десятилетия составит менее одного процента от общей факторной производительности, и что этот прирост в подавляющем большинстве случаев достанется капиталу, а труду — почти ничего.
В-третьих, Европа должна создать Европейский общественный фонд искусственного интеллекта для управления как вычислительной инфраструктурой, объявленной в рамках InvestAI, так и многоязычным слоем обучающих данных под ней. Модель управления основана на примере ЦЕРН, где совет, созданный на основе договора, объединяет государства-члены, научное сообщество, гражданское общество и партнеров по статье 17, всех, кто связан хартией основных европейских прав и правом на публичный доступ. Европа уже делала это раньше. Традиция общественного вещания после 1945 года основана на принципе, что определенные блага деградируют, когда они попадают на рынок, и базовая инфраструктура публичного мышления, коммуникации и образования относится к числу таких благ.
Позвольте мне вернуться к образу, с которого я начал. Европа — это мозаика. Руки, не подчиняющиеся никаким правилам, с плохо сделанным молотком, будут продолжать бить по камням, пока их формы не размываются, цвета не тускнеют, края не растворяются, и издалека картина перестаёт быть видимой. Спасибо.
— Quo vadis, AI? Гуманистический подход к Европе», Интернационал гуманистов