Гуманисты предупреждают ЕС о монополиях в сфере искусственного интеллекта и призывают к государственной собственности и человеческому контролю.

Специалист по этике ИИ, представляющая организацию Humanists International, предупредила Европейскую комиссию об экономической и эпистемологической зависимости, возникающей в результате владения иностранными технологическими монополиями инфраструктурой и данными в области ИИ. В ответ она призвала к созданию государственного фонда поддержки ИИ и усилению права на экспертную оценку решений, принимаемых в сфере ИИ.

Выступление доктора Доротеи Винтер, научного сотрудника в области прикладной этики в Гуманистическом университете Берлина, состоялось 8 июня на диалоговом семинаре Европейской комиссии в рамках статьи 17, посвященном « Этическим и социальным последствиям искусственного интеллекта » , после того как она была выдвинута в качестве представителя организацией Humanists International.

Выступая на сессии, посвященной актуальным социальным и этическим проблемам, доктор Винтер предупредила, что без прочных гуманистических основ Европа рискует скатиться к экономическому порядку, в котором небольшое число иностранных корпораций обладает властью формировать то, что считается знанием, одновременно извлекая коммерческую ренту из европейских данных. В рамках этой динамики, которую она назвала «неоколониализмом в сфере ИИ», европейские граждане рассматриваются как прозрачные потребители и сырье для разработки ИИ, а не как разумные субъекты, обладающие свободой суждений.

В этом контексте она изложила ключевые принципы концепции цифрового гуманизма. Во-первых, ИИ следует рассматривать как инструмент, где конкретные системы производят конкретные эффекты и риски, а не как инструмент, попадающий в ловушку грандиозных нарративов. Во-вторых, ИИ следует рассматривать как систему отбора, которая непрозрачно решает, какие нарративы усиливать, а какие подавлять, формируясь на основе своих данных, своих инженеров и коммерческих интересов. Наконец, поскольку ИИ размывает ответственность за принимаемые решения, цифровой гуманизм настаивает на том, что за каждое важное решение, принимаемое системой ИИ, должен нести ответственность человек.

Доктор Доротея Винтер, Гуманистический университет Берлина

Доктор Винтер раскритиковал предложенный в этом отношении законопроект ЕС:

В то время как Закон об ИИ и GDPR рассматривают человека как субъект оценки, «Общий свод законов» рассматривает человека как сырье для разработки ИИ. Право на конкретного, подотчетного лица, принимающего решения, является основополагающей чертой демократического управления в условиях автоматизации, и никакой пакет упрощений не должен его отменять.

Чтобы противостоять продолжающейся концентрации власти в сфере искусственного интеллекта, она выдвинула три конкретных требования к европейским политикам:

1. Право на проверку человеком: Каждый гражданин Европы должен иметь право на проверку человеком любого автоматизированного решения, принятого государственными органами или частными компаниями. В этом контексте она раскритиковала законопроект «Цифровой омнибус», который может ослабить существующие меры защиты от автоматизированного принятия решений.
2. Участие работников в принятии решений: Перед внедрением систем искусственного интеллекта, изменяющих условия труда посредством автоматизированного планирования, оценки или наблюдения, необходимо активно консультироваться с работниками.
3. Европейский государственный фонд поддержки ИИ: созданный по образцу ЦЕРН и европейской традиции общественного вещания, государственный фонд должен управлять вычислительной инфраструктурой и обучающими данными, финансируемыми за счет государственных инвестиций.

В рамках диалогового семинара с приветственными словами выступили комиссар Магнус Бруннер и директор Управления ЕС по искусственному интеллекту Лучилла Сиоли. В семинаре также приняли участие высокопоставленные должностные лица ЕС и эксперты, назначенные религиозными и неконфессиональными организациями, для обсуждения долгосрочных социальных проблем, связанных с искусственным интеллектом. Диалог в рамках статьи 17 является частью официального взаимодействия Европейской комиссии с религиозными и неконфессиональными организациями в соответствии со статьей 17 Договора о функционировании Европейского союза.

Портретное фото: © Константин Бёрнер