Humanistas alertam a UE sobre monopólios da IA ​​e defendem a propriedade pública e o controle humano.

Uma especialista em ética da IA, representante da Humanists International, alertou a Comissão Europeia sobre a dependência econômica e epistêmica resultante da propriedade da infraestrutura e dos dados de IA por monopólios tecnológicos estrangeiros. Como resposta, ela defendeu a criação de um fundo público para a IA e o fortalecimento do direito à revisão humana das decisões tomadas por IA.

A intervenção foi realizada pela Dra. Dorothea Winter, pesquisadora associada em Ética Aplicada na Universidade Humanista de Berlim, em 8 de junho, no seminário de diálogo do Artigo 17 da Comissão Europeia sobre “ O impacto ético e social da inteligência artificial ”, após ter sido indicada como representante pela Humanists International.

Durante uma sessão sobre os desafios sociais e éticos atuais, a Dra. Winter alertou que, sem fortes alicerces humanistas, a Europa corre o risco de deslizar para uma ordem econômica onde um pequeno número de corporações estrangeiras detém o poder de moldar o que é considerado conhecimento, enquanto extrai renda comercial de dados europeus. Nessa dinâmica, que ela denominou "neocolonialismo da IA", os cidadãos europeus são tratados como consumidores transparentes e matéria-prima para o desenvolvimento da IA, em vez de sujeitos racionais com capacidade de julgamento livre.

Nesse contexto, ela delineou os princípios fundamentais da estrutura do humanismo digital. Primeiro, a IA deve ser vista como uma ferramenta em que sistemas específicos produzem efeitos e riscos específicos, em vez de cair na armadilha das grandes narrativas. Segundo, a IA deve ser vista como um sistema de seleção que decide, de forma opaca, quais narrativas amplificar e quais suprimir, moldado por seus dados, seus engenheiros e interesses comerciais. Finalmente, como a IA dilui a responsabilidade pelas decisões tomadas, o humanismo digital insiste que deve haver um ser humano responsável por cada decisão consequente tomada por um sistema de IA.

Dra. Dorothea Winter, Universidade Humanista de Berlim

O Dr. Winter criticou a legislação proposta pela UE nesse sentido:

Enquanto a Lei de Inteligência Artificial e o RGPD tratam o ser humano como sujeito de julgamento, a Lei Omnibus trata o ser humano como matéria-prima para o desenvolvimento da IA. O direito a um decisor nomeado e responsável é a característica constitutiva da governança democrática em condições de automação, e nenhum pacote de simplificação deve eliminá-lo.

Para contrariar a crescente concentração de poder na área da IA, ela apresentou três exigências concretas aos decisores políticos europeus:

1. O direito à revisão humana: Todo cidadão europeu deve ter o direito a uma revisão humana de qualquer decisão automatizada com consequências, tomada por autoridades públicas ou empresas privadas. Nesse contexto, ela criticou o projeto de lei Digital Omnibus, que pode enfraquecer as proteções existentes contra a tomada de decisões automatizadas.
2. Cogestão pelos trabalhadores: Os trabalhadores devem ser consultados ativamente antes da implementação de sistemas de IA que alterem as condições de trabalho por meio de agendamento, avaliação ou vigilância automatizados.
3. Um Fundo Fiduciário Público Europeu para IA: Inspirado no CERN e na tradição europeia de radiodifusão pública, um fundo fiduciário público deve governar a infraestrutura computacional e os dados de treinamento financiados por investimento público.

O seminário de diálogo contou com discursos de abertura do Comissário Magnus Brunner e de Lucilla Sioli, Diretora do Gabinete da UE para a Inteligência Artificial, e reuniu altos funcionários da UE e especialistas indicados por organizações religiosas e não confessionais para debater os desafios sociais de longo prazo colocados pela IA. O diálogo do Artigo 17 integra o compromisso formal da Comissão Europeia com organizações religiosas e não confessionais, nos termos do Artigo 17 do Tratado sobre o Funcionamento da União Europeia.

Foto de retrato: © Konstantin Börner