Inteligência artificial e democracia: um debate atual e necessário
Pensar as implicações do avanço tecnológico e seus impactos na democracia e na cidadania é fundamental para garantia da equidade e direitos. Cebes promoveu nessa segunda (6) debate com o tema “Inteligência Artificial e Democracia”. Veja a seguir o texto de Fernanda Regina da Cunha.
Um tema atual e de extrema importância para a defesa e o fortalecimento da democracia. O avanço das big techs detentoras das maiores redes de Inteligência Artificial – IA é um fato consumado. O Cebes, como entidade preocupada com a garantia de direitos e da democracia, convidou dois especialistas para debater o assunto; Angélica Baptista, da Escola Nacional de Saúde Pública Sergio Arouca (ENSP) da Fundação Oswaldo Cruz (Fiocruz) e sócio fundadora da Estratégia Latino-americana de Inteligência Artificial ELA-IA da Plataforma Internacional para Ciência, Tecnologia e Inovação em Saúde (PICTIS) e Marcelo Fornazin, pesquisador no Departamento de Administração e Planejamento em Saúde (DAPS) da Escola Nacional de Saúde Pública Sergio Arouca (ENSP) da Fundação Oswaldo Cruz (Fiocruz) e coordenador do Grupo Temático Informação, Saúde e População (GTISP) da Associação Brasileira de Saúde Coletiva (Abrasco).
O presidente do Cebes, Carlos Fidelis comentou sobre a escalada na produção de notícias falsas no Brasil e sua propagação através das redes sociais. “O potencial que esses instrumentos têm, podem ser usados para o bem, mas também podem ser usados para o mal. Há muita ameaça à democracia nessa produção de uma realidade paralela, de um mundo paralelo e que a gente viu com o terraplanismo e outras coisas mais”.
Marcelo explicou sobre o conjunto de sistemas que compõem o que entendemos como Inteligência Artificial, como processamentos financeiros, de linguagem, textos, imagens e outros. Entre os fatores que contribuíram para o avanço dessa classe de tecnologia conhecida como aprendizado de máquina, foi a internet de alta velocidade, dispositivos eletrônicos que permitem o uso com deslocamento. “Hoje a maioria dos acessos se dá por dispositivos que não são os tradicionais como computadores, com mouse, teclado e tela, isso permitiu produzir um conjunto novo de informações que gerou a big data, um grande volume de dados e as novas técnicas de banco de dados permitem processar essas informações, extrair padrões, entender e organizar com rapidez”.
É todo esse conjunto de avanços tecnológicos que permite que recebamos recomendações dos mais diversos itens como músicas, filmes, sugestões de compras, vídeos e outros. A grande questão é que estes algoritmos também podem influenciar em decisões políticas, já que muitos deles são pensados a partir da lógica do mercado. “Eles podem fazer recomendação de decisão política, decisão de voto. Muitos desses algoritmos são pensados para coletar dados e vender produtos, quando se transfere essa lógica de produto para a política, a política deixa de ser o espaço da nossa construção coletiva e passa a ser um mercado de votos”, aponta Marcelo.
Para o pesquisador, a democracia, a liberdade e o nosso arcabouço legal devem ser a base para construção das tecnologias. “Para a internet ser livre e funcionar, é necessário um conjunto de leis. Em 2013 o Brasil criou o marco civil da internet, depois a Lei Geral de Proteção de Dados inspirada em outros países e agora vem discutindo uma série de coisas sobre regulação da inteligência artificial”.
“Quando a gente traz a discussão do potencial uso das tecnologias digitais e da inteligência artificial para um potencial uso, que pode ser muito útil para ganhar em qualidade de trabalho, em escala de trabalho, conhecer melhor o mundo e tomar decisões. Quando trazemos isso para as questões políticas e para a democracia, podemos ter alguns riscos, um deles é a perda de liberdade das pessoas, porque a partir do momento em que elas estão produzindo informação em grande volume, esses sistemas são capazes de entender seus comportamentos e através dos algoritmos preditivos, predizer situações que eles entendem como ideais”. – Marcelo Fornazin
Um fato é que cada vez mais as tecnologias e os algoritmos fazem parte do cotidiano da população, logo é necessário que se estabeleça bases para a regulação do uso e proteção dos usuários. Marcelo destaca três dimensões para interferência na dinâmica das tecnologias: defender a democracia como base na construção das tecnologias; pensar um modelo regulatório que ofereça os benefícios das tecnologias e minimize os riscos que elas possam oferecer e o desenvolvimento de uma indústria nacional que possa participar complexo econômico e industrial e democratizar as tecnologias para o Brasil.
Angélica Baptista ressaltou a importância de se debater a Declaração de Montreal pelo Desenvolvimento Responsável da Inteligência Artificial, já que é um tema de preocupação global. “Temos que olhar para as manifestações globais que estão alinhadas com o processo civilizatório, que é tão caro para o desenvolvimento e consolidação do Sistema Único de Saúde no Brasil”, pontuou. “Os princípios que norteiam a da declaração de Montreal são bem-estar, respeito à autonomia, à proteção da confidencialidade e da privacidade dos dados pessoais, a solidariedade, a participação democrática, a equidade, a inclusão da diversidade, a prudência no uso da inteligência artificial, a responsabilidade no uso dessas tecnologias e o próprio desenvolvimento sustentável”.
A pesquisadora também levantou a originalidade do momento, classificado como “transição planetária“, com a junção da ciência, tecnologia e o mercado. “É inegável os avanços na questão do câncer com o uso da inteligência artificial, é inegável em alguns ramos da clínica especificamente, no entanto, você vai encontrar algoritmos embarcados em dispositivos médicos que irão reproduzir a invisibilidade e ideologias de dominação”.
Para Angélica uma das questões que não pode deixar de ser abordada é a literacia. “Literacia não tem que ser só digital, ela tem que ser lógica-matemática, a gente precisa trabalhar a educação lógica e matemática dos nossos jovens em todos os sentidos”.
Assista ao debate completo no canal do Cebes no Youtube clique aqui ou veja a seguir: