Especialista em saúde emocional, direitos humanos e DE&I, Carine Roos comenta sobre o assunto
A Inteligência Artificial surgiu com o propósito de beneficiar a sociedade, e como toda nova tecnologia, traz consigo tanto aspectos positivos quanto negativos. Diante dessa realidade, outra discussão foi iniciada: sobre os impactos que a falta de fiscalização da ferramenta pode acarretar, uma vez que a mesma lida com dados pessoais e suas aplicações são desconhecidas. Carine Roos, mestre em Gênero pela London School of Economics and Political Science – LSE, fundadora e CEO da Newa, consultoria de impacto social, afirma que a supervisão da IA é fundamental para evitar a colonização digital e a exploração de dados, além da temática impactar diretamente nos direitos humanos.
“Embora as tecnologias possam fortalecer os princípios universais de dignidade e as democracias, do mesmo modo conseguem enfraquecê-los, gerando polarização e divisão. Nas redes sociais, observamos tanto o aumento da desinformação, quanto às denúncias de brutalidade policial contra a população negra. Ou seja, podemos fazer um bom e eficaz uso do artifício. Mas antes é necessário formar um ecossistema responsável, estabelecendo regras transparentes acerca da implementação e aplicação”, pontua Roos.
Neste contexto, os governos devem desempenhar um papel primordial no uso consciente da Inteligência Artificial, assegurando uma utilização justa e segura. Em território nacional, avanços nesse sentido já estão ocorrendo. Recentemente, o Tribunal Superior Eleitoral (TSE) determinou que partidos e candidatos nas eleições de 2024 poderão usar IA nas propagandas partidárias, no entanto, serão devidamente rotuladas a fim de informar os eleitores, e sem o uso de deep fake – que permite a alteração de imagem e voz na internet. Essa decisão é inédita, tornando o Brasil o primeiro país a implementar tal medida.
A ONU igualmente está comprometida com a padronização do recurso. Recentemente aprovou a primeira resolução global apoiando esforços internacionais focados em programas como a detecção de doenças, previsão de enchentes, suporte aos agricultores, capacitação da próxima geração de trabalhadores, e claro, com garantia a segurança e respeito às liberdades fundamentais.
Além do Estado, Carine defende que as empresas também precisam se educar criticamente em Direitos Humanos, já que exercem grande influência na promoção das garantias individuais. “É extremamente importante que o cuidado seja integrado na etapa de cocriação da tecnologia para desenvolver confiança, estabelecer um vocabulário comum e integrar o conhecimento da comunidade e a experiência no processo de desenvolvimento da Inteligência Artificial. Para alcançar isso, devemos começar questionando o status quo. Quem está no centro das decisões sobre IA? Os direitos irrevogáveis estão sendo considerados no avanço tecnológico? Além disso, é crucial que os empregadores avaliem minuciosamente o impacto da tecnologia e promovam uma legislação mais rigorosa contra a discriminação racial”, pontua Carine.
Para abrir esse diálogo, a Newa acaba de anunciar o lançamento de uma comunidade por assinatura destinada a criar um espaço de discussão crítica e promover boas práticas para tornar as organizações saudáveis, justas e psicologicamente seguras em todos os sentidos. “Queremos reunir lideranças para discutir diversas questões que estão sendo levantadas na atualidade, como a IA, diversidade e inclusão e o impacto dessas abordagens na sociedade como um todo”, finaliza Carine.
