Carolina Iglésias Martins

Carolina Iglésias Martins

“Actualmente, investimos triliões de dólares em transformação digital, mas este investimento apenas serve um grupo restrito: cerca de metade da população mundial, ou seja, 3.8 biliões de pessoas ainda vivem offline e não beneficiam das mesmas oportunidades. E este número é o meu grande motivador actual para continuar a contribuir para um mundo mais inclusivo e global.”

Sejam bem-vindos à nossa entrevista com Carolina Iglésias Martins, cuja carreira percorre os domínios da cultura, da tecnologia e da ética dedicando-se atualmente à Consultoria em Inclusão Digital e Ética em IA no International Institute of Water Management. Licenciada em Gestão Cultural e Comunicação, o seu percurso começou no dinâmico mundo da produção musical e da gestão de artistas, mais tarde, com um mestrado em Ciências Empresariais focado em sistemas de informação pelo ISEG e formação complementar em Liderança pela NOVA – School of Business and Economics, e Epistemologia pela Universidade de Oxford, Carolina Martins cultivou uma perspetiva única na intersecção da tecnologia, inovação e ética. A sua ampla visão e experiência foram também reconhecidas através da sua participação como membro observador no Comité Nacional 223 – Inteligência Artificial para a ISO/IEC JTC 1/SC 42.

Ao longo da sua vida e carreira, Carolina Martins tem incorporado uma filosofia de adaptabilidade e vive segundo uma regra simples, mas poderosa: ser gentil. A sua crença no potencial único de cada indivíduo dentro das equipas tem guiado a sua missão de criar espaços onde a criatividade prospera e a diversidade é celebrada.

Na entrevista de hoje, Carolina Martins partilhará as suas reflexões sobre os desafios e oportunidades apresentados pela era digital, a sua incursão na tecnologia e o seu compromisso com as práticas éticas. Antecipando o seu papel como oradora no painel “Somos mesmo um país de costumes brandos?” na conversa warm up festival Impacto, esperamos compreender melhor as suas perspectivas sobre preconceito, diálogo e redes sociais na era dos “Likes”.

Reflectindo sobre o seu percurso pessoal e profissional, poderia partilhar, connosco, momentos ou experiências que tenha moldado significativamente o seu percurso e catalisar o seu empenho em moldar um futuro digital que seja inclusivo, ético e inspirador?

Creio que este desejo de servir um propósito de um futuro digital mais inclusivo surgiu na minha infância. Vivi em Macau durante os primeiros 12 anos da minha vida. Durante este tempo, fruto da natural convivência e mistura cultural entre o Oriente e o Ocidente, tive a oportunidade de aprender a conviver de forma pacífica com a diferença. Não só conviver, como apreciar e respeitar o outro. Com isto, uma das boas consequências, foi também a oportunidade incrível de poder viajar com os meus pais por diversos países diferentes, em vários continentes, nomeadamente o Sudeste Asiático. Estas experiências de infância, trouxeram-me a possibilidade de ver a diversidade humana e também muitas disparidades socioeconómicas. Ver outras crianças, tal como eu, mas em circunstâncias tão diferentes, fez-me concluir que todos partilhamos uma essência: todos nós sentimos alegria e dor, enquanto temos que reconhecer que as oportunidades não são iguais. Esta compreensão inicial da diversidade e desigualdade moldou a maneira como vejo o mundo.
À medida que cresci, comecei a interessar-me sobre tecnologia e por questões filosóficas sobre moralidade, aceitação social e a existência de valores universais. Comecei a perceber que muitos de nós negligenciam aspectos cruciais da nossa formação, como a cidadania digital, deixando de lado questões essenciais sobre como nos comportamos e interagimos no crescente mundo digital.

Agora, acho que o ponto que fez toda a diferença para que ganhasse a consciência da importância destes assuntos para mim, foi o nascimento do meu filho. Quando ele começou a crescer, comecei a ser confrontada com questões tão diferentes das da minha infância/adolescência nos anos 90 e 2000, especialmente com os desafios das redes sociais e das consequências que trazem. Tornou-se claro para mim a importância de promover a literacia digital, democratizando o acesso à tecnologia digital de forma que todos possam participar, compreender e influenciar o futuro digital de maneira positiva e consciente. E agora, no meu trabalho com comunidades marginalizadas do hemisfério sul, consigo diariamente ver como a intenção do avanço tecnológico desfaza muitas vezes com a possibilidade de um impacto profundo fruto dos riscos de exclusão e falta de estratégias de mitigação dessa exclusão digital. Actualmente, investimos triliões de dólares em transformação digital, mas este investimento apenas serve um grupo restrito: cerca de metade da população mundial, ou seja, 3.8 biliões de pessoas ainda vivem offline e não beneficiam das mesmas oportunidades. E este número é o meu grande motivador actual para continuar a contribuir para um mundo mais inclusivo e global.

De acordo com a sua investigação e experiência, quais são, na sua opinião, os desafios mais prementes e as oportunidades mais promissoras trazidas pela era digital?

De forma geral, na minha visão, existem diversos desafios. Uns mais facilmente superáveis que outros, mas creio que solúveis com diálogo, compromisso e algumas cedências.
Um dos maiores desafios que vejo é o da disparidade e exclusão digital, assim como na literacia digital. É verdade que a era digital promete inovação e conveniência, mas também aumenta as desigualdades existentes. Não apenas no acesso à tecnologia digital, mas também nos próprios processos de criação e desenvolvimento. Muitos indivíduos e comunidades continuam marginalizados devido à falta de acesso à tecnologia ou à formação necessária para utilizá-la de forma eficaz. Para além da solução óbvia de criar mecanismos que promovam uma maior literacia digital, do lado do utilizador, também temos de olhar o outro lado do espectro: na vertente da criação das soluções. E é aqui que me parece que os gestores, engenheiros, developers, e outros que estejam em cargos de decisão, têm que também aprender sobre o que é a inclusão, porque ela é diferente de integração e como se criam soluções que coloquem os utilizadores no centro da adopção das tecnologias. E aqui pensamos em aspectos tão negligenciados como: indivíduos com necessidades específicas ou menor educação formal. Como os incluímos tanto na adopção e utilização das tecnologias digitais, mas também nos processos de co-criação e governance?

Além disso, a ética na inteligência artificial surge como um dos maiores desafios, parece-me. À medida que a IA se torna cada vez mais integrada em todos os aspectos da vida diária (e muitas vezes de forma “invisível” para o utilizador), questões relacionadas com a transparência, privacidade, viés algorítmico e responsabilidade tornam-se cada vez mais complexas. Começamos a dar os primeiros passos em regulamentação de processos, mas ainda estamos muito longe de soluções seguras (e entendíveis) para os utilizadores gerais. No entanto, estes não são os únicos desafios. A desinformação, aplicação de algoritmos nas decisões judicial, a existência de algoritmos opacos, entre outros, são outros desafios também.

Agora, nem tudo são só desafios. A verdade é que os desafios e as oportunidades andam de mãos dadas e são indissociáveis. No campo das oportunidades, vejo que esta era digital oferece possibilidades sem precedentes para inovação, colaboração e crescimento pessoal e colectivo. A capacidade de ligar pessoas de todo o mundo em tempo real tem o potencial de promover uma compreensão intercultural mais profunda e colaboração em projectos globais. Paralelamente, a IA e outras tecnologias digitais têm o poder de resolver problemas complexos em áreas como saúde, educação e meio ambiente, desde que sejam utilizadas de forma ética e inclusiva. Temos é que ser responsáveis no desenvolvimento das soluções e considerar quais as consequências sociais, tanto positivas como negativas. E isso sim, é mais um desafio positivo que nos permite conscientemente tornar o mundo mais equitativo e inclusivo.

“Os algoritmos, na sua essência, são criados a partir de bases de dados que muitas vezes são um espelho das nossas histórias e, por extensão, dos nossos preconceitos. Estes conjuntos de dados refletem o mundo tal como ele é, com todas as suas complexidades e imperfeições.”

Enquanto defensora de espaços online inclusivos, que medidas considera que os indivíduos e as comunidades podem tomar para promover um diálogo construtivo e a compreensão das diversas origens culturais nas redes sociais?

Na minha visão, a promoção de espaços online inclusivos e a facilitação de um diálogo construtivo e compreensivo das diversas culturas nas redes sociais são responsabilidades divididas, que vão além da acção individual e colectiva dos utilizadores das redes sociais. Eu acredito (firmemente) que devemos expandir a nossa perspectiva para incluir também aqueles que estão por trás da criação e manutenção destas plataformas digitais.
Um ponto crítico nesta discussão é a necessidade urgente de desenvolver bases de dados mais diversificadas. Actualmente, uma das falhas mais significativas é a sub-representação (ou mesmo a ausência) de dados provenientes do hemisfério sul nas bases de dados globais. Esse desequilíbrio resulta em resultados algorítmicos que, desde o início, apresentam enviesamentos, o que leva à continuação da exclusão de perspectivas de grande parte da população mundial. Essa é uma questão de justiça digital e equidade que precisa ser abordada com urgência.
Num nível mais profundo, considero que é fundamental a melhoria dos corpora de linguagem para localização. Ou seja, é necessário que exista um esforço sistemático da colecta e organização de conjuntos de dados textuais amplos e representativos das línguas e culturas locais. Desta forma, conseguimos uma maior inclusão linguística e cultural, mas também a melhoria da precisão e a relevância das tecnologias de processamento de linguagem natural, tornando-as mais sensíveis e adaptáveis às nuances regionais.
Na esfera da acção individual e colectiva na utilização destas plataformas sociais, é crucial adotar uma postura de reflexão e responsabilidade, semelhante à que teríamos em interações offline. Isso significa pensar sobre as consequências dos nossos actos.  Ou seja, uma boa regra de base pode ser: se consideramos que uma determinada ação é considerada inapropriada ou prejudicial no contexto presencial, ela deve ser evitada também no ambiente virtual.

“Considero que é imprescindível integrar a literacia digital de forma transversal nos currículos escolares, assegurando que desde cedo os alunos desenvolvam não só a capacidade de usar tecnologias digitais, mas também a capacidade de compreender, avaliar e utilizar crítica e criativamente as informações obtidas através delas”

No seguimento da pergunta anterior, tendo em conta a importância crescente de promover a literacia digital na sociedade atual, especialmente no que diz respeito à compreensão dos riscos e oportunidades associados às tecnologias digitais, que estratégias recomenda para promover a literacia digital entre os indivíduos e as comunidades? Como podemos capacitar as pessoas para navegarem eficazmente no panorama digital, discernindo entre informação credível e potenciais riscos, aproveitando ao mesmo tempo as inúmeras oportunidades oferecidas pelas plataformas digitais?

Essas são excelentes questões. Direi que, olhando para a conjunctura atual, onde a literacia digital se torna cada vez mais uma competência essencial, a promoção entre indivíduos e comunidades exige uma abordagem que seja multifacetada, tanto ao nível da educação formal, como à influência e criação de iniciativas comunitárias. Neste aspecto, o ensino da capacitação digital, é fundamental. E, mais uma vez, deveremos considerar metodologias inclusivas, tanto ao nível de processamento cognitivo, como de métodos de ensino.

Considero que é imprescindível integrar a literacia digital de forma transversal nos currículos escolares, assegurando que desde cedo os alunos desenvolvam não só a capacidade de usar tecnologias digitais, mas também a capacidade de compreender, avaliar e utilizar crítica e criativamente as informações obtidas através delas. Isto envolve ensinar a identificar fontes confiáveis, a entender quais os mecanismos por trás das notícias falsas e a propaganda, e a reconhecer e proteger-se contra os riscos online, como o phishing e outros tipos de ciberataques. Aqui, os pais e encarregados de educação desempenham um papel fundamental num ensino informal, conversando com as crianças e jovens e tendo uma postura activa na supervisão e segurança online, especialmente das crianças mais jovens e com maior probabilidade a serem enganados.

Adicionalmente, a formação contínua fora do ambiente escolar é crucial. Deve-se incentivar e facilitar o acesso a workshops, cursos online e recursos educativos abertos que abordem a literacia digital para todas as idades. Neste sentido estamos a falar de parcerias entre governos, ONGs, instituições educativas e empresas tecnológicas que podem ampliar o alcance e a eficácia dessas iniciativas, assegurando que recursos de qualidade sejam disponibilizados de forma equitativa.

Finalmente, dentro do âmbito comunitário, as bibliotecas, centros comunitários e ONGs locais podem desempenhar um papel vital como pontos de acesso ao conhecimento e à formação em literacia digital. Por exemplo, uma das maiores fontes de aprendizagem e inclusão digital nas zonas rurais do hemisfério sul, são precisamente as entidades locais e agentes de extensão que levam o conhecimento técnico e inovações até as comunidades, geralmente com o objetivo de melhorar práticas agrícolas, promover a educação ou o desenvolvimento sustentável.

Mais uma vez, reforço que a responsabilidade dos criadores e gestores de plataformas digitais também não pode ser subestimada. É essencial que estas plataformas se comprometam com a promoção da literacia digital, tais como disponibilizando recursos educativos, configurando os seus sistemas para destacar informações credíveis e desenvolvendo algoritmos que minimizem a propagação de desinformação.

“moderadores humanos nas redes sociais são expostos a conteúdo horrendo e violento durante horas a fio. Para que estas pessoas possam realizar as suas funções (que são tão importantes hoje em dia), também é imperativo que a sua saúde mental seja protegida.”

De acordo com a sua experiência, como é que as plataformas online podem equilibrar o imperativo de defender os princípios da liberdade de expressão com a responsabilidade de reduzir a propagação de discursos de ódio e de conteúdos discriminatórios, especialmente em ambientes onde o anonimato ou perfis falsos pode facilitar a disseminação de pontos de vista preconceituosos?

De acordo com a minha experiência, posso dizer que equilibrar a liberdade de expressão com a responsabilidade de combater o discurso de ódio e conteúdos discriminatórios em plataformas online é uma tarefa exigente e de difícil implementação, especialmente em ambientes que permitem anonimato ou o uso de perfis falsos.

No entanto, podemos reflectir sobre algumas possibilidades: primeiramente, as políticas de moderação de conteúdo que sejam claras são fundamentais. Ou seja, as plataformas devem desenvolver e comunicar de forma transparente e clara sobre o que constitui discurso de ódio e conteúdo discriminatório, assegurando que os utilizadores compreendam os limites da sua liberdade de expressão dentro desses espaços digitais.

Também, a actual moderação de conteúdo assistida por IA e combinada com a supervisão humana, pode ajudar a identificar e agir rapidamente contra o conteúdo problemático. No entanto, é fundamental que os utilizadores também reconheçam as limitações destes processos, já que muitas vezes podem interpretar contextos e nuances linguísticas erradamente, o que torna a supervisão humana indispensável para avaliar conteúdos sinalizados. Gostaria de deixar a nota que os moderadores humanos nas redes sociais são expostos a conteúdo horrendo e violento durante horas a fio. Para que estas pessoas possam realizar as suas funções (que são tão importantes hoje em dia), também é imperativo que a sua saúde mental seja protegida. E isso não pode, nem deve ser negligenciado pelas grandes empresas que detêm as redes sociais, nem pelos utilizadores.

Em terceiro lugar, reforço que promover a educação e literacia digital entre os utilizadores é outro pilar importante. Neste sentido, as plataformas podem desenvolver e disponibilizar recursos educacionais que ajudem os utilizadores a compreender a importância da liberdade de expressão, bem como as consequências do discurso de ódio e da discriminação. Incentivar uma cultura de respeito mútuo e empatia pode reduzir a propagação de conteúdos prejudiciais. Creio que estas empresas têm esse dever cívico já que são, também, catalisadoras de ódio.

Para complementar esse dever, também existem ferramentas de denúncia acessíveis que permitem que a própria comunidade utilizadora desempenhe um papel activo na moderação do conteúdo. A valorização e reconhecimento dos utilizadores é importante para que se sintam capacitados e seguros para reportar conteúdo que viole as directrizes da plataforma, sabendo que suas preocupações serão levadas a sério e tratadas de forma adequada.

Por fim, o diálogo com organizações de direitos civis e especialistas em liberdade de expressão são fundamentais no processo colaborativo, oferecendo insights valiosos e ajudar a formular políticas e práticas mais equilibradas e eficazes.

“sim, poderemos afirmar que os algoritmos também podem manifestar preconceitos, e que isso se deve, em grande medida, aos dados com os quais estes algoritmos são treinados.”

Com a crescente utilização de inteligência artificial e de algoritmos de aprendizagem automática na moderação de conteúdos nas redes sociais, como aborda as preocupações relativas ao enviesamento algorítmico e ao seu potencial para perpetuar ou amplificar narrativas preconceituosas? Os algoritmos também têm preconceito?

Ao refletir estas temáticas, aprendizagem automática na moderação de conteúdos, preconceito, enviesamento, a minha resposta intuitiva inicial tende a ser um “sim”. No entanto, reconheço que a resposta não é linear e é mais profunda do que parece.

Os algoritmos, na sua essência, são criados a partir de bases de dados que muitas vezes são um espelho das nossas histórias e, por extensão, dos nossos preconceitos. Estes conjuntos de dados refletem o mundo tal como ele é, com todas as suas complexidades e imperfeições. Ou seja: sim, poderemos afirmar que os algoritmos também podem manifestar preconceitos, e que isso se deve, em grande medida, aos dados com os quais estes algoritmos são treinados. Se esses dados contêm preconceitos históricos ou culturais, os algoritmos, por sua vez, podem aprender e perpetuar esses mesmos preconceitos. A questão, e esta é a parte mais entusiasmante para mim, então transforma-se numa reflexão profunda sobre a intersecção entre tecnologia, cultura e sociedade, e como as nossas criações digitais podem inadvertidamente replicar os vieses que tentamos superar.

Como acho que é perceptível, valorizo profundamente a educação contínua e a consciencialização. Considero, profundamente, que é essencial adotar uma perspectiva crítica e dedicar tempo para desembrulhar os diferentes componentes que constituem este desafio. Pessoalmente, vejo este cenário com duas componentes principais: a dos utilizadores e das pessoas afetadas pelas tecnologias, que necessitam de ferramentas para navegar e questionar o espaço digital; e a dos criadores destas tecnologias, cuja responsabilidade é imensa.

Acredito que os gestores, developers e engenheiros de dados, entre muitos outros, desempenham um papel crucial neste contexto. Eles são os arquitetos das plataformas digitais que moldam a nossa realidade online, e as suas decisões — desde a definição de problemas a resolver, à escolha das bases de dados a utilizar, e aos algoritmos a implementar, etc.  — têm um impacto no produto (e utilização) final. Por isso, é fundamental que estes profissionais estejam equipados não apenas com o conhecimento técnico, mas também com uma formação em ética aplicada e uma capacidade crítica aguçada para questionar os seus próprios pressupostos e as consequências das suas escolhas.

Neste sentido, acredito que deveremos ser todos participantes ativos na busca por soluções. E é precisamente por isso que considero que as equipas de desenvolvimento devem ser multidisciplinares com elementos de diversos contextos e áreas de saber (especialmente na área de igualdade de género e inclusão social) para aumentar a possibilidade de um conhecimento transversal e aumentar a probabilidade de eliminar pontos cegos.

Esta é a minha forma de olhar para o problema: sempre pronta a aprender e a adaptar-me, mantendo um espírito aberto e curioso sobre como podemos melhorar juntos.

O objetivo é convidar a uma introspecção sobre como podemos, coletivamente, reforçar os valores de uma cidadania digital ativa e responsável, promovendo uma sociedade mais inclusiva e tolerante.

Obrigado por ter aceite o convite para participar nesta entrevista assim como nas sessões warm up Festival Impacto. Como oradora no painel com curadoria pelo ISEG “Somos mesmo um país de brandos costumes?” e apresentando o tema “Da Língua aos Likes: Reimaginar os Brandos Costumes na Era Digital”, poderia partilhar, connosco, algumas ideias sobre o que o público pode esperar da sua apresentação?

Antes de mais, fico muito honrada de ter sido convidada. O público pode esperar uma reflexão sobre a intersecção entre o espírito cultural de tolerância e respeito mútuo — os nossos “brandos costumes” — e os desafios que estes enfrentam na era digital, e pensando como as plataformas digitais e as redes sociais influenciam a nossa capacidade de manter um diálogo construtivo, enfrentando ao mesmo tempo a polarização crescente. O objetivo é convidar a uma introspecção sobre como podemos, coletivamente, reforçar os valores de uma cidadania digital ativa e responsável, promovendo uma sociedade mais inclusiva e tolerante. Espero proporcionar uma experiência que não só desafie, mas também inspire os participantes a refletirem sobre a sua própria contribuição para a preservação dos valores que nos definem, numa era cada vez mais dominada pelo digital.

| Política de privacidade e cookies | © 2024 Festival Impacto