Desde o papel da tecnologia no rápido desenvolvimento de vacinas Covid até o dramático crescimento da tecnologia climática, a inovação é regularmente apresentada como a resposta para muitos de nossos desafios mais significativos. No entanto, também somos rápidos em culpar a tecnologia quando não ´entrega valor´, ou não resulta. Não podemos ter as duas coisas. A realidade é a intervenção humana, a compreensão e o julgamento são responsáveis tanto pelos sucessos e aparentes falhas da tecnologia. A chave para libertar todo o potencial da tecnologia é encontrar o equilíbrio certo.
Se projetarmos, desenvolvermos e implementarmos tecnologia sem a combinação certa de perspectivas humanas e a respetiva compreensão entrelaçada, corremos o risco de construir algo com uma má experiência de utilizador e funcionalidades inadequadas, além de potencialmente comprometer a cibersegurança e resiliência. E quando depositamos muita fé cega na tecnologia, abdicamos da responsabilidade e arriscamos deixar as nossas habilidades e julgamentos ´atrofiarem´, e surgirem questões éticas. “Empurrar os limites do que a tecnologia pode oferecer é essencial para o nosso progresso. Mas manter o controlo é fundamental”, diz Chris Oxborough, líder de risco tecnológico da PwC. “A tecnologia é tão boa quanto as pessoas que a desenvolvem e monitorizam os
seus resultados. Mas também é falível, porque as pessoas são imperfeitas.”
Se as organizações não levarem em conta a imperfeição humana na sua estratégia para tirar o máximo proveito da tecnologia, quando os erros inevitáveis, as consequências duram mais e atingem mais do que o necessário. E qualquer investimento é rapidamente prejudicado. Vemos isso claramente na segurança cibernética, onde os criminosos se aproveitam das suscetibilidades das pessoas a serem enganadas por qualquer coisa, desde e-mails de phishing não sofisticados para assaltos de alta tecnologia, como o gerente do banco de Hong Kong enganado e autorizar £ 26m de transferência por um telefonema de “cliente” falso. Esses golpes só ficarão mais avançados e o seu impacto mais preocupante se
as organizações permitem que a lacuna entre a capacidade tecnológica e a compreensão humana se alargue.
Noutro exemplo, o ataque de ransomware Colonial Pipeline, que fechou o fornecedor de metade do combustível da Costa Leste dos EUA por cinco dias em maio de 2021, foi realizado com uma única senha, inserida numa VPN antiga que a empresa não sabia que ainda estava em uso. O facto de a VPN ainda estar ativa foi um descuido. Uma pesquisa da PwC mostra que as organizações estão cada vez mais preocupadas com o ransomware, com 61% a aguardar que esses ataques aumentem. No entanto, a mesma pesquisa revela progressos na melhoria do envolvimento dos funcionários com questões de segurança e na abordagem à
falibilidade — 80% das organizações relatam mais ´engadgement´ de cima para baixo dos CEOs em segurança cibernética e 77% relatam uma redução na taxa de funcionários que clicam em testes de phishing.
À medida que a tecnologia se torna mais poderosa, a necessidade de maior vigilância e compreensão é uma questão premente. E como esse poder
cresce, significa que temos uma responsabilidade maior para garantir que entendemos as suas capacidades e riscos associados.
É uma questão que nos rodeia. Entre aqueles que passaram meses a comunicarem virtualmente durante os bloqueios, alguns relatam que a interação e a comunicação pessoais agora parecem mais difíceis. Todos nós também estamos, sem dúvida, familiarizados com instâncias de motoristas seguindo fielmente as recomendações de um dispositivo GPS e a acabar em situações que os seus próprios instintos e julgamentos poderiam ter evitado. Levando isso alguns passos adiante, na aviação, persistem preocupações sobre o impacto da tecnologia de piloto automático nas habilidades de vôo e instintos dos pilotos. Esses exemplos são indicativos de uma tendência que abrange quase todos os setores, onde a tomada de decisão é complementada e, às vezes, suplantada, pela tecnologia. Essa dinâmica não precisa criar risco, desde que estejamos cientes de seu potencial para isso.
“A tecnologia pode melhorar a nossa tomada de decisões e nos dar insights incríveis. Mas não devemos deixar que o seu poder se torne a razão pela qual as nossas próprias habilidades e julgamento começam a diminuir”, diz Oxborough, da PwC. “Quanto mais poderosa a tecnologia se torna, mais nítida e mais inteligentes devemos nos tornar para evitar o risco e tirar o máximo proveito dela.”
Em nenhum lugar a necessidade de manter o controlo do risco e da recompensa da tecnologia é maior do que com o aumento da aplicação de inteligência artificial. Sem orientação adequada, mesmo a inteligência artificial mais avançada terá dificuldades para produzir o resultado certo. Como o autor de tecnologia e ex-aluno do Google X, Mo Gawdat, observou no seu livro de 2021 Scary Smart: “Se você não sabe [o que quer], então as máquinas também não o saberão.” Lola Evans, diretora de tecnologia da PwC UK, diz: “A tecnologia pode ser uma grande aliada. Mas o projeto e desenvolvimento de qualquer tecnologia deve ser guiada por uma visão clara e cm compreensão do que estamos à procura de alcançar, como vamos fazer e como será o sucesso. Se isso não acontecer, corremos o risco de viés nos nossos algoritmos, experiências negativas do utilizador, confiança equivocada nos nossos resultados e um efeito bola de neve quando projetamos novas tecnologias com base em iterações anteriores que foram negativas.”
“Se não estivermos confiantes no que estamos pedindo da tecnologia, seremos péssimos juízes dos resultados”, acrescenta Evans. À medida que as organizações recorrem à inteligência artificial para filtrar currículos ou processar pedidos de empréstimo e cartão de crédito, o risco de consequências não intencionais chama a atenção, de maneiras que podem ser discriminatórias e prejudiciais à reputação de uma organização. Os reguladores financeiros do Reino Unido já alertaram os bancos de que devem garantir que a automatização das aprovações de pedidos de empréstimo não perpetue o viés. Para avançar com velocidade, as organizações devem antecipar essas objeções e garantir que elas as tratem de forma proativa,
com uma abordagem liderada por humanos.
“Temos que encontrar um equilíbrio”, diz Evans. “A inteligência artificial pode fornecer a velocidade e a escala que precisamos em muitos processos, mas não podemos abdicar da responsabilidade. Precisamos de pessoas à procura de possíveis problemas e que possuam a precisão e implicações das saídas. E essas pessoas devem trazer uma diversidade de experiências e perspectivas, ou corremos o risco de replicar a homogeneidade que resultou em preconceitos passados, apenas em escala industrial”. Existem inúmeros riscos relacionados à tecnologia que só se tornam realmente problemas se as organizações não tiverem a capacidade de identificar e responder de forma efica
“Trata-se de mitigar o risco suficientemente, mas não a ponto de travar a inovação”, diz Oxborough, da PwC. “Muito pelo contrário. Trata-se de saber que os travões estão lá, que entendemos como eles funcionam e como eles podem ser aplicados, para que possa mover-se com velocidade, com confiança, à medida que inova.”
Fonte: Wired